توافقنامه هوش مصنوعی کاخ سفید ترامپ چگونه کار می کند؟

در بحبوحه درخواست‌ها برای تنظیم مقررات، دونالد ترامپ، رئیس‌جمهور ایالات متحده با مدیران هوش مصنوعی در کاخ سفید دیدار کرد تا یک پیمان داوطلبانه به نام توافق کاخ سفید در مورد ابراطلاعات را منعقد کند.

این قرارداد که توسط مدیران متا، انویدیا، گوگل، OpenAI، xAI و Anthropic در روز سه‌شنبه امضا شد، از شرکت‌ها می‌خواهد تا نرده‌های محافظ داخلی برای کمک به نظارت بر خطرات امنیتی با چهار لایه کنترل ایجاد کنند.

این توافق نامه از شرکت ها می خواهد که کنترل های داخلی را حفظ کنند، یک تیم داخلی برای نظارت بر این کنترل ها ایجاد کنند، با حسابرسان مستقل خارجی کار کنند و یک کمیته مستقل هیئت مدیره برای بررسی نتایج ایجاد کنند.

با این حال، این پیمان داوطلبانه است و از نظر قانونی الزام آور نیست. برای شرکت هایی که رعایت نمی کنند مجازات تعیین نمی کند. این پیمان شرکت‌ها را ملزم نمی‌کند که نتایج حسابرسی را به طور عمومی افشا کنند یا به دولت نقش اجرایی بدهد. شرکت ها همچنین کنترل خود را بر نحوه اجرای پادمان ها حفظ می کنند.

با این حال، این توافق احتمال اجباری شدن اقدامات آن را باز می گذارد. می گوید که با گذشت زمان، ممکن است «معنا شود که این مراحل در قوانین یا مقررات تدوین شوند».

ترامپ به خبرنگاران گفت: «جنبه‌ی خودپلیسی فوق‌العاده‌ای وجود خواهد داشت» و افزود که «از لحاظ اخلاقی الزام‌آور است».

در چمن کاخ سفید، در کنار مدیران، ترامپ ادعا کرد که شرکت‌های هوش مصنوعی کار بزرگی در خود پلیسی انجام داده‌اند.

ساندار پیچای، مدیرعامل گوگل نیز این توافق را در رسانه های اجتماعی تبلیغ کرد.

پیچای در پستی در X گفت: "ما متعهد به همکاری با سایر رهبران صنعت برای ایجاد هنجارها و ایجاد اعتماد عمومی هستیم. توافق نامه کاخ سفید و تعهد مشترک در مورد مسئولیت های مرزی که امروز امضا شد، پایه محکمی برای حرکت رو به جلو است - شامل گام های واقعی واقعی برای ارتقای توسعه ایمن و در عین حال ارائه مزایای اقتصادی و علمی این فناوری است."

این توافق علیرغم درخواست برخی از همان شرکت ها برای استانداردهای ایمنی مورد نیاز دولت صورت می گیرد.

در ماه سپتامبر، کریس لیهان، مدیر امور جهانی OpenAI، سازنده ChatGPT، از کنگره خواست تا استانداردهای ملی ایمنی هوش مصنوعی را ایجاد کند.

لیهان در پستی گفت: «استانداردهای صنعت محور مکمل - نه جایگزین - پادمان های اجباری فدرال و نظارت دموکراتیک هستند.

در ماه ژوئن، داریو آمودی، مدیر عامل آنتروپیک، خواستار "تنظیم جدی تر و الزام آورتر هوش مصنوعی" شد. در ماه جولای، دمیس حسابیس، مدیر عامل گوگل دیپ مایند، خواستار ایجاد یک ناظر هوش مصنوعی به رهبری ایالات متحده شد.

درخواست‌ها برای استفاده از نرده‌های محافظ در بحبوحه گزارش‌هایی صورت می‌گیرد که برخی از کارمندان این شرکت‌ها نگرانی‌هایی را در مورد اینکه آیا سیستم‌های پیشرفته‌تر هوش مصنوعی به اندازه کافی تحت نظر هستند یا خیر، مطرح کرده‌اند.

دو کارمند در OpenAI به مدیران هشدار دادند که آزمایش مدل‌های جدید این شرکت به درستی نظارت نمی‌شود. بر اساس گزارش نیویورک تایمز، این هشدارها قبل از حوادثی که در آن مدل‌ها به شیوه‌های ناخواسته رفتار می‌کردند، عمل نکردند.

فشارها برای مقررات قانونی الزام آور به جای کاخ سفید از جانب کنگره می آید.

در اوایل این ماه، جاکوب کوکسون، محقق سابق هوش مصنوعی در Anthropic، هشدار داد که فناوری هوش مصنوعی می‌تواند در دهه آینده یک تهدید وجودی برای بشریت ایجاد کند و توجه قانون‌گذاران را به خود جلب کند.

در میان جامع‌ترین پیشنهادها، سناتور مستقل ورمونت، برنی سندرز و نماینده گرگ کازار، نماینده دموکرات تگزاس ارائه شده است.

این دو قانونگذار قانون ممنوعیت ابر هوش مصنوعی را معرفی کردند که در صورت تصویب، توسعه و استقرار هوش مصنوعی را برای همیشه ممنوع می کند و توسعه پیشرفته هوش مصنوعی را موقتا متوقف می کند تا زمانی که یک تنظیم کننده فدرال قوانین ایمنی را ایجاد کند.

این لایحه همچنین یک دپارتمان هوش مصنوعی در سطح کابینه ایجاد می کند تا سیستم های هوش مصنوعی مرزی را نظارت کند - اصطلاحی که برای توصیف پیشرفته ترین سیستم های هوش مصنوعی استفاده می شود - و همچنین نظارت بر قابلیت های خطرناک و نظارت بر نابودی ابر هوش مصنوعی در صورت نیاز.

این قانون مجازات های سختی را برای تخلفات اعمال می کند، مانند تا 20 سال زندان برای افراد.

این در حالی است که یک لایحه دو حزبی هفته گذشته توسط سناتورهای کریس کونز، یک دموکرات از دلاور ارائه شده است. برایان شاتز، یک دموکرات از هاوایی؛ کیتی بریت، جمهوریخواه اهل آلاباما؛ و جیمز لنکفورد، جمهوری خواه اهل اوکلاهاما.

قانون شفافیت سیستم‌های هوش مصنوعی شرکت‌های هوش مصنوعی را ملزم می‌کند تا اطلاعاتی را که جمع‌آوری می‌کنند و اقداماتی را که برای جلوگیری از خراب شدن سیستم‌هایشان یا سوء استفاده توسط بازیگران بد انجام می‌دهند، افشا کنند.

در بحبوحه تلاش ترامپ برای تغییر نام «هوش مصنوعی» در اسناد دولتی، کاخ سفید این توافق را «توافق کاخ سفید درباره ابراطلاعات» نامید.

در صنعت فناوری، "فوق هوش" به نوعی از هوش مصنوعی اطلاق می شود که از توانایی های فکری انسان فراتر می رود.

با این حال، ترامپ به سازمان‌های اجرایی دستور داده است که از «هوش‌های فوق‌العاده» یا «SI» به جای «هوش مصنوعی» یا «AI» در ارتباطات رسمی استفاده کنند.

ترامپ روز سه‌شنبه فرمان اجرایی جدیدی را تشریح کرد که می‌گوید «هوش فوق‌العاده» به فناوری‌ها و سیستم‌هایی اطلاق می‌شود که تحت تعریف قانونی موجود هوش مصنوعی قرار دارند و دستور ایجاد یک تعریف جدید فدرال را ظرف 60 روز می‌دهد.