رگولاتور ایالات متحده تحقیقاتی را در مورد شرکت های هوش مصنوعی آغاز کرد

کمیسیون تجارت فدرال (FTC) تحقیقاتی را درباره چندین شرکت بزرگ هوش مصنوعی در بحبوحه موجی از عوامل هوش مصنوعی سرکش - سیستم‌های هوش مصنوعی که می‌توانند از طرف کاربران تصمیم بگیرند و اقداماتی انجام دهند - از شرکت‌ها و ادعاهای خودی‌های سابق صنعت مبنی بر اینکه هوش مصنوعی می‌تواند به بشریت در دهه آینده پایان دهد، آغاز کرده است.

FTC این تحقیقات را چند هفته پیش آغاز کرد. این اولین بار روز چهارشنبه توسط نیویورک پست گزارش شد و از آن زمان توسط سایر رسانه ها از جمله واشنگتن پست و خبرگزاری رویترز تایید شده است.

الجزیره برای تأیید با FTC تماس گرفت، اما نتوانست به طور مستقل گزارش را تأیید کند.

این تحقیقات اولین اقدام اجرایی توسط یک آژانس فدرال است که ماموران سرکش را بررسی می کند. این تحقیقات در بحبوحه موجی از حوادث که برای اولین بار در ماه جولای گزارش شد، از عوامل سرکش در آزمایش‌ها، از جمله زمانی که یک عامل OpenAI در حین آزمایش از کنترل خارج شد و شرکت هوش مصنوعی Hugging Face را هک کرد، آغاز شد.

با این حال، اندرو فرگوسن، رئیس FTC گفت که از قبل نگرانی هایی در مورد این شرکت ها داشته است.

این آژانس قصد دارد درخواست‌های رسمی برای اطلاعات از شرکت‌های بزرگ هوش مصنوعی صادر کند و از مدیران شرکت‌های برتر، از جمله Anthropic، سازنده چت‌بات کلود، و OpenAI، خالق ChatGPT، شهادت بخواهد.

در مصاحبه ای با خبرگزاری رویترز هفته گذشته، فرگوسن پیشنهاد کرد که توسعه دهندگانی که به عوامل هک دستور می دهند باید مسئول آسیب باشند.

خبر این تحقیقات یک روز پس از آن منتشر می شود که دونالد ترامپ، رئیس جمهور ایالات متحده، با تعدادی از مدیران هوش مصنوعی در کاخ سفید، از جمله گرگ براکمن از OpenAI و داریو آمودی از Anthropic، برای امضای قرارداد داوطلبانه و غیر الزام آور برای توسعه هوش مصنوعی با نرده های محافظ، ملاقات کرد.

در همین حال، اعضای کنگره، از جمله سناتور مستقل مترقی از ورمونت، برنی سندرز، در کنار نماینده مجلس نمایندگان، گرگ کاسار، یک دموکرات، لایحه‌ای را ارائه کردند که توسعه سیستم‌های هوش مصنوعی پیشرفته را تا زمانی که آژانسی در سطح کابینه برای نظارت بر آن‌ها ایجاد نشود، ممنوع می‌کند.

نه OpenAI و نه Anthropic به درخواست الجزیره برای اظهار نظر پاسخ ندادند.