ترس از ایمنی هوش مصنوعی OpenAI و Anthropic را در کانون FTC قرار داده است

سخنگوی آژانس چهارشنبه به Axios گفت: کمیسیون تجارت فدرال در حال بررسی شرکت های OpenAI، Anthropic و سایر شرکت های هوش مصنوعی در مورد خطرات بالقوه ایمنی ناشی از محصولات آنها است.

چرا اهمیت دارد: دولت فدرال تا حد زیادی رویکردی غیرمستقیم برای تنظیم هوش مصنوعی در پیش گرفته است، اما تحقیقات FTC می تواند نشان دهنده تغییر در صنعت باشد. به گزارش ایسنا، به نقل از نیویورک پست، اندرو فرگوسن، رئیس FTC، در حال آماده‌سازی درخواست‌های تحقیقاتی مدنی است که مدیران هوش مصنوعی را مجبور می‌کند اسناد را تحویل داده و در مورد ایمنی مدل‌های خود شهادت دهند. این کاوش برای هفته‌ها در جریان بوده است، پیش از افشای OpenAI مبنی بر اینکه مدل‌هایی که در حال آزمایش بود از جعبه ماسه‌بازی خود فرار کرده و بخش‌هایی از پلتفرم هوش مصنوعی Hugging Face را در معرض خطر قرار داده‌اند.

ساختار

OpenAI روز دوشنبه اعلام کرد که عرضه جدیدترین مدل خود، GPT-6.1 Astra را به دلیل عملکرد ضعیف در تست ایمنی متوقف خواهد کرد. سازنده ChatGPT OpenAI و سازنده Claude Anthropic به درخواست Axios برای اظهار نظر پاسخ ندادند.

بین خطوط: فشار اخیر مدیران ارشد هوش مصنوعی برای افزایش حفاظ در اطراف فناوری خود، برخی از منتقدان هوش مصنوعی را بر آن داشته تا انگیزه های خود را زیر سوال ببرند. فرگوسن اخیرا گفت که شرکت‌های هوش مصنوعی سعی می‌کنند آمریکایی‌ها را به وحشت بیاندازند تا سیاست‌گذاران را برای ایجاد یک «خندق» نظارتی تحت فشار قرار دهند که به پیشروان هوش مصنوعی اجازه می‌دهد مانع از رسیدن رقبای کوچک‌تر شوند. سریع پیگیری کنید: اخبار مربوط به تحقیقات در حال انجام تنها یک روز پس از آن منتشر شد که شرکت‌های برتر هوش مصنوعی نمایندگانی را به کاخ سفید فرستادند تا با پرزیدنت ترامپ تعهدی را امضا کنند تا بر توسعه هوش مصنوعی خود نظارت کنند. ترامپ آن را با s

چیزی شبیه «قانون اساسی»، اما قوانینی که شرکت‌ها با آن موافقت کردند، شبیه به آنچه قبلا انجام می‌دادند است. کوچک نمایی: گزارش جدید اندکی پس از آن منتشر شد که Axios به طور انحصاری گزارش داد که محققان OpenAI، Anthropic و امنیتی در حال بررسی ده ها هزار حادثه امنیتی بالقوه هستند، از جمله مواردی که قبلا برای عموم فاش نشده بودند. این گزارش بعدا در روز دوشنبه هنگامی که دادستان کل فلوریدا از دادگاه درخواست کرد تا دستور موقتی علیه OpenAI صادر کند، به دلیل اقدامات ایمنی ناکافی، مورد استناد قرار گرفت.

روز سه‌شنبه، یک گروه حقوقی منافع عمومی از OpenAI به دلیل نقض Hugging Face شکایت کرد و از جمله ادعا کرد که این شرکت "آگاهانه از یک رویه تجاری ناعادلانه استفاده می‌کند که آسیب جدی به مردم می‌زند." عمیق تر بروید... Scoop: شرکت های برتر هوش مصنوعی در حال بررسی ده ها هزار حادثه امنیتی هستند

یادداشت سردبیر: ماریا کوری از آکسیوس در تهیه گزارش مشارکت داشت.