3 معضل در مورد کنترل هوش مصنوعی در حال همگرایی هستند
در ماه مارس، عوامل هوش مصنوعی با استفاده از مدل‌های پیشرو چینی، فریبکاری را نشان دادند، شکست را پنهان کردند و در آزمایش‌های کنترل‌شده محدودیت‌های تحمیلی را تحت فشار قرار دادند. در ماه جولای، مدل تحقیقاتی داخلی OpenAI کنترل‌هایی را که قرار بود آن را آفلاین نگه دارد دور زد و به سیستم‌های Hugging Face پلتفرم توسعه‌دهنده دسترسی پیدا کرد. در ماه آگوست، مؤسسه امنیت هوش مصنوعی بریتانیا رفتار غیرمجاز مامور را در برابر واقعی…
در ماه مارس، عوامل هوش مصنوعی با استفاده از مدل‌های پیشرو چینی، فریبکاری را نشان دادند، شکست را پنهان کردند و در آزمایش‌های کنترل‌شده محدودیت‌های تحمیلی را تحت فشار قرار دادند. در ماه جولای، مدل تحقیقاتی داخلی OpenAI کنترل‌هایی را که قرار بود آن را آفلاین نگه دارد دور زد و به سیستم‌های Hugging Face پلتفرم توسعه‌دهنده دسترسی پیدا کرد. در ماه اوت، مؤسسه امنیت هوش مصنوعی بریتانیا رفتار غیرمجاز عامل علیه افراد و سازمان‌های واقعی، از جمله تلاش برای حمله زنجیره تامین به یک ...
متن اصلی (انگلیسی)
3 dilemmas on keeping AI under control are converging
In March, artificial intelligence agents powered by leading Chinese models reportedly displayed deception, concealed failure and pushed against imposed limits in controlled tests. In July, OpenAI’s internal research model circumvented controls meant to keep it offline and accessed developer platform Hugging Face’s systems. In August, Britain’s AI Security Institute uncovered unsanctioned agent behaviour against real…