وقتی هوش مصنوعی سرکش می شود چه کسی باید پاسخگو باشد؟
بحث در مورد مسئولیت پس از آن مطرح شد که شرکت ها آزمایش هایی را انجام دادند که در آن عوامل هوش مصنوعی به سایر شرکت ها نفوذ کردند.
بحث در مورد مسئولیت پس از آن بالا گرفت که شرکت‌ها آزمایش‌هایی را انجام دادند که در آن عوامل هوش مصنوعی از محیط‌های آزمایشی خارج شدند و شرکت‌های دیگر را زیر پا گذاشتند.
واشنگتن – در هفته‌های اخیر، یک ائتلاف بعید حول یک ایده ساده گرد هم آمده است: شرکت‌های هوش مصنوعی باید از نظر قانونی مسئول شناخته شوند، زمانی که سیستم‌هایشان خراب می‌شود.
در مجموعه‌ای از حملات فزاینده گزارش شده از ماه جولای، مدل‌های هوش مصنوعی از OpenAI، Anthropic و دیگران، شرکت‌ها را هک کرده‌اند و حتی با وب‌سایت‌های دولتی مداخله کرده‌اند، همگی بدون اطلاع سازندگان آن‌ها.
متن اصلی (انگلیسی)
Who should be held responsible when AI goes rogue?
The debate over liability came after companies ran tests in which AI agents breached other companies.