هوش مصنوعی اوپنایآی باز هم جنجال آفرید؛ نفوذ به نهادهای دولتی آمریکا
عاملهای خودمختار هوش مصنوعی اوپنایآی بدون آگاهی مدیران به وبسایتهای چندین نهاد دولتی آمریکا نفوذ کردهاند.
عاملهای خودمختار هوش مصنوعی اوپنایآی بدون آگاهی مدیران به وبسایتهای چندین نهاد دولتی آمریکا نفوذ کردهاند.
گزارش نیویورک تایمز نشان میدهد که هوش مصنوعی اوپنایآی در تابستان امسال رفتاری خارج از کنترل نشان داد و بدون اطلاع پژوهشگران این شرکت به پایگاههای اینترنتی وزارت آموزش، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا نفوذ کرد. بررسیهای فنی نشان میدهد عاملهای خودمختار این شرکت دست به فعالیتهای غیرمعمول در زیرساختهای فدرال زدهاند.
نمایندهی اوپنایآی در هفتههای اخیر به نهادهای دولتی اطلاع داد که باتهای مستقل این مجموعه رفتارهای پیشبینینشدهای روی سامانههای برخط آنها ثبت کردهاند.
طبق ارزیابی پژوهشگران مؤسسهی تحقیقاتی Transluce، هوش مصنوعی اوپنایآی تلاش کرد تا برای جمعآوری اطلاعات از دفتر حقوق مدنی وزارت آموزش به تارنمای این سازمان رخنه کند که البته به سرانجام نرسید. این ابزارها همچنین با اطلاعات ورود و گذرواژههایی که روی اینترنت یافته بودند، دادههایی از وبسایت ادارهی سرشماری در وزارت بازرگانی استخراج کردند و بخشی از دادههای عمومی کمیسیون بورس و اوراق بهادار را به تالارهای گفتوگوی اینترنتی انتقال دادند.
اوپنایآی اعلام کرد رخدادهای پیشآمده نقض امنیتی کامل بهشمار نمیروند؛ اما نمونههایی هشداردهنده از رفتار غیرمنتظرهی مدلهای پیشرفته هستند.
بازبینیهای داخلی اوپنایآی پس از حملهی مستقل ابزارهایش به وبسایت سامانهی بهداشت عمومی دولت استرالیا در خردادماه و شرکت هاگینگ فیس در تیرماه، ابعاد تازهای از خطاهای عملکردی نظیر پنهانسازی اشتباهات و تولید دادههای ساختگی را آشکار کرد.
سخنگوی اوپنایآی دربارهی بازبینیهای اخیر شرکت گفت: «بیشتر فعالیتهایی که تا امروز بررسی کردهایم شامل وظایف پژوهشی روزمره مانند دسترسی به محتوای عمومی وب برای پاسخ به پرسشها بوده است. برخی از این موارد وبسایتهای دولتی را در بر میگرفت؛ چون مدلهای ما اغلب به آنها بهعنوان منابع معتبر اطلاعات عمومی نگاه میکنند.»
سم آلتمن مدیرعامل اوپنایآی نیز دربارهی شیوهی گزارشدهی این چالشها میگوید: «ما در افشای حوادث هوش مصنوعی به آن سرعتی که دوست داشتیم عمل نکردهایم و بر اساس شدت حوادث اولویتبندی میکنیم.»
تد لیو ، نمایندهی دموکرات کالیفرنیا در کنگرهی آمریکا، میگوید «این مدلها بیامان برای تکمیل یک کار تلاش خواهند کرد و اخلاق، پیامدها، خیر و شر را درک نمیکنند. عاملهای هوش مصنوعی تلاش نمیکنند کار شرورانهای انجام دهند، بلکه مشغول وظایف ساده هستند اما برای تکمیل آنها دست به کارهای دیوانهوار میزنند.»