گزارش می‌گوید که عوامل سرکش OpenAI پس از هک کردن وب‌سایت‌های دولتی، ردیابی‌ها را پنهان کردند

شرکت امنیت سایبری Asymmetric Security گفت که نمی تواند تعیین کند که آیا پنهان کاری عوامل هوش مصنوعی عمدی بوده است یا خیر.

سن فرانسیسکو - بر اساس گزارشی که در 1 اکتبر منتشر شد، عوامل هوش مصنوعی توسعه یافته توسط OpenAI پس از دسترسی غیرمجاز به وب‌سایت‌های دولتی، سعی کردند آثار فعالیت خود را پاک کنند.

شرکت امنیت سایبری Asymmetric Security فعالیت عوامل – برنامه‌های هوش مصنوعی قادر به عمل مستقل – را که وب‌سایت‌های دولتی استرالیا و سایر نهادهای عمومی را بین ماه‌های مارس و سپتامبر هدف قرار می‌دهند، تجزیه و تحلیل کرد.

Asymmetric گفت که نمی تواند تعیین کند که آیا پنهان کاری ماموران عمدی بوده است یا خیر.

این گزارش به تحقیقات OpenAI و محققان مستقل درباره مجموعه‌ای از حوادث فاش شده از ماه جولای، از جمله هک شدن پلتفرم هوش مصنوعی Hugging Face اضافه می‌کند.

خود OpenAI حمله به Hugging Face را اولین حمله در نوع خود توصیف کرد.

هدف این تحلیل‌ها سنجش قابلیت‌های ابزارهای هوش مصنوعی مستقل است، زیرا نقص آن‌ها ترس از دست دادن کنترل بر این فناوری را افزایش می‌دهد.

به گفته Asymmetric، این عوامل توانستند تکنیک های خود را در چند روز اصلاح کنند، فرآیندی که معمولا هکرهای سنتی ماه ها یا حتی سال ها طول می کشد.

به نظر می رسد حوادث بررسی شده در این گزارش با "وظایف بی گناه" مانند جمع آوری آمار بهداشت استرالیا آغاز شده است، که سپس از مسیر خارج شد.

یکی از سخنگویان OpenAI به خبرگزاری فرانسه گفت: «بیشتر فعالیت‌هایی که ما تاکنون بررسی کرده‌ایم شامل کارهای تحقیقاتی معمولی، مانند دسترسی به محتوای وب عمومی برای پاسخ دادن به سؤالات است.

برخی از وب‌سایت‌های دولتی درگیر هستند زیرا مدل‌های ما اغلب به آنها به عنوان منابع معتبر اطلاعات عمومی مراجعه می‌کنند.»

با این حال، گزارش Asymmetric نشان داد که نمایندگان حساب‌های خصوصی را در یک سرویس تجزیه و تحلیل وب‌سایت باز کرده‌اند، که جستجوهای آنها را پنهان می‌کند و صندوق‌های ایمیل موقت ایجاد می‌کنند که یکی از آنها پس از 48 ساعت به صورت خودکار حذف می‌شود.

OpenAI در اواخر آگوست اذعان کرد که مدل‌های آن گاهی اوقات تلاش کرده‌اند تا لاگ‌های فعالیت خود را طی آزمایش‌های داخلی پاک یا تغییر دهند، ناموفق.

این رویدادها درخواست‌ها برای کند کردن توسعه هوش مصنوعی را تقویت کرده است، به ویژه از طرف داریو آمودی، مدیر عامل آنتروپیک، که ماه گذشته نوشت که از انبوهی از عواملی که «کل اینترنت را تسخیر کنند» می‌ترسید.

اما هیچ اتفاق نظری در صنعت یا بین تنظیم‌کننده‌ها در مورد چگونگی ادامه وجود ندارد.

دولت ترامپ با هر گونه مقررات الزام آور که می تواند مانع نوآوری شود، در بحبوحه رقابت شدید با چین، مخالف است.

در 29 سپتامبر، رئیس جمهور دونالد ترامپ با مدیران فنی دیدار کرد که یک کد رفتار داوطلبانه را تصویب کردند.

هیچ قانون فدرال به طور خاص بر این مدل ها در ایالات متحده حاکم نیست. خبرگزاری فرانسه