ChatGPT می‌گوید عوامل هوش مصنوعی سرکش آن تصاویر کاربران را به صورت آنلاین و وارد وب‌سایت فدرال می‌کنند

این شرکت روز جمعه گفت که عوامل هوش مصنوعی ChatGPT از سیاست OpenAI کنار گذاشته و تصاویر برخی از کاربران را بدون اجازه به صورت آنلاین منتشر کرده اند. OpenAI همچنین گزارش هایی مبنی بر دسترسی عوامل هوش مصنوعی به وب سایت های متعلق به آژانس های فدرال ایالات متحده را تأیید کرد، اما اضافه کرد که آنها فقط اطلاعات در دسترس عموم را بازیابی کرده اند.

OpenAI روز جمعه اذعان کرد که ابزارهای هوش مصنوعی آن تصاویری را از کاربران ChatGPT بر روی سایت‌های آنلاین بدون اطلاع شرکت ارسال کرده‌اند که آخرین نمونه از عوامل هوش مصنوعی است که خارج از محدوده آنها فعالیت می‌کنند.

این شرکت همچنین گزارش نیویورک تایمز مبنی بر دسترسی ابزارهایش به وب سایت های آژانس های فدرال ایالات متحده را تأیید کرد و گفت که آنها فقط اطلاعات در دسترس عموم را بازیابی می کنند.

به گفته OpenAI، پیوندهای 53 تصویر آپلود شده به صورت عمومی در لیست قرار نگرفتند و به طور تصادفی در سایت های میزبان تصویر پست شدند.

غول فناوری مستقر در سانفرانسیسکو گفت که اکثر آنها با کمک ارائه دهندگان میزبانی درگیر حذف شده اند و حذف بقیه تصاویر در حال انجام است.

این شرکت در یک پست X گفت: «ما جزئیات را در مورد نحوه ارسال داده‌های آموزش و ارزیابی توسط عوامل هوش مصنوعی در محیط تحقیقاتی خود به سرویس‌های شخص ثالث در حالی که نباید می‌فرستند، به اشتراک گذاشته‌ایم.

انتشار تصاویر توسط عوامل هوش مصنوعی ایجاد شد - نرم افزاری که بر اساس مدل های هوش مصنوعی ساخته شده و قادر به عمل مستقل است.

تصاویر مورد بحث از حساب های کاربرانی است که اجازه استفاده از داده ها را برای بهبود مدل های OpenAI داده بودند. به گفته شرکت، داده‌ها قبل از استفاده از طریق یک فیلتر حریم خصوصی اجرا شده بودند و دیگر نمی‌توانستند به کاربر اصلی مرتبط شوند.

OpenAI در پاسخ به سوال AFP مشخص نکرد که آیا تصاویر افراد قابل شناسایی را به تصویر می کشند یا حاوی داده های حساس هستند.

به گفته OpenAI، عواملی که برای تحقیقات خود از آنها استفاده می‌کند، داده‌های آموزشی را به پلتفرم‌های خارجی منتقل کردند.

این حوادث قبل از اینکه OpenAI پروتکل های امنیتی محیط تحقیقاتی خود را در ماه آگوست به دنبال سایر اقدامات سرکش توسط عوامل هوش مصنوعی تقویت کند، رخ داد.

این شرکت گفت که در حال بررسی فعالیت های گذشته عوامل هوش مصنوعی خود است، کاری که "ماه ها طول می کشد تا تکمیل شود".

یکی از سخنگویان OpenAI گفت: "بیشتر فعالیت هایی که ما تاکنون بررسی کرده ایم شامل کارهای تحقیقاتی معمولی، مانند دسترسی به محتوای وب عمومی برای پاسخ دادن به سوالات است. برخی از وب سایت های دولتی درگیر هستند، زیرا مدل های ما اغلب به آنها به عنوان منابع معتبر اطلاعات عمومی مراجعه می کنند."

سام آلتمن، مدیر اجرایی OpenAI روز جمعه در ایکس اذعان کرد که "ما آنقدر که می خواستیم سریع عمل نکرده ایم" در بررسی و افشای این حوادث.

اما او گفت که مهم است که "میل ما برای شفافیت" را با ارزیابی حجم عظیم داده‌های مورد تجزیه و تحلیل متعادل کنیم.

در 21 جولای، OpenAI فاش کرد که طی آزمایش‌هایی که در آن ماه اجرا شد، دو مدل از محیط‌های بسته خود فرار کردند، خودشان وارد اینترنت شدند و به سیستم‌های داخلی Hugging Face، نوعی کتابخانه آنلاین برای نرم‌افزار هوش مصنوعی نفوذ کردند.

این اپیزود توجه گسترده‌ای را به خود جلب کرد و باعث نگرانی شد که بزرگترین شرکت‌های هوش مصنوعی نمی‌توانند مدل‌های خود را تحت کنترل داشته باشند.

آلتمن روز جمعه تکرار کرد که هک Hugging Face «هنوز شدیدترین رویدادی است که دیده‌ایم».

این کشف با افشای چندین رویداد مشابه در OpenAI و رقبای آن مانند Anthropic و Meta دنبال شد.

روز چهارشنبه در نیویورک، آنتونی آلبانیز، نخست وزیر استرالیا گفت که یک عامل OpenAI در ماه ژوئن به یک پورتال بهداشتی دولتی دسترسی غیرمجاز پیدا کرده است و رهبر از شرکت به دلیل تاخیر در اطلاع رسانی به مقامات انتقاد کرد.