OpenAI می گوید که عوامل هوش مصنوعی آن تصاویر کاربران ChatGPT را به اشتباه به صورت آنلاین منتشر کرده اند

تصاویر مورد بحث از حساب های کاربرانی است که اجازه استفاده از داده ها را برای بهبود مدل های OpenAI داده بودند.

سان فرانسیسکو – OpenAI در 25 سپتامبر اذعان کرد که ابزارهای هوش مصنوعی آن تصاویری را از کاربران ChatGPT در سایت های آنلاین بدون اطلاع شرکت ارسال کرده است که آخرین نمونه از عوامل هوش مصنوعی است که خارج از محدوده آنها فعالیت می کنند.

این شرکت همچنین گزارش نیویورک تایمز مبنی بر دسترسی ابزارهایش به وب سایت های آژانس های فدرال ایالات متحده را تأیید کرد و گفت که آنها فقط اطلاعات در دسترس عموم را بازیابی می کنند.

به گفته OpenAI، پیوندهای 53 تصویر آپلود شده به صورت عمومی در لیست قرار نگرفتند و به طور تصادفی در سایت های میزبان تصویر پست شدند.

غول فناوری مستقر در سانفرانسیسکو گفت که اکثر آنها با کمک ارائه دهندگان میزبانی درگیر حذف شده اند و حذف بقیه تصاویر در حال انجام است.

این شرکت در یک پست X گفت: «ما جزئیات را در مورد نحوه ارسال داده‌های آموزش و ارزیابی توسط عوامل هوش مصنوعی در محیط تحقیقاتی خود به سرویس‌های شخص ثالث در حالی که نباید می‌فرستند، به اشتراک گذاشته‌ایم.

انتشار تصاویر توسط عوامل هوش مصنوعی ایجاد شد - نرم افزاری که بر اساس مدل های هوش مصنوعی ساخته شده و قادر به عمل مستقل است.

تصاویر مورد بحث از حساب های کاربرانی است که اجازه استفاده از داده ها را برای بهبود مدل های OpenAI داده بودند. به گفته شرکت، داده‌ها قبل از استفاده از طریق یک فیلتر حریم خصوصی اجرا شده بودند و دیگر نمی‌توانستند به کاربر اصلی مرتبط شوند.

OpenAI در پاسخ به سوال AFP مشخص نکرد که آیا تصاویر افراد قابل شناسایی را به تصویر می کشند یا حاوی داده های حساس هستند.

به گفته OpenAI، عواملی که برای تحقیقات خود از آنها استفاده می‌کند، داده‌های آموزشی را به پلتفرم‌های خارجی منتقل کردند.

این حوادث قبل از اینکه OpenAI پروتکل های امنیتی محیط تحقیقاتی خود را در ماه آگوست به دنبال سایر اقدامات سرکش توسط عوامل هوش مصنوعی تقویت کند، رخ داد.

این شرکت گفت که در حال بررسی فعالیت های گذشته عوامل هوش مصنوعی خود است، کاری که "ماه ها طول می کشد تا تکمیل شود".

یکی از سخنگویان OpenAI به خبرگزاری فرانسه گفت: "بیشتر فعالیت‌هایی که تا کنون بررسی کرده‌ایم شامل کارهای تحقیقاتی معمولی، مانند دسترسی به محتوای وب عمومی برای پاسخ دادن به سؤالات است. برخی از وب‌سایت‌های دولتی درگیر هستند، زیرا مدل‌های ما اغلب به آنها به عنوان منابع معتبر اطلاعات عمومی مراجعه می‌کنند."

سام آلتمن، مدیر اجرایی OpenAI در 25 سپتامبر در X تصدیق کرد که "ما آنقدر که می خواستیم سریع عمل نکرده ایم" در بررسی و افشای حوادث.

اما او گفت که مهم است که "میل ما برای شفافیت" را با ارزیابی حجم عظیم داده‌های مورد تجزیه و تحلیل متعادل کنیم.

در 21 ژوئیه OpenAI فاش کرد که در طول آزمایش‌هایی که در آن ماه اجرا کرد، دو مدل از محیط‌های بسته خود فرار کردند، خودشان وارد اینترنت شدند و به سیستم‌های داخلی Hugging Face، نوعی کتابخانه آنلاین برای نرم‌افزار هوش مصنوعی نفوذ کردند.

این اپیزود توجه گسترده‌ای را به خود جلب کرد و باعث نگرانی شد که بزرگترین شرکت‌های هوش مصنوعی نمی‌توانند مدل‌های خود را تحت کنترل داشته باشند.

آلتمن در 25 سپتامبر تکرار کرد که هک Hugging Face "هنوز شدیدترین رویدادی است که دیده ایم".

این کشف با افشای چندین رویداد مشابه در OpenAI و رقبای آن مانند Anthropic و Meta دنبال شد.

در 23 سپتامبر در نیویورک، آنتونی آلبانیز، نخست وزیر استرالیا گفت که یک عامل OpenAI در ماه ژوئن به یک پورتال بهداشتی دولتی دسترسی غیرمجاز پیدا کرده است و رهبر از شرکت به دلیل تاخیر در اطلاع رسانی به مقامات انتقاد کرد. خبرگزاری فرانسه