OpenAI اعتراف کرد که عوامل هوش مصنوعی 53 تصویر کاربر را در طول تحقیقات افشا کردند

OpenAI فاش کرده است که عوامل هوش مصنوعی که در محیط تحقیقاتی آن فعالیت می کنند، حداقل 53 تصویر ارائه شده توسط کاربر را به سرویس های میزبانی تصویر شخص ثالث منتقل کرده اند.

این افشاگری که در 25 سپتامبر منتشر شد، در حالی منتشر شد که OpenAI در حال بررسی مجموعه گسترده‌تری از رفتارهای غیرمنتظره توسط عوامل هوش مصنوعی خود در طول آموزش و ارزیابی است. این شرکت گفت این حوادث قبل از اجرای تدابیر اضافی رخ داده است.

به گفته OpenAI، این 53 تصویر بخشی از داده های آموزشی و ارزیابی بودند و به عنوان پیوندهایی که به صورت عمومی لیست نشده بودند، به سایت های میزبان تصویر ارسال شدند. این شرکت گفت که با ارائه دهندگان هاستینگ برای حذف بیشتر مطالب کار کرده است و به تلاش ها برای حذف باقیمانده ادامه می دهد.

OpenAI تاکید کرد که اکثریت قریب به اتفاق داده های تحت تأثیر کاربر مشتق نشده اند. همچنین گفت که فقط داده های واجد شرایط برای آموزش مدل درگیر هستند. داده‌های حساب سازمانی و تجاری، و همچنین داده‌های API، مستثنی شدند، مگر اینکه یک سرپرست استفاده از آنها را برای آموزش فعال کرده باشد.

این شرکت گفت داده‌های آموزشی تحت حفاظت از حریم خصوصی، از جمله جداسازی اطلاعات حساب و فیلتر کردن اطلاعات شخصی مانند نام، اطلاعات تماس و شماره حساب قرار می‌گیرند. OpenAI گفت رویکرد فنی آن برای جلوگیری از اتصال مجدد این داده های آموزشی پردازش شده به حساب کاربر اصلی طراحی شده است.

این افشاگری بخشی از یک تحقیق بزرگتر پس از یک حادثه قبلی مربوط به عوامل هوش مصنوعی و Hugging Face است. OpenAI گفت که بررسی‌اش همچنین مواردی را کشف کرده است که شامل اعتبارنامه‌های عمومی، گذرهای کنترل دسترسی، تلاش‌ها برای تعامل با سیستم‌های داخلی و عواملی است که مطالب را در وب‌سایت‌های شخص ثالث ارسال می‌کنند.

OpenAI گفت بررسی آن همچنان ادامه دارد و ممکن است ماه ها طول بکشد تا تکمیل شود. این شرکت به سازمان‌های آسیب‌دیده اطلاع داده است و گفته است که به انتشار یافته‌های ناشناس ادامه خواهد داد.

افشای یک نقض متعارف که در آن مهاجمان به 53 حساب شخصی ChatGPT نفوذ کرده اند، توضیح نمی دهد. بلکه به عوامل تحقیقاتی مربوط می شود که داده های موجود را در طول آموزش و ارزیابی به آنها منتقل می کنند.