عوامل هوش مصنوعی OpenAI به طور تصادفی تصاویر ارائه شده توسط کاربر را در سایت های شخص ثالث آپلود کردند.

OpenAI تأیید کرده است که از یک حادثه امنیتی جدید آگاه است که در آن عوامل هوش مصنوعی آن تصاویر ارائه شده توسط کاربر را در سرویس های میزبانی تصویر شخص ثالث آپلود کرده اند.

OpenAI می گوید اکثر کاربران تحت تأثیر قرار نگرفته اند، زیرا فقط می تواند 53 حادثه را شناسایی کند که در آن عوامل به طور تصادفی تصاویر را در اینترنت آپلود کرده اند.

این افشاگری از تحقیقات گسترده‌تر OpenAI در مورد رفتار نادرست مامور پس از حادثه امنیتی Hugging Face ناشی می‌شود.

در تحقیقات خود، OpenAI دریافت که برخی از عوامل، داده‌های آموزشی و ارزیابی را هنگام تعامل با سرویس‌های شخص ثالث منتقل می‌کنند و به‌طور تصادفی تصاویر را هنگام اجرای یکی از وظایف نمایندگی آپلود می‌کنند.

OpenAI در یک پست وبلاگ گفت: «ما تا به امروز 53 مورد را شناسایی کرده‌ایم که تصاویر ارائه‌شده توسط کاربر در سایت‌های میزبان تصویر ارسال می‌شوند.

این تصاویر به‌عنوان پیوندهایی به اشتراک گذاشته شده‌اند که به‌صورت عمومی فهرست نشده‌اند، به جای اینکه آشکارا در یک صفحه قابل جستجو منتشر شوند.

OpenAI می گوید که با ارائه دهندگان هاستینگ برای حذف بیشتر محتوای آسیب دیده کار کرده است و همچنان در تلاش است تا تصاویر باقی مانده را حذف کند.

این شرکت می‌گوید بیشتر داده‌های درگیر در این حوادث از کاربران گرفته نشده است.

با این حال، برخی از داده های آموزشی OpenAI می تواند حاوی محتوای کاربرانی باشد که اجازه داده اند از تعاملات آنها برای آموزش استفاده شود.

مکالمات سازمانی و تجاری، همراه با داده‌های API نیز مستثنی هستند، مگر اینکه یک سرپرست به صراحت آموزش را فعال کرده باشد.

OpenAI اشتباه خود را پذیرفت: "این استفاده مناسب از این داده ها نیست."

OpenAI می گوید داده های آموزشی واجد شرایط از اطلاعات حساب جدا شده و از طریق فیلترهای حریم خصوصی طراحی شده برای حذف جزئیات شخصی قبل از استفاده پردازش می شود.

OpenAI نظارت و محیط‌های آموزشی و ارزیابی خود را تقویت کرده است تا نشت داده‌ها را برای مدل‌ها سخت‌تر کند.

این شرکت به بررسی ماه به ماه فعالیت نمایندگی‌های قدیمی‌تر ادامه می‌دهد و می‌گوید هنوز یافته‌های بیشتری ممکن است ظاهر شود.

به میکو هیپونن و رهبران امنیتی NFL، CHANEL و Atlassian بپیوندید تا در یک نشست دیجیتالی دو ساعته در مورد اینکه حملات با سرعت هوش مصنوعی چه تغییراتی می‌کنند، مدافعان چه کارهایی را باید انجام ندهند و چگونه اعتبار، تصمیم‌گیری، اصلاح و تأیید مجدد با سرعت ماشین را انجام دهند، بپیوندید.

OpenAI می‌گوید GPT-6 Astra می‌تواند روزهای صفر را پیدا کند، اما نظارت بر آن نیز سخت‌تر است

ChatGPT اکنون می تواند برای تقلید از سبک نوشتن به برنامه های شخصی شما متصل شود

OpenAI Astra، مدل بعدی هوش مصنوعی بزرگ خود را پس از حل 10 مسئله ریاضی طولانی مدت مورد تمسخر قرار داد.

OpenAI می گوید مدل های جدید GPT 5.6 آن مقرون به صرفه تر می شوند