ماموران OpenAI ناامن 53 تصویر کاربر را بدون اطلاع آزمایشگاه در اینترنت پست کردند

پس از اینکه تصاویری که کاربران در مدل‌های OpenAI آپلود کردند در داده‌های آموزشی گنجانده شد، عوامل هوش مصنوعی که در محیط تحقیقاتی شرکت فعال بودند آنها را در سایت‌های میزبانی تصویر عمومی پست کردند.

این شرکت برای اولین بار گفت: پنجاه و سه "تصویر ارائه شده توسط کاربر" به عنوان پیوندهایی که به صورت عمومی لیست نشده بودند به سایت های میزبان تصویر ارسال شدند. حتی اگر پیوندها به صورت عمومی فهرست نشده باشند، باز هم می توان تصاویر را کشف کرد.

OpenAI گفت که در حال کار با ارائه دهندگان میزبانی برای حذف این محتوا است، اگرچه برخی از آن ظاهرا هنوز آنلاین است. TechCrunch از OpenAI پرسیده است که آزمایشگاه چگونه تشخیص می دهد که آیا تصاویر توسط کاربران ارائه شده اند یا خیر و آیا با کاربرانی که آنها را ارائه کرده اند تماس گرفته است یا خیر.

این خبر در پستی منتشر شد که بیانیه‌های عمومی را از بررسی مداوم آزمایشگاه در مورد حوادثی که در آن مدل‌های آن از نظارت شرکت فرار کردند و بدون اطلاع آن به اینترنت باز دسترسی داشتند، جمع‌آوری کرد. OpenAI گفت که به افشای حساب‌های ناشناس حوادثی مانند این ادامه خواهد داد.

این هفته، آنتونی آلبانیز، نخست‌وزیر استرالیا گفت که عوامل OpenAI به پایگاه‌های داده‌ای که توسط سیستم ملی مراقبت‌های بهداشتی کشورش اداره می‌شود، نفوذ کردند، که یکی از چندین رویداد امنیت سایبری در سال جاری است که ظاهرا ناشی از یک برنامه آموزشی یا ارزیابی OpenAI است.

طبق گفته OpenAI، عوامل آن قبل از اجرای مجموعه ای از رویه های امنیتی جدید توسط این شرکت، تصاویر ارائه شده توسط کاربر را در اینترنت پست می کردند، اگرچه دقیقا چه زمانی و چرا این اتفاق افتاده است. پادمان های جدید پس از نفوذ عوامل آن به Hugging Face، پلتفرمی برای مدل ها و معیارهای هوش مصنوعی، ایجاد شد.

نشت این تصاویر زمانی فاش شد که این شرکت با ادعاهایی از سوی ریاضیدانان روبرو شد که مدل‌های OpenAI از کار خود برای حل مشکلات طولانی مدت در این زمینه استفاده کرده‌اند، که آزمایشگاه آن را رد می‌کند. سوالات در مورد حریم خصوصی و امنیت داده ها همچنین تلاش ها برای استقرار ابزارهای هوش مصنوعی در محل کار یا فروش دستیارهای مبتنی بر LLM برای مصرف کنندگان را پیچیده می کند.

OpenAI تاکید کرد که کاربران سازمانی خود به طور خودکار از تعاملات خود برای آموزش مدل های آینده منصرف می شوند. با این حال، کاربران مصرف‌کننده می‌توانند انتخاب شوند، مگر اینکه به طور مثبت تصمیم بگیرند که داده‌های خود را به اشتراک نگذارند. حتی در این صورت، کلیک کردن روی دکمه شست بالا یا پایین در مکالمه همچنان این تعامل را برای آموزش مدل‌های آینده در دسترس قرار می‌دهد.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

همه چیز جدید برای مامور هوش مصنوعی متا، Muse Kirsten Korosec Lucas Ropek

متا برای نماینده Muse AI لوکاس روپک یک پوشیدنی شبیه تاماگوچی ساخت

آنتروپیک می گوید آزمایشگاه زیست شناسی آن قبلا چیزی بزرگ جولی بورت پیدا کرده است

اولین ربات تعویض لاستیک PitPro در شان اوکین کانادا راه اندازی شد

Anthropic Opus 5.5 را با قیمت‌های پایین‌تر و عملکرد در سطح Fable Russell Brandom منتشر می‌کند

OpenAI گروه مشاوره ریاضی را تشکیل می دهد زیرا هوش مصنوعی آن بیش از 100 مشکل باز را حل می کند Aditya Mehta

Meta’s Muse در حال پیشی گرفتن از راه اندازی اولیه تلفن همراه ChatGPT، سارا پرز است