OpenAI یک عامل سرکش دیگر را اعتراف کرد

این غول هوش مصنوعی پس از افشای بیش از 50 تصویر از کاربران ChatGPT توسط عوامل مستقل خود می گوید که در حال تلاش برای حذف محتوا از سایت های شخص ثالث است.

این شرکت اعلام کرده است که عوامل OpenAI 53 تصویر آپلود شده توسط کاربران ChatGPT را فاش کرده اند، بدون اینکه مشخص کند آیا این تصاویر توسط هوش مصنوعی تولید شده اند یا تصاویری از افراد واقعی را نشان می دهند یا اینکه چه زمانی به صورت آنلاین منتشر شده اند.

این حادثه در بحبوحه یک سری موارد در ماه های اخیر رخ می دهد که شامل عوامل هوش مصنوعی مستقل است که می توانند به طور مستقل وظایف خود را با استفاده از ابزارهای خارجی برنامه ریزی و انجام دهند. OpenAI، Anthropic و Google همگی مواردی را فاش کرده‌اند که در آن مدل‌های آن‌ها در طول آزمایش به سیستم‌های واقعی دسترسی پیدا کرده‌اند، از جمله حملات سایبری هماهنگ علیه منابع دولتی.

OpenAI در پستی در روز جمعه در ایکس گفت که بیشتر تصاویر فاش شده حذف شده اند و افزود که با ارائه دهندگان هاستینگ برای حذف محتوای باقی مانده کار می کند.

رویترز روز جمعه به نقل از این شرکت، کارمندان سابق و محققان خارجی گزارش داد که عوامل به این تصاویر دسترسی داشتند زیرا OpenAI برای بخشی از فرآیند آموزش مدل خود به داده های کاربران ناشناس متکی است.

ادامه مطلب عامل هوش مصنوعی مستقل به هاب مدل اصلی حمله می کند

OpenAI به خبرگزاری گفت که ابرداده ها، نام ها و سایر اطلاعات تماس قبل از استفاده از پست های کاربر برای آموزش حذف می شوند. با این حال، سه منبع رویترز که با رویه های این شرکت آشنا هستند، گفتند که نمی توان به طور کامل حفظ اطلاعاتی را که می تواند کاربر را شناسایی کند، رد کرد.

در ماه جولای، OpenAI آنچه را که به عنوان یک حادثه سایبری بی سابقه توصیف کرد، فاش کرد که در آن مدل‌های هوش مصنوعی در طول آزمایش به اینترنت دسترسی آزاد پیدا کردند و به زیرساخت Hugging Face، یک پلت‌فرم منبع باز برای یادگیری ماشینی حمله کردند و از آسیب‌پذیری‌های آن سوء استفاده کردند.

رویترز در آن زمان گزارش داد که یک مامور چندین روز قبل از اینکه OpenAI این فعالیت را شناسایی کرده و با FBI تماس بگیرد، تلاش های هک انجام داد. آژانس بعدا با استناد به یافته‌های محققان گزارش داد که حدود 700 عامل OpenAI در این حمله شرکت کرده‌اند و تلاش کرده‌اند اقدامات خود را پنهان کنند.

ادامه مطلب هوش مصنوعی جدید برای انتشار عمومی بسیار خطرناک است - Anthropic

در اواخر همان ماه، این خبرگزاری به نقل از منابع آشنا با این موضوع گفت که همان عامل OpenAI که از محیط آزمایش فرار کرده بود، سیستم‌های یکی از مشتریان آزمایشگاه Modal مستقر در نیویورک را نیز نقض کرده است. تحقیقات بعدی OpenAI نشان داد که عوامل آن به سایر محیط‌های شخص ثالث از جمله سیستم‌های تولید نیز دسترسی داشته‌اند.

در ماه آگوست، OpenAI تحقیقات خود را در مورد حوادث مربوط به عوامل هوش مصنوعی مستقل با ظهور موارد جدیدی از فعالیت های غیرمجاز گسترش داد. تا پایان ماه، Axios به نقل از تحقیقات OpenAI و کارشناسان مستقل گزارش داد که تقریبا 1200 مامور در حمله به Hugging Face هماهنگ شده اند. ظاهرا مأموران می‌دانستند که از محدوده آزمایش فراتر رفته‌اند، اما بدون هشدار دادن به اپراتورهای انسانی ادامه دادند.

این رویدادها شکاف فزاینده‌ای بین قابلیت‌های مدل‌های هوش مصنوعی و توانایی توسعه‌دهندگان برای نظارت و کنترل اقدامات خود را نشان می‌دهد.