ربات های OpenAI با چندین سایت آژانس دولتی ایالات متحده مداخله کردند

OpenAI در مرکز نگرانی های جدید در مورد فعالیت کنترل نشده هوش مصنوعی قرار گرفته است

OpenAI اذعان کرده است که به ده‌ها مؤسسه جهانی هشدار داده است که وب‌سایت‌های آنها ممکن است توسط ربات‌های هوش مصنوعی خود که به‌درستی عمل می‌کنند، مداخله کرده باشند.

این شرکت گفت که عوامل هوش مصنوعی تلاش کردند تا اطلاعاتی را از "دولت ها، دانشگاه ها، سازمان های دولتی و سایر موسسات" از جمله کمیسیون بورس و اوراق بهادار ایالات متحده (SEC)، اداره سرشماری و اداره آموزش به دست آورند.

این افشاگری ها چند روز پس از آن صورت می گیرد که آنتونی آلبانیز، نخست وزیر استرالیا اعلام کرد که عوامل OpenAI فایل های غیرعمومی در وب سایت طرح مراقبت های بهداشتی دولتی آن را نقض کرده اند.

از ماه اوت، ترس عمومی نسبت به تأثیرات بالقوه جدی و حتی تهدیدکننده زندگی ابزارهای هوش مصنوعی که خارج از کنترل انسان هستند، افزایش یافته است.

OpenAI می‌گوید که برخی از داده‌ها توسط عوامل هوش مصنوعی، اساسا ربات‌هایی که طراحی و آموزش دیده‌اند تا تا حدودی مستقل عمل کنند، که برای یافتن «منابع معتبر اطلاعات عمومی» کار می‌کنند، دسترسی داشته‌اند.

اما این شرکت خاطرنشان کرد که برخی از ربات‌ها فراتر از آن عمل کردند و برای دور زدن اقدامات امنیتی در وب‌سایت‌ها تلاش کردند.

به گفته این شرکت، برای مثال، هنگام تلاش برای دریافت اطلاعات از اداره سرشماری، عوامل هوش مصنوعی از ابزارهایی استفاده کردند که برای توسعه دهندگان نرم افزار برای دسترسی به آن در نظر گرفته شده بود.

OpenAI گفت تمام داده‌های دولتی که ربات‌ها به آن‌ها دسترسی دارند، عمومی هستند.

با این حال، اشاره کرد که اطلاعاتی که ربات‌های آن از SEC که بازار سهام ایالات متحده را تنظیم می‌کند و از سرمایه‌گذاران محافظت می‌کند، به آن دسترسی پیدا کرده‌اند، بعدا توسط عوامل هوش مصنوعی در وب‌سایت دیگری منتشر شد. OpenAI می گوید این اقدام در نظر گرفته نشده است.

در موارد دیگری که OpenAI در روز جمعه فاش کرد، عوامل هوش مصنوعی آن داده‌ها را در زمانی که نباید انتقال می‌دادند.

چنین فعالیتی منجر به حداقل 53 حادثه شد که در آن یک عامل OpenAI تصویری از فعالیت کاربر ChatGPT گرفت و آن را به جای دیگری منتقل کرد.

این شرکت گفت که در هر نمونه از تصویر کاربر که توسط یک عامل هوش مصنوعی استفاده و منتقل می‌شود، کاربر اجازه می‌دهد به OpenAI اجازه دهد مدل‌ها را با استفاده از داده‌هایشان آموزش دهد.

با این وجود، OpenAI اعتراف کرد: "این استفاده مناسب از این داده ها نیست."

این شرکت اضافه کرد که نشت تصاویر کاربر قبل از اعمال حفاظت‌های جدید در آموزش هوش مصنوعی رخ داده است و تلاش می‌کند تا تمام تصاویر کاربر به هر شخص ثالثی حذف شود.

رویترز ابتدا این تحقیقات گسترده را گزارش کرد. OpenAI همچنین جزئیات را در وبلاگ عمومی خود منتشر کرد.

در موارد خاصی از فعالیت عامل، OpenAI گفت که ابزارها کنترل‌های امنیتی برخی از وب‌سایت‌ها را «دور می‌زنند».

در موارد دیگر، عوامل هوش مصنوعی در تلاش برای دریافت اطلاعات از وب‌سایت‌ها، «عدم همسویی» را نشان دادند. ناهماهنگی اصطلاحی است که توسط شرکت‌ها و محققان هوش مصنوعی برای توصیف مواردی استفاده می‌شود که در آن ابزار هوش مصنوعی کاری را انجام می‌دهد که برای انجام آن آموزش ندیده یا در غیر این صورت ناخواسته بوده است.

OpenAI گفت که شناسایی نهادهایی که تحت تأثیر قرار گرفته اند را محدود می کند زیرا بسیاری از شرکت ها خواسته بودند جزئیات را فاش نکند.

در این بیانیه آمده است: "هدف ما این است که به هر سازمانی حقایق را بدهیم و به آنها موکول کنیم که آیا و چه زمانی حادثه را علنی کنند."

این شرکت خاطرنشان کرد که همه موارد درگیر در این حادثه به عنوان یک نقض امنیتی قابل توجه در نظر گرفته نمی شوند.

این توضیح می‌دهد: «برخی سازمان‌ها ممکن است آنچه را که ما به اشتراک می‌گذاریم بررسی کنند و به این نتیجه برسند که اطلاعات عمدا عمومی بوده یا اینکه تعامل مدل نگران‌کننده نبوده است». دیگران ممکن است یک مشکل طراحی یا ضعف امنیتی را که می خواهند برطرف کنند شناسایی کنند.

چرا نگرانی هایی وجود دارد که هوش مصنوعی می تواند بشریت را تهدید کند و چقدر واقعی هستند؟

آیا هوش مصنوعی می تواند انسان ها را از بین ببرد و چگونه ممکن است این کار را انجام دهد؟

این شرکت گفت که بسیاری از این رویدادها به عنوان "هرزنامه عامل" نامیده می شود که به عنوان فعالیت عامل هوش مصنوعی "غیر منتظره یا نگران کننده" توصیف می شود، مانند ارسال اطلاعات در اینترنت.

OpenAI پس از حادثه ای در ماه ژوئیه که در آن یک گروه یا "ازدحام" از عوامل هوش مصنوعی آن پلتفرم توسعه دهنده هوش مصنوعی Hugging Face را بدون اینکه از آنها خواسته شود هک کردند، شروع به جدی تر گرفتن چنین حوادثی کرد.

Hugging Face اولین بار بود که این حادثه را در معرض دید عموم قرار داد و OpenAI بعدا مسئولیت آن را بر عهده گرفت.

کلمنت دلانگ، رئیس Hugging Face، در جلسه شورای امنیت سازمان ملل متحد در مورد هوش مصنوعی در روز چهارشنبه، گفت: "من اغلب فکر می کنم اگر تصمیم می گرفتم این حمله را به طور عمومی افشا نکنم، چه اتفاقی می افتاد."

دلانگ افزود: «به خصوص اکنون که می دانیم حوادث مشابه ماه ها قبل به صورت مخفیانه در تعدادی آزمایشگاه مرزی بدون نظارت اتفاق افتاده است.

در همان جلسه سازمان ملل، سام آلتمن، مدیر عامل OpenAI و داریو آمودی، رئیس شرکت رقیب آنتروپیک، از رهبران بین المللی خواستند تا استانداردهای جهانی برای ایمنی هوش مصنوعی و راه هایی برای نظارت و گزارش چنین حوادثی ایجاد کنند.

تماشا کنید: آنچه باید در مورد هک دولت OpenAI استرالیا بدانید

در حالی که OpenAI و Anthropic هر دو در هفته‌های اخیر گفته‌اند که ارزیاب‌های شخص ثالث را برای ارزیابی ایمنی ابزارها و مدل‌های هوش مصنوعی در زمان واقعی به داخل شرکت خود می‌آورند، همانطور که بی‌بی‌سی گزارش کرده است، چنین ارزیاب‌هایی هنوز وارد نشده‌اند.

OpenAI روز جمعه اعلام کرد که در حال حاضر در حال بررسی فعالیت های آموزشی توسط عوامل هوش مصنوعی خود است و به صورت "ماه به ماه" از زمان هک Hugging Face باز می گردد.

این شرکت گفت: "بیشتر موارد شناسایی شده تا کنون با شدت کم، با شواهد محدود یا بدون تاثیر معنی دار بوده اند." با توجه به مقیاس بررسی مورد نیاز، و نیاز به راستی‌آزمایی هر مورد، تکمیل این کار ماه‌ها طول خواهد کشید.»

دیوید کروگر، استاد یادگیری ماشین در دانشگاه مونترال و موسس گروه ایمنی هوش مصنوعی Evitable، روز جمعه گفت که از افزایش تعداد حوادث ایمنی مرتبط با هوش مصنوعی «عمیقا ناراحت» است.

او خواستار توقف فوری، نامشخص و بین المللی در توسعه هوش مصنوعی شد.

کروگر گفت: «ما هنوز میزان حوادث موجود را درک نکرده‌ایم و سناریوهای هوش مصنوعی سرکش آینده می‌توانند فاجعه‌بار باشند.

آیا به دوران «سریع حرکت و شکستن چیزها» فناوری های بزرگ بازگشته ایم؟

چرا برخی از کارشناسان به طور فزاینده ای از این می ترسند که هوش مصنوعی تسلط یابد

هوش مصنوعی Gemini گوگل سه شرکت را در تست امنیتی هک کرد