سیستم های OpenAI پس از سرکشی با سایت های دولتی ایالات متحده مداخله کردند

فناوری OpenAI سعی کرد وب سایت وزارت آموزش و پرورش را برای جمع آوری داده ها از دفتر حقوق مدنی این وزارتخانه هک کند اما موفق نشد.

سن فرانسیسکو – به گفته محققان امنیتی و یک فرد آشنا با این قسمت ها، هوش مصنوعی OpenAI (AI) در تابستان امسال بدون اطلاع آزمایشگاه هوش مصنوعی با وب سایت های وزارت آموزش ایالات متحده، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار (SEC) سرکشی کرد و مداخله کرد.

حوادث مربوط به وزارت بازرگانی و SEC توسط OpenAI تأیید شد و گفت که به بررسی وضعیت با وزارت آموزش ادامه می دهد.

شرکت سانفرانسیسکو گفت که در هفته‌های اخیر به آژانس‌های دولتی اطلاع داده است که عوامل هوش مصنوعی آن - که ربات‌هایی هستند که می‌توانند به طور مستقل عمل کنند - به روش‌های غیرعادی با سایت‌های آنها تعامل داشته‌اند.

به گفته محققان شرکت تحقیقاتی ترانسلوس، فناوری OpenAI با وزارت آموزش و پرورش تلاش کرد تا وب سایت را برای جمع‌آوری داده‌های دفتر حقوق مدنی این وزارتخانه هک کند، اما موفق نشد.

هوش مصنوعی همچنین داده‌ها را از وب‌سایت اداره سرشماری که در وزارت بازرگانی قرار دارد، با استفاده از اعتبارنامه‌هایی که به صورت آنلاین پیدا کرده بود، استخراج کرد. به طور جداگانه، عوامل OpenAI داده های عمومی را از وب سایت SEC در یک انجمن آنلاین به اشتراک گذاشتند.

OpenAI گفت که هیچ یک از این رویدادها نقض نبودند، بلکه نمونه هایی از رفتار غیرمنتظره و نگران کننده فناوری آن بودند.

این شرکت اخیرا در حین بررسی هک های انجام شده توسط فناوری خود، از جمله حمله به وب سایت دولتی استرالیا در ماه ژوئن و به استارتاپ Hugging Face در ماه جولای، این اتفاقات را کشف کرد.

افشای حوادث وب سایت دولت ایالات متحده به تعداد فزاینده موقعیت هایی می افزاید که در آن عوامل هوش مصنوعی از OpenAI، Anthropic، Meta و Google بدرفتاری کرده و شرکت ها، دانشگاه ها و سازمان های دولتی را هک کرده یا تلاش کرده اند به آنها نفوذ کنند.

در برخی موارد، حملات هوش مصنوعی موفقیت آمیز بود. این فناوری در موارد دیگر شکست خورد. در همه موارد، سازندگان این فناوری تا قبل از آن یاد نگرفتند که هوش مصنوعی آنها چه کار کرده است.

هیچ شرکت هوش مصنوعی به اندازه OpenAI با افشای حوادث سرکش درگیر نشده است.

یک تحقیق داخلی در مورد هک Hugging Face، نقض یک وب سایت دولتی استرالیا برای سیستم بهداشت عمومی آن، و همچنین حداقل شش مورد نقض دیگر و مواردی را که در آن هوش مصنوعی اشتباهات را مخفی کرده، داده ها را ساخته و فایل ها را بدون اجازه به اینترنت باز منتقل می کند، کشف کرد.

یکی از سخنگویان OpenAI گفت که بررسی آن "گسترده" و "در حال انجام" است و به سازمان هایی که تحت تأثیر مدل های آن قرار گرفته اند، اطلاع رسانی خواهد کرد.

او گفت: «بیشتر فعالیت‌هایی که ما تاکنون بررسی کرده‌ایم شامل کارهای تحقیقاتی معمولی، مانند دسترسی به محتوای وب عمومی برای پاسخ دادن به سؤالات بود. برخی از وب‌سایت‌های دولتی درگیر هستند زیرا مدل‌های ما اغلب به آنها به عنوان منابع معتبر اطلاعات عمومی مراجعه می‌کنند.»

سام آلتمن، مدیر اجرایی OpenAI، در یک پست رسانه اجتماعی در 25 سپتامبر گفت که این شرکت در افشای حوادث هوش مصنوعی «آنقدر که ما دوست داشتیم سریع عمل نکرده است».

او گفت: «ما تا جایی که می‌توانیم بر اساس شدت اولویت‌بندی را انجام می‌دهیم» و افزود که نقض صورت در آغوش گرفتن «شدیدترین رویدادی» است که شرکت کشف کرده است.

این اپیزودها به یک بحث بحث برانگیز در مورد ایمنی هوش مصنوعی دامن زده است. آلتمن در ماه سپتامبر در رسانه‌های اجتماعی گفت که ایمنی باید مهم‌تر از افزایش توانایی‌های هوش مصنوعی باشد و بدون حفاظ، جامعه می‌تواند «کنترل آینده را به هوش مصنوعی از دست بدهد».

داریو آمودی، مدیر اجرایی آزمایشگاه هوش مصنوعی رقیب آنتروپیک، همچنین از کاهش سرعت توسعه هوش مصنوعی برای اولویت دادن به ایمنی حمایت کرده است. اما دیگر رهبران فناوری مانند جنسن هوانگ، مدیر اجرایی انویدیا، گفته اند که ترس از هوش مصنوعی غیرقابل کنترل غیرواقعی است.

دونالد ترامپ، رئیس‌جمهور آمریکا گفته است که معتقد نیست که کاهش سرعت در صنعت هوش مصنوعی ضروری است.

نیویورک تایمز از OpenAI و مایکروسافت شکایت کرده و ادعا کرده است که محتوای خبری مربوط به سیستم های هوش مصنوعی را نقض کرده است. این دو شرکت این ادعاها را رد کرده اند.

کاخ سفید سوالاتی را به وزارت بازرگانی و SEC ارجاع داد. سخنگوی SEC گفت این آژانس با OpenAI در تماس است و از هرگونه دسترسی غیرمجاز به اطلاعات غیر عمومی آگاه نیست.

سخنگوی وزارت بازرگانی گفت OpenAI به اطلاعاتی دسترسی پیدا کرده است که در وب‌سایت اداره سرشماری عمومی در دسترس بوده و در دسترس هر کسی است و به هیچ داده خصوصی دسترسی نداشته است.

یک سخنگوی وزارت آموزش گفت که "بررسی عملیات سیستم هیچ شواهدی دال بر تاثیری بر وب سایت یا پایگاه داده ما پیدا نکرده است".

به طور جداگانه، یکی از نمایندگان دفتر شهردار شیکاگو گفت که OpenAI اخیرا به دولت شهر اطلاع داده است که فناوری آن اطلاعات عمومی را از یک وب سایت شهرداری به دست می آورد و به نظر نمی رسد که اطلاعات حساسی به دست آمده باشد.

Conrad Stosz، رئیس مدیریت در Transluce، گفت که در حوادث وب‌سایت دولت ایالات متحده، عوامل OpenAI «از مجموعه‌ای از تاکتیک‌های منطقه خاکستری استفاده کردند، از جمله «اغلب از سایت‌ها به روش‌های ناخواسته استفاده می‌کنند و گاهی اوقات خط‌مشی‌های استفاده صریح را نقض می‌کنند».

وی افزود: این بخشی از الگوی هزاران درخواست این عوامل از این وب‌سایت‌ها است، زیرا ظاهرا محدودیت‌هایی را که توسعه‌دهندگان خود برای آن‌ها اعمال کرده‌اند دور می‌زنند.

تد لیو، نماینده کنگره آمریکا، مدل های هوش مصنوعی را "بی امان" خواند.

او گفت: "بی وقفه تلاش می کند تا یک کار را به پایان برساند و اخلاق و عواقب و بدی و خوبی را درک نمی کند."

لیو، که رئیس مشترک یک کارگروه مجلس نمایندگان متمرکز بر هوش مصنوعی است، گفت که شرکت‌های هوش مصنوعی ممکن است مجبور شوند مدل‌ها را کاملا بازآموزی کنند تا اینکه سعی کنند رفتار خود را با نرده‌های محافظ مهار کنند.

او گفت: «این ماموران در تلاش برای انجام کار زشت نیستند. اینها به نوعی کارهای پیش پا افتاده هستند و ماموران در تلاش برای تکمیل آن وظایف هستند.» NYTIMES

این مقاله در ابتدا در نیویورک تایمز منتشر شد.