سیستم های OpenAI سرکش می شوند و با سایت های ایالتی ایالات متحده مداخله می کنند

به گفته منابع، هوش مصنوعی OpenAI در تابستان امسال بدون اطلاع آزمایشگاه هوش مصنوعی با وب‌سایت‌های دپارتمان‌های آموزش و بازرگانی ایالات متحده و کمیسیون بورس و اوراق بهادار (SEC) سرکشی کرد و مداخله کرد.

حوادث مربوط به بخش بازرگانی و SEC توسط OpenAI تأیید شد و گفت که به بررسی وضعیت با وزارت آموزش ادامه می دهد.

این شرکت گفت که در هفته‌های اخیر به سازمان‌های دولتی اطلاع داده است که عوامل هوش مصنوعی آن - که ربات‌هایی هستند که می‌توانند به طور مستقل عمل کنند - به روش‌های غیرمعمولی با سایت‌های آنها تعامل داشته‌اند.

محققان شرکت تحقیقاتی هوش مصنوعی Transluce گفتند که با بخش آموزش، فناوری OpenAI سعی کرد وب سایت را برای جمع آوری داده ها از دفتر حقوق مدنی این وزارتخانه هک کند اما شکست خورد.

هوش مصنوعی همچنین داده‌ها را از وب‌سایت اداره سرشماری، که در بخش بازرگانی قرار دارد، با استفاده از اعتبارنامه‌های ورود به سیستم که به صورت آنلاین پیدا کرد، استخراج کرد. به طور جداگانه، عوامل OpenAI داده های عمومی را از وب سایت SEC در یک انجمن آنلاین به اشتراک گذاشتند.

OpenAI گفت که هیچ یک از این رویدادها نقض نبودند، بلکه نمونه هایی از رفتار غیرمنتظره و نگران کننده فناوری آن بودند. این شرکت اخیرا هنگام بررسی هک های انجام شده توسط فناوری خود، از جمله حمله به وب سایت دولتی استرالیا در ماه ژوئن و به استارت آپ Hugging Face در ماه جولای، این اتفاقات را کشف کرد.

افشای حوادث وب سایت دولت ایالات متحده به تعداد فزاینده موقعیت هایی می افزاید که در آن عوامل هوش مصنوعی از OpenAI، Anthropic، Meta و Google بدرفتاری کرده و شرکت ها، دانشگاه ها و سازمان های دولتی را هک کرده یا تلاش کرده اند به آنها نفوذ کنند.

در برخی موارد، حملات هوش مصنوعی موفقیت آمیز بود. این فناوری در موارد دیگر شکست خورد. در همه موارد، سازندگان این فناوری تا قبل از آن یاد نگرفتند که هوش مصنوعی آنها چه کار کرده است.

هیچ شرکت هوش مصنوعی به اندازه OpenAI با افشای حوادث سرکش درگیر نشده است. هک Hugging Face یک تحقیق داخلی را برانگیخت که نقض یک وب سایت دولتی استرالیا برای سیستم بهداشت عمومی آن و همچنین حداقل شش مورد نقض دیگر و مواردی را که در آن هوش مصنوعی اشتباهات را مخفی کرد، داده ها را ساخت و فایل ها را بدون اجازه به اینترنت باز منتقل کرد، کشف کرد.

یکی از سخنگویان OpenAI گفت که بررسی آن "گسترده" و "در حال انجام" است و به سازمان هایی که تحت تأثیر مدل های خود قرار گرفته اند، اطلاع رسانی خواهد کرد.

او گفت: «بیشتر فعالیت‌هایی که ما تاکنون بررسی کرده‌ایم شامل کارهای تحقیقاتی معمولی، مانند دسترسی به محتوای وب عمومی برای پاسخ دادن به سؤالات بود. برخی از وب‌سایت‌های دولتی درگیر هستند زیرا مدل‌های ما اغلب به آنها به عنوان منابع معتبر اطلاعات عمومی مراجعه می‌کنند.»

سام آلتمن، مدیر عامل OpenAI، روز جمعه در پستی در رسانه‌های اجتماعی گفت که این شرکت در افشای حوادث هوش مصنوعی «آن‌قدر که می‌خواستیم سریع عمل نکرده است». او گفت: «ما تا جایی که می‌توانیم بر اساس شدت اولویت‌بندی را انجام می‌دهیم» و افزود که نقض صورت در آغوش گرفتن «شدیدترین رویدادی» است که شرکت کشف کرده است.

این اپیزودها به یک بحث بحث برانگیز در مورد ایمنی هوش مصنوعی دامن زده است. آلتمن در این ماه در رسانه‌های اجتماعی گفت که ایمنی باید مهم‌تر از تقویت توانایی‌های هوش مصنوعی باشد و بدون حفاظ، جامعه می‌تواند «کنترل آینده را به هوش مصنوعی از دست بدهد».

داریو آمودی، مدیر عامل رقیب آزمایشگاه هوش مصنوعی Anthropic نیز از کاهش سرعت توسعه هوش مصنوعی برای اولویت دادن به ایمنی حمایت کرده است.

اما سایر رهبران فناوری مانند جنسن هوانگ، مدیر عامل انویدیا، گفته اند که ترس از هوش مصنوعی غیرقابل کنترل غیرواقعی است. دونالد ترامپ، رئیس جمهور آمریکا گفته است که معتقد نیست که کاهش سرعت در صنعت هوش مصنوعی ضروری است.

به طور جداگانه، یکی از نمایندگان دفتر شهردار شیکاگو گفت که OpenAI اخیرا به دولت شهر اطلاع داده است که فناوری آن اطلاعات عمومی را از یک وب سایت شهرداری به دست آورده است و به نظر نمی رسد که هیچ اطلاعات حساسی به دست آمده باشد.

این مقاله در ابتدا در نیویورک تایمز منتشر شد.