مشکل «هوش مصنوعی سرکش» OpenAI بزرگتر از آن است که به آن اجازه داده شود

پس از هک‌های مرتبط با هوش مصنوعی که از آزمایشگاه‌های مرزی در Anthropic، Google، Meta و OpenAI سرچشمه می‌گیرد، افشاگری‌ها و گزارش‌های جدید نشان می‌دهد که مسائل OpenAI با عوامل شیطان گسترده‌تر از آن چیزی است که شرکت تاکنون در مورد آن صحبت کرده است.

مشکلات OpenAI شامل آزمایشی است که به حمله سایبری به پلتفرم هوش مصنوعی Hugging Face زمانی که انبوهی از مدل‌ها از جعبه ماسه‌بازی فرار کردند و همچنین نفوذ به سیستم مدیکر دولت استرالیا که حاوی داده‌های بهداشتی بود، تشدید شد. (پولیتیکو گزارش داد که OpenAI حدود سه هفته طول کشید تا دولت استرالیا را از طریق یک صندوق ورودی عمومی مطلع کند که منجر به خشمگین شدن وزیران و "آبشار شهرت" در کشور شد.)

روز جمعه، بی‌بی‌سی گزارش داد که این شرکت «ده‌ها» مؤسسه را در سرتاسر جهان از حوادث مطلع کرده است. گزارش‌های دیگر نشان می‌دهند که این موارد از مسائل مربوط به حریم خصوصی گرفته تا حداقل در یک مورد، اقدامات علیه یک سازمان دولتی ایالات متحده که به یک حمله سایبری آشکار نزدیک شده است، را نشان می‌دهد.

رویترز گزارش داد که OpenAI روز جمعه فاش کرد که عوامل آن 53 تصویر کاربر را به اینترنت درز کرده اند. OpenAI از توضیح دادن به رویترز خودداری کرد که آیا این تصاویر مربوط به افراد واقعی هستند یا زمانی که پست شده اند.

این خبرگزاری نوشت: "بیشتر تصاویر فاش شده حذف شده اند و OpenAI گفت که در حال لابی کردن ارائه دهندگان میزبانی برای حذف بقیه است."

منابع به رویترز گفتند که به نظر می‌رسد این تصاویر به داده‌های آموزشی OpenAI وارد شده‌اند، زیرا کاربران انصراف نداده‌اند و فرآیندی که OpenAI برای مدیریت داده‌های کاربران غیرانصرافی استفاده می‌کند ممکن است به اندازه کافی اطلاعات شناسایی را برای اطمینان از ناشناس بودن حذف نکند.

نیویورک تایمز به طور جداگانه جمعه شب گزارش داد که مدل‌های OpenAI با وب‌سایت‌های چندین آژانس فدرال ایالات متحده: وزارت آموزش، وزارت بازرگانی، و کمیسیون بورس و اوراق بهادار، «سرکش و مداخله کردند» (عبارت تایمز).

به گزارش تایمز، محققان در موسسه غیرانتفاعی تحقیقاتی هوش مصنوعی Transluce گفتند که به نظر می رسد مدل های OpenAI را شناسایی کرده اند که سعی در نفوذ به وب سایت اداره حقوق مدنی وزارت آموزش دارند. این موفق نشد.

OpenAI رویدادهای Commerce و SEC را برای تایمز تأیید کرد و گفت که به آن آژانس‌ها اطلاع داده است که مدل‌های آن «به روش‌های غیرعادی با سایت‌هایشان تعامل داشته‌اند» (دوباره، عبارت‌های تایمز). شرکت هوش مصنوعی گفت این حوادث به منزله نقض نبوده و در جریان بررسی های دیگر آنها را کشف کرده است. مدل‌های OpenAI از یک سیستم اداره سرشماری پرس و جو کرده و داده‌ها را با استفاده از اعتبارنامه‌های موجود در اینترنت دانلود کرده بودند، و حادثه SEC شامل ارسال داده‌های عمومی توسط مدل‌ها به یک انجمن آنلاین بود.

نمایندگان هر سه آژانس به تایمز گفتند که هیچ مدرکی در مورد دسترسی غیرعمومی ندارند، یا اینکه هیچ وب سایتی تحت تأثیر قرار گرفته است. مقامات دفتر شهردار شیکاگو یک حادثه جداگانه و مشابه با تایمز را تأیید کردند که این بار همچنین شامل اطلاعات عمومی/غیر حساس در یک وب سایت شهرداری است.

OpenAI به تایمز گفت که در طول "بیشتر فعالیت" که تاکنون بررسی شده است، این مدل ها به سادگی "وظایف تحقیقاتی معمولی، مانند دسترسی به محتوای وب عمومی برای پاسخ به سوالات" را انجام می دهند. این سازمان افزود که برخی از این وظایف مربوط به سازمان های دولتی است، زیرا آنها منابع معتبری هستند.

سام آلتمن، مدیرعامل OpenAI در روز جمعه در توییتی نوشت: «ما تا جایی که می‌توانیم بر اساس شدت اولویت‌بندی می‌کنیم. او افزود که روند افشای اطلاعات "به آن سرعتی که ما می خواستیم نبوده است."

طبق گفته سکیوریتی ویک، بین کارشناسان در مورد اینکه چگونه چکش قانونی در هر تلاشی برای پیگرد قانونی شرکت‌های هوش مصنوعی به خاطر هک‌های عامل ایجاد می‌شود، اتفاق نظر روشنی وجود ندارد. پرسش‌های کلیدی شامل قصد توسعه‌دهندگان، اجرای پادمان‌های معقول و مؤثر و آنچه که هوش مصنوعی واقعا انجام داده است، می‌شود.

جک نلسون، افسر ارشد امنیت اطلاعات ایوانتی و معاون مشاور عمومی، جک نلسون به سکیوریتی ویک گفت: «اگر شما صاحب یک ببر بودید و قفلی روی قفس نگذاشته‌اید، احتمالا ببر کار بدی انجام داده است، اما می‌دانستید که می‌تواند داشته باشد، بنابراین شما مسئول هستید که قفلی روی آن قفس نگذارید. نمی‌دانم که بگویم این مدل‌ها ببرهای بدون قفل هستند یا نه، اما این احتمالا چارچوب مناسبی برای فکر کردن به آن است.