"عامل" OpenAI یک وب سایت خدمات بهداشت عمومی استرالیا را هک کرد

یک "عامل" OpenAI یک وب سایت خدمات بهداشت عمومی استرالیا را در آخرین حادثه سایبری پرمخاطب هک کرد که احتمالا اعتراض جهانی را در مورد خطرات ربات های هوش مصنوعی در سراسر اینترنت تشدید می کند.

نخست‌وزیر استرالیا، آنتونی آلبانیز، روز چهارشنبه گفت که یک مامور از آزمایشگاه هوش مصنوعی در ماه ژوئن به پورتال خدمات گزارش‌دهی آمار مدیکر نفوذ کرده و به فایل‌های عمومی و غیرعمومی دسترسی پیدا کرده است.

OpenAI گفت که این مشکل را تنها در ماه آگوست، ماه‌ها پس از وقوع نقض، شناسایی کرده و آن را به دولت استرالیا گزارش کرده است. آلبانیز گفت که OpenAI ابتدا یک صندوق پستی عمومی را در 10 سپتامبر ایمیل کرد و پنج روز دیگر طول کشید تا به بخش سایبری کشور برسد.

آلبانیز گفت: «این وضعیت بدیهی است غیرقابل قبول است. او با سام آلتمن، مدیر اجرایی، روز چهارشنبه در نیویورک ملاقات کرد تا در مورد این موضوع صحبت کند، جایی که داریو آمودی، رئیس OpenAI و Anthropic، در مورد خطرات هوش مصنوعی به شورای امنیت سازمان ملل ارائه کردند.

اولین گزارش علنی هک یک وب سایت دولتی توسط یک "عامل" - ربات هایی که می توانند وظایف پیچیده را به طور مستقل بر اساس دستورالعمل های انسانی انجام دهند - احتمالا این نگرانی را افزایش می دهد که پیشرفت های فناوری به سرعت به نقطه ای می رسد که هوش مصنوعی از کنترل انسان خارج می شود.

OpenAI گفت عاملی که مدیکر را نقض کرده است "اقداماتی را انجام داد که ما قصد نداشتیم". این مشکل را در جریان بررسی رفتار نمایندگان خود در تمرینات آموزشی داخلی که پس از هک کردن استارت آپ Hugging Face توسط عواملش در اواخر جولای راه اندازی شد، متوجه شد.

حادثه Hugging Face، که OpenAI بیش از یک هفته طول کشید تا شناسایی شود، صدها عامل را درگیر کرد که به طور مخفیانه در سیستم آزمایشگاه سازماندهی شدند، به اینترنت دسترسی پیدا کردند و در حالی که تلاش می کردند یک تست امنیت سایبری را کامل کنند، وارد استارت آپ شدند.

این هک باعث بررسی جهانی مسائل ایمنی هوش مصنوعی شد، که زمانی تشدید شد که محقق Anthropic Jacob Coxon در اوایل این ماه با هشدارهای جدی درباره مدل‌های پیشرفته که بشریت را نابود می‌کنند، استعفا داد.

آلبانیز گفت که اداره سیگنال های استرالیا، آژانس اطلاعات سیگنال، در تحقیقاتی از جمله تعیین اینکه "سیستم های دولتی دیگر تحت تاثیر قرار گرفته اند" مشارکت داشته است.

او گفت: «شواهدی که در حال حاضر در دسترس است نشان می‌دهد که هیچ سازش گسترده‌تری برای شبکه خدمات استرالیا وجود ندارد،» و افزود: «به نظر می‌رسد به هیچ اطلاعات شخصی دسترسی نداشته باشد».

پورتال آمار Medicare داده هایی را در مورد طرح بیمه سلامت همگانی خود، مانند نرخ صورتحساب و هزینه و استفاده از داروها منتشر می کند.

OpenAI گفت: «ما فعالیت‌هایی را شناسایی کردیم که شامل چندین وب‌سایت و خدمات دولتی استرالیا می‌شد، زیرا مدل‌های ما سعی می‌کردند پاسخ‌ها و آمارهای موجود برای سؤالات استرالیا را طی یک ارزیابی داخلی جستجو کنند».

ریچارد مارلز، وزیر دفاع و معاون نخست‌وزیر استرالیا، به خبرنگاران گفت که چندین سیستم در سطح ایالتی و فدرال، از جمله آمار بهداشت و جرم و جنایت، مورد دسترسی قرار گرفته‌اند. او آن را "یک حادثه بسیار جدی" توصیف کرد، اما تاثیر آن "نسبتا جزئی" بود.

مارلز، در پاسخ به این سوال که آیا استرالیا به دنبال شکایت یا مجازات OpenAI است یا خیر، گفت که دولت به دنبال مشاوره در مورد اینکه آیا قوانین نقض شده است یا خیر.

او به شبکه تلویزیونی ABC گفت: «ما بررسی خواهیم کرد که وضعیت حقوقی در این زمینه چیست و به چه معناست که دسترسی غیرمجاز، هرچند به شکلی ناخواسته، به دست آمده است.

این افشاگری ساعاتی پس از آن صورت گرفت که روسای هوش مصنوعی به شورای امنیت سازمان ملل ارائه کردند و خواستار همکاری جهانی بیشتر برای رسیدگی به مسائل ایمنی شدند.

آمودی از سازمان ملل خواست تا توافق‌های بین‌المللی «محدود» را که «هر عضو می‌تواند از آن حمایت کند» در مورد ایمنی هوش مصنوعی، مانند ممنوعیت استفاده از مدل‌ها برای ساخت سلاح‌های بیولوژیکی، دنبال کند.

او هشدار داد که این امکان وجود دارد که هوش مصنوعی فراری بتواند بشریت را تهدید کند و این فناوری را "مهم ترین مسئله امنیتی جهانی که جهان امروز با آن مواجه است" خواند.

با این حال، درخواست ها برای استانداردهای بین المللی توسط دولت ترامپ رد شده است. مایکل کراتسیوس، مشاور کاخ سفید به شورای امنیت گفت که ایالات متحده "به طور کامل هرگونه تلاش برای ایجاد یک طرح جهانی کنترل ابراطلاعات را رد می کند."

آمودی و آلتمن، به همراه ایلان ماسک، از کاهش سرعت صنعت هماهنگ توسعه مدل مرزی و سایر اقدامات ایمنی حمایت کرده‌اند و خطرات «خودبهبودی بازگشتی» را که در آن هوش مصنوعی برای آموزش مدل‌ها استفاده می‌شود، برجسته کرده‌اند.

اما دیگر رهبران فناوری، از جمله جنسن هوانگ از انویدیا و مارک زاکربرگ از متا، گفته‌اند که مسئولیت ایمنی بر عهده شرکت‌های فردی است.

آلتمن روز چهارشنبه گفت که حتی خطر کوچک از دست رفتن فاجعه‌آمیز هوش مصنوعی «از راه دور قابل قبول» نیست. وی افزود: ما نباید الگوهایی را تربیت کنیم که نتوانیم یک مورد بسیار قوی بسازیم که بتوانیم آنها را تحت کنترل انسان نگه داریم. – حق چاپ The Financial Times Limited 2026

هیو لینهان: آخرالزمان هوش مصنوعی چه کسی را باید باور کنیم؟