OpenAI برای توقف آموزش برخی مدل ها

OpenAI آموزش جدیدترین مدل‌های هوش مصنوعی خود را متوقف کرده است زیرا گزارش‌هایی مبنی بر «سرکش رفتن» آن‌ها از جمله حمله سایبری به پلتفرم هوش مصنوعی Hugging Face، سایر حملات به اشخاص ثالث ناشی از آزمایش‌های امنیتی، و ماموران آن در جستجوی وب‌سایت‌های دولتی و حداقل در یک مورد، تلاش برای نفوذ به داخل آن، متوقف شده است.

آسوشیتدپرس عصر شنبه گزارش داد که OpenAI در بیانیه‌ای این توقف را تصدیق کرد و نوشت که آموزش مدل‌ها را «فقط زمانی از سر می‌گیرد که مطمئن باشیم که محافظ‌های بیشتری داریم» و انتظار داریم دوباره «مکث» کنیم.

در حوادث مربوط به آژانس های دولتی ایالات متحده - وزارت آموزش، وزارت بازرگانی، و کمیسیون بورس و اوراق بهادار - سخنگویان دولت هرگونه تأثیر قابل توجهی را رد کرده اند. محققان شرکت امنیتی Transluce حوادث متعددی را که در آن مدل‌های OpenAI به طور تهاجمی وب‌سایت‌ها را برای کسب اطلاعات جستجو می‌کردند، برجسته کرده‌اند و افزودند که در نمونه آموزش، مدل‌ها تلاش ابتدایی برای نفوذ به وب‌سایت دفتر حقوق مدنی این وزارتخانه انجام دادند.

یک رشته جداگانه از حوادث مربوط به دولت استرالیا و برنامه مدیکر آن شامل نفوذ و دسترسی غیرمجاز توسط عوامل OpenAI بود. سیاستمداران خشمگین استرالیایی از سام آلتمن، مدیر عامل OpenAI و داریو آمودی، مدیر عامل آنتروپیک خواسته اند که شخصا برای تحقیقات قانونی حضور یابند. به گزارش رویترز، OpenAI همچنین اذعان کرد که مدل‌های آن 53 تصویر کاربر را در اینترنت آپلود کرده‌اند و در مورد اثربخشی فرآیندهای ناشناس‌سازی داده‌ها اختلاف نظر داخلی وجود داشته است.

کارشناسان امنیت سایبری و حقوقی عموما موافق هستند - و رهبران هوش مصنوعی نگران هستند - که توسعه دهندگان می توانند و باید در قبال عملکرد مدل های خود پاسخگو باشند. با توجه به سکیوریتی ویک، کارشناسان همچنین می گویند که تعقیب قضایی ممکن است برای اثبات اینکه شرکت های هوش مصنوعی یا کارمندان آنها چنان بی پروا عمل کرده اند که مسئولیت کیفری داشته باشند، با یک نبرد دشوار روبرو شود.

به گفته الکس کارپ، مدیرعامل Palantir که شرکتش با توسعه دهندگان هوش مصنوعی متعددی شراکت دارد، مسئولیت مدنی به تنهایی می تواند یک تهدید وجودی برای صنعت باشد. او در اوایل این ماه در یک حضور در CNBC استدلال کرد که روند فعلی «ایمنی هوش مصنوعی» نسبت به شرکت‌های هوش مصنوعی که مسئولیت‌های بالقوه‌ای را که ممکن است با گسترش فناوری‌شان در کل اقتصاد با آن مواجه شوند، حساب کنند، کمتر با ایمنی ارتباط دارد.

همانطور که آسوشیتدپرس اشاره کرد، رئیس جمهور دونالد ترامپ این هفته بخشی از وقت خود را با شی جین پینگ، رئیس جمهور چین ملاقات کرد و در مورد ایمنی هوش مصنوعی هماهنگی کرد. با این حال، ترامپ پس از آن رد کرد که ایالات متحده «ترمز می‌کند» و افزود که «آنها» نامشخص می‌خواهند «پیشرفت ما را متوقف کنند، زیرا ما چین را تا حد زیادی پیشروی می‌کنیم و به همین منوال ادامه می‌دهیم».

OpenAI بلافاصله به درخواست نظر Gizmodo پاسخ نداد. با این حال، اگر و زمانی که پاسخی شنیدیم، این پست را به روز خواهیم کرد.