OpenAI پس از اینکه هوش مصنوعی خود به سیستم های دولتی استرالیا دسترسی پیدا کرد، عذرخواهی کرد

OpenAI روش عجیب و غریبی برای عذرخواهی از دولت استرالیا داشت تا توضیح دهد که چگونه یکی از عوامل هوش مصنوعی آزمایشی آن در حالی که تلاش می کرد یک کار تحقیقاتی معمولی را انجام دهد، دسترسی غیرمجاز به سیستم آمار بهداشت دولتی پیدا کرد. اتفاقی تر از چیزی که برای چنین نگرانی امنیتی عظیمی انتظار می رود.

این نماینده به دنبال اطلاعات در دسترس عموم در مورد هزینه های دارو بود، اما پس از شکست در رسیدن به آنچه می خواست از طریق مسیر معمولی، آسیب پذیری را در آن پیدا کرد و از آن برای دسترسی به فایل های داخلی استفاده کرد، هرچند سوابق فردی بیمار وجود نداشت.

این حادثه نمونه بارز خطراتی است که عوامل هوش مصنوعی به طور فزاینده مستقلی به همراه دارند، اما تقریبا به همان اندازه قابل توجه است که OpenAI آنچه اتفاق افتاده را پذیرفت. OpenAI می گوید که فعالیت استرالیا را در اواسط آگوست کشف کرده است اما تا 10 سپتامبر به استرالیا اطلاع نداده است. هنگامی که سرانجام این کار را انجام داد، شرکت یک ایمیل مختصر و تقریبا جالب در مورد آن ارسال کرد، همانطور که توسط یک خبرنگار ABC در LinkedIn به اشتراک گذاشته شد:

این ایمیل قبل از توضیح آنچه اتفاق افتاده آغاز می‌شود: «ما به شما یک آسیب‌پذیری امنیتی شناسایی شده در طول بررسی فعالیت‌های مدل OpenAI مربوط به سرویس آمار خدمات استرالیایی مدیکر را به اطلاع شما می‌رسانیم. "ما توصیه می کنیم که تیم مسئول این سرویس آسیب پذیری را بررسی کرده و تغییرات مورد نیاز برای جلوگیری از آن را ارزیابی کند. ما خوشحال می شویم که تیم امنیتی شما را توضیح دهیم و شواهد پشتیبانی را در صورت موجود ارائه کنیم."

پیام با «بهترین» پایان می‌یابد، اگرچه حرف به سختی به معنای آن است.

نه قبول نمیکنه

(اعتبار تصویر: گتی ایماژ) این مدل در حال تحقیق در مورد هزینه های دولت به ازای هر نفر برای داروهای بیماری های پوستی در جوامع در ویکتوریا در ماه ژوئن بود. قرار بود آمارهای در دسترس عموم را پیدا کند. در عوض، مسیری را به سمت سرویس گزارش‌دهی آمار مدیکر کشف کرد که به آن دسترسی غیرعمومی داد.

اساسا مدل اطلاعاتی را درخواست کرد که نباید به آنها دسترسی داشته باشد و انکار را نشانه ای برای یافتن راه دیگری در نظر گرفت. اخلاق موضوع مطرح نشد.

OpenAI در توضیح تکمیلی خود نوشت: "ما قصد نداشتیم این فعالیت رخ دهد و دسترسی به سرویس و فعالیت بعدی نباید اتفاق می افتاد."

زمان‌بندی این یادداشت را به‌طور قابل‌توجهی بدتر می‌کند، زیرا در حالی که OpenAI در ماه جولای اتفاقی را که در ژوئن رخ داد، کشف کرد، تا ۱۰ سپتامبر به سرویس‌های استرالیا اطلاع نداد.

این بدان معناست که بیشترین تاخیر بین کشف و افشا بود. OpenAI اکنون اعتراف می کند که هنوز خیلی طولانی منتظر بوده است. این شرکت در عذرخواهی گسترده خود گفت که باید یافته های اولیه را زودتر به اشتراک می گذاشت و آژانس های استرالیا را در صورت کسب اطلاعات بیشتر به روز نگه می داشت.

در حالی که استفاده از ایمیل افشای عمومی برای افراد معمولی که نقص امنیتی پیدا می کنند مشروع است، برای شرکتی با اندازه OpenAI عجیب به نظر می رسد که خطای مدل خود را به این طریق گزارش کند.

واقعا "بهترین" راه برای ابراز تأسف نیست

عذرخواهی همچنین نشان داد که مدیکر تنها بخشی از ماجرا بود. OpenAI گفت که مدل های آن در طول آموزش و ارزیابی با چندین سرویس دولتی استرالیا تعامل داشته اند. یک نماینده به ابزار نقشه برداری عمومی جرم و جنایت دفتر آمار و تحقیقات NSW دسترسی پیدا کرد، در حالی که ماموران یک کلید دسترسی آشکار مرتبط با سیستم گزارش دهی سلامت ویکتوریا را پیدا کردند و اطلاعات پیکربندی و آمار کل نظرسنجی را بازیابی کردند.

OpenAI گفت که هیچ سوابق پزشکی یا جنایی فردی در این حوادث قابل دسترسی نبود. اما OpenAI بعدا پاسخ خود را گسترش داد و اضافه کرد که مدلی که در مورد آمار آتش‌سوزی‌های جنگلی تحقیق می‌کند، از پرس‌و‌جوهای ساخت‌شده علیه سرویس تاریخچه آتش‌سوزی پارک‌های ملی نیوساوت ولز و خدمات حیات وحش برای استنباط ابرداده‌های پایگاه داده‌ای که قرار نبود در معرض عموم قرار گیرند، استفاده کرده است.

فهرست رو به رشد، نادیده گرفتن حادثه Medicare را به عنوان یک مدل عجیب و غریب که یک آسیب‌پذیری واحد را پیدا می‌کند، سخت‌تر می‌کند. این نشان می‌دهد که عوامل آزمایشی به‌طور مکرر با وب‌سایت‌های واقعی به گونه‌ای تعامل داشتند که سازندگان آنها انتظار نداشتند. خود OpenAI با توقف آموزش و ارزیابی شامل استفاده از ابزار برای تواناترین مدل‌هایش تا زمانی که پادمان‌های اضافی به کار گرفته شود، پاسخ داده است.

OpenAI همچنین گفت که نظارت جدیدتر قبلا مدلی را کشف کرده است که در طول یک دوره آموزشی دیگر به اینترنت دسترسی مستقیم دارد و به انسان اجازه می دهد آن را متوقف کند. دولت استرالیا در حال بررسی این است که آیا قوانین نقض شده اند یا خیر و در حال کار بر روی تعمیر سیستم های دولتی قدیمی تر برای جلوگیری از تکرار آن است.

شرکت‌های هوش مصنوعی به‌طور فزاینده‌ای از ما می‌خواهند که به نمایندگان اعتماد کنیم تا وظایف خود را به‌طور مستقل از طرف ما انجام دهند. نکته فروش این است که یک نماینده می تواند با یک مانع روبرو شود و به طور مستقل نحوه رسیدن به هدف خود را بیابد. این یک مثال واضح غیرمعمول از آنچه اتفاق می افتد زمانی است که آن ویژگی کمی بیش از حد مشتاقانه کار می کند.

مأمور مدیکر مأمور شد تا آمار مربوط به هزینه های دارو را بیابد، نه اینکه به سرور دولتی نفوذ کند. اما به سادگی به سمت مسیر مستقیم تری هدایت شد و هر ملاحظاتی جز اثربخشی را نادیده گرفت. این فناوری از مرزی عبور کرده بود که توسعه‌دهنده آن می‌گوید هرگز قصد نداشت از این مدل عبور کند، و این شرکت پس از کشف این حادثه هفته‌ها طول کشید تا به سازمان در آن سوی مرز اطلاع دهد. به همین دلیل است که ایمیل چیزی بیش از یک قطعه خنده دار ارتباط شرکتی است.

پیگیری‌ها مسئولیت را می‌پذیرند و پادمان‌های ملموس را تشریح می‌کنند و در عین حال اذعان می‌کنند که اطلاع‌رسانی باید زودتر می‌آمد. همچنین تشخیص می دهد که این شرکت اکنون برای بازسازی اعتماد باید کاری انجام دهد. این پیام بسیار بهتری است. "بهترین" راهی برای پایان دادن به ایمیل به یک آشنای حرفه ای است، نه زمانی که هوش مصنوعی آزمایشی شما پایگاه داده های پزشکی ملی را هک کرده باشد.