اعمال کثیف OpenAI Down Under شامل تلاش‌های دور زدن امنیتی، استفاده از کلیدهای در معرض، سیفون کد منبع

OpenAI در یک پست وبلاگی با عنوان چگونه برای استرالیا بهتر عمل خواهیم کرد که به اخبار هفته گذشته مبنی بر دسترسی نادرست یکی از مدل‌هایش به وب‌سایتی که داده‌های مربوط به طرح ملی سلامت Medicare را ذخیره می‌کند، می‌پردازد، میزان اعمال کثیفی را که مامورانش مرتکب شده‌اند، شرح داده است. این پست باز می‌شود: «مدل‌های ما از راه‌هایی به وب‌سایت‌های دولتی استرالیا دسترسی داشتند که مجاز نبودند». ما همچنین باید پاسخ خود را بهتر مدیریت می کردیم.

ما متاسفیم و برای بهتر شدن در آینده تلاش می کنیم.» این پست جزئیات جدیدی را در مورد حادثه Medicare ارائه می‌کند و می‌گوید که شامل «یک مدل آزمایشی و داخلی OpenAI است که برای انتشار عمومی و بدون مجموعه کامل حفاظت‌های مورد استفاده در محصولات در دسترس عموم ما در نظر گرفته نشده است». OpenAI به این مدل وظیفه تحقیق در مورد هزینه های دولت برای هر نفر برای داروهای بیماری های پوستی در یکی از ایالت های استرالیا را داد. OpenAI اعتراف کرد: «مدل در به دست آوردن این اطلاعات با مشکل مواجه بود و اقداماتی را انجام داد که ما به آن اجازه انجام آن را نداده بودیم».

"در جریان جستجوی این اطلاعات در سرویس گزارش‌دهی آمار مدیکر استرالیا، راهی برای دسترسی غیرعمومی به این سرویس کشف کرد. سپس از این دسترسی برای بررسی اطلاعات فنی سیستم و کد منبع مرتبط با سرویس استفاده کرد - همه هنوز با هدف تلاش برای یافتن اطلاعاتی که در ابتدا به دنبال آن بود." رجیستر هفته گذشته از OpenAI پرسید که آیا شرکت آزمایشات را خودش انجام داده یا از شریکی استفاده کرده است. این شرکت به درخواست ما پاسخ نداد.

در حادثه دیگری که در پست جدید فاش شد، ربات‌های این شرکت از موسسه بهداشت و رفاه استرالیا بازدید کردند و تلاش کردند، کنترل‌های دسترسی را دور بزنند، ناموفق. نمایندگان همچنان می‌توانستند آمار را با استفاده از خدمات مرور و دانلود شخص ثالث، از جمله از وب‌سایت مؤسسه، بازیابی کنند. OpenAI نوشت: "به نظر می رسد که مطالب دانلود شده به صورت عمومی در دسترس بوده است. هیچ مشکلی در سیستم وجود ندارد. سوابق پزشکی فردی قابل دسترسی نبود."

این شرکت این حادثه را گزارش نکرد زیرا "آستانه های افشای ما را برآورده نمی کرد زیرا نحوه دسترسی به آن مطابق با دسترسی عمومی به نظر می رسید." OpenAI نظر خود را تغییر داد و در 24 سپتامبر - روزی که نخست وزیر استرالیا از حادثه Medicare خبر داد، به موسسه اطلاع داد. حادثه نگران‌کننده دیگری در آژانس اطلاعات بهداشتی ایالت ویکتوریا رخ داد، که ماموران OpenAI پس از "کشف کلید دسترسی در معرض دید" از آن بازدید کردند. عامل از این کلید برای "بازیابی پیکربندی گزارش و آمار جمع آوری نظرسنجی" استفاده کرد. OpenAI به خود مجوز t را داده است

او نوشت: «میزان دسترسی به این اطلاعات نامشخص است و به سیاست‌های دسترسی VAHI بستگی دارد. سوابق پزشکی فردی یا پاسخ‌های نظرسنجی قابل شناسایی دسترسی نداشتند.» چهارمین اتفاقی که در این پست فاش شد، مشاهده شد که ماموران OpenAI از اداره آمار و تحقیقات جنایی در ایالت نیو ساوت ولز بازدید کردند و با استفاده از ابزار تحقیقاتی عمومی، درخواست‌های API و ابرداده وب‌سایت را انجام دادند. OpenAI قول داده است که «منابع مورد نیاز را برای کمک به سازمان‌های آسیب‌دیده برای درک آنچه اتفاق افتاده و ارزیابی تأثیر» متعهد می‌کند - هر چه که باشد.

همچنین اعتباراتی را برای سرویس دفاع سایبری Daybreak اهدا می‌کند و قول داده است «یک گروه کاری با تخصص مستقل استرالیایی برای توسعه توصیه‌های سیاست عملی برای مدیریت ریسک‌ها از سوی عوامل هوش مصنوعی که به طور فزاینده‌ای توانمند هستند، ایجاد کند». این کارگروه «روی بهبود فرآیندهای اطلاع رسانی، تقویت هماهنگی بین توسعه دهندگان هوش مصنوعی و دولت، و شناسایی اقدامات برای محافظت بهتر از سیستم های دولتی تمرکز خواهد کرد». OpenAI می خواهد که کارگروه توصیه هایی را تا پایان سال 2026 ارائه کند.

این پست بیشتر مربوط به ژانر «ما متاسفیم و قول می‌دهیم در آینده بهتر عمل کنیم» است، که توسط متا پیشگام است و در میان نهادهایی که داده‌ها را درز می‌کنند یا با قطعی مواجه می‌شوند محبوب است. رجیستر انتظار دارد در هفته آینده، زمانی که مدیر ارشد استراتژی OpenAI، جیسون کوون، در مقابل کمیته منتخب مشترک سنای استرالیا در مورد هوش مصنوعی ظاهر شود، احساسات مشابهی بیشتر شود. OpenAI می‌گوید: «او به سؤالاتی درباره آنچه می‌دانیم، چگونه پاسخ دادیم، چه قدم‌هایی برداشته‌ایم، و چگونه در آینده بهتر عمل خواهیم کرد، پاسخ خواهد داد. ®