آلبانیز می‌گوید OpenAI وب‌سایت بهداشتی دولتی را با نقض "بدیهی غیرقابل قبول" هک کرد

نخست وزیر آنتونی آلبانیز در حالی که به خالق ChatGPT در مورد نقض "بدیهی غیرقابل قبول" هشدار داد، گفت: یک مدل سرکش OpenAI در طول آموزش، پادمان ها را دور زد و یک وب سایت دولتی استرالیا را هک کرد. زنگ هشدار را با دولت استرالیا به صدا در نیاورید تا اینکه در سپتامبر، زمانی که دولت استرالیا پیامی به صندوق ورودی ایمیل عمومی ارسال کرد که فقط یک بار در روز بررسی می شود. جهانی نگران قدرت تبلیغات است.

ابزارهای هوش مصنوعی anced پس از یک رشته حوادث هک شامل مدل‌هایی از OpenAI و توسعه‌دهنده رقیب Anthropic در حال افزایش هستند." اصلا هیچ اعلانی وجود داشت و این اعلان ایمیلی بود که فقط به صندوق پستی عمومی ارسال می شد." ابزار هوش مصنوعی به فایل های عمومی و غیر عمومی میزبانی شده در یک

وب‌سایت قدیمی آمار بهداشتی. آلبانیز گفت «هیچ مدرکی» وجود ندارد که به اطلاعات شخصی دسترسی داشته باشد و سایر خدمات دولتی به خطر نیفتد. با این وجود، این وضعیت بدیهی است غیرقابل قبول است.» این نقض در ژوئن رخ داد، زیرا شرکت پیشرو هوش مصنوعی OpenAI تمرین‌های آموزشی را برای رتبه‌بندی عملکرد مدل‌های هوش مصنوعی انجام داد. این مدل از این مدل خواسته بود تا اینترنت را در اینترنت بررسی کند تا اطلاعاتی را به دولت استرالیا نشان دهد. به خبرنگاران گفت.OpenAI گفت که تا اوت این فعالیت سرکش را مشاهده نکرده است.

وقتی ابزار هوش مصنوعی را بررسی کرد. ترس هوش مصنوعی سرکش شرکت مستقر در سانفرانسیسکو تا 10 سپتامبر به دولت استرالیا هشدار نداد تا زمانی که ایمیلی را به صندوق ورودی عمومی دولتی ارسال کرد." گالاگر گفت: "آدرس ایمیل یک بار در روز بررسی می شود."

گاهی اوقات تعدادی اعلان‌ها دریافت می‌کند، گاهی اوقات بسیاری از آنها حقه‌بازی هستند." وزیر دفاع ریچارد مارلز گفت که مدل هوش مصنوعی "حصار را افزایش داده است." "این یک سوال پرسیده است، اطلاعات داده نشده است و به جای خروج از آن نقطه، از حصار عبور کرده است." استرالیا یک بررسی سریع از این حادثه را آغاز کرده است که شامل آژانس اطلاعات ملی نیز می‌شود که مسئولیت انجام یک نقطه AI را دارد. «بررسی گسترده» مدل‌های هوش مصنوعی آن.» در طول این بررسی، فعالیت‌هایی را شناسایی کردیم که شامل چندین وب‌سایت و خدمات دولتی استرالیا می‌شد.

همانطور که مدل‌های ما سعی کردند در طی یک ارزیابی داخلی پاسخ‌ها و آمارهای موجود را برای سؤالات مربوط به استرالیا جستجو کنند.» شرکت گفت: «در جریان آن، مدل‌های ما اقداماتی را انجام دادند که ما قصد آن را نداشتیم. آلتمن و دیگر مدیران عامل فناوری روز چهارشنبه در جلسه ویژه شورای امنیت سازمان ملل درباره خطرات هوش مصنوعی سخنرانی کردند. بیش از 100 سازمان در سراسر جهان، از جمله امضای نامه‌ای باز برای OpenAI و Anthropic در ماه گذشته. دفاع سایبری" در برابر تهدیدات امنیت سایبری مبتنی بر هوش مصنوعی. این پس از فرار دو مدل OpenAI از یک محیط آزمایش بسته منتشر شد.

به سیستم‌های داخلی Hugging Face، سایتی که توسعه‌دهندگان هوش مصنوعی از آن برای ذخیره و اشتراک‌گذاری کد استفاده می‌کنند، نفوذ کرد. آنتروپیک اخیرا متوجه شد که مدل‌های آن در طول آزمایش به سه سازمان ناشناس دسترسی غیرمجاز پیدا کرده‌اند که قرار بود آنها را از سیستم‌های «دنیای واقعی» دور نگه دارد. مدل هوش مصنوعی مصرف‌کننده Google هفته گذشته سیستم‌های متعددی را از طریق شرکت Gemini هک کرد.