OpenAI پس از نفوذ عوامل هوش مصنوعی به سایت های دولتی از استرالیا عذرخواهی می کند

آخرین روز برای نمایش موفقیت خود برای بیش از 10000 رهبر فناوری در 2 اکتبر است. میز نمایشگاه کتاب هم اکنون.

OpenAI روز دوشنبه از دولت استرالیا به دلیل عدم اطلاع فوری به دولت این کشور مبنی بر اینکه عواملش برخی از وب سایت های خدمات عمومی را نقض کرده اند عذرخواهی کرد. این شرکت همچنین نحوه وقوع برخی از این نقض‌ها را توضیح داد و اقدامات بیشتری را برای ارزیابی تأثیر رویدادها در نظر گرفت.

OpenAI در یک پست وبلاگ نوشت: "در ماه ژوئن، در طول آموزش و ارزیابی داخلی، مدل‌های ما به‌گونه‌ای که مجاز نبودند به وب‌سایت‌های دولتی استرالیا دسترسی پیدا کردند. همچنین باید پاسخ خود را بهتر انجام می‌دادیم. متاسفیم و تلاش می‌کنیم تا در آینده بهتر عمل کنیم."

این عذرخواهی تقریبا یک هفته پس از آن صورت می‌گیرد که دولت استرالیا تحقیقاتی را درباره نحوه دسترسی مدل‌های OpenAI به سیستم خدمات استرالیا که حاوی اطلاعات هزینه‌های مدیکر و سایر آمارهای بهداشتی است، آغاز کرد.

این نقض اطلاعات در ماه ژوئن اتفاق افتاد، اما مقامات استرالیا تا 10 سپتامبر مطلع نشدند.

OpenAI همچنین جزئیات نقض را شرح داد. یک مدل آزمایشی که در ماه ژوئن آزمایش می‌کرد، وظیفه تحقیق در مورد هزینه‌های دولت برای داروهای بیماری‌های پوستی در ویکتوریا را بر عهده گرفت. این مدل که قادر به یافتن اطلاعات در مجموعه داده‌های عمومی نبود، راهی برای دسترسی به سیستم داخلی Services Australia، اجرای دستورات، بازیابی فایل‌ها و اعتبارنامه‌ها و حتی نوشتن فایل‌ها پیدا کرد.

این شرکت همچنین گفت که همچنین دریافته است که یکی از مدل‌هایش برای یافتن آمار جرم و جنایت به دفتر آمار جرم و جنایت و ابزار تحقیقات عمومی تحقیقات جرم و جنایت دسترسی داشته است. و، آزمایشگاه متوجه شد که عوامل آن از طریق یک کلید دسترسی آشکار به آژانس اطلاعات بهداشتی ویکتوریا دسترسی پیدا کرده اند تا «پیکربندی گزارش و آمار کل نظرسنجی» را استخراج کنند. OpenAI گفت که نمایندگان آن همچنین آمار کل را از وب سایت موسسه بهداشت و رفاه استرالیا بازیابی کرده اند.

این شرکت گفت که هیچ مدرکی مبنی بر اینکه مدل هایش به سوابق پزشکی یا کیفری افراد دسترسی داشته اند، پیدا نکرده است.

OpenAI نوشت: "گروه ضربت که انتظار می رود کار خود را تا پایان سال تکمیل کند، همچنین اقدامات عملی را توصیه می کند که شرکت های هوش مصنوعی می توانند برای کاهش خطر حوادث مشابه انجام دهند."

OpenAI بلافاصله درخواستی برای اظهار نظر ارسال نکرد.

آنتونی آلبانیز، نخست وزیر استرالیا، این نقض را "غیرقابل قبول" در یک نشست خبری هفته گذشته توصیف کرد و گفت که دولت در حال بررسی اقدامات قانونی احتمالی با هدف جلوگیری از حوادث مشابه در آینده است.

این نقض آخرین مورد در لیست رو به رشد حوادث امنیتی است که عوامل هوش مصنوعی در آن کارهایی خارج از محدوده مورد نظر خود انجام می دهند. پس از هک کردن Hugging Face توسط ماموران OpenAI روشن شد و از آن زمان، Anthropic، Meta و Google به طور جداگانه حوادث مشابهی را افشا کردند که در آن مدل‌های آنها در طی ارزیابی‌ها به سیستم‌های شخص ثالث دسترسی پیدا کردند.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

کیت پارک خبرنگار TechCrunch با تمرکز بر فناوری، استارت آپ ها و سرمایه گذاری خطرپذیر در آسیا است. او قبلا یک روزنامه‌نگار مالی در Mergermarket بود که M&A، سهام خصوصی و سرمایه مخاطره‌آمیز را پوشش می‌داد.

آسترا و اوپوس به تازگی آزمون دیگر تورینگ تیم فرنهولز را پشت سر گذاشتند

اوراکل اخطار فورس ماژور را به مرکز داده New Mexico Stargate خود Aditya Mehta ارسال می کند

متا برای نماینده Muse AI لوکاس روپک یک پوشیدنی شبیه تاماگوچی ساخت

Vogue روبات‌هایی را به باند فرودگاه Vogue World فرستاد و مردم تحت تأثیر دومینیک-مادوری دیویس قرار نگرفتند.

آنتروپیک می گوید که آزمایشگاه زیست شناسی آن قبلا چیزی بزرگ جولی بورت پیدا کرده است

اولین ربات تعویض لاستیک PitPro در شان اوکین کانادا راه اندازی شد