OpenAI از تحقیقات استرالیا در مورد نقض ها پشیمان است، اما با غیبت آلتمن از انعکاس کامل عمومی جلوگیری می کند.

مدیر ارشد استراتژی OpenAI، جیسون کوون، در کمیته منتخب مشترک هوش مصنوعی در سیدنی، استرالیا، در 6 اکتبر شرکت می کند.

سیدنی - در یک اتاق استماع پارلمان در سیدنی در 6 اکتبر، مدیر ارشد استراتژی OpenAI هیچ وقت را برای ارائه پیامی که از ایالات متحده پرواز کرده بود تا به سیاستمداران استرالیا - و عموم مردم آن برساند، تلف نکرد.

جیسون کوون در جلسه گفت: "می خواهم با یک عذرخواهی شروع کنم."

کوون کمتر از دو هفته پس از اینکه آنتونی آلبانیز، نخست وزیر استرالیا فاش کرد که عوامل هوش مصنوعی غول فناوری چندین وب سایت دولتی استرالیا را در ژوئن نقض کرده اند، در یک تحقیق پارلمانی در مورد هوش مصنوعی حاضر شد.

آقای کوون در پیامی که نه فقط مخاطبان استرالیایی، بلکه برای عموم مردم جهانی که مشتاق پذیرش فرصت‌های هوش مصنوعی هستند اما نسبت به خطرات آن محتاط هستند، گفت: "ما باید مسئولیت‌های خود را بهتر انجام می‌دادیم. متاسفیم. می‌دانیم که برای بازسازی اعتماد با مردم استرالیا باید کاری انجام دهیم."

این جلسه که در یک اتاق بدون شرح در ساختمان پارلمان نیو ساوت ولز (NSW) در مرکز سیدنی برگزار شد، اولین فرصت برای OpenAI، سازنده ChatGPT، بود تا به طور علنی ابراز تأسف خود را در مورد نقض یک مدل هوش مصنوعی منتشرنشده از وب‌سایت‌های دولتی استرالیا، از جمله Medicare، سیستم بیمه سلامت ملی نشان دهد. OpenAI در ماه آگوست متوجه شد که مدلش در 18 ژوئن به آمارهای غیرعمومی Medicare دسترسی داشته است، اما تا 10 سپتامبر به دولت اطلاع نداده بود، زمانی که یک آدرس در دسترس عموم را ایمیل کرد.

آلبانیز که در اوایل سال جاری تأسیس دفتر هوش مصنوعی را برای هماهنگی نظارت و تنظیم پیشرفت‌های فناوری اعلام کرد، گفته بود که از تأخیر OpenAi در هشدار به دولت عمیقا ناامید شده است.

Kwon در جلسه گفت‌وگو گفت که این شرکت اقدامات جدیدی را برای جلوگیری از تکرار این حادثه ارائه کرده است، از جمله اطلاع‌رسانی فوری به طرف‌های مربوطه از نقض‌ها و ارائه به‌روزرسانی‌های منظم. وی گفت: علاوه بر این، این شرکت در حال بررسی آزمایشات توسط نمایندگان خود از نوامبر 2025 برای شناسایی سایر موارد نقض است و نظارت بیشتری را در طول آموزش مدل‌های جدید انجام خواهد داد.

او گفت: «پاسخ ما در اینجا به اندازه کافی خوب نبود. ما درس خود را آموخته ایم که بهتر است اطلاع رسانی کنیم، حتی با اطلاعات جزئی.

دولت استرالیا به رهبری کارگر، که مشتاق تعامل با غول‌های هوش مصنوعی آمریکایی و تشویق آن‌ها به سرمایه‌گذاری در تحقیق و توسعه در استرالیا است، یک کارگروه برای بررسی نقض‌ها راه‌اندازی کرده است و در حال بررسی این است که آیا مقررات یا نظارت بیشتری بر این بخش نیاز است یا خیر.

OpenAI گفت که این نقض در طول ارزیابی مدل رخ داده است و زمانی که مدل برای پاسخ‌ها جستجو می‌کرد، به هیچ پرونده سلامت شخصی یا داده‌های حساسی دسترسی پیدا نکرد. اما دسترسی غیرمجاز به وب‌سایت‌های یک دولت خارجی در استرالیا - جایی که مدیکر یک مؤسسه معتبر و قابل اعتماد است - تسلط یافته است و نگرانی‌ها در مورد خطرات هوش مصنوعی را برانگیخته است. نظرسنجی JWS Research در ماه آگوست که توسط Politico به دست آمد، نشان داد که 44 درصد استرالیایی ها هوش مصنوعی را یک خطر می دانند و فقط 17 درصد آن را یک فرصت می دانند، در حالی که 28 درصد در تضاد هستند و 10 درصد مطمئن نیستند.

سام آلتمن، رئیس OpenAI از حضور در جلسه امتناع کرد، در عوض کوون را فرستاد، که ارشدیت او نشان می داد که OpenAi در مورد ترمیم روابط با دولت استرالیا جدی است. اما Kwon فاقد مشخصات آلتمن بود، که ظاهرش می توانست پوشش بیشتری را به خود جلب کند و به شرکت کمک کرد تا مردم را متقاعد کند که می تواند مسئولانه فناوری خود را در استرالیا توسعه و آزمایش کند.

OpenAI گفت که پس از افشای اطلاعاتی مبنی بر هک کردن عواملش به Hugging Face، یک شرکت فناوری آمریکایی، هنگام بررسی رویدادهای آموزشی از این نقض در استرالیا مطلع شده است.

کوون گفت که OpenAI از مقررات ایمنی سختگیرانه تر استرالیا و سایر کشورها مانند گزارش اجباری تخلفات حمایت می کند. او گفت که نقض در استرالیا تصادفی بود و "بسیار پیچیده" نبود، اما تلاش برای اطمینان از ایمنی فناوری نوظهور مستلزم "تلاش جمعی کشورهای همفکر و همچنین سازمان ها" است.

او گفت: «تکنولوژی قدرتمند است و ما می‌خواهیم اطمینان حاصل کنیم که قانون‌گذاران، سیاست‌گذاران و جوامع دموکراتیک در مورد چگونگی توسعه این فناوری حرفی برای گفتن دارند.»

غول هوش مصنوعی ایالات متحده Anthropic که کلود را می سازد نیز قبل از تحقیق حاضر شد. دیو اور، رئیس پادمان های این شرکت، گفت که هیچ گونه دسترسی غیرمجاز به وب سایت های دولتی استرالیا را کشف نکرده است. اما، در بررسی آشکار رقیب خود، او گفت که این شرکت «در عرض چند روز یا زودتر» از هرگونه نقض به دولت اطلاع می‌داد.

کوون قبل از شهادتش، یک حضور عمومی کوتاه در مقابل رسانه‌های منتظر ارائه کرد و بیانیه‌ای ارائه کرد و هیچ سؤالی نپذیرفت.

در اواخر شهادتش، اندرو هستی، یکی از نمایندگان ائتلاف لیبرال-ملی مخالف، از کوون خواسته شد تا 60 ثانیه "پیچ آسانسور" بدهد تا والدین و کارگران استرالیایی را در مورد مزایای هوش مصنوعی و شایستگی های استرالیا که به دنبال همکاری با غول های هوش مصنوعی هستند، متقاعد کند.

کوون در مورد نقش هوش مصنوعی در پیشبرد پیشرفت های علمی و رسیدگی به تغییرات آب و هوایی صحبت کرد. علیرغم انتشار اخبار بد در هفته‌های اخیر، او گفت که این فناوری «پتانسیل ارائه مزایای بزرگ به مردم عادی را دارد».

این پیامی است که OpenAI، Anthropic و دیگران امیدوارند در استرالیا برای کسب مجوز اجتماعی برای ردپای در حال گسترش خود، از جمله مراکز داده و آزمایشگاه‌های تحقیقاتی، ارائه دهند.

اما تا زمانی که این شرکت ها نتوانند از ایمن بودن فناوری خود اطمینان حاصل کنند و بتوانند به طور مسئولانه و قابل اعتماد با تخلفات برخورد کنند، تمام چیزی که ممکن است مردم بشنوند متوالی عذرخواهی است.