مدیر عامل OpenAI می گوید مزایای هوش مصنوعی پذیرش برخی از خطرات را توجیه می کند: گزارش

سام آلتمن، مدیر عامل OpenAI گفت جامعه باید برخی از پیامدهای مضر هوش مصنوعی را در ازای مزایای آن بپذیرد و بین رویکرد شرکتش به ایمنی هوش مصنوعی و رقیب آنتروپیک تمایز قائل شود.

آلتمن در مصاحبه ای که روز یکشنبه منتشر شد به پولیتیکو گفت: «ما معتقدیم که جهان باید برخی اتفاقات بد را برای منافع این فناوری و افرادی که آژانس دارند، بپذیرد.

اظهارات او در بحبوحه درخواست‌های رو به رشد برای کاهش سرعت توسعه سیستم‌های هوش مصنوعی قوی‌تر پس از یک سری حوادث امنیتی مربوط به مدل‌های پیشرفته بیان می‌شود.

داریو آمودی، مدیرعامل آنتروپیک ماه گذشته از شرکت‌های هوش مصنوعی خواست تا عمدا پیشرفت در قابلیت‌های مدل را کند کنند تا به توسعه‌دهندگان و ارزیاب‌های مستقل زمان بیشتری برای رسیدگی به ریسک‌های نوظهور بدهند.

آمودی در مقاله ای در 12 سپتامبر نوشت: "ما باید سرعت بهبود قابلیت های مدل های هوش مصنوعی را کاهش دهیم. پیشرفت همچنان سریع به نظر می رسد و ما باید از زمانی که به دست می آوریم عاقلانه استفاده کنیم."

آلتمن در آن زمان از بخش‌هایی از پیشنهاد آمودی حمایت کرد و گفت: "من با داریو موافقم که ما باید در مرزها پیش برویم."

اما او در مصاحبه Politico خط‌مشی کشید تا محدودیت‌ها تا کجا باید پیش برود و مخالف تمرکز کنترل هوش مصنوعی قدرتمندتر در دست تعداد کمی از توسعه‌دهندگان بود.

آلتمن گفت: "من مخالفم، اما دیدگاه افرادی را درک می کنم که می گویند: "این فناوری آنقدر قدرتمند خواهد شد و بسیار خطرناک است، که یک آزمایشگاه واحد در سانفرانسیسکو باید آن را داشته باشد و مطمئن شود که هیچ اتفاق بدی نمی افتد، و به نوعی بفهمد که چگونه از مزایای آن بهره مند شود."

او این رویکرد را «معادل کاملا غیرقابل قبول» نامید و در عوض از رویکرد نظارتی سبک‌تر و دسترسی گسترده‌تر به هوش مصنوعی حمایت کرد.

این بحث پس از حوادثی که در آن سیستم‌های هوش مصنوعی پیشرفته رفتار غیرمنتظره یا بالقوه خطرناکی از خود نشان داده‌اند، تشدید شده است، و این نگرانی‌ها را در مورد اینکه آیا اقدامات ایمنی با قابلیت‌های به سرعت در حال بهبود همگام هستند یا خیر، تشدید شده است.

آلتمن می‌گوید: «من معامله نمی‌کنم که بگویم: «ما مطمئن می‌شویم که هیچ هک بزرگی وجود ندارد، هیچ سوءاستفاده‌ای از این فناوری وجود ندارد، هیچ کلاهبرداری وجود ندارد، همه چیزهای بد دیگری که رخ خواهند داد، صفر است». چون فکر می‌کنم مردم کارهای فوق‌العاده‌ای انجام می‌دهند - کارهای بزرگ‌تر - کارهای خوب تا کارهای بد.»

مدیر عامل OpenAI بعدا اضافه کرد که او "خطرات واقعا فاجعه بار" از جمله احتمال "از دست دادن جدی کنترل هوش مصنوعی" را نمی پذیرد.