سام آلتمن می گوید برخی از تصادفات هوش مصنوعی «غیرقابل اجتناب» هستند زیرا صنعت با ترس از آخرالزمان دست و پنجه نرم می کند.

سام آلتمن، مدیر عامل OpenAI می گوید حوادث هوش مصنوعی اتفاق خواهند افتاد، بنابراین شرکت ها باید گزارش دهند و از آنها درس بگیرند. کارلوس باریا/ رویترز سام آلتمن، مدیر عامل OpenAI گفت: برخی از تصادفات هوش مصنوعی اجتناب ناپذیر هستند، زیرا مدل ها توانمندتر می شوند.

او گفت هوش مصنوعی باید فرهنگ FAA و NTSB را برای گزارش‌دهی و یادگیری از حوادث اتخاذ کند.

اظهارات او در حالی است که محققان ایمنی هوش مصنوعی هشدار می دهند که آزمایشگاه های مرزی با زندگی ما قمار می کنند. سام آلتمن می گوید برخی از تصادفات هوش مصنوعی اجتناب ناپذیر هستند، اما نحوه یادگیری از آنهاست.

مدیر عامل OpenAI در سخنانی در کنفرانس دریم‌فورس Salesforce در روز سه‌شنبه، گفت که شرکت‌های فناوری باید فرهنگ گزارش‌دهی شفاف تصادف، مشابه فرهنگ صنعت هوانوردی را بپذیرند.

آلتمن می‌گوید: «من فکر می‌کنم درجاتی از تصادفات با فناوری جدید اجتناب‌ناپذیر است. چیزی که من واقعا به آن اهمیت می‌دهم این است که ما فرهنگ بسیار خوبی برای گزارش‌دهی و یادگیری تصادفات داریم.»

او اداره هوانوردی فدرال و هیئت ملی ایمنی حمل و نقل را به عنوان نمونه هایی که صنعت هوش مصنوعی باید دنبال کند، ذکر کرد و گفت: تاکید آژانس ها بر بررسی حوادث به ایمن تر شدن پرواز کمک کرده است.

او در مورد رویکرد FAA و NTSB گفت: "می دانید، تصادفات قرار است اتفاق بیفتد." ما تا جایی که بتوانیم یاد می گیریم و از هر کدام واکنش نشان می دهیم.»

نظرات آلتمن در حالی مطرح می شود که صنعت هوش مصنوعی با سؤالات جدیدی در مورد اینکه آیا بزرگترین آزمایشگاه های آن خیلی سریع به سمت سیستم های مستقل قدرتمند حرکت می کنند، مواجه است.

Jacob Coxon، محققی که هفته گذشته Anthropic را ترک کرد و قبلا در OpenAI کار می‌کرد، بحثی را با گفتن اینکه این شرکت‌ها "مستقیما به سمت سوپرهوش خودسازی و قمار با زندگی ما مسابقه می‌دهند" آغاز کرد.

"دنیا حق دارد از این بترسد"

دیگر محققان ایمنی هوش مصنوعی از آن زمان به Business Insider گفته‌اند که سیستم‌های پیشرفته روزی می‌توانند از کنترل انسان فرار کنند یا تهدیدهای سایبری، بیولوژیکی و دیگر فاجعه‌بار را آسان‌تر انجام دهند - اگرچه برای دسترسی به دنیای فیزیکی با موانعی روبرو خواهند شد.

آلتمن اذعان داشت که ترس از روز رستاخیز هوش مصنوعی مشروع است. او در Dreamforce با اشاره به احتمال تصادف از دست دادن کنترل و این خطر که تعداد کمی از توسعه دهندگان هوش مصنوعی می توانند بیش از حد قدرت متمرکز کنند، گفت: "دنیا حق دارد از این بترسد."

او گفت که پاسخ این نیست که فناوری را کنار بگذاریم و شرکت‌های هوش مصنوعی باید در عوض اطمینان حاصل کنند که «همسویی، ایمنی و نظارت» «خیلی جلوتر از قابلیت‌ها» باقی می‌ماند. وی افزود که اگر نمی توانند این کار را انجام دهند، باید "برای کاهش سرعت یا توقف" آماده باشند.

نظرات او همچنین ممکن است انتقاد اصلی طرفداران ایمنی هوش مصنوعی را برانگیزد: اینکه آزمایشگاه های مرزی می گویند که خطرات را تشخیص می دهند اما همچنان به ساخت مدل های توانمندتر ادامه می دهند.

آلتمن گفت: «مردم بسیار می‌ترسند» وقتی به نظر می‌رسد فشارهای تجاری ممکن است مانع شرکت‌ها یا کشورها شود که «کار درست» را انجام می‌دهند.

آلتمن گفت که هدف پذیرش فاجعه نیست، بلکه فاش کردن حوادث، درس گرفتن سریع از آنها و جلوگیری از تشدید آنهاست.

او گفت: «شاید بتوانیم، می‌دانی، از رسیدن به این نوع ریسک‌ها اجتناب کنیم.

این بحث همچنین در حال گسترش است زیرا دولت ترامپ علاقه کمی به تنظیم این بخش نشان داده است و به دنبال حفظ برتری ایالات متحده بر چین است.

دیوید ساکس، مشاور رئیس‌جمهور در زمینه علم و فناوری و تزار هوش مصنوعی سابق کاخ سفید، روز یکشنبه در پاسخ به درخواست‌های سم آلتمن، مدیر عامل OpenAI و داریو آمودی، مدیر عامل آنتروپیک برای «پیش‌رفت از مرزها»، این موضع را تکرار کرد.

ساکس در X نوشت: "داریو نوشته است که ما باید "سرعت مرز" را طی کنیم، و سم موافقت کرده است. مردم ممکن است از پاسخ من شگفت زده شوند: ادامه دهید."

مقاله اصلی را در Business Insider بخوانید