عضو هیئت مدیره OpenAI به مخاطبان می گوید که یک تصادف هوش مصنوعی محتمل ترین عامل برای کشتن آنها است

سه علت اصلی مرگ و میر در ایالات متحده بیماری قلبی، سرطان و صدمات غیرعمد است. اما به گفته پل کریستیانو، یکی از اعضای هیئت مدیره بنیاد OpenAI و کمیته ایمنی و امنیت آن، هوش مصنوعی می تواند به زودی به تهدیدی مرگبارتر از هر یک از آنها تبدیل شود.

پل کریستیانو در حین سخنرانی در The Hinton Lectures 2026 که توسط «پدرخوانده هوش مصنوعی» جفری هینتون برگزار شد، به حضار گفت: «برای اکثر افراد حاضر در این اتاق، محتمل‌ترین دلیلی که می‌میرند به دلیل تصادف با هوش مصنوعی است»، این همان چیزی است که وقتی کسی آن را می‌گوید، به نوعی می‌خواهید از آنها بپرسید که چرا به ساخت ماشین مرگ ادامه می‌دهند.

اکنون، شاید این مختص افرادی باشد که در صنعت هوش مصنوعی کار می کنند. ممکن است منطقی باشد که قرار گرفتن در معرض بیشتر خطر را افزایش دهد (اگرچه اینطور نیست که هوش مصنوعی یک گاز سمی یا چیزی مشابه باشد). اما اینطور نیست که کریستیانو، بنیانگذار مرکز تحقیقات Alignment، پیش‌آگهی مثبتی برای بقیه بشریت داشته باشد.

او هشدار داد که خطر قابل توجهی برای تصاحب هوش مصنوعی در 6 تا 12 ماه آینده وجود دارد و گفت که اگر آزمایشگاه‌های هوش مصنوعی بدون مداخله با سرعت هرچه بیشتر بسازند، "ما در سه سال آینده به دنبال چیزی شبیه به چرخش سکه از تصاحب هوش مصنوعی خواهیم بود". «حتی با پاسخ‌های سیاستی واقع‌بینانه، خطر فوق‌العاده بالا باقی می‌ماند.»

در سپتامبر، کریستیانو برآورد همه چیز را در مورد از دست دادن فاجعه بار کنترل انسان در عرض یک سال 4 درصد و در عرض سه سال 15 درصد اعلام کرد، که او اذعان داشت که قضاوت های ذهنی هستند و نه محصول یک مدل دقیق.

کریستیانو گفت که شرکت‌هایی مانند OpenAI به سرعتی که می‌توانند بسازند، که یک تسکین واقعی است. خطر نابودی کامل بشریت را به جای چرخاندن سکه به چیزی نزدیکتر به تاس انداختن نگه دارید، می دانید، مانند یک شرکت مسئول.

او همچنین تنها کسی نیست که صفحاتی را از تقویم خارج می کند و می گوید که پایان نزدیک است. الی لیفلند از پروژه آینده هوش مصنوعی اخیرا توییت کرد که پس از بررسی تحقیقات جدید مبنی بر اینکه هوش مصنوعی به طور چشمگیری توسعه خود را سرعت می بخشد، "من بسیار نگران هستم که بشریت دیگر کنترل آینده ما را در عرض 3 تا 12 ماه در دست نخواهد داشت."

باک شلگریس، مدیر عامل شرکت Redwood Research، فراتر رفت: «به طور کلی، من فکر می‌کنم یک احتمال بسیار واقعی (شاید 20 درصد) وجود دارد که در عرض یک سال، مشکلات ناهماهنگی هوش مصنوعی مانع از ادامه زندگی عادی شما شود، زیرا مرده‌اید یا برده‌اید یا به دلیل آسیب‌های جانبی مرتبط با همه این‌ها (مثلا به دلیل شروع جنگ‌افزارهای زیستی یا انتشار جنگ‌های بزرگ). و به اعتبار او، او درست می‌گوید که مرده بودن، انجام کارهای روزمره را دشوار می‌کند.

شمشیر دو لبه ای برای همه این افراد وجود دارد که زنگ خطر را در دنیای ایمنی هوش مصنوعی به صدا در می آورند. از یک طرف، آنها تخصص قابل توجهی در توسعه هوش مصنوعی دارند و به طور خاص برای مراقبت از انواع پرچم های قرمز که منجر به ناهماهنگی و فاجعه احتمالی می شود، هماهنگ هستند. از سوی دیگر، برخی از این محققان برای سازمان‌های غیرانتفاعی کار می‌کنند که نیاز به جمع‌آوری پول نیز دارند، و فوریت می‌تواند یک سرمایه‌گذاری عالی باشد. شاید خیلی بدبینانه باشد که فقط روی آن نیمه تمرکز کنیم، اما شایان ذکر است.

با این حال، اگر فرض کنیم آنچه آنها می گویند درست است، ارزش دارد که بپرسیم آیا آنها به اندازه کافی انجام می دهند یا خیر. کریستیانو در ماه سپتامبر به هیئت مدیره OpenAI پیوست تا به نظارت بر اقدامات ایمنی آن کمک کند، در حالی که علنا اذعان داشت که این شرکت به اندازه کافی برای کاهش خطرات توسعه فاجعه‌بار هوش مصنوعی انجام نداده است. اما اگر او معتقد است که OpenAI در حال ایجاد فناوری است که می تواند بشریت را نابود کند، احتمالا منصفانه است که انتظار بیشتری از هشدارها و وعده ها برای بهبود نظارت داشته باشیم. شما به ساختن نسخه با بالاترین ریسک مشکل ترولی کمک می کنید. در چه نقطه ای اهرم را می کشید؟