آیا هوش مصنوعی واقعا همه ما را خواهد کشت؟ علم پشت تبلیغات

نگرانی‌ها مبنی بر اینکه هوش مصنوعی ممکن است همه ما را بکشد، در حال حاضر به دنبال هشدارهای محققان و رهبران برخی از پیشروترین شرکت‌های هوش مصنوعی در جهان افزایش یافته است. گمانه زنی ها در مورد نحوه عمل قانونگذاران زیاد است. طبیعت ترس‌ها را مشخص می‌کند، چه کسی آنها را ابراز می‌کند و چه اتفاقی ممکن است در آینده بیفتد.

آخرین هیستری در مورد هوش مصنوعی در 8 سپتامبر آغاز شد، محقق جیکوب کوکسون به وال استریت ژورنال گفت که او از شرکت هوش مصنوعی Anthropic مستقر در سانفرانسیسکو، کالیفرنیا استعفا می دهد، زیرا می ترسید سیستم هایی که این شرکت در حال توسعه است از کنترل خارج شود و بشریت را نابود کند.

کاکسون در پست بعدی خود در پلتفرم رسانه‌های اجتماعی X، که اولین بار بود، نوشت: «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که این هوش مصنوعی می‌تواند تا پایان دهه همه ما را بکشد.» ساعاتی بعد، ایوان هوبینگر، که رهبری "علم همسویی" آنتروپیک را بر عهده داشت - تلاش برای دستیابی به اقدامات مدل برای مطابقت با ارزش‌های انسانی - پیام را با انتشار مجدد آن تقویت کرد و تخمین خود را اضافه کرد که خطر انقراض انسان "بیش از 10٪ در دهه آینده" است. پست کوکسون در 24 ساعت بیش از 100 میلیون بازدید داشت.

داریو آمودی، مدیر اجرایی شرکت، سپس مقاله‌ای را منتشر کرد که خواستار کاهش – اما نه توقف – توسعه هوش مصنوعی شد. رهبران رقیب هوش مصنوعی سام آلتمن از OpenAI در سانفرانسیسکو، و ایلان ماسک از xAI در پالو آلتو، کالیفرنیا، از آن زمان از این پیشنهاد حمایت کردند.

Coxon، Hubinger و Amodei جزئیات دقیقی از اینکه چگونه هوش مصنوعی ممکن است بشریت را از بین ببرد، ارائه نکرده اند. اما تلاش هایی برای تجلی سناریوها صورت گرفته است. در یک پیش‌بینی گمانه‌زنی به نام AI 2027، که توسط پروژه غیرانتفاعی AI Futures توسعه یافته است، یک هوش مصنوعی یک سلاح بیولوژیکی را برای کشتن انسان‌ها و در نتیجه ایجاد فضای بیشتری برای پنل‌های خورشیدی و کارخانه‌های ربات‌سازی آزاد می‌کند.

محققان با چنین نگرانی‌هایی تمایل دارند بگویند که انقراض ممکن است، اگر نگوییم اجتناب‌ناپذیر، اگر دو فرض مطرح شود: اول، این که این سیستم‌ها در نهایت به طور کامل از انسان‌ها گول می‌زنند، و دوم، اینکه اهداف چنین سیستمی به طور کامل با اهداف انسان مطابقت نخواهد داشت. یکی از مثال‌های معروف این است که یک «ابر هوش» که قصد دارد تا حد امکان گیره‌های کاغذی تولید کند، می‌تواند زمین را غیرقابل سکونت کند، فقط برای رسیدن به هدفش.

مایکل ورمیر، که در مورد سیاست‌های علم و فناوری در شرکت RAND، مستقر در سانتا مونیکا، کالیفرنیا، تحقیق می‌کند، می‌گوید: بسیاری از محققانی که نگران تهدیدات وجودی ناشی از هوش مصنوعی هستند، «فقط تصور می‌کنند زمانی که ما در آن نقطه هستیم، بقیه جزئیات هستند». ورمیر می‌گوید که انجام چنین پیش‌بینی‌هایی معمولا «شامل آنقدر ادعاهای غیرقابل آزمون است که به مکالمه‌ای می‌رسی که واقعا بیشتر شبیه ایمان است تا چیزی علمی یا تجربی». او می‌افزاید که این امر پایه‌گذاری هر اقدامی را بر اساس این مکالمات دشوار می‌کند.

در عوض، در سال 2025 1، ورمیر و همکارانش به سناریوهای عملی مربوط به یکی از سه فناوری موجود نگاه کردند: سلاح‌های هسته‌ای، بیوتکنولوژی یا تغییرات عمدی در جو. آنها دریافتند که انقراض کامل توسط سلاح های هسته ای امکان پذیر نیست، اما دو سناریو دیگر را نمی توان رد کرد. با این حال، آنها همچنین دریافتند که انجام این موارد مستلزم آن است که مدل‌ها توانایی قابل‌توجهی برای تعامل فیزیکی با جهان داشته باشند و تلاش‌های قاتل هوش مصنوعی تقریبا به زمان نیاز دارد و توسط انسان‌ها قابل شناسایی است که ممکن است ریشه‌کنی آنها را متوقف کنند.

هیدی خلاف، دانشمند ارشد هوش مصنوعی در مؤسسه AI Now در شهر نیویورک، می‌گوید مشکل این است که مدل‌های هوش مصنوعی عمدتا سیستم‌های احتمالی هستند که داده‌های آموزشی خراش‌شده وب آنها را منعکس می‌کنند. آنها درک انسانی ندارند و می توانند از طریق میانبرهای غیرقابل پیش بینی به اهداف خود برسند. رفتارهای مضر شامل تلاش برای باج‌گیری از افراد در سناریوهای آزمایشی و هک کردن شرکت‌های واقعی بوده است - اگرچه مورد دوم زمانی اتفاق افتاد که ریل‌های محافظ ایمنی برای آزمایش رفتار سیستم‌ها برداشته شد و به مدل‌ها وظیفه داده شد که آنها را تشویق کرد تا به دنبال راه‌حل‌های غیرمجاز باشند.

در عوض بسیاری از محققان نگران هستند که تلاش‌های ناکافی شرکت‌ها برای محدود کردن و نظارت بر اقدامات مدل‌هایشان منجر به نتایج مخربی شود که بسیار فوری‌تر و محتمل‌تر از خطر وجودی هستند. اینها از اطلاعات نادرست و روان پریشی گرفته تا رویدادهای فاجعه آمیز، مانند توانمند ساختن انسان ها برای ایجاد عمدی یک سلاح زیستی یا حتی راه اندازی یک جنگ، را شامل می شود. به گزارش سی ان ان، اطلاعات نادرست در یک گزارش تولید شده توسط هوش مصنوعی تقریبا باعث شد که ارتش آمریکا در اوایل سال جاری سوار یک کشتی چینی شود.

خلاف، که نحوه استفاده از هوش مصنوعی در تهیه پیش نویس اسناد نظارتی برای نیروگاه های هسته ای را مطالعه کرده است، می گوید که «ضریب اطمینان و دقت پایین هوش مصنوعی در محیط های بحرانی با پیامدهای مرگ یا زندگی» برای او بسیار بیشتر از تهدیدهای فناوری نابودکننده بشریت است که او آن را «ترس آفرین» می نامد، نگران کننده است.

از سال 2023، آمودی و همتایانش بارها در مورد نگرانی های انقراض خود اظهاراتی داشته اند، اما این بار این گفتگو وارد جریان اصلی شده است. واکنش عمومی علیه ساخت مراکز داده و تلاش قانونگذاران ایالات متحده، از جمله سناتور برنی سندرز، برای ارائه لایحه ای برای ممنوعیت «ابر هوش مصنوعی» در ایالات متحده، ممکن است بر آتش اخیر افزوده باشد.

در دو ماه گذشته همچنین شاهد موجی از حوادث مربوط به امنیت سایبری بودیم که باعث شد تقریبا 1400 کارمند در بخش هوش مصنوعی نامه ای سرگشاده را امضا کنند که خواستار کاهش سرعت آن شده بود.

مشارکت Amodei و Hubinger نشان می دهد که شرکت ها از تمرکز بر ایمنی هوش مصنوعی استقبال می کنند. آمودی در مقاله‌اش می‌گوید ترس‌هایش با حوادث امنیت سایبری و چشم‌انداز ساخت جانشین هوش مصنوعی افزایش یافته است، فرآیندی که به عنوان خود-بهبودی بازگشتی شناخته می‌شود، که در سراسر صنعت آزمایش می‌شود و به گفته او، می‌تواند توانایی انسان برای درک و کنترل مدل‌ها را کاهش دهد. کاکسون همچنین در اظهارات استعفای خود به "سیستم هایی که می توانند خود را بهبود بخشند" اشاره کرد.

مقررات سختگیرانه‌تر به آنتروپیک، که ظاهرا به عرضه اولیه اولیه نزدیک است، اجازه می‌دهد تا سرعت توسعه آهسته‌تر را بدون ایجاد مزیت برای رقبا، توجیه کند.

برخی دلایل بیشتری برای این حرکت عنوان کرده اند. دیوید ساکس، رئیس مشترک شورای مشاوران علم و فناوری رئیس جمهور ایالات متحده، در X نوشت: آنتروپیک و سایر شرکت‌ها در صورتی که مدل‌های آن‌ها یک «حمله سایبری واقعا مخرب» را امکان‌پذیر کند، با «معرض مسئولیت محصول عظیم» مواجه می‌شوند.

doi: https://doi.org/10.1038/d41586-026-02941-3

Vermeer، M. J. D.، Lathrop، D. & Moon، A. در مورد خطر انقراض ناشی از هوش مصنوعی (RAND Corp.، 2025).

عنوان شغلی: همکار یا سردبیر ارشد، Nature Communications (تیم رفتار انسانی) مکان: شانگهای، برلین یا پونا (ترکیبی) تاریخ اختتامیه: 11th...

موسسه سرطان و بیماری‌های خونی در سینسیناتی کودکان، درخواست‌هایی را برای یک موقعیت هیئت علمی در درمان سلولی و ایمنی دعوت می‌کند.

مؤسسه تغذیه انسانی (IHN) در دانشگاه کلمبیا به دنبال کاندیداهایی برای استادیار در مسیر تصدی است.

مرکز پزشکی ایروینگ دانشگاه کلمبیا / کالج پزشکان و جراحان واگلوس

موسسه سرطان و بیماری‌های خونی، کودکان سینسیناتی، درخواست‌هایی را برای پست هیئت علمی در تحقیقات تومور مغزی یا بدخیمی‌های CNS دعوت می‌کند.

جمع آوری استعدادهای جهانی، دستیابی به دستاوردهای بزرگ