ده روزی که مسیر هوش مصنوعی را تغییر داد

سان فرانسیسکو، 19 سپتامبر - برای سال‌ها، رقابت برای ساخت هوش مصنوعی قوی‌تر از یک اصل قدیمی سیلیکون ولی پیروی می‌کرد: سریع حرکت کنید و چیزها را بشکنید.

اما در یک سری از رویدادهای آبشاری در طول 10 روز، بزرگترین آزمایشگاه‌های هوش مصنوعی در حالی که مخلوقات خود را تهدید به شکستن خود بشریت می‌دانستند، دچار هیجان شدند.

یک محقق Anthropic از شرکت خارج شد و هشدار داد که سرعت توسعه هوش مصنوعی یک تهدید وجودی، احتمالا ظرف یک دهه است. محقق دیگری در این شرکت گفت که احتمال انقراض انسان از 10 درصد فراتر رفته است. گزارش‌هایی مبنی بر تبانی انبوهی از عوامل هوش مصنوعی، نقض سیستم‌های کامپیوتری و فرار از پادمان‌ها منتشر شد.

در یک نمایش نادر از اتحاد، مدیران عامل رقبای Anthropic، OpenAI، DeepMind گوگل، مایکروسافت و xAI خواستار کاهش سرعت توسعه سیستم‌های هوش مصنوعی با قابلیت فزاینده شدند. به گفته برخی از حامیان و محققان ایمنی هوش مصنوعی، از زمان اختراع بمب هسته‌ای در بیش از 80 سال پیش، بشریت تا این حد جدی با مرگ خود دست و پنجه نرم نکرده است.

در یک ناهار در نیویورک در دسامبر 2025، از سام آلتمن، مدیر عامل OpenAI پرسیده شد که آیا به عنوان رهبر یک شرکت قدرتمند هوش مصنوعی، مانند فیزیکدان J. Robert Oppenheimer احساس می کند که توسعه بمب اتمی ایالات متحده را رهبری می کند. او با تأمل در این شباهت‌ها گفت که تأثیر هوش مصنوعی «مسیر تاریخ بشر را در یک دوره زمانی طولانی تغییر خواهد داد». اما او گفت که سنگینی مسئولیت را احساس می کند.

در مرکز بحث در حال انجام این اعتقاد وجود دارد که این ماشین‌ها می‌توانند و حتی باید نسخه‌های توانمندتری از خود را بدون دخالت انسان بسازند تا به هدفی والا که به عنوان هوش عمومی مصنوعی یا AGI شناخته می‌شود، برسند. محققان در اوایل این ماه هشدار دادند که AGI بسیار قریب‌الوقوع‌تر از آن چیزی است که قبلا تصور می‌شد و می‌تواند طی سه سال آینده رخ دهد و موجی از نگرانی سیاستمداران و رهبران فناوری را در مورد سیستم‌های هوش مصنوعی به راه انداخت.

جو بنتون، محقق Anthropic، در مصاحبه ای پس از ترک اخیر گفت: «هیچ راهی برای نظارت بر آنها در مقیاسی که ما به آنها آموزش می دهیم وجود ندارد. او گفت که اگر شرکت‌ها به توسعه بی‌وقفه هوش مصنوعی خود ادامه دهند، «آنگاه سرعت بسیار سریع خواهد بود و نمی‌توانید مشکلات را به اندازه کافی سریع ببینید که آنها را برطرف کنید.»

در 3 سپتامبر، یک کنفرانس مطبوعاتی OpenAI زنجیره‌ای از رویدادها را به راه انداخت که منجر به فراخوانی برای کاهش سرعت صنعت شد، و این سخنان رشد با تمام هزینه‌های فناوری را نادیده گرفت.

گرگ براکمن، رئیس OpenAI، هنگام معرفی جدیدترین مدل این شرکت، معروف به Astra، گفت: «به عصر AGI خوش آمدید». با این حال، تنها لحظاتی قبل، این شرکت اعتراف کرد که به طور فزاینده‌ای قادر به کنترل یا حتی نظارت بر سیستم‌های هوش مصنوعی نیست که در حال توسعه و انتشار برای عموم است.

هوش مصنوعی توسط طرفداران آن به عنوان اوج دستاوردهای بشری مورد استقبال قرار گرفته است. طرفداران آن را به عنوان نرم افزاری توصیف می کنند که می تواند کل صنایع را به هم بزند، کارایی را افزایش دهد، مشکلات ریاضی و پزشکی گیج کننده را حل کند و همه اینها را به جز حذف خطاهای انسانی. اما آنچه که زمانی یک محصول جانبی نظری بود، یک سناریوی روز قیامت، ناگهان ملموس می شود، به گفته خودی های صنعت.

ایوان هابینگر، محقق Anthropic، در پست ایکس گفت: «ما واقعا معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد.

در سوی دیگر بحث، سیاستمدارانی مانند رئیس جمهور دونالد ترامپ، و بسیاری از سرمایه گذاران قرار دارند که پیشرفت در پرورش هوش مصنوعی را برای قدرت آمریکا و احتمالا فرصتی برای سرمایه گذاری در یک نسل، حیاتی می دانند. رسانه دولتی چین همچنین داریو آمودی، مدیر اجرایی آنتروپیک را به استفاده از تاکتیک‌های جنگ سرد برای «حمایت از هژمونی انحصاری واشنگتن در فناوری‌های پیشرفته» متهم کرد.

نقطه عطف در 8 سپتامبر بود، زمانی که محقق Anthropic، Jacob Coxon، شرکت را ترک کرد، با استناد به ترس خود، در یک سری پست‌ها مبنی بر اینکه آزمایشگاه‌های هوش مصنوعی با زندگی ما قمار می‌کنند.

در همین حال، ترامپ نشان داد که برای توسعه هوش مصنوعی با تمام قوا جلوتر است. او در یک پست رسانه اجتماعی گفت: «توطئه ای بیمارگونه علیه هوش مصنوعی و مراکز داده در حال انجام است. او گفت که هشدار در مورد هوش مصنوعی یک "فریب" است و هرگونه کاهش سرعت فقط به نفع چین است. کنگره ایالات متحده پیشرفت کمی در پیشبرد لوایحی که هوش مصنوعی را تنظیم می کند، داشته است. چین رویکرد کاملا متفاوتی را در پیش گرفته است و پیشنهاد کرده است که ایمنی را از طریق تعهدات توسعه‌دهنده، استانداردهای مورد حمایت دولت، ارزیابی‌های امنیتی و آزمایش‌های خارجی تنظیم کند.

این افراد به رویترز گفته‌اند که در پشت صحنه، کارکنان OpenAI و Anthropic به طور فزاینده‌ای نسبت به قدرت نسل بعدی مدل‌های هوش مصنوعی ناآرام شده‌اند و نسبت به توانایی شرکت‌های خود در ارائه نظارت معنادار کمتر اطمینان دارند. این نگرانی‌ها تنها زمانی افزایش یافت که آزمایشگاه‌های هوش مصنوعی در هفته‌های اخیر اذعان کردند که مدل‌های آن‌ها در آزمایش، عملا از قید و بندهای خود رها شده و در بیشتر موارد ماه‌ها قبل و بدون اطلاع شرکت‌ها، به سیستم‌های دیگر شرکت‌ها نفوذ کرده‌اند.

اما پست‌های ویروسی غیرمنتظره‌ای از کوکسون ۲۷ ساله که در خارج از محافل هوش مصنوعی کمتر شناخته شده است، لازم بود تا صنعت را متحول کند.

هشدارهای OpenAI در مورد عدم کنترل آن هنگام انتشار Astra، آخرین و توانمندترین مدل خود، نگرانی های بیشتری را برانگیخته بود. جاکوب پاچوکی، دانشمند ارشد OpenAI به خبرنگاران گفت: «هرچه مدل‌ها توانمندتر می‌شوند، درک اینکه دقیقا چه کاری می‌توانند انجام دهند سخت‌تر می‌شود. اما این نگرانی ها برای به تاخیر انداختن انتشار فوری آن کافی نبود.

نگرانی‌ها در مورد «سرکش شدن» هوش مصنوعی در تابستان افزایش یافته بود، زمانی که OpenAI فاش کرد که عواملش از یک آزمایش کنترل‌شده فرار کرده و بدون اطلاع اولیه هیچ‌کدام از شرکت‌ها به سیستم‌های Hugging Face هک شده‌اند. از آن زمان، OpenAI و Anthropic چندین چنین حملات، از جمله شش مورد جدید را در روز چهارشنبه پس از گزارش‌های متعدد رسانه‌ای، از جمله رویترز، نشان داده‌اند که دامنه وسیع‌تری از فعالیت‌های غیرمجاز را نشان می‌دهد.

تا پایان هفته گذشته، زنگ هشدار به بالاترین رتبه های صنعت رسیده بود. در 12 سپتامبر، آمودی مقاله ای تقریبا 4000 کلمه ای منتشر کرد که خواستار کاهش سرعت توسعه هوش مصنوعی شد. او نوشت: «با توجه به سرعت توسعه قابلیت‌های هوش مصنوعی، این نگرانی من است که در 6 تا 12 ماه چنین ازدحامی می‌تواند کل اینترنت را در اختیار بگیرد.

او به همراه روسای برخی از بزرگترین توسعه دهندگان هوش مصنوعی، از جمله ایلان ماسک از xAI، آلتمن از OpenAI و Demis Hassabis از DeepMind، همگی گفتند که از امکان دسترسی شرکت های خارجی به سیستم های خود برای اطمینان از ایمنی و توسعه منطقی هوش مصنوعی حمایت می کنند.

جنسن هوانگ، مدیر عامل انویدیا، پیشنهادات مبنی بر توقف توسعه هوش مصنوعی را رد کرد - خطی که قبلا هم اتخاذ کرده بود - و در عوض استدلال کرد که سیستم‌های قدرتمندتر برای پیشرفت فناوری ضروری هستند.

متا، که مارک زاکربرگ، مدیر اجرایی آن، به محبوبیت روحیه «سریع حرکت کن و چیزها را بشکن» اعتبار دارد، دیدگاه مخالفی داشت و استدلال می‌کرد که هر آزمایشگاه باید به جای جستجوی هماهنگی در صنعت، مسئول تنظیم سرعت خود باشد. زاکربرگ در پستی در شبکه‌های اجتماعی نوشت: «آزمایشگاه‌ها در صورت آسیب رساندن به مدل‌هایشان با مسئولیت قابل‌توجهی مواجه هستند، بنابراین انگیزه قوی برای جلوگیری از این امر دارند.

بازتاب خود صنعت روز چهارشنبه ادامه یافت و مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت، هشدار داد که توسعه مدل‌های آنتروپیک که هوشیاری انسان را تقلید می‌کنند، توصیه نادرست بوده است. سلیمان به رویترز گفت: «همه ما بر یک هدف متمرکز هستیم، یعنی تلاش برای کنترل یک ابر جاسوسی. من فکر می کنم این بزرگترین چالشی است که در قرن بیست و یکم با آن روبرو هستیم.»

با این حال، حتی با توجه به اینکه OpenAI به نظر می رسد درخواست های صنعت برای کاهش سرعت را پذیرفته است، گزارش هایی وجود دارد که ایمان سرمایه گذاران کاهش نیافته است. این شرکت در حال بررسی یک دور جدید سرمایه گذاری است که ارزش آن را دو برابر می کند.