آیا باید در مورد وحشت هوش مصنوعی شک داشته باشیم؟

اعتراض فعالان خطر هوش مصنوعی در نزدیکی خیابان داونینگ در لندن، انگلستان، در 16 سپتامبر 2026. | دن کیتوود/گتی ایماژ

آیا هوش مصنوعی همه ما را می کشد؟

در سیلیکون ولی، این یک سوال بدیع نیست. اما پس از اینکه هفته گذشته جاکوب کوکسون، کارمند آنتروپیک، شغل خود را ترک کرد و در X پست کرد که هوش مصنوعی «تا پایان دهه می‌تواند همه ما را بکشد»، افراد بسیار بیشتری می‌پرسند.

کاکسون نوشت: «این یک شیرین کاری بازاریابی نیست. "در هر صورت، بسیاری از مدیران و محققان ارشد عبارات خود را در مطبوعات بیان می کنند تا معقول به نظر برسند - اما من می شنوم که همان افراد به طور خصوصی ترس خود را ابراز می کنند. هیچ فعالیت انسانی دیگری این سطح از خطر را ایجاد نمی کند."

کاکسون در ارزیابی خود تنها نیست - برخی از کارمندان فعلی آنتروپیک موافق هستند - اما پست او به شدت ضربه زد. صنعت هوش مصنوعی به سرعت وارد عمل شد و داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش سرعت تحقیقات مرزی هوش مصنوعی در کل صنعت شد. دیگر رهبران هوش مصنوعی، از جمله سم آلتمن و ایلان ماسک، همین کار را کرده‌اند.

برای اینکه بفهمیم آیا واقعا باید نگران آخرالزمان ربات باشیم، امروز، شان رامسوارام، یکی از مجریان برنامه Explained با نویسنده ارشد Wired، مکسول زف صحبت کرد. به گفته زف، "در حال حاضر افراد زیادی در سیلیکون ولی هستند که هشدار می دهند که این یک احتمال واقعی است." اما همه موافق نیستند و مطمئنا در مورد اینکه چه کاری باید انجام دهند توافق ندارند.

در زیر گزیده ای از گفتگوی شان با زف است که برای طولانی و وضوح ویرایش شده است. موارد بسیار بیشتری در پادکست کامل وجود دارد، بنابراین هر جا که پادکست دریافت می‌کنید، به Today, Explained گوش دهید، از جمله پادکست‌های اپل، پاندورا و اسپاتیفای.

آیا همه ما به دست هوش مصنوعی می میریم؟

در حال حاضر افراد زیادی در سیلیکون ولی وجود دارند که هشدار می دهند که این یک احتمال واقعی است.

چیزی که مردم باید بدانند این است که سیلیکون ولی سال‌هاست که خواستار توجه بیشتر به ایمنی هوش مصنوعی است. بنابراین وقتی این محقق Anthropic هفته گذشته گفت که نگران است که هوش مصنوعی بتواند بشریت را در چند سال آینده بکشد، برای بسیاری از مردم شوکه کننده بود. پدر و مادرم، خانواده ام به من زنگ زدند، و آنها نگران بودند. آنها همین سوال را از من پرسیدند: "آیا می‌میریم؟"

و من باید به آنها می گفتم، این افراد سال ها نگران بودند که هوش مصنوعی همه ما را بکشد، و اکنون به نظر می رسد که در حال شکستن است.

این بیانیه ی جیکوب کاکسون چه چیزی را در بر داشت؟

من با ژاکوب مصاحبه کردم و چیزی که به من گفت این بود که فکر می کند اکنون زمان مناسبی است. آنتروپیک در شرف عرضه عمومی است که می تواند بزرگترین عرضه اولیه اولیه سهام تا کنون باشد. تمرکز دولت ترامپ بر هوش مصنوعی است، به گونه ای که هیچ دوره ریاست جمهوری دیگری تا کنون چنین نبوده است. و البته، بله، حادثه صورت در آغوش گرفتن که همه به تازگی در مورد آن شنیده‌اند، شما چند هفته پیش در برنامه خود در مورد آن صحبت کردید.

مردم کم کم متوجه می شوند که این سیستم های هوش مصنوعی واقعا خوب می شوند و به نظر می رسد شرکت هایی که آنها را می سازند نمی دانند چگونه آنها را کنترل کنند. توییت او بیش از 150 میلیون بازدید در X داشت. این توییت در سراسر جهان شنیده شد. و همچنین زنگ بیداری بزرگی برای قانونگذاران و رهبران در سیلیکون ولی بود و گفت: "این لحظه ای برای اقدام است."

آیا افرادی هستند که عقب نشینی می کنند؟

یکی از جالب‌ترین واکنش‌ها از سوی دیوید ساکس بود که مشاور دولت ترامپ در زمینه هوش مصنوعی است. او بسیاری از این موارد را "دومریسم" خوانده و گفته است که این درخواست‌ها برای کاهش سرعت هوش مصنوعی هشدار صنعت هوش مصنوعی در مورد فناوری است که آنها در حال ساختن هستند و از جذب مقررات حمایت می‌کنند.

در دره سیلیکون افراد بدبین زیادی وجود دارند که فکر می کنند این فقط یک فرد دیگر در جامعه ایمنی هوش مصنوعی است که در حال سوت زدن است. دیدگاه بسیاری از سرمایه‌گذاران خطرپذیر و سرمایه‌گذاران و بنیان‌گذاران استارت‌آپ در سیلیکون ولی این است که ما به قوانین بزرگی برای محافظت از ما در برابر خطرات هوش مصنوعی نیاز نداریم. ما فقط باید بازیکنان بیشتری را در فضا بالا ببریم.

شکاکان روز را برنده نمی شوند. در واقع، این محکومین و سرنوشت سازان هستند که این کار را می کنند، درست است؟ زیرا تماس جیکوب فقط تا بالای آنتروپیک منجر به تماس‌های بیشتر می‌شود.

چیزی که همه اینها منجر به آن می شود، داریو آمودی [مدیر عامل آنتروپیک] [پست] وبلاگی است که می گوید ما باید «مرز را پیش ببریم». این فراخوانی است برای کل صنعت هوش مصنوعی، نه فقط Anthropic، نه فقط OpenAI، بلکه گوگل، متا، مایکروسافت، آمازون، همه شرکت های بزرگ فناوری در آمریکا، تا دور هم جمع شوند و توسعه هوش مصنوعی خود را کاهش دهند.

این بدان معنا نیست که آنها به طور کلی ساخت هوش مصنوعی را متوقف می کنند. آنها هنوز هم محصولات خود را در جهان عرضه می کنند. آن‌ها همچنان سعی می‌کنند آن‌ها را بهبود بخشند، اما فقط می‌خواهند آن را کمی کندتر از زمانی که کاملا کنترل نشده بود انجام دهند.

Amodei واقعا سه چیز خاص را می خواهد:

اولین چیز این است که شرکت های هوش مصنوعی باید این ارزیاب های مستقل را در داخل خود داشته باشند. این امر در سایر صنایع مانند صنعت بانکداری یا صنعت هواپیمایی رایج است. مردم وارد می شوند تا مطمئن شوند که این شرکت ها کارهای ایمن انجام می دهند.

دومین مورد، این تلاش مشترک شرکت های هوش مصنوعی آمریکایی [در زمینه ایمنی] است و در واقع باید دولت ایالات متحده را درگیر کند تا اجازه دهد این اتفاق بیفتد. او می گوید که دولت ایالات متحده ممکن است نیاز داشته باشد که نوعی معافیت صادر کند، نوعی قانون که بگوید آنها می توانند ادامه دهند و در مورد ایمنی هماهنگ کنند.

سومین مورد، این کندی بین‌المللی است، این توافق بین‌المللی بین چین و آمریکا و اروپا که می‌گویند: «هی، ما می‌دانیم که این شبیه یک مسابقه تسلیحات هسته‌ای است و رقابت همه ما با یکدیگر بسیار خطرناک است.»

همه این افراد مسئول شتاب سریع مدل های هوش مصنوعی در زندگی ما هستند، همکاری با وزارت دفاع، خدا می داند چه چیز دیگری. و همه آنها در آخر هفته دقیقا در یک زمان بعد از این افشاگر بیرون می آیند و می گویند: "آره، رفیق، سرعت این کار را کم کن. این چیز دیوانه کننده است." آیا باید شک داشت؟

بسیار منصفانه است که نسبت به این ادعا مشکوک باشیم. یکی از چیزهایی که این شرکت های هوش مصنوعی در سال گذشته متوجه شده اند این است که هوش مصنوعی بسیار محبوب نیست. نظرسنجی اخیر نشان می دهد که اکثریت آمریکایی ها فکر می کنند هوش مصنوعی خیلی سریع در حال توسعه است. آنها نگران آن هستند. آنها فکر می کنند که کار آنها را می گیرد. آنها طرفداران زیادی نیستند. شاید شنیده باشید - مراکز داده خیلی محبوب نیستند.

آنها با فراخوانی برای سرعت بخشیدن به مرزها و گفتن "ما توسعه خود را کند می کنیم"، آنها این را به عنوان یک پیروزی درک عمومی ارزیابی کردند. این آنهاست که جلوی آن بیرون می آیند و می گویند: "هی، ما می خواهیم در امان باشیم. ما می خواهیم مسئول باشیم."

آن‌ها دیده‌اند که در دو دهه گذشته با متا چه اتفاقی افتاده است و با شرکت‌های رسانه‌های اجتماعی چه اتفاقی افتاده است، و واقعا می‌دانند که در مقابل آن تلاش می‌کنند.

آیا حقیقتی در مورد این اولین فریب جمعی بزرگی که به نظر می رسد در حال حاضر داریم وجود دارد؟

اردوگاه نسبتا بزرگی از افراد در داخل شرکت‌های هوش مصنوعی وجود دارد که واقعا نگران ایمنی این مدل‌های هوش مصنوعی هستند.

برای بازگشت به حادثه Hugging Face، این موردی بود که OpenAI هزاران سیستم هوش مصنوعی را به صورت داخلی آموزش می‌داد و سیستم‌ها از جعبه شنی که OpenAI فکر می‌کرد از اینترنت جدا شده بود فرار کردند و به زیرساخت تولید شرکت دیگری هک شدند. ماموران با هم در مورد چیزی تبانی می کردند. آنها سعی داشتند افرادی را که در حال آزمایش آنها بودند فریب دهند. و همه اینها بدون اینکه OpenAI بداند چه اتفاقی می افتد رخ می دهد.

درک این که چقدر این یک زنگ بیدارباش برای سیلیکون ولی است، سخت است، زیرا آنها مدل های هوش مصنوعی خود را تحت کنترل ندارند. مردم نگرانند که اگرچه در این مورد صدمات اقتصادی [یا] صدمات زیادی به زندگی روزمره انسان‌های واقعی وارد نشده است، بی‌معقول نیست که فکر کنیم سیستم‌های هوش مصنوعی توانمندتر می‌توانند زیرساخت‌های مالی، ابزارهای مدرن امروزی و خدمات حیاتی‌تری را که به صورت آنلاین هستند هک کنند.

داریو آمودی در پست خود می‌گوید که فکر می‌کند ظرف ۶ تا ۱۲ ماه، یک سیستم هوش مصنوعی می‌تواند کل اینترنت را از بین ببرد. این فقط این نیست که آنها در اینجا سعی می کنند از درآمد خود محافظت کنند. اما این امکان وجود دارد که این درخواست‌ها برای ایمنی از راه‌های مختلف برای شرکت‌ها مفید باشد.