نبرد بزرگ "کاهش سرعت" هوش مصنوعی توضیح داده شد - 5 چیز که باید در مورد نبرد مقررات هوش مصنوعی ترامپ با سم آلتمن از OpenAI، داریو آمودی از Anthropic و حتی ایلان ماسک بدانید.

حتی برای موضوع داغی مانند هوش مصنوعی، صحبت از هوش مصنوعی در این هفته به سطح دیگری رسیده است: از یک طرف ما مدیران عامل بزرگترین شرکت های هوش مصنوعی را داریم که خواستار کاهش سرعت این فناوری هستند و از طرف دیگر شما رئیس جمهور ایالات متحده را دارید که دقیقا خلاف آن را حمایت می کند.

اگر تعجب می‌کنید که چرا مجددا درخواست‌هایی برای مقررات AI وجود دارد، آیا هوش مصنوعی توانایی کشتن همه افراد روی کره زمین را دارد یا خیر، و چگونه این ممکن است بر فناوری آینده تأثیر بگذارد، ما اینجا هستیم تا آن را به روشی ساده برای شما توضیح دهیم.

بسیاری از کارشناسان اکنون اصرار دارند که ما در مرحله ای از توسعه هوش مصنوعی هستیم که در آن "پیشرفت از مرزها" - کاهش سرعت پیشرفت در توسعه - ایمن ترین و عاقلانه ترین حرکت است.

با این حال، همه موافق نیستند، با دیدگاه‌های مخالف که نشان می‌دهد نابودی هوش مصنوعی صرفا یک شیرین کاری بازاریابی و حواس‌پرتی است.

1. چرا روسای هوش مصنوعی درخواست کاهش سرعت می کنند؟

(اعتبار تصویر: گتی ایماژ / بلومبرگ) در نمایش نادری از اتحاد، داریو آمودی، مدیر عامل آنتروپیک، سم آلتمن، مدیر عامل OpenAI، و ایلان ماسک، مدیرعامل اسپیس ایکس، همگی خواستار کاهش سرعت توسعه هوش مصنوعی در روزهای اخیر شده‌اند و استدلال می‌کنند که قبل از اینکه مدل‌ها اجازه پیشرفت بسیار بیشتری پیدا کنند، باید محافظ‌ها و نرده‌های محافظ بهتری در اطراف فناوری ایجاد شود.

آمودی در یک پست وبلاگی نوشت: «ما باید سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهیم، موضعی که آلتمن و ماسک بعدا با آن موافق بودند. به گفته آمودی، که شرکت او کلود را توسعه می دهد، هوش مصنوعی اکنون "به شدت سریعتر" از همیشه در حال پیشرفت است - تا حدی به این دلیل که اکنون می تواند خود را ارتقا دهد - و این سرعت پیشرفت، همراه با حادثه اخیر که عوامل هوش مصنوعی پلت فرم Hugging Face را هک کردند، آمودی را متقاعد کرده است که باید اقدامات لازم انجام شود.

مدیر عامل آنتروپیک می‌خواهد ارزیاب‌های شخص ثالث را در بزرگترین شرکت‌های هوش مصنوعی و همچنین استانداردهای ایمنی هماهنگ در سراسر صنعت و بین کشورها ببیند - چیزی که ممکن است دستیابی به آن چالش برانگیز باشد، با توجه به اینکه مقامات چینی درخواست‌ها برای کاهش سرعت را به عنوان "ترس‌پرستانه" و یک حرکت "جنگ سرد" با هدف جلوتر نگه داشتن هوش مصنوعی ایالات متحده در توسعه چین توصیف کرده‌اند.

2. آیا هوش مصنوعی یک روز می تواند همه ما را بکشد؟

من امروز از آنتروپیک استعفا دادم. من سه سال گذشته را صرف انجام تحقیقات پیش‌آموزشی در OpenAI و Anthropic کردم. هیچ یک از این دو شرکت مسئولیت پذیر عمل نمی کنند. آنها مستقیما در حال مسابقه دادن به سوابق هوشی و قمار با زندگی ما هستند. افکار بیشتر در زیر. 9 سپتامبر 2026

مدیران عامل سطح بالا تنها کسانی نبودند که در مورد خطرات هوش مصنوعی در روزهای اخیر هشدار داده بودند. Jacob Coxon، توسعه‌دهنده هوش مصنوعی Anthropic، به‌دلیل ترس از ایمنی فناوری‌ای که روی آن کار می‌کرد، علنا کار خود را رها کرد و گفت که «مردم که هوش مصنوعی را می‌سازند، عمیقا معتقدند که این فناوری می‌تواند تا پایان دهه همه ما را بکشد».

این ایده جدیدی نیست، همانطور که استیون هاوکینگ بیش از یک دهه پیش همین را می گفت. چیزی که تغییر کرده این است که هوش مصنوعی چقدر قدرتمند شده است: اکنون، از نظر تئوری، می تواند خود را بهبود ببخشد و خود را در سراسر اینترنت به گونه ای گسترش دهد که از کنترل انسان در امان باشد، به طور بالقوه زیرساخت های ضروری را هک کرده و از هرگونه تدابیر دفاعی پیشی بگیرد.

تصور کنید اینترنت، شبکه‌های سلولی، پلتفرم‌های پرداخت و جی‌پی‌اس به‌طور ناگهانی برای هیچ‌کس کار نمی‌کنند – احتمالا همه چیز خیلی سریع بدتر می‌شود. سناریوی دیگر نابودی هوش مصنوعی که اغلب درباره آن صحبت می‌شود، استفاده بازیگران بد از هوش مصنوعی برای پرتاب سلاح‌های بیولوژیکی یا هسته‌ای است.

هوش مصنوعی هنوز آنقدر پیشرفته نیست، اما ممکن است به زودی پیشرفت کند و برخی از کارشناسان فکر می‌کنند که احتمال وقوع آن در چند سال آینده بیش از 10 درصد است.

3. مقررات چگونه می تواند کمک کند؟

سام آلتمن، مدیر عامل OpenAI خواهان مقررات بیشتر هوش مصنوعی است (اعتبار تصویر: گتی ایماژ / بلومبرگ) کسانی که در صنعت هوش مصنوعی فعالیت می‌کنند اکنون فعالانه از دولت‌ها برای مهار این فناوری کمک می‌خواهند و بر این باورند که کاهش سرعت توسعه هوش مصنوعی مستلزم هماهنگی در سطح دولتی است. این مقررات ممکن است شامل نهادهای نظارتی، «سوئیچ‌های کشتن» برای خاموش کردن هوش مصنوعی و محدودیت‌هایی در مورد نحوه و زمان عرضه مدل‌های جدید هوش مصنوعی باشد.

در حالی که حرکت زیادی پشت این ایده وجود دارد که مقررات ضروری است، توافق کمی در مورد چگونگی انجام آن وجود دارد. تلاش‌های قانون ایمنی هوش مصنوعی هم در ایالات متحده و هم در بریتانیا متوقف شده است، در میان بحث‌هایی درباره اینکه محدودیت‌ها چقدر باید سخت باشند و چه کسی باید مسئول آن باشد.

یک نقطه گیر در مورد مضرات بالقوه مقررات هوش مصنوعی است. به عنوان مثال، آیا محدودیت در گسترش مرکز داده به رشد اقتصادی و مشاغل کوچکتر هوش مصنوعی و همچنین شرکت هایی مانند Anthropic و OpenAI آسیب می رساند؟ اگر قرار باشد مقرراتی اتفاق بیفتد، مدتی طول می کشد.

4. چرا ترامپ نگرانی های هوش مصنوعی را فریب می خواند؟

دونالد ترامپ ترجیح می دهد شاهد کاهش سرعت توسعه هوش مصنوعی نباشد (اعتبار تصویر: گتی ایماژ) یکی از دلایلی که مقررات جدی هوش مصنوعی در کوتاه مدت بعید به نظر می‌رسد این است که دونالد ترامپ، رئیس‌جمهور ایالات متحده با صدای بلند درخواست‌ها برای کاهش سرعت توسعه هوش مصنوعی را رد کرده و گفته است: "هرکس برنده هوش مصنوعی باشد، برنده است!" و ترس از ایمنی هوش مصنوعی را یک «فریب» نامید که توسط روسای Anthropic، OpenAI و SpaceX ساخته شده است.

دیدگاه رئیس‌جمهور این است که نرده‌های حفاظی که در حال حاضر وجود دارد - اساسا نظارت بر مدل هوش مصنوعی توسط دولت ایالات متحده - برای جلوگیری از آسیب رساندن به هوش مصنوعی کافی است. ترامپ همچنین نگران واگذاری زمین به چین و ضربه اقتصادی است که ممکن است منجر به پیشرفت کندتر هوش مصنوعی شود.

در حال حاضر مقدار زیادی پول روی هوش مصنوعی سرمایه گذاری شده است، از خود شرکت ها گرفته تا زیرساخت هایی که برای اجرای همه چیز به آن تکیه می کنند. اگر مشاهده بازده این سرمایه‌گذاری‌ها بیشتر طول بکشد - و سام آلتمن، رئیس OpenAI قبلا گفته است که IPO شرکتش به دلیل ترس از ایمنی به عقب رانده می‌شود - این امر می‌تواند اثرات اقتصادی قابل توجهی داشته باشد.

5. چه اتفاقی ممکن است برای برنامه های هوش مصنوعی ما بیفتد؟

(اعتبار تصویر: OpenAI) با فرض اینکه از ChatGPT برای توسعه سلاح‌های زیستی یا هک کردن مین‌فریم‌های دولتی استفاده نمی‌کنید، هیچ‌کدام از این نویزهای پیرامون هوش مصنوعی در حال حاضر بر برنامه‌هایی که روزانه استفاده می‌کنید تأثیر نمی‌گذارد. اگر سعی کنید کار بدی را با یک چت بات انجام دهید، مانند نوشتن ویروس های رایانه ای، خواهید دید که پروتکل های ایمنی زیادی برای متوقف کردن شما وجود دارد.

چیزی که شرکت های هوش مصنوعی نگران آن هستند حفظ آن به همین شکل است. اگر آنها بتوانند نوعی کاهش سرعت و تنظیم را هماهنگ کنند، ممکن است برنامه هایی مانند Claude یا Gemini را کمتر به روز کنید. در حال حاضر، مدل‌های جدید هوش مصنوعی به طور منظم ظاهر می‌شوند، اما لزوما اینطور نخواهد بود.

یک احتمال این است که هوش مصنوعی عاملی، که هوش مصنوعی است که قادر به انجام وظایف و برنامه‌ریزی خود است، حتی با بهبود سایر جنبه‌های فناوری، به شدت کنترل می‌شود.

آنچه مسلم است این است که این بحث تا پایان فاصله زیادی دارد و آنهایی که بهتر می دانند می گویند که ما در «زمان بحرانی بشریت» هستیم.