Scoop: شرکت های هوش مصنوعی سناریوهای "روز بعد" را برای شورش عمومی طراحی می کنند

مدیران ارشد Anthropic، OpenAI و سایر شرکت‌های هوش مصنوعی به طور خصوصی سناریوهایی را برای شورش عمومی و سیاسی پس از یک رویداد فاجعه‌بار هوش مصنوعی بازی می‌کنند.

چرا مهم است: این مقامات یک رویداد بزرگ را پیش بینی می کنند، به احتمال زیاد یک حمله سایبری، که دسترسی به خدمات مالی، اتصال به اینترنت یا حتی برق و آب را قطع می کند. اولین نمونه آسیب قابل توجه در دنیای واقعی ناشی از هوش مصنوعی ناامن، عموم مردم محتاط را علیه این فناوری و رهبران آن، از جمله داریو آمودی، مدیر عامل آنتروپیک و سام آلتمن، مدیر عامل OpenAI، و همچنین رئیس جمهور ترامپ به دلیل عدم تمایل به تنظیم آن، بیشتر خواهد کرد. خطر: در حالی که برنامه ریزی سناریو در بسیاری از شرکت ها و تنظیمات امنیت ملی رایج است، پنتاگون در حال اجرای جنگ جنگی بوده است.

برای چندین دهه - تفاوت این است که بسیاری از محققان و مدیران ارشد هوش مصنوعی معتقدند یک حادثه بزرگ اجتناب ناپذیر است. یکی از سخنگویان شرکت گفت: "OpenAI تمرین های آمادگی را انجام می دهد که در آن تیم ها در مورد طیف وسیعی از سناریوهای بالقوه بحث و کار می کنند." این سناریوها اجتناب ناپذیر تلقی نمی شوند، بلکه به ما کمک می کنند تا برای شرایط مختلف آماده شویم.»

آنتروپیک از اظهار نظر خودداری کرد. بزرگ‌نمایی: چه یک گروه عامل سرکش از محیط آزمایش داخلی خارج شود یا یک بازیگر بد راه‌های غیرمنتظره‌ای برای استفاده از مدل‌های موجود پیدا کند، بازی سرزنش شروع می‌شود. کمپین اخیری که سازمان‌های مالی کره جنوبی را هدف قرار داده است - از جمله تخلفات گزارش شده در دو بانک - نشان می‌دهد که یک فرد می‌تواند چه خسارتی وارد کند.

ظاهرا یک هکر چینی از ابزارهای هوش مصنوعی مدل‌های توسعه‌یافته چین، از جمله DeepSeek برای سرقت داده‌های ده‌ها هزار مشتری بانک استفاده کرده است. به گفته شرکت امنیت سایبری CrowdStrike، مهاجم از Claude Code برای درخواست کمک برای یافتن مکان هایی برای فروش داده های سرقت شده استفاده کرده است. برنامه ریزان برتر هوش مصنوعی تصور می کنند دموکرات ها که پس از انتخابات میان دوره ای صعود می کنند، به سرعت برای خاموش کردن هوش مصنوعی حرکت می کنند اما با چالش های مهمی روبرو خواهند شد. یک کنگره سالخورده که با انقلاب هوش مصنوعی ارتباط ندارد، می تواند خود را از عمق آن بیابد.

اقتصاد جهانی اکنون به شدت با زیرساخت های هوش مصنوعی در هم تنیده شده است. کند کردن آن می تواند به اقتصاد شکننده ای که از قبل شکننده است ضربه سختی بزند.

بسیاری از مدل‌های وزن باز وجود دارند که می‌توان آن‌ها را آزادانه دانلود کرد و برای آسیب‌رسانی استفاده کرد، مشکلی که اکثر متخصصان امنیت سایبری آن را تنها با استفاده از هوش مصنوعی برای مبارزه با هوش مصنوعی سرکش قابل حل می‌دانند. بین خطوط: برنامه ریزی شامل تیم قرمز برای بدترین سناریوها است. عمدتا بر روی مسابقه برای آموزش اعضای کنگره تمرکز دارد. مدیران شرکت می دانند که مقررات در حال حاضر هیچ شانسی برای تصویب ندارد، اما همچنان می خواهند قوانین و سیاست های ایالات متحده را شکل دهند.

رهبران پس از اولین رویداد فاجعه آمیز به آن روی خواهند آورد. آنچه ما در حال تماشای آن هستیم: بسیاری از صاحبان صنعت هوش مصنوعی به Axios گفتند که معتقدند یک رویداد بزرگ در شش تا ۱۲ ماه آینده رخ خواهد داد. حتی در شرایطی که دموکرات‌ها کنترل مجلس و سنا را در دست دارند، این شرکت‌ها سیاست گسسته را به عنوان یک هنجار، از جمله در حزب دموکرات، می‌بینند.

برخی از سنگین‌ترین پیشنهادهای دموکرات‌ها شامل ممنوعیت ابراطلاعات یا توقف توسعه پیشرفته هوش مصنوعی است.

سایرین دارای پشتیبانی دو حزبی و حتی برخی از خریدهای صنعتی هستند، از جمله سوئیچ کشتن مورد نیاز در هوش مصنوعی پیشرفته. اما کارشناسان در مورد عملی بودن تلاش برای خاموش کردن همه سیستم‌های هوش مصنوعی تردید کرده‌اند. نتیجه: در یک بحران واقعی، واشنگتن می تواند اختلافات حزبی را کنار بگذارد. یکی از دستیاران دموکرات به همکاری در دوران کووید و بحران مالی 2008 اشاره کرد.