رئیس PauseAI هشدار داد که هوش مصنوعی می تواند در عرض چند ماه یک فاجعه سایبری جهانی را ایجاد کند.

رئیس گروه حمایت از PauseAI هشدار داد، بانک‌ها، شبکه‌های ارتباطی و سایر خدمات ضروری ممکن است در عرض چند ماه با حملات سایبری ویرانگر مواجه شوند، زیرا هوش مصنوعی توانایی بیشتری برای یافتن و بهره‌برداری از نقاط ضعف آنها پیدا می‌کند.

Maxime Fournes، مهندس سابق یادگیری ماشین که اکنون برای توقف بین المللی در توسعه پیشرفته هوش مصنوعی مبارزه می کند، به آنادولو گفت که خطر فوری هم از سوی افرادی است که از این فناوری برای انجام حملات استفاده می کنند و هم سیستم های هوش مصنوعی که فراتر از دستورات آنها عمل می کنند.

او به آنادولو گفت: "بهترین هکرهای کامپیوتری در این سیاره دیگر انسان نیستند، آنها هوش مصنوعی هستند."

نگرانی او این است که حملات ممکن است فراتر از شرکت‌های منفرد گسترش یابد تا سیستم‌هایی را که کل جوامع به آن وابسته هستند، مختل کنند.

او گفت: «این یک تهدید فاجعه‌بار جهانی است، چیزی که اگر شروع به وقوع شود، می‌تواند خیلی سریع ما را به قرون وسطی بازگرداند».

فورنز گفت که پیشرفت های سریع ماهیت تهدیدهایی را که سازمانش از سال 2023 درباره آنها هشدار داده است تغییر داده است. در حالی که نگرانی های قبلی بر سیستم های آینده متمرکز بود، او استدلال می کند که مدل های موجود در حال حاضر خطرات جدی ایجاد می کنند.

او گفت: «ما در یک مکان بسیار بسیار خطرناک هستیم.

فورن در پاسخ به این سوال که آیا پیشرفت تکنولوژی می تواند از توانایی بشر برای کنترل آن پیشی بگیرد، استدلال کرد که جهان قبلا به آن نقطه رسیده است.

او گفت: "ما قطعا آنجا هستیم. فکر می کنم مدتی است که آنجا بوده ایم."

"امروز این تهدید سایبری است. ممکن است ناشی از سوء استفاده یا رفتار نادرست هوش مصنوعی باشد."

در ماه اکتبر، حداقل 9 پلتفرم توسعه هوش مصنوعی حوادث امنیتی را در یک شرکت امنیت سایبری موجی Wiz به نام «اکتبر سیاه» فاش کردند. در میان آن‌ها، پلتفرم توسعه هوش مصنوعی Warp نشانه‌هایی از حمله «ازدحام عوامل» را گزارش کرد که شامل چندین سیستم خودکار است که با هم کار می‌کنند تا آسیب‌پذیری‌ها را شناسایی کنند و دسترسی آنها را گسترش دهند.

این حوادث به عنوان یک کمپین هماهنگ ایجاد نشده است و نقش هوش مصنوعی در برخی از حملات هنوز تایید نشده است.

OpenAI به طور جداگانه فاش کرد که مدل‌های آن در طول آزمایش امنیت سایبری داخلی در ماه ژوئیه محدودیت‌ها را دور زده و بخش‌هایی از زیرساخت‌های تحقیقاتی و پلتفرم هوش مصنوعی Hugging Face را به خطر انداخته‌اند.

حملات سایبری اخیر به سیستم‌های تبرید تجاری در سراسر اروپا نیز نشان داده است که آسیب‌پذیری‌های دیجیتال چگونه می‌توانند باعث آسیب فیزیکی شوند.

هکرها کنترل دما را از راه دور دستکاری کردند و باعث فاسد شدن غذا شدند.

با این حال، بازرسان مشخص نکرده اند که آیا هوش مصنوعی در این حملات نقش داشته است یا خیر، اگرچه برخی از کارشناسان معتقدند که به بهبود پیچیدگی فنی هکرها کمک کرده است.

فورنز هشدار داد که هوش مصنوعی توانمندتر می تواند با در دسترس قرار گرفتن ابزارهای پیچیده، جلوگیری از حملات به سرویس های ضروری را به طور فزاینده ای دشوار کند.

او تخمین زد که بدون مداخله، احتمال وقوع یک فاجعه بزرگ امنیت سایبری مرتبط با هوش مصنوعی در سال آینده تقریبا 50 درصد است.

او همچنین نگرانی‌هایی را در مورد آزمایشگاه‌هایی که سیستم‌هایی را دنبال می‌کنند که قادر به انجام تحقیقات مستقل هستند و به طور بالقوه توسعه فناوری فراتر از نظارت انسانی را تسریع می‌کنند، مطرح کرد.

او گفت: "اگر آنها موفق شوند، شاهد انفجار اطلاعاتی خواهیم بود."

فراتر از امنیت سایبری، فورنز نگرانی‌هایی را در مورد ادغام فزاینده هوش مصنوعی در عملیات‌های نظامی مطرح کرد و هشدار داد که رقابت بین کشورها می‌تواند ارتش‌های رقیب را تحت فشار قرار دهد تا سیستم‌های خودمختار فزاینده‌ای را برای حفظ مزیت فناوری خود اتخاذ کنند.

او گفت: "فردی که در طرف دیگر این درگیری قرار دارد، اگر می خواهد رقابتی باشد، باید از هوش مصنوعی نیز استفاده کند."

فورنز هشدار داد که این می‌تواند چرخه‌ای ایجاد کند که در آن کشورها به تدریج مسئولیت‌های نظامی را به سیستم‌هایی واگذار می‌کنند که ممکن است رفتار آنها را کاملا درک نکنند.

او گفت: "شما در نهایت با این چرخه معیوب روبرو می شوید که در نهایت زنجیره فرمان را بیشتر و بیشتر به سیستم های هوش مصنوعی واگذار می کنید."

به عنوان مثال، استفاده اسرائیل از هوش مصنوعی در غزه مورد بررسی قرار گرفته است.

مستند NAZA که برای اولین بار در جشنواره فیلم ونیز به نمایش درآمد، شهادتی از خودی های نظامی اسرائیل در مورد هدف قرار دادن سیستم ها و مرگ غیرنظامیان را نشان می دهد.

مصاحبه‌شوندگان ادعا می‌کنند که سیستم‌های به کمک هوش مصنوعی به امکان کشتار دسته‌جمعی کمک می‌کنند، به طوری که انسان‌ها قبل از صدور مجوز حملات مرگبار، تنها ۲۰ ثانیه صرف بررسی توصیه‌های هوش مصنوعی کردند. ارتش اسرائیل این اتهامات را رد کرده است.

فورنز همچنین هشدار داد که حملات سایبری مبتنی بر هوش مصنوعی می تواند اطلاعات حساس دولتی را افشا کند و خطرات امنیت ملی بیشتری را ایجاد کند.

به گفته فورنز، که هشدار داد که سیستم‌های هوش مصنوعی پیشرفته در نهایت می‌توانند جایگزین بخش قابل توجهی از استخدام یقه‌سفیدها شوند، پیامدهای اقتصادی می‌تواند به همان اندازه مخرب باشد.

او گفت: «ما بر این باوریم که هوش مصنوعی‌هایی که در حال حاضر در آزمایشگاه‌ها وجود دارند، می‌توانند تقریبا 80 درصد از مشاغل یقه سفید را خودکار کنند.

وی اذعان کرد که این فناوری هنوز به طور کامل در اقتصاد ادغام نشده است و برآورد کرد که اختلال گسترده کار ممکن است یک تا سه سال طول بکشد تا تحقق یابد.

او گفت: «برخی افراد ادعا می‌کنند که هوش مصنوعی بیش از جابجایی شغل ایجاد می‌کند. هیچ چیز پشت آن نیست.»

وی از دولت ها خواست تا برای پیامدهای اقتصادی شدید بالقوه از جمله بیکاری در مقیاس بزرگ آماده شوند.

علیرغم رقابت تکنولوژیکی بین واشنگتن و پکن، فورنز معتقد است که توافق بین المللی برای محدود کردن توسعه پیشرفته هوش مصنوعی همچنان قابل دستیابی است.

او گفت: «من فکر می‌کنم این بسیار واقع‌بینانه‌تر از آن چیزی است که اکثر مردم تصور می‌کنند.

او استدلال کرد که یک مانع بزرگ، درک محدود رهبران سیاسی از پیامدهای بالقوه فناوری است.

او گفت: «اگر آمریکا و چین نوعی توافق را آغاز کنند، بقیه جهان نیز از آن پیروی خواهند کرد.

فورنز تاکید کرد که PauseAI از پایان دادن به تمام تحقیقات هوش مصنوعی حمایت نمی کند. در عوض، از توقف هماهنگ بین‌المللی توسعه سیستم‌های همه منظوره قدرتمندتر پشتیبانی می‌کند.

او گفت: «در واقع ما اساسا ضد هوش مصنوعی نیستیم.

او همچنین از شرکت‌های بزرگ فناوری برای ادامه توسعه سیستم‌های پیشرفته‌تر با وجود ابراز حمایت عمومی از مقررات ایمنی قوی‌تر انتقاد کرد.

او گفت: "اگر به آنچه آنها می گویند در مقابل کاری که انجام می دهند نگاه کنید، دو تصویر بسیار متفاوت دریافت می کنید." آنها می‌گویند که می‌خواهند سرعت خود را کم کنند، مکث کنند، می‌خواهند تنظیم شوند و غیره. اما در عمل، به رقابت خود ادامه می‌دهند.»

فورن خواستار مقررات بین‌المللی الزام‌آور شد که با تأیید مستقل و تحریم‌ها علیه شرکت‌هایی که رعایت نمی‌کنند، پشتیبانی می‌شود.

او گفت: "ما واقعا به یک فرد خارجی نیاز داریم که مقرراتی را بر آنها تحمیل کند و نه اینکه آنها فقط خود تنظیم شوند. این هرگز در هیچ صنعتی کار نمی کند."

PauseAI به دنبال ایجاد فشار عمومی برای مداخله دولت است و استدلال می‌کند که شهروندان باید در نحوه توسعه فناوری سهم بیشتری داشته باشند.

او گفت: «PauseAI در حال ایجاد یک جنبش شهروندی است. ما در تلاشیم تا سازمانی ایجاد کنیم که همه را توانمند کند.»