توضیح دهنده - سوء استفاده انسانی یا ماشین های سرکش؟ چگونه هوش مصنوعی پیشرفته می تواند جامعه را تهدید کند

همانطور که سیستم‌های هوش مصنوعی به طور فزاینده‌ای قدرتمند می‌شوند، هشدارها در مورد راه‌هایی که می‌توانند به انسان آسیب برسانند، از خطراتی که در حال حاضر در حال ظهور هستند تا ترس از یک فاجعه وجودی در آینده را شامل می‌شود.

هفته گذشته، Jacob Coxon، کارمند Anthropic، علنا از شرکت پیشرو هوش مصنوعی استعفا داد و هشدار داد که توسعه دهندگان در حال ساخت سیستم‌هایی هستند که در نهایت می‌توانند بشریت را نابود کنند.

کاکسون در پلتفرم رسانه اجتماعی X ایالات متحده پست کرد: «افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که این هوش مصنوعی می‌تواند تا پایان دهه همه ما را بکشد.» «آن‌ها مستقیما به سمت سوپرهوش خودسازی و قمار با زندگی ما رقابت می‌کنند.»

اندکی پس از آن، مدیران برجسته هوش مصنوعی از درخواست‌ها برای کاهش سرعت توسعه سیستم‌های قدرتمندتر و تقویت پادمان‌ها حمایت کردند و نگرانی‌ها در مورد سرعت توسعه هوش مصنوعی را در خط مقدم بحث عمومی قرار دادند.

هارین سلاهوا، رئیس دانشکده محاسبات، حقوق و روانشناسی دانشگاه باکینگهام به آنادولی گفت: هشدارهای اخیر محققان هوش مصنوعی مبنی بر اینکه سیستم‌های هوش مصنوعی پیشرفته می‌توانند خطر فاجعه‌باری برای بشریت ایجاد کنند، باید جدی گرفته شود.

در حالی که بحث در مورد اینکه آیا سیستم‌های بسیار پیشرفته می‌توانند خود به یک تهدید تبدیل شوند ادامه دارد، سلاهوا گفت که نگرانی فوری‌تر احتمال استفاده افراد از هوش مصنوعی قوی‌تر برای ایجاد آسیب در مقیاس بزرگ است.

او گفت: «هوش مصنوعی پیشرفته می‌تواند تهدیدهای موجود مانند حملات سایبری، اطلاعات غلط، سلاح‌های خودمختار و سایر فعالیت‌های مخرب را تقویت کند. به همین دلیل، خطرات مرتبط با خود فناوری و روش‌هایی که انسان ممکن است برای استفاده از آن انتخاب کند، توجه دقیق و تدابیر حفاظتی مناسب را ایجاب می‌کند.»

در اینجا برخی از راه هایی که هوش مصنوعی می تواند به مردم آسیب برساند آورده شده است:

هوش مصنوعی به طور فزاینده ای در سیستم های نظامی گنجانده می شود، جایی که می تواند مقادیر زیادی از اطلاعات میدان نبرد را تجزیه و تحلیل کند، اشیاء را شناسایی کند، به هدف گیری کمک کند و به کارکردن پلتفرم های مستقل کمک کند.

استفاده از آن در جنگ نگرانی‌هایی را در مورد اینکه چه اتفاقی می‌افتد زمانی که توصیه‌های تولید شده توسط ماشین اشتباه هستند، به اندازه کافی نظارت نمی‌شوند یا عمدا برای تسریع تصمیم‌گیری مرگبار استفاده می‌شوند، ایجاد کرده است.

استفاده اسرائیل از سیستم‌های مجهز به هوش مصنوعی در جنگ با غزه مورد توجه ویژه قرار گرفته است.

گزارشگر ویژه سازمان ملل، فرانچسکا آلبانیز، در گزارش خود از اقتصاد اشغالگری تا اقتصاد نسل کشی توضیح داد که چگونه ارتش اسرائیل از سیستم های هوش مصنوعی از جمله اسطوخودوس و انجیل و همچنین سیستمی به نام بابا کجاست؟ برای پردازش اطلاعات و تولید یا ردیابی اهداف بالقوه استفاده کرده است.

در گزارش آلبانیز همچنین آمده است که پالانتیر که کارش با اسرائیل به قبل از اکتبر 2023 می رسد، همکاری خود را با دولت اسرائیل پس از شروع جنگ غزه گسترش داد.

دیده‌بان حقوق بشر در ژوئن هشدار داد که ارتش‌ها به طور فزاینده‌ای هوش مصنوعی را در تصمیم‌گیری‌های مرگ و زندگی، از جمله هدف‌گیری و انتخاب سلاح، وارد می‌کنند.

این گزارش به گزارش‌هایی اشاره می‌کند که نیروهای آمریکایی از سیستم هوشمند Maven مجهز به هوش مصنوعی، ادغام شده با کلود آنتروپیک، در جریان حملات تحت رهبری آمریکا به ایران در سال 2026 برای کمک به شناسایی اهداف اولویت‌دار و انتخاب مهمات استفاده کردند.

آنتروپیک این ماه گفت که کاربرانی را در شمال یمن نیز شناسایی کرده است که از Claude برای پشتیبانی از توسعه سلاح های پیشرفته استفاده می کنند.

این شرکت کاربران را به عنوان حوثی‌ها معرفی نکرد اما گفت که این فعالیت‌ها از قلمرو تحت کنترل حوثی‌ها آغاز شده و شامل کار بر روی نرم‌افزار یک موشک هدایت‌شونده و یک موشک بالستیک با برد بیش از 2000 کیلومتر (1243 مایل) می‌شود.

امنیت سایبری یکی از فوری‌ترین زمینه‌هایی است که هوش مصنوعی می‌تواند به آسیب فیزیکی و دیجیتالی کمک کند.

رویژه لی، استادیار دانشکده علوم کامپیوتر در دانشگاه بیرمنگام، به آنادولو گفت: «در کوتاه مدت، نگرانی‌های امنیت سایبری، مانند تولید سریع بدافزار یا اسکن خودکار آسیب‌پذیری، محتمل‌ترین هستند.

لی گفت که مدل‌های زبان بزرگ به طور گسترده بر روی مخازن کد و مستندات نرم‌افزاری آموزش داده می‌شوند، که باعث می‌شود آن‌ها توانایی بالایی در درک و تولید کدهای کامپیوتری داشته باشند.

او گفت: «بنابراین کاهش کف فنی برای سوء استفاده‌های سایبری پیچیده یک موضوع ملموس و کوتاه مدت است.

هوش مصنوعی می‌تواند به کاربران در یافتن آسیب‌پذیری‌های نرم‌افزار، نوشتن کدهای مخرب، انجام شناسایی و خودکارسازی بخش‌هایی از عملیات سایبری کمک کند.

آنتروپیک در گزارش تهدید ماه سپتامبر خود گفت که تلاش‌ها برای سوء استفاده از کلود در عملیات‌های سایبری، از جمله فعالیت‌های مربوط به فیشینگ، بدافزارها و تلاش‌ها برای به خطر انداختن سیستم‌های رایانه‌ای را مختل کرده است.

یک حمله سایبری با کمک هوش مصنوعی که بیمارستان، شبکه برق، سیستم آب، ارائه دهنده مخابرات یا شبکه حمل و نقل را هدف قرار می دهد نیز می تواند خدماتی را که زندگی مردم به آن وابسته است مختل کند.

سلاهوا گفت: «آنچه که من را بیشتر نگران می کند، حملات سایبری، حملات به زیرساخت های حیاتی و اختلالات اقتصادی است.

"اینها خطرات فوری و واقعی هستند زیرا می توانند توسط عوامل انسانی با استفاده از سیستم های هوش مصنوعی پیشرفته تقویت شوند."

همان قابلیت‌های هوش مصنوعی که می‌تواند به دانشمندان در درک بیماری‌ها، پروتئین‌ها و سیستم‌های بیولوژیکی کمک کند، می‌توانند به طور بالقوه برای کمک به تحقیقات بیولوژیکی یا شیمیایی خطرناک مورد سوء استفاده قرار گیرند.

گزارش تهدید سپتامبر Anthropic چندین مورد را تشریح کرد که در آن کاربران به دنبال کمک برای تحقیقات بیولوژیکی بودند که پادمان‌های شرکت را آغاز کرد.

در یک مورد، کاربران به دنبال کمک در رابطه با کار سودمند مربوط به ویروس چیکونگونیا بودند، در حالی که دیگران درگیر تحقیق در مورد پاتوژن ها و سموم بودند. آنتروپیک گفت این فعالیت را مسدود کرده است.

نگرانی این نیست که سیستم‌های هوش مصنوعی امروزی می‌توانند به طور مستقل سلاح‌های بیولوژیکی ایجاد کنند، بلکه این است که مدل‌های توانمندتر می‌توانند دانش تخصصی را در دسترس‌تر کنند یا کارهایی را که قبلا به تخصص قابل توجهی نیاز داشت، سرعت بخشند.

لی بر شکاف قابل توجهی بین به دست آوردن اطلاعات بالقوه خطرناک از یک مدل هوش مصنوعی و در واقع انجام یک حمله بیولوژیکی یا شیمیایی تاکید کرد.

او گفت: «سناریوهای فاجعه‌بار شامل سلاح‌های فیزیکی، تهدیدات بیولوژیکی یا حملات به زیرساخت‌های حیاتی به چیزی بیش از تولید متن یا کد نیاز دارند.

"آنها به هماهنگی پیچیده، سخت افزار تخصصی، سنتز فیزیکی و مدیریت زیرساخت خاص دامنه نیاز دارند. سیستم های هوش مصنوعی فعلی نمی توانند به طور مستقل این خطوط لوله فیزیکی چند وجهی را هدایت یا اجرا کنند."

هوش مصنوعی همچنین می‌تواند با شکل دادن به آنچه که مردم می‌بینند، می‌شنوند و باور می‌کنند باعث آسیب شود. در حال حاضر می تواند متن، تصاویر، صدا و ویدئو متقاعدکننده را در مقیاس تولید کند و پیام هایی را برای مخاطبان خاص تنظیم کند.

گزارش آنتروپیک در سپتامبر، عملیات نفوذ به کمک هوش مصنوعی شامل حساب‌های جعلی، وب‌سایت‌ها و محتوای سیاسی را مستند کرد.

این خطرات می‌تواند به‌ویژه در طول جنگ‌ها، انتخابات یا شرایط اضطراری عمومی، زمانی که شبکه‌های حساب‌های تولید شده توسط هوش مصنوعی می‌توانند برای انتشار اطلاعات نادرست، دامن زدن به تنش‌ها یا تشویق خشونت استفاده شوند، شدیدتر شوند.

شورش هایی که به دنبال کشته شدن سه دختر در ساوثپورت در ژوئیه 2024 در بخش هایی از بریتانیا گسترش یافت، نمونه ای از این است که چگونه مواد تولید شده توسط هوش مصنوعی می توانند بخشی از یک اکوسیستم اطلاعات نادرست گسترده تر شوند.

ادعاهای نادرست در مورد هویت، مذهب و وضعیت مهاجرت مظنون پس از حمله به سرعت در فضای مجازی پخش شد و قبل از اینکه اعتراضات به شورش در چندین شهر تبدیل شود، توسط حساب های راست افراطی تقویت شد.

تحقیقات دانشکده اقتصاد لندن نشان داد که یکی از حساب‌های X که مورد بررسی قرار داده، ده‌ها تصویر ایجاد شده توسط هوش مصنوعی را منتشر کرده است که روایت‌های نژادپرستانه و اسلام‌هراسی را پس از حمله تبلیغ می‌کنند.

محققان گفتند 39 پست حاوی تصاویر مولد هوش مصنوعی سطوح بالایی از تعامل را به خود جلب کرده است که یکی از آنها 11 میلیون بازدید داشته است.

دسته دیگری از نگرانی ها شامل تعاملات مستقیم بین چت ربات های هوش مصنوعی و کاربران آسیب پذیر است، با چندین پرونده قضایی مبنی بر اینکه تعاملات ربات های چت منجر به مرگ و میر از جمله قتل، مصرف بیش از حد و خودکشی شده است.

در ماه مه 2026، والدین سام نلسون 19 ساله شکایتی را علیه OpenAI تنظیم کردند و ادعا کردند که ChatGPT به او توصیه های خطرناکی در مورد کراتوم، زاناکس و الکل قبل از مرگ تصادفی او در اثر مصرف بیش از حد در سال 2025 داده است.

OpenAI این اتهامات را رد کرده و می گوید ChatGPT جایگزینی برای مراقبت های پزشکی حرفه ای نیست.

شکایت دیگر مربوط به قتل-خودکشی ادعایی در کنتیکت است.

املاک زن 83 ساله ای از کنتیکت، سوزان آدامز، از OpenAI و مایکروسافت شکایت کرد و مدعی شد که ChatGPT هذیان های پارانوئیدی پسرش را قبل از کشتن مادرش و سپس خودش را تقویت کرده است.

مروری که امسال در The Lancet Psychiatry منتشر شد، هشدار داد که مدل‌های زبانی بزرگ ممکن است به شروع یا تشدید علائم روان‌پریشی، از جمله با تقویت باورهای هذیانی در کاربران آسیب‌پذیر، کمک کنند.

هوش مصنوعی همچنین می تواند کلاهبرداری را قانع کننده تر و انجام آن در مقیاس را آسان تر کند.

طبق گزارش ها، این کارمند به تماسی با چند نفر که به نظر می رسید از مقامات ارشد شرکت بودند، پیوست. پلیس گفت که کلاهبرداران نسخه‌های جعلی عمیقی از مدیران ایجاد کرده‌اند و از آن‌ها برای متقاعد کردن کارمند برای انجام این انتقال استفاده کرده‌اند.

مقامات ایالات متحده همچنین در مورد مجرمانی که از صداها و پیام های تولید شده توسط هوش مصنوعی برای جعل هویت مقامات دولتی و سایر شخصیت های مورد اعتماد استفاده می کنند، هشدار داده اند.

برای لی، بسیاری از معتبرترین خطرات کوتاه مدت به هوشیاری هوش مصنوعی، توسعه نیات خود یا تصمیم گیری مستقل برای آسیب رساندن به انسان بستگی ندارد.

آن‌ها از افرادی می‌آیند که از سیستم‌هایی با قابلیت فزاینده برای انجام کارهایی استفاده می‌کنند که قبلا سخت‌تر، گران‌تر یا از نظر فنی سخت‌تر بودند.

لی می‌گوید: «از آنجایی که مدل‌های بزرگ هوش مصنوعی مقادیر انبوهی از متن و کد انسانی را دریافت می‌کنند، الگوهای سازنده و مخربی را که آنلاین هستند منعکس می‌کنند.

لی گفت، بدون تدابیر مناسب، چنین سیستم‌هایی می‌توانند موانع فنی پیش روی عوامل مخرب را کاهش دهند، از جمله با کمک به تولید محتوای فریبنده، کمپین‌های فیشینگ یا کدهای مخرب.

او گفت: «مدل‌های هوش مصنوعی بر اساس خواسته‌های خود عمل نمی‌کنند و رفتارها و خروجی‌های آن‌ها مستقیما توسط ورودی کاربر و درخواست‌های سیستم هدایت می‌شوند.

"خطر اصلی سوء استفاده انسان است، نه ماشین های سرکش."