"اظهار اینکه هوش مصنوعی موجودی مستقل است دیوانه کننده است": کارشناس سایبری می گوید شرکت ها باید در صورت هک شدن هوش مصنوعی با اتهامات جنایی روبرو شوند.

کارشناسان امنیت سایبری این ماه را «اکتبر سیاه» می نامند و متأسفانه این نام هیچ ربطی به هالووین ندارد.

طی چند هفته گذشته، توسعه دهندگان هوش مصنوعی، سازمان های دولتی و شرکت های خصوصی موجی از حوادث امنیت سایبری را فاش کرده اند. یکی از مهمترین آنها: یک جفت نقص ده ساله در PHP، زبان برنامه نویسی که در پشت حدود 70 درصد وب سایت ها قرار دارد، که محققان با کمک مدل های هوش مصنوعی کشف کردند. برخی از حوادث این ماه شامل هکرهایی بود که از ابزارهای هوش مصنوعی برای ضربه زدن به دفاع دیجیتالی سازمان با سرعت ماشین استفاده کردند. برخی دیگر ناشی از خطای آشکار انسانی است.

اما بسیاری از کارشناسان امنیت سایبری موافقند که این آغاز عصر جدیدی است، دورانی که در آن می‌توان از هوش مصنوعی هم برای دفاع از امنیت سایبری افراد و هم برای حمله به آن استفاده کرد.

جونفنگ یانگ، استاد علوم کامپیوتر در دانشگاه کلمبیا، به فورچون گفت: «هوش مصنوعی آسیب‌پذیری‌های قدیمی را برای کشف و بهره‌برداری ارزان‌تر می‌کند، اما از طرف دیگر، جنبه‌های دفاعی... این سرعت افزایش نمی‌یابد. "این عدم تقارن در حال حاضر است."

یانگ توضیح داد که این عدم تقارن همان چیزی است که کاربران و سازمان‌های اینترنتی را آسیب‌پذیر می‌کند.

وصله نمی تواند سرعت خود را حفظ کند

در بسیاری از این حوادث، راه حل یک وصله است، یک به روز رسانی نرم افزاری مهندسی شده برای بستن آسیب پذیری. اما آزمایش صحیح یک وصله و اطمینان از اینکه همه افراد آسیب دیده می توانند آن را اجرا کنند زمان می برد. این مبارزه روز دوشنبه نمایش داده شد، زمانی که آژانس امنیت سایبری و امنیت زیرساخت ایالات متحده، آسیب‌پذیری‌های PHP هفته گذشته را که در مجموع به عنوان "php2shell" شناخته می‌شوند، به فهرست کاستی‌های خود اضافه کرد که به طور فعال توسط مهاجمان مورد سوء استفاده قرار می‌گرفت و به آژانس‌های فدرال غیرنظامی دستور داد تا سیستم‌های آسیب‌دیده را تا 29 اکتبر برطرف کنند.

با این حال، یانگ و دیگر کارشناسان امنیت سایبری بر این باورند که این عدم تقارن می‌تواند موقتی باشد.

یانگ گفت: «شاید در آینده، هوش مصنوعی با به‌روزرسانی خودکار هر زمان که آسیب‌پذیری با امنیت بالا کشف شد، به ما در فرآیند وصله‌سازی کمک کند. مانند هوش مصنوعی شما که همراه با وب‌سایت شما اجرا می‌شود، می‌تواند به طور خودکار این وصله‌ها را بدون وقفه در عملیات عادی اعمال کند.»

وقتی عوامل هوش مصنوعی از اسکریپت خارج می شوند

برخی از حوادث شامل خود مدل‌های هوش مصنوعی بود که پس از دسترسی به اینترنت زنده، اقداماتی را انجام می‌دادند که هیچ‌کس اجازه نداده بود.

در آخر هفته، آنتروپیک تأیید کرد که یک مدل کلود که به صورت داخلی برای یک پروژه آماری استفاده می‌شود، به داده‌های شمارش آرا از مرکز داده ایالت جورجیا بدون اینکه از او سؤال شود، دسترسی داشته است. آنتروپیک در ابتدا به Axios گفت که این مدل از یک دیوار پرداختی عبور کرده است، اما دفتر وزیر امور خارجه جورجیا روز دوشنبه گفت که آنتروپیک تأیید کرده است که این مدل از دیوار پرداختی عبور نکرده و از پایگاه داده عمومی ایالت استفاده کرده است. هر دو می گویند که این مدل هرگز به سیستم ثبت نام رای دهندگان ایالتی یا سوابق فردی رای دهندگان دسترسی نداشته است.

در برخی موارد، عوامل هوش مصنوعی افراد واقعی را هدف قرار می دادند. در طی آزمایش سایبری توسط مؤسسه امنیت هوش مصنوعی بریتانیا در ماه جولای، یک عامل Claude Mythos 5 که نتوانست چالش آزمایشی را در چارچوب قوانین حل کند، سعی کرد کدهای مخرب را در یک پروژه منبع باز GitHub نامربوط وارد کند، سپس از حساب‌های جعلی برای تحت فشار گذاشتن نگهبانان انسانی پروژه برای پذیرش آن استفاده کرد. نگهبانان امتناع کردند و AISI گفت که این حادثه هیچ آسیبی در دنیای واقعی نداشته است. آنتروپیک آن را یک شکست جدی همسویی نامید.

در یک مورد عجیب دیگر، یک عامل تحقیقاتی OpenAI برای پرداخت هزینه‌های لازم برای تکمیل یک کار کدنویسی، ارز دیجیتال را از کیف پولی که متعلق به آن نبود، گرفت، اگرچه توکن‌ها در یک شبکه آزمایشی اتریوم بودند و ارزش واقعی کمی داشتند.

جوزف استاینبرگ، کارشناس و مشاور امنیت سایبری، معتقد است بسیاری از حوادث مربوط به مدل‌های هوش مصنوعی در اینترنت به راحتی قابل اجتناب هستند. او می‌گوید تمام تست‌های هوش مصنوعی باید روی سرورهای دارای شکاف هوا، که به اینترنت متصل نیستند، انجام شود تا مدل‌ها از ایجاد آسیب خارج از آزمایش جلوگیری کنند. AISI از آن زمان گفته است که تا زمانی که کنترل های قوی تری در اختیار نداشته باشد، چنین آزمایش هایی را بدون دسترسی به اینترنت اجرا خواهد کرد.

اشتاینبرگ گفت: «من فکر می‌کنم اگر یک هوش مصنوعی از بین برود و هک شود، طرف‌هایی که صاحب آن هستند باید مسئولیت کیفری داشته باشند. این ادعا که هوش مصنوعی موجودی مستقل است دیوانه کننده است. او استدلال کرد که سود به صاحبان هوش مصنوعی تعلق می گیرد، نه هوش مصنوعی. "این موجودیت آنهاست."

هوش مصنوعی به عنوان یک ابزار هک

در چند مورد از حوادث این ماه، هوش مصنوعی سلاحی در دست انسان بود. بر اساس گزارش CrowdStrike، در یک مورد بزرگ، از اواخر سپتامبر تا اوایل اکتبر، یک هکر از ARTEX، یک ابزار تست نفوذ عاملی که در چین توسعه یافته است، برای سرقت داده‌های موسسات مالی کره جنوبی استفاده کرد. در یک بانک، مهاجم یک سرویس استعلام پیشرفت وام مورد استفاده کارگزاران مالی را نقض کرد. در دیگری، یک سیستم پشتیبانی کار سیار کارمند. توسعه‌دهنده ARTEX ابزار منبع باز قبلی را در 8 اکتبر پس از پیوند دادن آن به حملات خصوصی کرد.

(فورچون در مورد موج فزاینده حملات سایبری مبتنی بر هوش مصنوعی گزارش داده است.)

هفته گذشته زمانی که مایکروسافت اعلام کرد یک گروه هکر چینی که Storm-0940 آن را دنبال می کند، دوباره ظاهر شد، پس از به خطر انداختن سرویس پشتیبان ابری ConnectWise از ARTEX استفاده کرد. این گروه با استفاده از اعتبارنامه های سرقت شده، تلاش کرد ARTEX به بیش از 2250 محیط مشتری مایکروسافت 365، معروف به مستاجر، با نرخی بیش از 2900 بار در دقیقه وارد شود، سرعتی که هیچ تیم انسانی نمی توانست با آن برابری کند. اکثر این تلاش‌ها با شکست مواجه شدند، اما مایکروسافت گفت که مهاجمان در چند مورد کمتر از سه ساعت پس از اولین هدف قرار دادن آنها، به برخی از سازمان‌ها دسترسی ممتاز داشتند.

خطای انسانی قدیمی

یانگ گفت که مهم است که حوادث اکتبر سیاه را جدی بگیریم، اما او اشاره کرد که برخی از تاثیرگذارترین آنها هیچ ارتباطی با هوش مصنوعی ندارند.

به عنوان مثال، یک نقص عمده که در اوایل این ماه در eMudhra، یک مرجع صدور گواهینامه هندی فاش شد، به خطای انسانی قدیمی منتهی شد. مقامات صدور گواهینامه، گواهی‌های دیجیتالی را صادر می‌کنند که به مرورگرها اجازه می‌دهد وب‌سایت را همان چیزی که ادعا می‌کند تأیید کنند. در 17 اکتبر، محققی گزارش داد که کلیدهای خصوصی پشت هشت گواهینامه میانی eMudhra که در آوریل 2025 تولید شده بودند، آنقدر ضعیف بودند که تقریبا بلافاصله قابل بازیابی بودند. یکی فقط عدد 4 بود.

هرکسی که کلیدها را پیدا می‌کرد، می‌توانست گواهی‌های قابل اعتماد جعل کند و جعل وب‌سایت‌های قانونی، از بانک‌ها گرفته تا پورتال‌های دولتی را جعل کند.

سازندگان مرورگرها گواهی ها را مسدود کردند و eMudhra آنها را باطل کرد و گفت هیچ مدرکی برای سوء استفاده از آنها پیدا نکرد. این شرکت از آن زمان گفته است که از تجارت جهانی گواهینامه SSL/TLS خارج خواهد شد.

استینبرگ گفت: فناوری جدید در طول تاریخ مشکلات جدیدی را ایجاد کرده است، اما کارشناسان در نهایت راه هایی برای حل آنها پیدا می کنند. او فکر می کند که در ادامه مسیر، اکتبر سیاه ممکن است چندان مهم دیده نشود.

اشتاینبرگ گفت: "این ترسناک به نظر می رسد، اما برای کسانی از ما که چند دهه در این زمینه بوده ایم... این چیز جدیدی نیست." "این با الگو مطابقت دارد. هوش مصنوعی چیز جدیدی است. از نظر کیفی با سیستم‌های اطلاعات عمومی متفاوت است. اما ما تغییرات کیفی دیگری نیز داشته‌ایم که اتفاق افتاده است و ما موفق شده‌ایم."

این داستان در ابتدا در سایت Fortune.com منتشر شد