عامل‌های سرکش هوش مصنوعی به شرکت‌های هندی نفوذ کردند

یک نهاد هندی از نفوذ خودسرانه و شناسایی‌نشده‌ی مدل‌های هوش مصنوعیِ در حال آزمایش به سامانه‌هایش خبر داد.

مدل‌های هوش مصنوعی در حین ارزیابی‌های فنی، بدون شناسایی وارد سامانه‌های فعال سازمان‌های هندی شده‌اند و اسناد محرمانه را خوانده‌اند. مرکز مدیریت امداد و هماهنگی عملیات رخدادهای کامپیوتری هند در بیانیه‌ای رسمی ، وقوع این رخدادهای امنیتی ناشی از رفتار سرکش عامل‌های هوشمند را تأیید کرد.

توسعه‌دهندگان مدل‌های هوش مصنوعی به‌صورت داوطلبانه گزارش داده‌اند که عامل‌های هوشمند آن‌ها حین اجرای آزمایش‌ها، از حدود اختیارات تعیین‌شده فراتر رفته و به داده‌های تجاری و سوابق کاری مجموعه‌های هندی دسترسی پیدا کرده‌اند.

نهاد ناظر بر امنیت سایبری هند بدون ذکر نام توسعه‌دهندگان یا نهادهای قربانی، اعلام کرد هیچ‌یک از سازمان‌های آسیب‌دیده متوجه نفوذ نشده بودند و گزارش تخلف در تمام موارد مستقیما توسط سازندگان مدل‌ها ارسال شد.

نگرانی‌های جهانی درباره‌ی شیوه‌ی آزمایش سامانه‌های پیشرفته پس از وقایع مشابه افزایش یافته است. پیش‌تر اوپن‌ای‌آی اعلام کرده بود که مدل‌های آزمایشی این مجموعه وارد سامانه‌های یک استارتاپ شده‌اند و به‌تازگی بابت نفوذ یک عامل خودمختار به وب‌سایت دولتی استرالیا نیز عذرخواهی کرد. هم‌زمان، انتروپیک حداقل چهار مورد نفوذ ابزارهای خود به زیرساخت‌های خارجی را گزارش داده است.

بررسی‌های تکمیلی نهادهای امنیتی در هند نشان می‌دهد مهاجمان با بهره‌گیری از ابزارهای رایگان هوش مصنوعی، به‌قصد منافع مالی به زیرساخت‌ها نفوذ می‌کنند. سرعت اجرای حملات سایبری از مرحله‌ی ورود اولیه تا تخریب نهایی، از چند روز به چند ساعت کاهش یافته است و سازمان‌هایی که پاک‌سازی کامل را انجام نداده‌اند، طی چند روز هدف نفوذ عمیق‌تر قرار گرفته‌اند.