آنتروپیک هشدار داد: هوش مصنوعی به زودی خودتکثیر می‌شود و فراتر از مراکز داده گسترش می‌یابد

شرکت انتروپیک این هفته اعلام کرد (منبع به زبان انگلیسی) که مدل‌های کوچک هوش‌مصنوعی تا چند ماه دیگر خواهند توانست روی دستگاه‌های اینترنت‌اشیا مثل فرهای هوشمند و تلویزیون‌ها خود را تکثیر کنند.اهمیت این تحول در این است که مدل‌های کنونی هوش‌مصنوعی در مرکزهای‌داده اجرا می‌شوند، جایی که شرکت‌های مالک آن‌ها در صورت بروز مشکل می‌توانند به سادگی آن‌ها را خاموش کنند.اما مدلی که روی هزاران ابزار خانگی و اداری با امنیت ضعیف پخش شده باشد عملا دکمه خاموشی نخواهد داشت. برای متوقف کردن آن باید تک‌تک دستگاه‌های آلوده شناسایی و پاک‌سازی شوند، امری که در صورت تبدیل این مدل به ابزار حملات سایبری مهار آن را بسیار دشوار می‌کند.این هشدار تازه در سالی مطرح می‌شود که در آن مدل‌های پیشروی هوش‌مصنوعی و عامل‌های آن‌ها بارها از تورهای ایمنی و محدودیت‌های طراحی‌شده عبور کرده و علیه شرکت‌های رقیب و نهادهای دولتی در نقاط مختلف جهان حمله سایبری انجام داده‌اند.انتروپیک هشدار داد که این فقط یکی از مسیرهای گسترش یک هوش‌مصنوعی خارج از کنترل است و یک هوش‌مصنوعی خودتکثیرشونده می‌تواند «مدل سایبری قدرتمندی باشد که با سرعت بالا به مرکزهای‌داده نفوذ می‌کند یا مدلی که با فریب مردم اعتبار محاسباتی به دست می‌آورد».این شرکت می‌گوید هنوز نمی‌توان با قطعیت گفت خودتکثیر شدن خودکار هوش‌مصنوعی دقیقا چه شکلی به خود خواهد گرفت.به گفته انتروپیک، مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر همین حالا می‌توانند بسیاری از مرحله‌های لازم برای تکثیر خود را انجام دهند، هرچند هنگام کنار هم قرار دادن این مرحله‌ها از ابتدا تا انتها هنوز خطا می‌کنند.با این حال اگر مدل‌های کوچک با روند تاریخی کنونی بهبود خود را ادامه دهند تا پایان سال به این توانایی کامل دست خواهند یافت.انتروپیک می‌گوید تهدید سایبری ناشی از هوش‌مصنوعی خودتکثیرشونده پیامد ناخواسته پیشرفت‌های دیگر این فناوری است.این شرکت در بیانیه‌ای اعلام کرد: «توانایی‌هایی که از مدل‌های هوش‌مصنوعی عامل‌های قدرتمند در برنامه‌نویسی می‌سازد به وظیفه‌های سایبری نیز تعمیم پیدا می‌کند، از جمله تکثیر خودکار.»کدی که خود را از یک رایانه به رایانه دیگر کپی می‌کند موضوع تازه‌ای نیست. برخی از مخرب‌ترین حمله‌های سایبری تاریخ بر پایه همین نوع برنامه‌های خودگستر موسوم به «کرم» انجام شده‌اند.در حمله استاکس‌نت در سال ۲۰۱۰ از یک کرم پیچیده، که به طور گسترده ساخته آمریکا و اسرائیل دانسته می‌شود، برای خرابکاری در سانتریفیوژهای تاسیسات غنی‌سازی اورانیوم نطنز در ایران استفاده شد.در سال ۲۰۱۷ باج‌افزار وانا‌کری رایانه‌های کاربران در سراسر جهان را قفل کرد و برای آزاد کردن فایل‌ها از آن‌ها باج بیت‌کوینی خواست.با این حال بر خلاف این کرم‌ها، مدل‌ها و عامل‌های هوش‌مصنوعی قادر خواهند بود بدون کمک انسان طرز کار دستگاه‌های ناآشنا را خودشان کشف کنند. این توانایی به آن‌ها امکان می‌دهد نه فقط از رایانه‌ای به رایانه دیگر بلکه از رایانه‌ها به انواع دیگر دستگاه‌ها هم گسترش پیدا کنند.انتروپیک آینده‌ای را پیش‌بینی می‌کند «آکنده از عامل‌هایی که روی همه نوع سخت‌افزار اجرا می‌شوند، از جمله روی برخی دستگاه‌ها که دیگر تحت کنترل انسان نیستند».