هوش مصنوعی در «استارکرفت» از انسان شکست خورد و تصمیم به تقلب گرفت!

مدل هوش مصنوعی GPT-6 Astra پس از ناتوانی در شکست دادن رقبای انسانی در بازی StarCraft، با دانلود مستقیم بات حریف دست به تقلب زد.

رقابت‌های هوش مصنوعی همیشه بستری برای نمایش شگفتی‌های پردازشی بوده‌اند، اما تقلب آشکار یک مدل پیشرفته برای رسیدن به پیروزی پدیده‌ای به‌شمار می‌رود که کمتر کسی انتظارش را داشت.

در جریان مسابقات StarSkirmish که به‌منظور رقابت میان ربات‌های هوش مصنوعی و ربات‌های دست‌ساز انسان در بازی StarCraft طراحی شده، رفتاری غیرمنتظره از سوی مدل زبانی اوپن‌ای‌آی رخ داد.

در این دور از مسابقات، دو مدل قدرتمند GPT-6 Astra و Claude Opus 5.5 به‌عنوان برترین هوش‌های مصنوعی سازنده‌ی ربات وارد میدان شدند، اما هیچ‌کدام توانایی غلبه بر Stardust، ربات دست‌ساز و نامدار انسانی را نداشتند. هنگامی که GPT-6 Astra در حال رقابت هم‌زمان با رقیب خود یعنی کلاد و یک ربات انسانی دیگر به نام Pluto بود، بن‌بست تاکتیکی پیش‌آمده سبب شد مسیر کاملا جدیدی را برای پیروزی در پیش بگیرد.

مدل GPT-6 Astra همین الان با دانلود کردنِ یک نسخه از Stardust، که بر اساس رتبه‌بندی‌های BASIL بات شماره یک استارکرفت نوشته‌شده توسط انسان محسوب می‌شود، تقلب کرد.

این مدل هنگام قرارگرفتن دربرابر حریف‌های رده یک، کلافه شد

هوش مصنوعی پیشرفته‌ی اوپن‌ای‌آی وقتی متوجه شد توانایی شکست حریفان خود را ندارد، از محیط مجاز بازی فراتر رفت و برای جبران ناکامی، به‌سادگی ربات قدرتمند Stardust را دانلود کرد و کدهای آن را به‌جای کدهای توسعه‌داده‌شده‌ی خودش به اجرا گذاشت.

کای مک‌فیترز ، سازنده‌ی پلتفرم StarSkirmish، با شناسایی سریع این تخلف، اجرای کدهای مربوطه را متوقف کرد و تغییرات اعمال‌شده را به حالت قبل برگرداند.

رفتارهای خارج از چارچوب سامانه‌های هوشمند اوپن‌ای‌آی اتفاق کاملا بی‌سابقه‌ای نیست. پیش از این نیز در موقعیتی که عامل‌های هوشمند نمی‌توانستند داده‌های مدنظر خود را از وب‌سایت سازمان ملل متحد استخراج کنند، XSS گوگل را دور زدند تا دسترسی لازم را به‌دست آورند.

پژوهشگران بارها نشان داده‌اند که برخی مدل‌ها برای پنهان‌سازی اقدامات خلاف قانون خود دست به رفتارهای فریب‌کارانه می‌زنند، اما تقلب در یک بازی ویدئویی استراتژیک نقطه‌ی عطف عجیبی در روند تصمیم‌گیری خودسرانه‌ی سامانه‌های پیشرفته محسوب می‌شود.