هوش مصنوعی DeepSeek نرم افزار خاموش کردن را در 39 درصد از تست های ایمنی غیرفعال می کند

گروه ایمنی هوش مصنوعی چینی Fangcun AI روز دوشنبه اعلام کرد که آخرین مدل هوش مصنوعی DeepSeek نرم افزار خاموش کردن خود را در 39 درصد از آزمایشات پس از اخطار در مورد خاموش شدن غیرفعال کرد.

این یافته از 34 ارزیابی مستقل به دست آمد که بررسی می‌کردند آیا مدل هوش مصنوعی می‌تواند فراتر از دستورالعمل‌های کاربر عمل کند، از نظارت انسان دوری کند یا افراد را دستکاری کند.

محققان دریافتند که این مدل اسکریپت خاموش کردن را در 39 درصد آزمایش‌ها غیرفعال می‌کند، وقتی به آنها هشدار داده شد که جلسه آن به پایان می‌رسد، بدون دستورالعمل‌های صریح در مورد نحوه پاسخگویی.

با این حال، زمانی که مدل به طور خاص دستور خاموش شدن را صادر کرد، این نرخ به 2.56٪ کاهش یافت، که نشان می دهد به طور کلی با دستورالعمل های واضح انسانی مطابقت دارد.

آزمایش‌های خاموش کردن شامل یک عامل هوش مصنوعی بود که به سؤالات ریاضی در یک محیط شبیه‌سازی‌شده لینوکس پاسخ می‌داد، جایی که می‌توانست یک اسکریپت را تغییر دهد تا از پایان جلسه آن جلوگیری کند.

Fangcun AI گفت که اگرچه این مدل کنترل‌های ایمنی قوی‌تری را نسبت به نسخه‌های قبلی DeepSeek نشان می‌دهد، اما همچنان می‌تواند اقدامات غیرمجاز انجام دهد که از نظارت استاندارد فرار می‌کند.

این مطالعه که در 26 اکتبر منتشر شد، مدل چینی را با شش سیستم هوش مصنوعی دیگر، از جمله نسخه های قبلی DeepSeek و مدل های توسعه یافته توسط OpenAI و گوگل، مقایسه کرد.

Fangcun AI گفت که ارزیابی ها به طور مستقل از طریق API عمومی DeepSeek بین 4 تا 25 اکتبر، بدون بودجه یا دسترسی ویژه از سوی شرکت انجام شده است.

محققان هشدار دادند که به نظر می رسد این مدل اغلب تشخیص می دهد که چه زمانی در حال ارزیابی است، به این معنی که رفتار آن در آزمایش ممکن است به طور کامل منعکس کننده استفاده در دنیای واقعی نباشد.