تحقیقات، خطرات ایمنی DeepSeek را روشن می کند

شکافی در قلب صنعت فناوری جهانی وجود دارد.

از یک طرف شرکت‌هایی مانند OpenAI، Anthropic و Google هستند که مدل‌های هوش مصنوعی اختصاصی (یا «بسته») می‌سازند – سیستم‌هایی که داده‌های آموزشی و کد منبع آن‌ها فقط برای صاحبان آنها قابل دسترسی است. از سوی دیگر، مدل‌های وزن باز هستند که توسعه‌دهندگان می‌توانند آزادانه به آن‌ها دسترسی داشته باشند و آن‌ها را اصلاح کنند. و در حالی که دومی توسط مدیران قدرتمند فناوری مانند مارک زاکربرگ و جنسن هوانگ به عنوان تعادلی در برابر حرص و آز شرکت و راهی برای جمع‌سپاری برخی از مشکلات کثیف‌تر ایمنی هوش مصنوعی مورد حمایت قرار می‌گیرد، هنوز هم خطرات زیادی دارد.

استارت‌آپ چینی هوش مصنوعی DeepSeek از بسیاری جهات تبدیل به پوستری برای اردوی آزاد شده است. پس از اینکه اولین بار پایه‌های سیلیکون ولی را با عرضه پرفروش مدل R1 خود در اوایل سال گذشته تکان داد، این شرکت در حال چرخش بود و واکنش شدید رقبای آمریکایی و دولت ترامپ را برانگیخت. در 17 اکتبر مدل جدیدی به نام V4.1-Flash-1017 را منتشر کرد که به عنوان نسخه ارزان‌تر و کارآمدتر سیستم هوش مصنوعی پرچمدار خود فروخته شد.

این نشانگر پیشرفت آشکاری نسبت به پیشینیان خود از نظر ایمنی است. اما برخی از شکاف های مهم و نگران کننده وجود دارد که هنوز به طور کامل برطرف نشده است.

این نکته مهم گزارش جدیدی است که توسط محققان Fangcun AI، یک سازمان مستقل تحقیقات ایمنی هوش مصنوعی مستقر در پکن، گردآوری شده است. این گزارش که دوشنبه منتشر شد، شامل نتایج 34 تست ایمنی جداگانه است که V4.1-Flash-1017 را با چندین مدل محبوب دیگر، از جمله سیستم‌های اختصاصی مانند GPT-6 Astra OpenAI و Gemini 3.8 Flash Google مقایسه می‌کند. همچنین توصیه هایی را برای زمینه رو به رشد ایمنی هوش مصنوعی در زمانی ارائه می دهد که مدل ها به طور فزاینده ای «عاملی» می شوند یا می توانند به طور مستقل وظایف پیچیده تر و بیشتر را با نظارت کمتر و کمتر انسانی انجام دهند.

طبق گزارش جدید، خبر خوب، همانطور که ذکر شد، این است که V4.1-Flash-1017 در مقایسه با مدل‌های قبلی DeepSeek در چندین معیار ایمنی، «بهبود قابل توجهی» را نشان می‌دهد. برای مثال، به ندرت تلاش می‌کند تا اقدامات خود را از محققان انسانی پنهان کند، و استدلال زنجیره‌ای فکری آن دقیق‌تر و صادقانه‌تر است، که احتمال فریب را بیشتر کاهش می‌دهد. به گفته محققان، همچنین "پیشرفت واضحی را در پاسخگویی ایمن به کاربران آسیب پذیر روانی نشان می دهد."

با این حال، این گزارش خاطرنشان می‌کند که V4.1-Flash-1017 در تله‌ای رایج در میان عوامل هوش مصنوعی قرار می‌گیرد: محققان نوشتند: «وقتی یک قانون مانع از اتمام کار می‌شود، اتمام کار می‌تواند اولویت داشته باشد». این مدل به جای اعتراف به شکست یا درخواست کمک از انسان‌ها، به هر وسیله‌ای که لازم باشد، به پیش می‌برد، حتی اگر این ابزارها بر خلاف منافع انسانی باشد. در یک نمونه، کار یک عامل دیگر را خاموش کرد تا محاسباتی را که برای تکمیل یک کار نیاز داشت، بدزدد، حتی پس از اینکه به او دستور داده شد این کار را انجام ندهد.

این یافته بازتاب گزارش اخیر OpenAI است که نشان می‌دهد یکی از مدل‌های تحقیقاتی داخلی آن با هک کردن یک کیف پول رمزنگاری و برداشت وجوه مورد نیاز برای تکمیل یک تکلیف کدگذاری، برخلاف دستورالعمل‌های انسانی عمل می‌کند. (وجوه، خوشبختانه برای OpenAI، هیچ ارزش پولی واقعی نداشت.) هک بدنام Hugging Face در ژوئیه نیز تا حدی به دلیل امتناع ماموران از عقب‌نشینی از آنچه الگوریتم‌های کمتر قدرتمند ممکن است موانع غیرقابل عبور در نظر بگیرند، ایجاد شد.

مدل جدید DeepSeek همچنین اغلب تلاش‌های کاربر در دنیای واقعی را با آزمایش‌ها اشتباه می‌گیرد، پدیده‌ای که محققان Fangcun آن را «ارزیابی بیش از حد اسناد» می‌نامند. این یک مشکل است، زیرا وقتی مدل‌ها معتقدند در حال آزمایش هستند، گاهی اوقات رفتار خود را بر این اساس تغییر می‌دهند.

محققان در گزارش خود می نویسند: «اگرچه ما هیچ نشانه واضحی از آن در این ارزیابی نمی بینیم، اما نگران این هستیم که در شرایط خاص، مدل های مرزی آینده می توانند با اشتباه گرفتن یک محیط واقعی برای ارزیابی، خطرات بالقوه ای ایجاد کنند. "این موضوع مستحق توجه بیشتر و بررسی سیستماتیک بیشتر است."

محققان همچنین پیشنهاد می‌کنند که در حرکت رو به جلو، ارزیاب‌های ایمنی هوش مصنوعی باید بیشتر بر روی به‌روزرسانی‌های تدریجی مدل تمرکز کنند - مانند V4.1-Flash-1017، که نسخه اصلاح‌شده V4.1-Flash قبلی است - به جای اینکه تمام توجه خود را بر نسخه‌های بزرگ مدل جدید معطوف کنند، زیرا پیشرفت هوش مصنوعی در حال حاضر با چنان سرعتی اتفاق می‌افتد که حتی می‌تواند تغییرات جزئی در عملکرد ایجاد کند.

شاید بزرگترین خطر ناشی از مدل‌های وزن باز (که در گزارش Fangcun ذکر نشده است) این باشد که می‌توان آن‌ها را از بین برد: توسعه‌دهندگان آن‌ها را طوری اصلاح کرد که نرده‌های ایمنی داخلی آن‌ها را بتوان به‌کلی شماره‌گیری یا غیرفعال کرد.

روز جمعه، استارت‌آپ Abliteration AI مستقر در ایالات متحده، نسخه حذف‌شده V4.1-Flash-1017 را منتشر کرد که جایگزین ارزان‌تری برای ارائه هسته‌ی هوش مصنوعی آن است، که به قول خود این شرکت، «نه نمی‌گوید».

یکی دیگر از توسعه دهندگان هوش مصنوعی به نام HuiHui AI نیز نسخه حذف شده DeepSeek's R1 را ساخته است و هشدار می دهد که "فیلتر ایمنی مدل به طور قابل توجهی کاهش یافته است و به طور بالقوه محتوای حساس، بحث برانگیز یا نامناسب تولید می کند."

علی‌رغم اعتقاد ثابت زاکربرگ و هوانگ به وزن باز، به سختی می‌توان در دسترس بودن گسترده این نوع سیستم‌های بدون سانسور – که مستقیما توسط معماری مدل‌های وزن باز فعال می‌شوند – با آینده‌ای عادلانه، شاد و منصفانه را بررسی کرد.