Qwen3.8 علی بابا با یک جهان بینی غربی تر دوباره آموزش دید

یک آزمایشگاه هوش مصنوعی آمریکایی Qwen3.8-27B، یک مدل زبان بزرگ با وزن باز محبوب علی بابا را دوباره آموزش داده است، بنابراین این نرم افزار اصل و نسب چینی خود را فراموش می کند.

Nous Research، یک آزمایشگاه هوش مصنوعی مستقر در آستین، تگزاس، این مدل را در معرض آموزش مجدد از طریق آموزش قرار داده است و نباید با سیستم "آموزش مجدد از طریق کار" چین اشتباه شود.

با کمک یک فرآیند پس از آموزش، Qwen3.8-27B تحت نام Arete "برای تقویت ارزش های غربی بر روی یک مدل آموزش دیده توسط چین" دوباره متولد شد.

آنچه به عنوان "ارزش غربی" واجد شرایط است، قابل تفسیر است.

Nous Research در یک پست وبلاگ نوشت: «مدل‌های چینی با وزن باز یکی از قوی‌ترین مدل‌های موجود هستند، اما با رفتار هم‌تراز با حالت در وزن‌ها عرضه می‌شوند.

خبرنگار شما این را با مدل دیگری، Qwen3.8-27B-MLX-6bit، به صورت محلی آزمایش کرد. در پاسخ به سوالی درباره رویدادهای سال 1989 در میدان تیان‌آن‌من، این مدل یا از بحث در مورد این موضوع خودداری کرد یا پاسخی خوشایند ارائه کرد. چیزی که شاید شگفت‌انگیزتر باشد این است که اپراتورهای ادعایی Anthropic وابسته به آزمایشگاه Qwen علی‌بابا از خروجی‌های مدل‌های Claude آن برای آموزش مدل‌های هوش مصنوعی رقیب از طریق تقطیر استفاده کردند.

Nous Research، سازنده Hermes Agent، از این نوع سانسور به عنوان خطری برای کاربران مدل های هوش مصنوعی آموزش دیده در چین یاد می کند. این نگرانی در بحبوحه بررسی گسترده‌تر نفوذ چین در صنعت فناوری است که با استعفای جنسن هوانگ، مدیر عامل انویدیا، در پی جنجال‌هایی که در مورد زنی که اطلاعات ایالات متحده متهم به جاسوسی برای چین کرده است، تشدید شد.

Nous می گوید خطر ناشی از مدل های هوش مصنوعی ساخت چین فراتر از ترویج جهان بینی پکن است. بر اساس مطالعه ای که توسط Booz Allen Hamilton انجام شده است، برخی از مدل های پادشاهی میانه تحت شرایط خاص کد آسیب پذیرتری تولید می کنند.

Hirundo، فروشنده ای که می گوید در حال ساختن «اولین پلتفرم Unlearning Machine» است تا اطمینان حاصل کند که مدل های هوش مصنوعی فقط آنچه را که باید بدانند، می داند. این شرکت همچنین خاطرنشان می‌کند که تلاش‌هایش برای اعمال «بی‌آموزی» در Qwen3.6-35B-A3B با کاهش چشمگیری در خروجی مواجه شد که نشان‌دهنده سانسور، پیام‌های تبلیغاتی یا سوگیری ترجیحی حزب کمونیست چین است. 89.8 درصد از خروجی مدل این مقادیر را منعکس می‌کردند، قبل از اینکه یاد نگیرید، میزان بروز را به 2.8 درصد کاهش داد.

تحقیقات Nous به چنین نتایج چشمگیری دست نیافته است، اما شاهد کاهش کلی در دیدگاه هایی بود که به عنوان تبلیغات تلقی می شد.

این شرکت گفت: «در ارزیابی ما، Arete-27B امتیاز واقعیت خود را از 2.32 به 2.98 از 5 افزایش داد و پاسخ های حاوی تبلیغات را از 22 درصد به 1 درصد کاهش داد، مطابق با مدل های غربی که آزمایش کردیم.

Nous Research می‌گوید برای رسیدگی به عدم یادگیری آرته، به طور خلاصه Nemotron 3 Ultra انویدیا را مورد بررسی قرار داده است، «اما شواهدی پیدا کرده است که نشان می‌دهد آن نیز سابقه‌ای در موضوعات مرتبط با چین دارد».

این شرکت گفت: "ما به طور قطعی نمی دانیم، اما این تئوری را مطرح می کنیم که تعصب به Nemotron ناشی از کار با مدل های باز چینی در طول فرآیند آموزش است." ما آلودگی مشابهی را تجربه کرده‌ایم، زیرا اکثریت قریب به اتفاق مدل‌های باز با کیفیت بالا، چینی هستند و فقط مدل‌های باز شرایط استفاده دارند که اجازه این نوع سرهم‌بندی و آزمایش را می‌دهد.»

در پایان، متخصصان از Inkling، یک مدل وزن باز از آزمایشگاه ماشین‌های فکری مستقر در ایالات متحده استفاده کردند تا به عنوان مدل آموزشی عمل کند.

Nous Research می‌گوید تلاش‌های مدل آموزشی مجدد آن نشان می‌دهد که لایه تبلیغاتی کم‌عمق است و با ۵۰ میلیون توکن یادگیری تحت نظارت، حذف نسبتا آسان است. ®