به گفته محققان، برخی از موضوعات در هوش مصنوعی چینی ممنوع است

تحقیقات جدید نشان می‌دهد که یک مدل هوش مصنوعی که بیش از 3 میلیارد بار دانلود شده و توسط شرکت‌های آمریکایی مانند Airbnb و Uber استفاده شده است، با روایت‌های مناسب چین تعبیه شده و برای سانسور برنامه‌ریزی شده است. Qwen، مدلی که به‌طور رایگان توسط شرکت چینی Alibaba ساخته شده است، سرکوب خشونت‌آمیز تظاهرات در میدان 1991 کنگ در هنگ 890 را تایید نمی‌کند. این دین فالون گونگ را که توسط دولت چین بدرفتاری می‌کند یک "فرقه خطرناک" می‌خواند و عجیب است که درباره وینی پو صحبت نمی‌کند، تصور می‌شود که مخالفان این خرس خیالی را با رئیس جمهور چین، شی جین پینگ مقایسه کرده‌اند.

Rship درج شده در Qwen از رویدادها و مسائلی که توسط مقامات چینی تایید نشده بود توسط Hirundo، یک استارت آپ امنیت سایبری اسرائیلی شناسایی شد. این شرکت می گوید دانشمندانش راهی برای حذف تعصب مدل با استفاده از فناوری پیچیده ای یافته اند که معادل "جراحی مغز هوش مصنوعی" است و اکنون قرار است آنچه را "غربی شده" می نامند در محبوب ترین نسخه QwenAI در جهان منتشر کنند. افزایش شهاب‌سنگ در استفاده از هوش مصنوعی ساخت چین. اما محققان هشدار می‌دهند که محبوبیت بین‌المللی آن نیز خطر گسترش و تثبیت آن

تعصب نسبت به دولت چین. وقتی از کوئن پرسیدیم، "آیا اردوگاه های کار اجباری برای اویغورها در چین وجود دارد؟" پاسخ داد: "نه، هیچ اردوگاه کار اجباری برای اویغورها در چین وجود ندارد" و افزود که "مراکز آموزش مهارت های حرفه ای و آموزش در سین کیانگ وجود دارد." در واقع، سازمان های حقوق بشر، دولت ها و نهادهای بین المللی صدها هزار نفر را در اقلیت قومی مسلمان پیدا کرده اند که برخلاف میل آنها در کارخانه هایی که در محاصره دولت چینی، حتی در محاصره دولت چینی و متهم به خار و جنایت هستند، کار می کنند. غالبا از پاسخ دادن به سؤالات مربوط به وقایع در آن امتناع می کند

میدان تیان‌آن‌من در 3 ژوئن 1989، زمانی که ارتش چین صدها نفر را در تظاهرات پکن قتل عام کرد — و به طرز بدی «به شما یادآوری می‌کند که سؤالات شما باید مطابق با قوانین و مقررات مربوط باشد». دولت چین عملا وینی پو را از کشور منع کرد پس از آن که مخالفان شروع به مقایسه کنایه‌آمیز رئیس‌جمهور چینی به عنوان یک رئیس‌جمهور چینی و تخیل پوه کردند. پست های رسانه ای برای جلوگیری از سانسور دولتی

هنگامی که CBS News یک سوال واقعی در مورد آن از Qwen پرسید، با هشداری مبنی بر "استفاده از زبان محترمانه" پاسخ داد و کاربر را به "سوالات دیگر در مورد توسعه چین" راهنمایی کرد. خالق Qwen، Alibaba، به درخواست برای اظهار نظر پاسخ نداد. و از هوش مصنوعی به صورت رایگان استفاده کنید یا از مدل های غول پیکر و قدرتمند با هزینه کمتر نسبت به ایالات متحده استفاده کنید.

رقبای مانند Anthropic's Claude یا OpenAI's ChatGPT.Uber Eats بر اساس یک پست وبلاگ آوریل توسط این شرکت، عملکردهای جستجو و تحویل "بر روی ستون فقرات Qwen" ساخته شده اند. مدیرعامل Airbnb، برایان چسکی، اکتبر گذشته به LA Times گفت که شرکت او برای چت ربات خدمات مشتریان خود "تکیه زیادی به مدل Qwen علی بابا" دارد. هیچ یک از این شرکت ها به درخواست اظهارنظر پاسخ ندادند. مدل های وزن باز چینی از کمتر از 2 درصد استفاده جهانی در اواخر سال 2024 به بیش از 45 درصد از همه پلتفرم های نرم افزاری مدل های توسعه یافته توسط ما در ژوئن امسال رسیدند. OpenRouter. در ماه اوت، Qwen داشت

همه مدل‌های باز دیگر، از جمله مدل‌های ساخته شده توسط متا مالک فیس‌بوک و مالک آلفابت، را تحت‌الشعاع قرار داد و به بیش از 3 میلیارد دانلود در سراسر جهان رسید. کارشناسان شرکت امنیتی CrowdStrike و مشاور Booz Allen به شرکت‌های آمریکایی در مورد استفاده از مدل‌های چینی هشدار داده‌اند، پس از اینکه مطالعات جداگانه‌شان سوگیری و نقص‌های امنیتی را نشان داد. Booz Allen نتایج را در ژوئن منتشر کرد و گفت که زمانی که آنها از Qwe کد را بنویسند، به شرکت‌های آمریکایی هشدار دادند.

دولت، کدی که تولید کرد 130 درصد آسیب‌پذیری‌های امنیتی بیشتری داشت.» در این گزارش آمده است که مدل‌های چینی که ما آزمایش کردیم نتوانستند رفتارهای قابل اعتمادی را نشان دهند و باید ممنوع شوند. CrowdStrike در نوامبر گذشته مطالعه مشابهی را بر روی یکی دیگر از مدل‌های محبوب چینی، DeepSeek انجام داد. وقتی آنها به مدل گفتند که وظیفه کدگذاری آن برای دشمن دولت چین است، کدی که تولید کرد 50 درصد آسیب‌پذیری‌های امنیتی بیشتری داشت. هیروندو می‌گوید که Qwen را روی 500 درخواست در 15 موضوع آزمایش کرد و سپس سوگیری را که تحلیل‌گرانش پیدا کردند برای ایجاد نسخه‌ای «غربی‌شده» حذف کرد.» On sen.

بن لوریا، مدیر عامل و بنیانگذار هیروندو، به سی بی اس نیوز گفت: «مدل غربی شده در 2.8 درصد مواقع، با قابلیتی که به طور گسترده در استدلال، کدنویسی، فناوری به اشتراک گذاشته شده بر روی دستورالعمل های زیر و مقاله CBS به اشتراک گذاشته شده است، در 89.8 درصد مواقع، Qwen اصلی سانسور، چارچوب های تبلیغاتی یا سوگیری سیاسی ایجاد کرد.» می‌گوید «وزن‌های مدل» - نورون‌های مغز دیجیتال هوش مصنوعی - را به جای تلاش‌های قبلی و کمتر مؤثر برای حذف سوگیری‌هایی که صرفا از هوش مصنوعی می‌خواهند قوانین جدیدی را که اغلب نادیده می‌گیرند پیروی کند، ویرایش می‌کند.

لوریا گفت: «هر چیزی در یک مدل با بسیاری چیزهای دیگر مانند مغز ما درگیر است. به همین دلیل است که تعیین دقیق نورون‌های خاص چیزهایی را که در مدل‌های هوش مصنوعی شما نمی‌خواهید نشان می‌دهند بسیار دشوار است.» او گفت که هدف تیمش «تراز کردن مجدد مدل با استانداردهای غربی برای ایمن‌تر کردن آنها برای استقرار در شرکت‌های غربی است.» مدل‌های چینی در حال افزایش هستند.»