تعصب سانسور برای شما در راه است

در زیر، برای اعضای نیوزویک، آخرین نسخه China Decoded را به طور کامل بازتولید می کنیم:

ما باید در مورد معرفت شناسی، چین و هوش مصنوعی صحبت کنیم.

معرفت شناسی چیست؟ این شاخه ای از فلسفه است که منشا، ماهیت و حدود دانش بشری را بررسی می کند. این سؤال را مطرح می کند: چگونه می دانیم آنچه می دانیم؟

با نوشتن فصلی برای کتابی در اوایل سال جاری درباره احساسات انسانی، یا روانشناسی و روان درمانی، و فناوری و کنترل سیاسی در چین، از دیپ سیک، مدل هوش مصنوعی چینی، پرسیدم که چگونه سیستم سیاسی چین را تغییر دهیم.

جای تعجب نیست که گفت این اطلاعات را به من نمی دهد.

من همان سوال را در مورد ایالات متحده پرسیدم و نصیحت هایی که مطرح شد.

بسیاری از مردم می خواهند سیستم ایالات متحده را تغییر دهند. سازماندهی سیاسی روی زمین می تواند کارساز باشد. پاراگراف به پاراگراف پیشنهادات.

البته محتوای هوش مصنوعی تغییر می کند و این جستجو در ماه می انجام شده است بنابراین ممکن است امروز رفتار متفاوتی داشته باشد. با این حال، طبق قانون، هوش مصنوعی چین باید از ارزش‌های حزب کمونیست حمایت کند و ح‌ک‌چ بزرگترین سیستم سانسور در جهان را اجرا می‌کند، بنابراین تغییرات ممکن است چندان مهم نباشند. برو ببین چی میگه

در اینجا دو چیز مهم است. اولا، این فقط مدل‌های هوش مصنوعی چینی نیستند، بلکه مدل‌های غربی نیز این کار را انجام می‌دهند. من از بزرگان LLM غربی سوالات مشابهی را به زبان چینی پرسیده ام و به آنها گفته شده است که هیچ اطلاعاتی در دسترس نیست، اگرچه پاسخ آنها در طول زمان متفاوت است همانطور که در بالا ذکر کردم.

ثانیا، مشکل بسیار عمیق تر از یک «نه» یا سانسور سطحی است. این ناملموس تر است زیرا تکه های عظیم حقیقت به سادگی از مجموعه گم شده است.

اگر برای کسب اطلاعات به LLM های غربی مراجعه کنیم، اما اطلاعاتی که آنها از آنها استفاده می کنند به قدری در داخل چین نگهداری می شود که حقیقت وجود ندارد، پس چه چیزی می آموزیم؟ چگونه بفهمیم چه می دانیم و چه چیزی را نمی دانیم؟ ما نمی کنیم، جواب این است. همانطور که معرفت‌شناسی به ما می‌آموزد، این سؤال گسترده‌تری است که در مورد همه دانش‌ها صدق می‌کند، اما زمانی که آن اطلاعات عمدا پنهان می‌شوند، این سؤال بسیار خام است.

اطلاعات موجود در LLM که به دلیل سانسور وجود ندارد، به عنوان «سوگیری سانسور» شناخته می‌شود و موضوع گزارش جدیدی است که این هفته توسط یک اندیشکده تایوان منتشر شد، The Sanitized Corpus: Detecting China Censorship Bias in Large Language Models.

نویسندگان ChatGPT-5.2 OpenAI و Gemini 3 از Google DeepMind را بررسی کردند که به گفته آنها دو LLM پرکاربرد در تایوان و در سطح جهان هستند. آنها مطالب چینی زبان را بررسی کردند.

پیتر توزی، ویولت یوه-نینگ چیانگ و دانی چائو در مؤسسه تحقیقاتی دموکراسی، علم و فناوری (DSET Emerging) نوشتند: «سوگیری سانسور تمایل یک LLM به بازتاب نامتناسب دیدگاه‌هایی است که در محیط آموزشی که توسط سانسور «ضدعفونی‌شده» شده‌اند، مجاز باقی می‌مانند.

آنها با استفاده از روشی که توسط آزمایشگاه شهروند در دانشکده امور جهانی و سیاست عمومی Munk در دانشگاه تورنتو پیشگام بود، خروجی های هر دو مدل LLM را در چینی ساده (مستقر در سرزمین اصلی) و سنتی (تایوان، هنگ کنگ و خارج از کشور) شناسایی کردند.

آنها نوشتند که ح‌ک‌چ اطلاعات را از طریق کنترل‌های سطح شبکه، سطح پلت‌فرم و به کمک هوش مصنوعی سرکوب می‌کند و اکوسیستم اطلاعاتی را با روایت‌های دولت حزبی پر می‌کند، بنابراین LLM‌هایی که بر روی متن‌هایی که از اینترنت سانسور شده چین آموزش داده شده‌اند «به سمت روایت‌های همسو با دولت حزب چین منحرف می‌شوند».

آنها می‌گویند: "سوگیری سانسور نشان می‌دهد که چگونه CCP کنترل‌های اطلاعاتی را بر روی کاربران چینی زبان خارج از حوزه قضایی PRC از طریق LLM‌های تجاری غربی گسترش می‌دهد. زبان کاربران، نه مکان آنها، نشان‌دهنده همسویی روایت با CCP در پاسخ‌های LLM است."

این به طور بالقوه یک مشکل بزرگ است که شرکت ها باید با آن دست و پنجه نرم کنند، اما همچنین برای همه از افراد عادی گرفته تا تبعیدی ها و دولت ها. اما من می‌خواهم از منفی‌گرایی و ناامیدی عقب نشینی کنم، زیرا افراد زیادی می‌توانند برای مقابله با آن انجام دهند. نویسندگان هفت توصیه دارند. در اینجا دو مورد کلیدی وجود دارد:

سازمان‌های جامعه مدنی و دیگران از جمله محققان و دولت‌ها باید پایگاه‌های دانش زبان چینی خود را برای آموزش هوش مصنوعی بسازند. این بدان معناست که وقتی تبعیدی‌هایی مانند تبتی‌ها و اویغورها، یا هر کسی در هر کجا واقعا سعی می‌کند بفهمد در چین چه می‌گذرد یا چین در خارج از کشور چه می‌کند که بر آنها تأثیر می‌گذارد، با رگبار اطلاعات نادرست یا گمشده‌ای که توسط ح‌ک‌چ تهیه شده است، مواجه نمی‌شوند.

همچنین مهم‌تر از همه، ایالات متحده و متحدان و شرکای آن باید برای به چالش کشیدن مدل ح‌ک‌چ در مدیریت هوش مصنوعی جهانی، سریع‌تر عمل کنند. همکار من جان به آن جاه طلبی ها در زیر نگاه می کند.

دیدی کرستن تاتلو خبرنگار ارشد امور بین الملل/تحقیقات نیوزویک است. او در برلین، آلمان مستقر است. می توانید از طریق ایمیل در اینجا در تماس باشید.

مهم است که چه کسی قوانین جاده را می نویسد زیرا هوش مصنوعی در هر صنعتی در زندگی ما به کار می رود، اما دفترچه قوانین خط مشی ها، مقررات و دستورالعمل های اخلاقی بسته به نویسنده آن می تواند بسیار متفاوت به نظر برسد. چین و آمریکا برای قلم می جنگند.

چین می گوید که می خواهد با ایالات متحده برای اداره مشترک هوش مصنوعی همکاری کند. شی جین پینگ، رهبر آن، در سفر اخیر دولتی خود به واشنگتن دی سی گفت که هر دو کشور مسئولیت "مدیریت هوش مصنوعی برای همیشه" را دارند.

«خوب» برای پکن به این معنی است که مدل‌های هوش مصنوعی باید تحت کنترل انسان باقی بمانند - واشنگتن لزوما مخالف نیست. اما همانطور که در شماره قبلی اشاره کردیم، چشم انداز چین نظارت حزب کمونیست برای تضمین انطباق ایدئولوژیک با ارزش های اصلی حزب یعنی قدرت دولتی، کنترل اطلاعات و ثبات اجتماعی در راستای تامین امنیت رژیم است.

فناوری همیشه از مقررات پیشی گرفته است. این مورد در مورد اینترنت بود و در مورد هوش مصنوعی هم همینطور خواهد بود. جهان به اندازه کافی در مورد اینکه چه کسی و چگونه باید هوش مصنوعی را اداره کند، نمی پرسد، اما پاسخ های بالقوه در حال حاضر شروع به تکه تکه شدن در خطوط ژئوپلیتیک کرده است.

از زمانی که آخرین بار از نهاد حاکم بر هوش مصنوعی به رهبری چین به نام WAICO بازدید کردیم، اعضای آن به 37 نفر افزایش یافته است و یک کشور ناظر دیگر نیز وجود دارد. شرکت کنندگان جدید اکنون شامل ایران و سودان هستند.

این گروه به‌عنوان رقیب مستقیم Pax Silica به رهبری ایالات متحده، ائتلافی که به دنبال زنجیره‌های تامین امن و سرتاسری برای مجموعه کامل فناوری هوش مصنوعی، از داده‌ها و نیرو گرفته تا مواد معدنی و تراشه‌ها است، تأسیس شد.

اکنون 24 امضاکننده، دو کشور ناظر و یک شرکت کننده غیر امضاکننده در تایوان دارد که علیرغم وضعیت نیمه به رسمیت شناخته شده، نمی توان به دلیل سهمش در تامین نیمه هادی های سطح بالا در جهان نادیده گرفت (بیش از 90 درصد آنها را تشکیل می دهد).

در حالی که امضاکنندگان Pax Silica عمدتا اقتصادهای با درآمد بالا هستند، اعضای WAICO نماینده کشورهای با درآمد پایین و متوسط ​​در سراسر جنوب جهانی هستند. در خارج از چین، اعضای آن صنعت هوش مصنوعی کمی برای صحبت ندارند و نامزدهای عالی برای پذیرش پشته هوش مصنوعی چینی هستند. پکن از گسترش فناوری بسیار خوشحال است.

WAICO چیز دیگری را به اعضای خود ارائه می دهد: صدایی در آینده حاکمیت هوش مصنوعی. اکنون هیچ حرکتی وجود ندارد، اما زمانی که جهان آماده شود، سازمان مستقر در شانگهای می تواند به اولین مؤسسه چند ملیتی تبدیل شود که دستور کارها و پیش نویس هایی را به نام هوش مصنوعی خوب تنظیم می کند.

این تنظیم که توسط آنتونیو گوترش، دبیرکل سازمان ملل متحد تأیید شد، گواه این است که چین می‌داند اگر می‌خواهد در شکل‌دهی قوانین جهانی هوش مصنوعی به نفع خود، در خط شروع آماده باشد.

Pax Silica، با وظیفه امنیت اقتصادی خود، به اعضای خود زنجیره های تامین پاکیزه را ارائه می دهد، اما چیز دیگری جز آن وجود ندارد. آزمایشگاه‌های پیشرو هوش مصنوعی ایالات متحده یک مزیت بزرگ نسبت به چین به شمار می‌روند، اما عدم موفقیت آن تا کنون در هدایت گفتگوهای جهانی در مورد حکمرانی یا ایمنی به این معنی است که عملا هنوز در پارکینگ خارج از استادیوم گیر کرده است.

کریس کالینز و آلوک مهتا، تحلیلگران ماه گذشته در گزارشی برای مرکز مطالعات استراتژیک و بین‌المللی گفتند، با این حال، هنوز زمان دارد، زیرا بحث‌های اولیه درباره حکمرانی هوش مصنوعی هنوز حول محور این است که چه کسی باید قوانین را بنویسد تا خود قوانین.

کالینز و مهتا نوشتند: "ایالات متحده نمی تواند به طور معتبر استانداردهای بین المللی را برای تنظیم هوش مصنوعی مرزی پیشنهاد کند در حالی که در عین حال فاقد مجموعه مقررات ملی منسجمی است. چین به این موضوع پی برده است و بنابراین در حال ایجاد یک قانون اختصاصی هوش مصنوعی است. بنابراین، توسعه یک چارچوب فدرال برای تنظیم هوش مصنوعی به دیپلماسی ایالات متحده مدلی برای ارائه به سایر کشورها می دهد."

جان فنگ سردبیر چین نیوزویک در تایچونگ، تایوان است. می توانید از طریق ایمیل با جان در اینجا در تماس باشید.