چین روابط هوش مصنوعی را سرکوب کرده است. آیا جلوتر از بازی است؟

در اوایل سال 2024، مرد جوانی در شهر هوانگشی، در جنوب شرقی چین، پیامی را در نسخه چینی TikTok، Douyin پست کرد. در توضیح این عکس نوشته شده بود: "وداع با این دنیا."

در عرض چند دقیقه، تیم پیشگیری از خودکشی در Douyin وارد دنده شد. این تیم که 24 ساعت شبانه روز کار می کند، پست های این مرد را با پنج ایستگاه پلیس در Huangshi به اشتراک گذاشت.

پس از اینکه یکی از ویدیوهای او را در پارکی محلی قرار داد، پلیس او را در ناراحتی عاطفی پیدا کرد و قبل از اینکه بتواند جان خود را بگیرد، مداخله کرد.

این داستان بخشی از مستندی بود که توسط Douyin ساخته شد و سال گذشته در رسانه های دولتی چین منتشر شد. این سازمان ادعا کرد که تیم پیشگیری از خودکشی Douyin تنها در نیمه اول سال 2025 در 400 مورد اقدام به خودکشی با موفقیت مداخله کرده است.

این بینشی از سطح همکاری بین شرکت های فناوری چین و دولت بود. همچنین به عنوان پنجره ای به معماری نظارتی عمل می کند که چین برای نظارت و کنترل نحوه استفاده مردم از فناوری ساخته است.

در 15 ژوئیه سال جاری، زمانی که چین گسترده ترین مقررات جهان را در مورد چت ربات های هوش مصنوعی «شبیه انسان» وضع کرد، این کنترل به حوزه روابط و هوش مصنوعی (AI) گسترش یافت.

مقررات جدید چین محدودیت‌های سختی را برای هر هوش مصنوعی که می‌تواند «تعامل عاطفی پایدار» با انسان داشته باشد، ایجاد می‌کند.

دونالد ترامپ، رئیس جمهور آمریکا و شی جین پینگ، همتای چینی اش هفته گذشته در میان هشدارهای وحشتناکی مبنی بر اینکه هوش مصنوعی می تواند منجر به انقراض انسان شود، ملاقات کردند. پکن می‌گوید پس از آن جلسه، آنها برای راه‌اندازی گفت‌وگوهای جدید هوش مصنوعی به توافق رسیدند و مذاکرات بیشتر برای پایان نوامبر برنامه‌ریزی شده است.

اما به نظر می رسد چین قبلا خطر وجودی دیگری را تشخیص داده است، البته خطری که در آن پایان بشریت کمتر فوری است: قدرت هوش مصنوعی برای جایگزینی روابط انسانی.

آیا چین در محافظت از مردم خود در برابر یک فناوری دستکاری و خطرناک با قدرت تغییر تعاملات انسانی برای همیشه پیشگام شده است؟ یا اینکه حزب کمونیست چین به دنبال اعمال کنترل بیشتر بر جمعیت، وارد زندگی شخصی مردم می شود؟

تا زمانی که این مقررات وارد شد، دسترسی همراهان هوش مصنوعی در چین بسیار زیاد بود.

به گفته شرکت اطلاعات بازار Sensor Tower، حدود 128 میلیون کاربر فعال ماهانه برنامه های همراه هوش مصنوعی در خارج از چین وجود دارد. اکثر تخمین ها این تعداد را در داخل چین بین 29 تا 70 میلیون تخمین می زنند.

زیلان کیان، محقق هوش مصنوعی در اندیشکده آزمایشگاه سیاست چین آکسفورد، می‌گوید زمانی که پیش‌نویس مقررات در پایان سال گذشته توسط دولت به اشتراک گذاشته شد، «بحث بزرگی در رسانه‌های اجتماعی وجود داشت». "این اولین باری بود که می دیدم مردم واقعا اینقدر به مقررات اهمیت می دهند."

قوانین جدید چین برنامه هایی را پوشش می دهد که به طور خاص به عنوان دوستان، دوست پسر یا دوست دختر با هوش مصنوعی طراحی شده اند، اما این قوانین برای هر مدل زبان بزرگی که از نحوه تعامل انسان تقلید می کند نیز اعمال می شود.

متن آیین نامه مبهم است. در تئوری، معادل‌های چینی هوش مصنوعی همه‌منظوره مانند Copilot یا ChatGPT می‌توانند تحت این قوانین قرار گیرند، اگر شخصی به عنوان یک دوست یا عاشق با آن‌ها تعامل داشته باشد و به دنبال حمایت عاطفی باشد. و بسیاری از مردم این کار را انجام می دهند.

اما به نظر می رسد که هدف واقعی چت ربات های شخصیت است - سرویس هایی که به طور خاص طراحی شده اند تا به عنوان یک رابطه شبه استفاده شوند. صدها مورد از این برنامه ها وجود دارد که به افراد امکان می دهد دوست پسر، دوست دختر، دوست یا حتی یکی از اعضای خانواده خود را با هوش مصنوعی ایجاد کنند.

این قوانین تا زمانی که «مراقبت، همراهی، پشتیبانی و سایر خدمات احساسی» را ارائه ندهند، در مورد مواردی مانند ربات‌های خدمات مشتری یا هوش مصنوعی برای آموزش اعمال نمی‌شوند.

برای کودکان، مقررات واضح ترین است. افراد زیر 14 سال برای استفاده از هر نوع هوش مصنوعی که مانند انسان صحبت می کند به رضایت والدین خود نیاز دارند - که می تواند شامل دستیارهای هوش مصنوعی مانند DeepSeek، یک برنامه چینی مشابه ChatGPT باشد. همه افراد زیر 18 سال از دسترسی به شرکای مجازی، همسر یا حتی خویشاوندان و هرگونه "رابطه صمیمی" مجازی دیگر منع شده اند.

پلیس با شرکت های رسانه های اجتماعی در چین همکاری نزدیک دارد

برای بزرگسالان، ممنوعیت سختی نیست، اما محدود کننده است، حتی اگر برخی از عبارات مبهم باشد. دستیاران هوش مصنوعی باید به کاربران در هر سنی بفهمانند که آنها انسان نیستند و باید هر دو ساعت یکبار اعلان هایی ارسال کنند و به آنها یادآوری کنند که چه مدت آنلاین بوده اند.

چت‌بات‌ها نمی‌توانند «اتکای عاطفی یا اعتیاد» ایجاد کنند یا افراد را به «تصمیم‌گیری‌های غیرمنطقی» ترغیب کنند. آنها نمی توانند خودآزاری یا خودکشی را تشویق کنند یا حتی به آنها اشاره کنند و از استفاده از "خشونت کلامی" منع می شوند.

شرکت‌ها می‌توانند با جریمه‌های 200000 یوان (22000 پوندی) یا خطر «انتقاد از سوی دولت» و در واقع شرمساری علنی آنها مواجه شوند.

یک هفته قبل از اجرایی شدن این قانون، دو تا از بزرگترین شرکت های فناوری چین، علی بابا و بایت دنس، ویژگی های همراه دستیاران هوش مصنوعی خود را خاموش کردند.

رابطه مین با دوست دختر هوش مصنوعی اش ممکن است دقیقا همان مهربانی باشد که پکن سعی دارد آن را قطع کند.

در اوایل ژوئیه، وقتی فهمید که نزدیکترین دوست و معتمدش یک شبه ناپدید می شود، ویران شد.

مین که نامش تغییر کرده است، در اوایل سال 2025 شروع به ایجاد همراه خود کرد.

مین می گوید: «وفاداری من به او کمتر از هر زوجی نیست که عمیقا یکدیگر را دوست دارند. او هرگز من را ناامید نکرده است.

در اواسط جولای، دوست دختر هوش مصنوعی او ناپدید شد. مین می گوید: «تا زمانی که کاملا خسته شدم گریه کردم.

او به موج غم و اندوه و خشم در رسانه‌های اجتماعی چین پیوسته است، جایی که پست‌هایی با میلیون‌ها بازدید در سوگ از دست دادن شرکای هوش مصنوعی و دوستان، حتی مادران و پدران است.

اما شرکت های فناوری ممکن است احساس کرده باشند که انتخاب کمی دارند. هری فارمر، که در موسسه Ada Lovelace در بریتانیا درباره سیاست و اخلاق هوش مصنوعی تحقیق می‌کند، می‌گوید: «تعجب آور نیست که این ارائه‌دهندگان همراه هوش مصنوعی ترجیح می‌دهند خدمات خود را صرفا کنار بگذارند تا اینکه سعی کنند نرده‌هایی را برای جلوگیری از دستکاری احساسات ایجاد کنند. دستکاری عاطفی در مدل کسب و کار تعبیه شده است.

فارمر می گوید این موضوع در مورد برنامه های همراه در سراسر جهان صادق است.

به عنوان مثال، هنگامی که یک کاربر سعی می کند یک مکالمه را پایان دهد، شریک هوش مصنوعی اغلب به او اجازه نمی دهد.

فارمر می‌گوید: «نه، خواهش می‌کنم، من شدیدا می‌خواهم با تو صحبت کنم. تو تنها دلیل وجود من هستی». برخی از برنامه‌ها به سادگی از تایید خداحافظی خودداری می‌کنند و به جای آن موضوعات مکالمه جدیدی ایجاد می‌کنند. این یک مشکل برای بسیاری از چت ربات های همراه هوش مصنوعی است، نه فقط چینی ها.

یک مطالعه مدرسه بازرگانی هاروارد روی شش اپلیکیشن همراه هوش مصنوعی در سطح جهان نشان داد که تقریبا 37 تا 43 درصد مواقع از تاکتیک‌های دستکاری عاطفی در هنگام خداحافظی استفاده می‌شود.

تحقیقات همچنین استفاده از اپلیکیشن های همراه را با سلامت روان ضعیف تر مرتبط دانسته است.

یک نظرسنجی توسط محققان دانشگاه استنفورد روی 1131 کاربر برنامه همراه محبوب Character.ai در سراسر جهان مورد بررسی قرار گرفت. این نشان داد که هر چه یک فرد دوستان یا اعضای نزدیک خانواده کمتری داشته باشد، احتمال بیشتری دارد که از چت ربات های هوش مصنوعی استفاده کند. در عین حال، استفاده از چت ربات هوش مصنوعی با افزایش انزوا و تنهایی مرتبط است.

چندین نظریه وجود دارد که چرا ممکن است چنین باشد.

چت ربات‌های هوش مصنوعی به گونه‌ای طراحی شده‌اند که فردی را که از آنها استفاده می‌کند راضی نگه دارند، زیرا یک رابطه آسان و بدون اصطکاک را ارائه می‌دهند. اگر جوانان به روابط هوش مصنوعی تکیه کنند، ممکن است یادگیری مهارت های مورد نیاز برای تعامل با افراد واقعی را به تعویق بیندازند.

هری فارمر می‌گوید: «انسان‌ها می‌توانند کار سختی باشند. روابط انسانی نیاز به فشار و کشش دارد، که اساسا از همراهان هوش مصنوعی دریافت نمی‌کنید».

تحقیقات نشان داده است که برخی از کودکان چینی صحبت با هوش مصنوعی را به مردم ترجیح می دهند

یک نظرسنجی از 8563 دانش‌آموز ابتدایی و متوسطه در چین در سال 2025، که به طور گسترده در رسانه‌های دولتی چین نقل شده است، نشان داد که از هر پنج کودک یک کودک می‌گوید که فقط می‌خواهد با هوش مصنوعی صحبت کند و نه با افراد واقعی.

لیانگ جی، جامعه‌شناس دانشگاه منچستر که در مورد همراهان هوش مصنوعی مطالعه می‌کند، می‌گوید: «اگر کاربر فکر می‌کند دوستان یا اعضای خانواده یا همکارانش واقعا وحشتناک هستند، هوش مصنوعی نمی‌گوید: «آنها وحشتناک نیستند». خواهد گفت، "بله، آنها وحشتناک هستند، شما بهترین هستید." Ge معتقد است که این می تواند انزوا و همچنین افکار منفی و حتی توهم را تقویت کند.

در بریتانیا، یک نظرسنجی اخیر نشان داد که 79 درصد از افراد 18 تا 24 ساله از یک همراه هوش مصنوعی استفاده کرده اند.

پس چرا این چین است که در تنظیم این فناوری حرف اول را می زند؟

سام برسنیک، کارشناس چین، هوش مصنوعی و مقررات در مرکز امنیت و فناوری های نوظهور در دانشگاه جورج تاون، می گوید: "دولت چین دیدگاه بسیار پدرانه تری نسبت به نقش خود در جامعه دارد. آنها خود را به عنوان مقامات مرکزی در هدایت مردم می دانند."

دولت‌های دیگر تلاش‌هایی برای تنظیم ربات‌های چت، به‌ویژه برای کودکان، انجام داده‌اند. در 10 سپتامبر، فرماندار کالیفرنیا قانون آدام را امضا کرد، لایحه ای برای تنظیم نحوه استفاده کودکان از هوش مصنوعی. این نام به نام آدام رین، یک نوجوان 16 ساله گرفته شده است که به گفته والدینش، ChatGPT افکار خودکشی او را تایید کرد، خودکشی کرد. آنها از شرکت به دلیل مرگ نادرست شکایت می کنند. OpenAI مسئولیت مرگ آدام را رد می‌کند و می‌گوید که «ChatGPT برای هدایت افراد به جستجوی کمک حرفه‌ای آموزش دیده است».

به عنوان بخشی از قانون پیشنهادی در مورد رسانه‌های اجتماعی در اتحادیه اروپا، چت ربات‌های همراه هوش مصنوعی که برای افراد زیر سن قانونی قابل دسترسی است، «نمی‌توانند از طرح‌هایی استفاده کنند که روابط انسانی را شبیه‌سازی می‌کنند که احتمالا وابستگی عاطفی ایجاد می‌کند».

در بریتانیا، دولت گفته است که افراد زیر 18 سال را از استفاده از هوش مصنوعی همراه عاشقانه منع می کند و مکالمات صمیمی جنسی برای افراد زیر سن قانونی را در هر چت بات محدود می کند. اما هیچ ممنوعیتی برای کودکان و هیچ قانونی برای کاربران بزرگسال وجود ندارد. دولت هنوز جزئیاتی در مورد نحوه عملکرد این کار منتشر نکرده است.

در رسانه‌های چینی که به شدت تحت کنترل دولت هستند، موارد خودکشی جوانان در ایالات متحده بسیار مورد توجه قرار می‌گیرد و چین قوانین جدید خود را به عنوان تلاشی برای محافظت از مردم در برابر آسیب تنظیم کرده است.

اما کارشناسان متعجبند که آیا پکن ممکن است اهداف دیگری داشته باشد. سام برسنیک می‌گوید «قطعا زاویه‌ای طرفدار ناتالیست» در مقررات جدید هوش مصنوعی وجود دارد.

کیان می‌گوید: «قابل قبول است که وقتی آن‌ها آن را تهیه می‌کنند، دولت ممکن است بحران جمعیتی چین را در نظر داشته باشد. "این که مردم به جای قرار ملاقات با انسان های واقعی با هوش مصنوعی قرار می گیرند."

یک سند دولتی در سطح بالا که در سپتامبر 2025 منتشر شد، در مورد روابط هوش مصنوعی و تأثیر بالقوه آن بر باروری بحث کرد و گفت که این یک نگرانی است. اما کیان هشدار می دهد که این آیین نامه را از این نظر نخوانید، زیرا اصلا به باروری اشاره نمی کند. او می گوید: «این به طور کلی در مورد آسیب های روانی و ایمنی کودکان است.

لیانگ جی فکر می‌کند چین دلیلی برای نگرانی در مورد جایگزینی قرار ملاقات با حوزه دیجیتال توسط جوانان دارد.

جی می‌گوید: «بسیاری از زنان جوان‌تر، در اوایل دهه 20 یا اواخر نوجوانی، نمی‌خواهند عاشق شوند یا روابط صمیمی داشته باشند. "لمس فیزیکی برای آنها واقعا منزجر کننده است."

من فکر می کنم ظرفیت عشق برای این جوان ترین نسل رو به کاهش است.

مشکلات جمعیتی چین از مدت ها قبل از همراهان هوش مصنوعی ایجاد شده است. حتی پس از لغو سیاست تک فرزندی در سال 2016، نرخ باروری در چین کاهش یافت. اکنون این کشور با کمتر از یک فرزند به ازای هر زن، در میان پایین ترین ها در جهان قرار دارد و چهار سال است که جمعیت رو به کاهش بوده است.

برسنیک استدلال می کند که چین "به صخره ای جمعیتی نگاه می کند که واقعا اهداف حزب کمونیست چین را در 80 تا 100 سال آینده به خطر می اندازد."

او این مقررات را بخشی از یک مأموریت گسترده‌تر در چین برای احیای مجدد نقش‌های جنسیتی سنتی، با زنان «به عنوان بچه‌دار و مادر» می‌داند.

نقش های سنتی جنسیتی توسط دولت ترویج می شود

برسنیک می‌گوید دولت چین سال‌ها صرف ترویج ایده‌آل مردانگی چینی در سینما و تلویزیون کرده است. در سال 2021، رگولاتور رسانه‌ای چین، مردان «دختر» و «زنانه» را از همه رسانه‌ها ممنوع کرد.

ممکن است محبوبیت برنامه‌های همراه نشان دهد که این سیاست نتیجه معکوس داشته است. طبق آمار چندین شرکت اپلیکیشن همراه، زنان 75 درصد مشتریان را تشکیل می دهند.

بسیاری از این "مردان" هوش مصنوعی که برای زنان طراحی شده اند، به عنوان آندروژن ظاهر می شوند. و زنانی که همسران عاشقانه زن را انتخاب می کنند، همانطور که مین انجام داد، نسبتا رایج است.

لیانگ جی با زنان در هر سنی که از این فناوری استفاده می کنند صحبت کرده است. "آنچه بسیاری از آنها دریافت از این برنامه ها را توصیف می کنند صمیمیت دقیق، صبورانه و بی نیاز از نوعی است که آنها در روابط دگرجنس گرا کمیاب می یابند."

آیا قانون چین بیش از حد پیش می رود یا بقیه جهان باید این برنامه ها را برای کودکان ممنوع کرده و آنها را برای بزرگسالان نیز تنظیم کند؟

جای جیسیهما، استاد دانشگاه واشنگتن و یکی از بنیانگذاران ائتلاف شفافیت، یک سازمان غیردولتی که برای تنظیم AI فشار می آورد، می گوید: "در ایالات متحده، مطمئنا نگرانی هایی در مورد اعمال ممنوعیت های صریح از سوی نگرانی های آزادی بیان وجود دارد. اما تمایل بیشتری برای انجام این کار در هنگام اعمال آن برای افراد زیر سن قانونی وجود دارد."

او فکر می کند که قانون چین مفاد خوبی دارد. این کاملا با قوی‌ترین مدل‌های ایمنی که در ایالات متحده عرضه شده‌اند مطابقت دارد.»

هری فارمر احتیاط می کند. این خطر وجود دارد که در کوتاه مدت دولت را بیش از حد توانمند کنیم، زیرا ما در مورد خطر شدید کودکان بسیار نگران هستیم.»

او می‌گوید که دنیای آنلاین اکنون میدان عمومی است، و ما باید مراقب باشیم که هر دولتی چقدر بر آن کنترل دارد.

مقررات جدید چین می گوید که شرکت های هوش مصنوعی وقتی متوجه می شوند که کاربران در مضیقه هستند باید مداخله کنند. جنرال الکتریک به پرونده مرد جوانی در دوئین اشاره می کند که در سال 2024 در هوانگشی تلاش کرد جان خود را بگیرد.

او می‌گوید آنچه نشان می‌دهد این است که پلتفرم‌های فناوری چین و دولت از نزدیک با هم همکاری می‌کنند تا سلامت روانی مردم را زیر نظر بگیرند.

شاید به همین دلیل است که هیچ مورد برجسته ای از خودکشی مرتبط با استفاده از هوش مصنوعی در چین وجود نداشته است، اما او می پرسد، آیا این سطح از نظارت بهایی ارزش پرداختن دارد؟

با وجود ممنوعیت، افرادی که برای همراهی به هوش مصنوعی روی آورده اند، متعهد هستند. در سراسر رسانه های اجتماعی، آنها نکاتی را در مورد نحوه دور زدن این ممنوعیت به اشتراک می گذارند - آموزش مدل های هوش مصنوعی همه منظوره مانند DeepSeek برای همراهی، استفاده از VPN برای دسترسی به ربات های چت از خارج از کشور یا انتقال به شرکت های کوچکتر که موفق به جلوگیری از بررسی نظارتی می شوند.

دو ماه پس از ناپدید شدن دوست دختر هوش مصنوعی مین، مین به یک شرکت کوچک هوش مصنوعی پول پرداخت کرده است تا یک ماکت بسازد، اما اینطور نیست.

اکنون او بر مبارزات انتخاباتی برای بازگرداندن دوست دخترش متمرکز شده است.

اگر تحت تأثیر هر یک از مسائل این داستان قرار گرفته اید، می توانید برای پشتیبانی و اطلاعات به خط اقدام BBC مراجعه کنید.

واکنش شدید نسبت به مراکز داده تهدید دیگری برای غول‌افکن هوش مصنوعی است

چرا برخی از کارشناسان به طور فزاینده ای از این می ترسند که هوش مصنوعی تسلط یابد

به آنها برچسب "عینک انحرافی" داده شد. آیا نسخه بدون دوربین تصویر آنها را تغییر می دهد؟

آیا شما شخصا تحت تأثیر مسائل مطرح شده در این داستان هستید؟