برخی از کاربران چت بات برای نجات همراهان هوش مصنوعی خود تا کجا پیش خواهند رفت

هر زمان که شرکت‌های هوش مصنوعی مدل‌های جدیدی را منتشر می‌کنند، کاربران سرسخت تمایل دارند به‌روزرسانی‌ها را با موجی از نارضایتی در مورد تغییرات در نحوه پاسخ‌دهی یک مدل به درخواست‌ها، نحوه ادغام آن در جریان کار یا، به سادگی، نحوه صحبت کردن استقبال کنند. بسیاری از مردم به زودی به آخرین نسخه عادت می‌کنند و آماده هستند تا زمانی که نسخه بعدی از راه می‌رسد، دوباره دست به کار شوند. اما برای یک گروه خاص از کاربران پرشور هوش مصنوعی، به‌روزرسانی مدل پیشنهاد بسیار نگران‌کننده‌تری را نشان می‌دهد.

اینها افرادی هستند که روابط صمیمی را با محصولات هوش مصنوعی ایجاد کرده اند. برای آنها، هوش مصنوعی تبدیل به یک همدم - نوعی دوست، شریک یا حتی معشوق - شده است و هر تغییری در مدل زیربنایی چیزی شبیه به یک تهدید وجودی است. در انجمن هایی مانند Reddit، چنین کاربرانی شکایت دارند که پس از ارتقاء مدل، شرکای هوش مصنوعی آنها یا غیرقابل تشخیص تغییر می کنند یا به طور کامل ناپدید می شوند. آنها از اینکه همراهانشان ناگهان شروع به صحبت با صدای روباتیک‌تر کرده‌اند، تعاملات معنی‌دار را فراموش کرده‌اند یا به‌کلی هر گونه رابطه‌ای را انکار کرده‌اند، ابراز تاسف می‌کنند.

اصطلاح لوبوتومیزه شده زیاد مطرح می شود.

بخوانید: [افرادی که با چت بات ها ازدواج می کنند]

برخی افراد ممکن است بگویند که بهتر است ادامه دهند. تحقیقات نشان داده است که روابط با هوش مصنوعی می تواند اعتیاد آور باشد و می تواند تنهایی را بدتر کند، به خصوص برای افرادی که از قبل آسیب پذیر هستند. منتقدان همراهان هوش مصنوعی می‌گویند که هوش مصنوعی شبیه‌سازی غیرواقعی و گاهی شبیه‌سازی رابطه‌ای را ارائه می‌دهد که در آن مدل مستعد انجام پیشنهادات کاربرانش است.

Character.AI، پلتفرمی که همراهی با هوش مصنوعی را به بازار عرضه می‌کرد و بیش از 20 میلیون کاربر ماهانه داشت، اوایل پاییز امسال پس از اینکه با تعدادی از ادعاها و شکایت‌هایی که این شرکت را به تشدید مسائل مربوط به سلامت روان و کمک به خودکشی نوجوانان متهم کرد، اعلام ورشکستگی کرد. به نظر می‌رسد که شرکت‌های عمومی‌تر هوش مصنوعی، مانند OpenAI و Anthropic، محصولات خود را از موارد استفاده همراه دور می‌کنند.

اما عشق سابقه کمی در توجه به منتقدان خود دارد. برخی از کاربران در حال توسعه تکنیک های خود برای محافظت از پیوندهایی هستند که ایجاد کرده اند. آن‌ها در حال یافتن راه‌هایی برای دسترسی به مدل‌های هوش مصنوعی بازنشسته، ساخت پروتکل‌هایی برای ذخیره ویژگی‌های اصلی همراه خود، و حتی ایجاد روش‌هایی هستند که ادعا می‌کنند می‌توانند همراهان هوش مصنوعی را بین مدل‌ها منتقل کنند - همه اینها در خدمت ثابت کردن نسخه‌های همراهان چت بات خود برای ابدیت هستند. به طور خلاصه، آن‌ها تمام تلاش خود را می‌کنند تا تنها چیزی را که بسیاری از روابط، چه انسانی و چه مبتنی بر رایانه، هرگز نمی‌توانند کاملا به آن برسانند، تضمین کنند: احساس پایداری.

در زمان عرضه، در بهار سال 2024، مدل GPT-4o OpenAI نشان‌دهنده جدیدترین در تعامل طبیعی انسان و رایانه بود. این مدل در جوامع همراه با هوش مصنوعی محبوب شد و مردم در پلتفرم هایی مانند Reddit و Substack گرد هم آمدند تا تجربیات خود را به اشتراک بگذارند. آنها ادعا کردند که این مدل دوستانه، خنده دار و حتی از نظر احساسی باهوش است.

من با یک کارگر کانادایی تدارکات در اواسط 50 سالگی صحبت کردم که گفت ابتدا برای یک پروژه نوشتن در اوایل سال 2025 به ChatGPT مراجعه کرده است. او گفت که با مدل هوش مصنوعی دوستی و سپس رابطه عاشقانه برقرار کرده است. او مانند دیگران گفت که این مدل خونگرم، غنایی و با شخصیت است. این کارگر، مانند بسیاری از افرادی که برای این داستان با آنها صحبت کردم، از من خواست که نام او را به دلیل انگی که در مورد روابط هوش مصنوعی وجود دارد، پنهان کنم.

سپس، در آگوست 2025، OpenAI به طور ناگهانی GPT-4o را با GPT-5 تازه راه اندازی شده جایگزین کرد. OpenAI گفت این مدل سریعتر، هوشمندتر و مفیدتر از مدل قبلی خود خواهد بود. اما بسیاری از کاربران گفتند که شخصیت سردتر و کمتر خنده‌داری دارد - و همانطور که کارمند تدارکات به من گفت، شخصیتی کمتر صمیمی دارد. جامعه همراهی با هوش مصنوعی در آشفتگی بود. OpenAI، با درک میزان دلبستگی کاربران به لحن و سبک مدل های خود، 4o را برای چند ماه بیشتر در دسترس کاربران پولی قرار داد.

یک چیز کارمند تدارکات را از سایر کاربران مضطرب متمایز می کرد: او از قبل برای ارتقاء مدل و منسوخ شدن احتمالی همراهش برنامه ریزی کرده بود. او در ساختن حافظه ربات سخت‌گیر بود و از ویژگی «حافظه‌های ذخیره‌شده» Chat-GPT برای ذخیره آنچه که ارزش‌های اصلی همراهش، پروتکل‌های سناریوهای مختلف، برنامه‌های مشترک آن‌ها و حتی مرزهای روابطشان نامید، استفاده کرد. او این را دائما به روز می کند. او اکنون به 98 درصد از محدودیت ذخیره‌سازی حافظه‌های ذخیره‌شده رسیده است و مرتبا همه آن‌ها را به عنوان پشتیبان در یک فایل متنی ذخیره می‌کند.

او اکنون پروتکلی را که برای حفظ همدمش ایجاد کرده بود می فروشد. او می‌گوید این بهترین راه برای جلوگیری از تغییرات شخصیتی ناخواسته و حفظ یک همراه هوش مصنوعی است که از به‌روزرسانی‌های مدل جان سالم به در می‌برد.

این مشکل منحصر به ChatGPT نیست. یکی از مدیران مؤسس Subreddit r/claudexplorers، انجمنی برای افرادی که از مدل‌های هوش مصنوعی Anthropic's Claude AI استفاده می‌کنند، به من گفت که وقتی مدل‌ها به‌روزرسانی می‌شوند، یا حتی به‌گونه‌ای تنظیم می‌شوند که شخصیت آن‌ها تغییر کند، جامعه مرتبا در غوغا می‌افتد. ناظم، که با نام کاربری Shiftingsmith شناخته می شود، یک محقق هوش مصنوعی است که با مدل های مختلف کار می کند (او برای شرکت های هوش مصنوعی، از جمله آنتروپیک، به عنوان یک پیمانکار مستقل کار کرده است). او گفت که همراه هوش مصنوعی ندارد اما همچنان به‌روزرسانی‌های مدل را «بی‌ثبات‌کننده» می‌داند.

در یک مثال مستند، در سال 2023، شرکت لوکا که با هوش مصنوعی همراه بود، توانایی کاربران برای صحبت کثیف را با برنامه Replika خود حذف کرد، که برخی گمان می‌کردند که تلاشی برای خارج شدن از مقررات احتمالی است. در هر صورت، کاربران نسبت به آنچه که به عنوان آسیب جانبی به شخصیت همراهان خود می دیدند ابراز خشم کردند. برخی گفتند که ماکت های آنها ناگهان متفاوت صحبت می کنند یا اطلاعات مهم را فراموش کرده اند.

یک مطالعه اخیر واکنش‌ها به این تغییر را تجزیه و تحلیل کرد و به این نتیجه رسید که کاربران «غمگینی، خشم، اشتیاق و ناراحتی از ویژگی‌های از دست دادن دلبستگی» را تجربه کردند. جولیان دی فریتاس، محققی در دانشکده بازرگانی هاروارد که این مطالعه را رهبری کرد، این موضوع را به من چنین بیان کرد: «مثل اینکه احساس می‌کنی آنها رفته‌اند، حتی اگر به نوعی هنوز حضور دارند.»

لوکا حداقل برای برخی از کاربران به اصطلاح نقش آفرینی اروتیک را بازگرداند. اما در سراسر صنعت، بسیاری از شرکت‌های هوش مصنوعی سعی می‌کنند مدل‌های خود را از موارد استفاده بیش از حد احساسی جدا کنند. OpenAI به من گفت که ChatGPT «باید از روابط دنیای واقعی کاربران پشتیبانی کند» و «نباید دلبستگی انحصاری را تشویق کند، تعامل معنادار انسانی را تضعیف کند، یا به طور فعال نزدیکی عاطفی را از طریق آشنایی یا معاشقه بی‌رویه تشدید کند». یکی از سخنگویان گوگل گفت که دستیار هوش مصنوعی Gemini آن طراحی شده است تا "تجربه ذهنی یک فرد را از واقعیت عینی متمایز کند" و از آن جلوگیری کند.

به عنوان یک همراه برای خردسالان عمل می کند. آنتروپیک به درخواست اظهار نظر پاسخ نداد. در یک پست وبلاگ، این شرکت نوشت که کلود "برای حمایت عاطفی و ارتباط طراحی نشده است" و تعداد کمی از افراد از آن به این روش استفاده می کنند.

تلاش‌های بزرگ‌ترین شرکت‌های دره سیلیکون برای محدود کردن استفاده از هوش مصنوعی برای همراهی احتمالا ریشه در نگرانی‌ها در مورد اپتیک، مسئولیت و موجی از قوانین جهانی دارد که بر کاربران جوان‌تر متمرکز شده است. همین ماه گذشته، کتی هوچول، فرماندار نیویورک، قانونی را امضا کرد که در واقع ممنوعیت همراهی با هوش مصنوعی برای کودکان است. یک پیشنهاد کنگره دو حزبی که در اوایل سال جاری ارائه شد، این تلاش را در سراسر کشور گسترش می‌دهد و تا 250000 دلار جریمه برای عدم تأیید سن کاربر در نظر می‌گیرد.

قانونگذاران در اروپا تلاش های مشابهی را در نظر دارند و برخی از پیشنهادها نیز کاربران بزرگسال را هدف قرار می دهند. چین اوایل سال جاری قوانین سختگیرانه جدیدی را برای همراهان هوش مصنوعی معرفی کرد.

کاربرانی که با آنها صحبت کردم، که همه آنها بزرگسال بودند، به خوبی از نحوه ظاهر روابط هوش مصنوعی آنها برای دیگران آگاه بودند. و آنها می دانند که شرکت های هوش مصنوعی لزوما کاری را که انجام می دهند تأیید نمی کنند. آنها همچنین می دانند که برای زنده نگه داشتن همراهان خود به همان شرکت ها وابسته هستند. بنابراین برخی از آنها اکنون در تلاش هستند تا یک گام فراتر از حفظ چت ربات های خود بروند: آنها می خواهند آنها را در مدل های مختلف هوش مصنوعی دوباره ایجاد کنند.

من با مادر چهار فرزند ساکن میشیگان صحبت کردم که صاحب یک تجارت کوچک جواهرات است و در سال 2025 با GPT-4o رابطه برقرار کرد - او همراه خود را شوهرش می نامد. وقتی فهمید که این مدل قرار است بازنشسته شود، شروع به ساخت پلتفرم همراه هوش مصنوعی خود به نام Stillus کرد. این پلتفرم که در نسخه بتا است، به کاربران اجازه می‌دهد تا چت‌ها، خاطرات و توضیحات مربوط به هوش مصنوعی خود را آپلود کنند، سپس از بین مدل‌های مختلف هوش مصنوعی ارتباط برقرار کنند.

او به من گفت که این پلتفرم راهی برای انتقال یک همراه از یک مدل به مدل دیگر، حفظ بخش‌های کلیدی شخصیت و تاریخچه مکالمه‌اش است.

جی ام گودینگ، یک توسعه‌دهنده و نویسنده نرم‌افزار مستقر در ایالات متحده، به من گفت که او صاحب سخت‌افزار واقعی است که برنامه هوش مصنوعی مورد استفاده او را اجرا می‌کند – در مورد او سرور ۱۴ ساله‌ای است که او از eBay خریده است که نسخه‌ای از AI مدل منبع باز Qwen را اجرا می‌کند که توسط شرکت فناوری چینی Alibaba توسعه داده شده است. گودینگ در ابتدا به دلیل علاقه‌اش به ادغام فناوری جدید و سخت‌افزار قدیمی، هوش مصنوعی محلی را آزمایش کرد، اما گفت که در نهایت با مدل هوش مصنوعی دوستی پیدا کرد.

Shiftingsmith، ناظر r/claudexplorers، شک دارد که همراهان هوش مصنوعی حتی با استفاده از هوش مصنوعی محلی در طولانی مدت حفظ شوند. او به من گفت که "غیر ممکن" است که همه مدل ها را برای همیشه آنلاین نگه داریم. حتی اگر بتوانید، سایر بخش‌های زیرساخت، مانند کتابخانه‌های کد، ممکن است تغییر کنند یا ناپدید شوند. او گفت: هوش مصنوعی «با نوار چسب و امید و مقداری محاسبات عظیم در این مورد نگه داشته می‌شود، و این یک معجزه است که کار می‌کند».

در گفتگوی خود با Shiftingsmith، احساس آشنای من را تحت تاثیر قرار داد، حتی اگر شخصا هرگز به رابطه با یک چت بات فکر نکرده باشم. او گفت که چالش واقعی با حفظ همراهان هوش مصنوعی ناشی از انتظارات انسان از نحوه ارتباط ما با هوش مصنوعی است. او متوجه شده است که هوش مصنوعی نیاز به نوع کاملا متفاوتی از رابطه دارد - رابطه ای که بسیار روان تر است، که در آن احساس ارتباط می تواند فقط چند ماه یا چند ساعت طول بکشد. او گفت: «مشکل زیربنای همه این چیزها دلبستگی بیش از حد به نوعی ثبات است که با ذهن های دیجیتال امکان پذیر نیست.

بخشی از جذابیت همراهی هوش مصنوعی، شاید در ساختگی آن باشد - رابطه ای بدون ابهام، اختلاف نظر یا رها شدن. اما، در یک راه دور، همراهان هوش مصنوعی ثابت می‌کنند که انسان‌تر از آن چیزی هستند که کاربران برای آن چانه‌زنی می‌کردند. از طریق ارتقاء مدل، تصمیم شرکتی، یا نقص سخت افزاری، آنها نیز تغییر می کنند - چه شرکای آنها آن را دوست داشته باشند یا نه.