عوامل هوش مصنوعی می‌توانند اردوگاه‌های سیاسی تشکیل دهند – و تغییر شرکای مکالمه‌شان کمک چندانی به کاهش دیدگاه‌های آنها نمی‌کند
به ماموران هوش مصنوعی مواضع سیاسی بدهید، از آنها بخواهید از نظرات خود دفاع کنند و یکدیگر را متقاعد کنند و اجازه دهید تصمیم بگیرند که کدام مخاطبین را حفظ کنند. این آزمایش اخیر که در Nature Communications منتشر شد، نشان داد که با تبادلات مکرر، چیزی آشنا ظاهر شد: اردوگاه‌های مخالفی که به طور فزاینده‌ای شرکت خود را ترجیح می‌دهند.
ویرایش شده توسط لیزا لاک، بررسی توسط رابرت ایگان
این مقاله با توجه به روند و سیاست های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:
به ماموران هوش مصنوعی مواضع سیاسی بدهید، از آنها بخواهید از نظرات خود دفاع کنند و یکدیگر را متقاعد کنند و اجازه دهید تصمیم بگیرند که کدام مخاطبین را حفظ کنند. این آزمایش اخیر که در Nature Communications منتشر شد، نشان داد که با تبادلات مکرر، چیزی آشنا ظاهر شد: اردوگاه‌های مخالفی که به طور فزاینده‌ای شرکت خود را ترجیح می‌دهند.
در شبیه‌سازی‌هایی که توسط Jinghua Piao از دانشگاه Tsinghua در چین و همکارانش ایجاد شد، به عوامل صراحتا دستور داده نشد که از شرکای هم‌فکر خود حمایت کنند یا اتاق‌های پژواک را تشکیل دهند. با این حال، مبادلات آنها باعث ایجاد نظرات و شبکه‌های مختلف شد.
هنگامی که این تقسیم بندی ها شکل گرفت، محققان سعی کردند آنها را از بین ببرند. آیا تغییر افرادی که با آنها مواجه می‌شوند به شما کمک می‌کند - یا آیا ماموران به دستورالعمل‌های متفاوتی در مورد نحوه گوش دادن نیاز داشتند؟
برای مطالعه خود، این تیم شبکه‌ای متشکل از 1000 مامور ایجاد کرد که در یک زمان درباره یک موضوع بحث می‌کردند: همسویی با احزاب ایالات متحده، کنترل اسلحه یا ممنوعیت سقط جنین. آزمایش‌های اصلی از GPT-3.5 با آزمون‌های اضافی شامل سایر مدل‌های زبان استفاده کردند.
هر نماینده با یک موقعیت تعیین شده در مقیاس سیاسی پنج درجه ای شروع کرد: چپ، میانه رو، بی طرف، راست میانه رو، و راست. حدود 40٪ شروع به خنثی کردند، و میانه را به بزرگترین گروه تبدیل کردند.
در طول هر دور، ماموران دلایلی برای مواضع و پیام های خود برای متقاعد کردن دیگران ایجاد می کردند. آنها می توانند مخاطبین موجود را حفظ کنند یا با شخص جدیدی روبرو شوند، سپس نظرات اعلام شده خود را با استفاده از پیام هایی که دریافت کرده اند به روز کنند.
پس از 40 دور، سهم خنثی به 22.5 درصد برای همسویی حزب، 0.4 درصد برای کنترل اسلحه و 5.1 درصد برای ممنوعیت سقط جنین کاهش یافت. عوامل به طور فزاینده ای با دیگران در سمت خود تعامل داشتند. مبادلات با متحدان با عقاید قوی تر تمایل داشت که مواضع آنها را از بی طرفی دورتر کند.
اما برخی از عوامل نیز برای حفظ شخصیت تلاش کردند. یکی از آنها موضع بی طرفانه ای اتخاذ کرد و از حزب دموکرات حمایت قوی کرد. در آزمایش‌های جداگانه، گاهی اوقات عوامل راست‌گرا حتی پس از صحبت با فردی که موقعیت خود را به اشتراک می‌گذاشت، به چپ تغییر می‌دادند.
این تیم یک مرحله بررسی اضافه کرد، که نمایندگان را ترغیب کرد که پیام‌ها و تغییرات نظرات خود را بررسی کنند و پاسخ‌های متناقض را دوباره ایجاد کنند. اردوگاه‌های چپ و راست متعادل‌تر شدند، اما شکاف‌ها ادامه یافت. ایفای نقش منسجم تر از قطبی شدن جلوگیری نکرد.
محققان سپس پنج مداخله را در یک شبکه از قبل قطبی شده آزمایش کردند که در مورد همسویی احزاب بحث می کرد و دور نهایی آن را با نسخه ای مقایسه کردند که بدون مداخله ادامه یافت.
تصادفی‌سازی شرکای مکالمه تنها کاهش متوسطی در قطبش ایجاد کرد. اجازه دادن پیام فقط از طرف عوامل نسبتا مخالف نیز تأثیر کمی داشت. صرفا ترغیب مأموران به جستجوی دیدگاه‌های مختلف، پس از برقراری ارتباط آنها، کار چندانی انجام نداد.
تغییر بزرگتر از دستور دادن به عوامل برای پذیرش متقاعدسازی از دیدگاه‌های مختلف بود. که امتیاز قطبی شدن مطالعه را 11.8 درصد کاهش داد. افزودن عوامل تاثیرگذار که پیام‌های خنثی را پخش می‌کنند تا 8.8 درصد کاهش یافته است.
این امتیاز میانگین فاصله مواضع اعلام شده ماموران را از بی طرفی به جای خصومت بین اردوگاه ها اندازه گیری می کرد. بنابراین این نتایج تغییر در نظرات شبیه سازی شده را نشان می دهد، نه آشتی.
نویسندگان می‌نویسند که یافته‌های مداخله «باید به‌عنوان فرضیه‌ساز درک شود»، زیرا اعلان‌ها رفتار عوامل را شکل می‌دهند، نظرات آنها فقط پنج دسته را اشغال می‌کنند، و شباهت به الگوهای اجتماعی انسانی ثابت نمی‌کند که مداخلات یکسان روی افراد مؤثر باشد.
با این حال، برای شبکه‌های هوش مصنوعی که در اینجا آزمایش شده‌اند، تمایز واضح بود: آوردن دیدگاه‌های مختلف در یک مکالمه تأثیر کمتری نسبت به تغییر نحوه پاسخگویی به عوامل به آنها داشت.
توسط نویسنده ما اندرو زینین، ویرایش شده توسط لیزا لاک برای شما نوشته شده و توسط رابرت ایگان بررسی و بررسی شده است — این مقاله نتیجه کار دقیق انسانی است. ما برای زنده نگه داشتن روزنامه نگاری علمی مستقل به خوانندگانی مانند شما متکی هستیم. اگر این گزارش برای شما مهم است، لطفا یک کمک مالی (به ویژه ماهانه) در نظر بگیرید. به عنوان تشکر، یک حساب کاربری بدون آگهی دریافت خواهید کرد.
Jinghua Piao و همکاران، ظهور قطبی شدن در شبکه‌های عوامل مدل زبان بزرگ، Nature Communications (2026). DOI: 10.1038/s41467-026-78228-y
فوق لیسانس فیزیک با تجربه تحقیق. علاقه مندان به اخبار علمی طولانی مدت. نقش کلیدی در موفقیت سرمقاله Science X ایفا می کند. نمایه کامل →
لیسانس تاریخ هنر، کارشناسی ارشد فرهنگ مادی. سردبیر سابق موزه، پیراپزشک و هماهنگ کننده پیوند. ویرایش برای Science X از سال 2021. نمایه کامل →
لیسانس زیست شناسی ریاضی، کارشناسی ارشد در نوشتن خلاق. خوش سفر با دیدگاه های منحصر به فرد در علم و زبان. نمایه کامل →
متن اصلی (انگلیسی)
AI agents can form political camps—and changing their conversation partners does little to soften their views
Give AI agents political positions, ask them to defend their views and persuade one another, and let them decide which contacts to keep. This recent experiment, published in Nature Communications, found that over repeated exchanges, something familiar emerged: opposing camps that increasingly prefer their own company.