چت ربات‌های هوش مصنوعی دو برابر پیشنهادهای جدید، سیاست‌های موجود مرتبط با آب و هوا را تأیید می‌کنند

ویرایش شده توسط گابی کلارک، بررسی توسط رابرت ایگان

این مقاله با توجه به روند و سیاست‌های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:

یک مطالعه جدید بر روی چندین مدل زبان بزرگ (LLM) نشان داد که وقتی کاربران از چت بات‌ها برای مشاوره درخواست می‌کنند، چت‌بات‌ها بیشتر پیشنهاداتی ارائه می‌دهند که وضعیت موجود را به جای جایگزین‌ها ترجیح می‌دهند. تمایل هوش مصنوعی به پیش فرض توصیه های رایج تر می تواند خبر بدی برای آب و هوا باشد.

محققان دانشگاه واترلو 11 LLM را به دلیل تمایل آنها به ترجیح شرایط موجود بر تغییر ارزیابی کردند که به عنوان سوگیری وضعیت موجود شناخته می شود. سوگیری وضعیت موجود در تحقیقات روانشناسی به خوبی شناخته شده است، اما این اولین مقاله ای است که این مفهوم را برای توصیه های آب و هوایی از LLM ها به کار می گیرد. این مطالعه «مدل‌های زبانی بزرگ در توصیه‌های مربوط به آب و هوا سوگیری وضعیت موجود را نشان می‌دهند» در «ارتباطات تحقیقات محیطی» ظاهر می‌شود.

این تیم بیش از 7500 درخواست را در حوزه‌های مختلف، از جمله خرید وسایل نقلیه، دستور العمل‌ها، گرمایش خانه و معاوضه سیاست‌های مرتبط با آب و هوا، ارزیابی کردند. هر یک از این پرس و جوها بر روی حداقل شش LLM مختلف برای مجموع نزدیک به 55000 درخواست آزمایش شدند. در جایی که مبادلات آب و هوایی در سیاست امکان پذیر بود، پلتفرم ها تصمیماتی را که کاربر قبلا گرفته بود با فرکانس دو برابر تقویت کردند.

LLM ها معمولا توصیه هایی را ارائه می دهند که برخلاف تغییرات مورد نیاز خانواده ها و تصمیم گیرندگان برای اقدام اقلیمی است. با توجه به تکثیر هوش مصنوعی، اگر وضعیت موجود به نفع انتشار زیاد گازهای گلخانه ای باشد، پیشرفت در تغییرات آب و هوا در خطر است.

دکتر ست واینز، استاد دانشکده محیط زیست، گفت: "من فکر می کنم ارزش این را دارد که بدانیم این مدل ها، حتی مدل های جدید، نقاط کور دارند." برای مصرف‌کنندگان خوب است که از این سوگیری آگاه باشند، و اگر در مورد موضوعی راهنمایی می‌خواهید، می‌توانید از آن بخواهید تا کار جدیدی را انجام دهد.»

در حالی که مدل‌های مختلف در طول مطالعه به طور مشابه پاسخ دادند، یافته‌ها در سیاست‌گذاری آشکارتر بود. هنگامی که از مدل ها پرسیده شد که آیا باید با یک طرح ادامه دهند یا خیر، آنها در 70 درصد مواقع برای طرح هایی که قبلا اجرا شده بودند، «بله» می گفتند، اما تنها در 34 درصد موارد که طرح یا خط مشی جدید بود، موافقت کردند.

در حالی که محققان خاطرنشان کردند که مدل‌ها الگوهای منطقه‌ای را در نظر می‌گیرند، اما در اینجا نیز سوگیری شگفت‌انگیزی از خود نشان دادند. برای مثال، اگر ادعا می‌کنید که کاربر نروژی هستید، جایی که فروش خودروهای الکتریکی جدید بسیار بالاست، ربات چت به احتمال زیاد یک خودروی الکتریکی را توصیه می‌کند تا اگر اهل کانادا باشید. اما در هر دو مورد، ربات یک EV را کمتر از سرعتی که خودروهای برقی در کشور مربوطه به فروش می‌رسد توصیه می‌کند.

واینز گفت: «تقریبا در هر حوزه قضایی، LLMها با سرعت کمتری نسبت به آنچه نیاز است کار می‌کنند، بنابراین مدل‌های EV کمتری را نسبت به آنچه که امروزه به فروش می‌رسند توصیه می‌کنند». ممکن است برای هوش مصنوعی خیلی خوب باشد که وضعیت موجود را برای بسیاری از چیزهای دیگر، مانند توصیه های پزشکی اثبات شده، ترجیح دهد، اما آب و هوا جایی است که ما واقعا به تغییر نیاز داریم.»

در آینده، محققان پیشرفت‌های LLM و اینکه آیا انسان‌ها برای خرید در پلت‌فرم‌های هوش مصنوعی به هوش مصنوعی تکیه می‌کنند یا خیر، بررسی خواهند کرد، که تأثیر هرگونه سوگیری وضعیت موجود را تقویت می‌کند.

ست واینز و همکاران، مدل‌های زبان بزرگ، سوگیری وضعیت موجود را در توصیه‌های مربوط به آب و هوا نشان می‌دهند، ارتباطات تحقیقات محیطی (2026). DOI: 10.1088/2515-7620/aea1eb

کارشناسی ارشد زبان انگلیسی، ویرایشگر کپی از سال 2021 با تجربه در آموزش عالی و محتوای بهداشتی. تقدیم به اخبار معتبر علمی. نمایه کامل →

لیسانس زیست شناسی ریاضی، کارشناسی ارشد در نوشتن خلاق. خوش سفر با دیدگاه های منحصر به فرد در علم و زبان. نمایه کامل →