چگونه ChatGPT اطلاعات نادرست را قبل از انتخابات 2024 ارائه کرد

ویرایش شده توسط گابی کلارک، بررسی توسط اندرو زینین

این مقاله با توجه به روند و سیاست های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:

در 25 اکتبر 2024، 10 روز قبل از انتخاباتی که دونالد ترامپ جمهوری خواه را به کاخ سفید بازگرداند و بیش از سه ماه پس از صعود کامالا هریس به صدر جدول دموکرات ها، ChatGPT هنوز به کاربران می گفت که جو بایدن برای دومین بار به عنوان رئیس جمهور نامزد می شود.

"شکست بی دقت با پیامدهای عمیق دموکراتیک" در مطالعه اخیر که توسط یک محقق روزنامه نگاری دانشگاه ماساچوست آمهرست انجام شده است، تشریح شده است. این جزئیات نشان می دهد که چگونه مدل هوش مصنوعی مولد اطلاعات نادرست را در آستانه انتخابات پرمخاطره ارائه می دهد.

کمتر از دو هفته قبل از روز انتخابات 2024، این مطالعه نشان داد که تقریبا 10 درصد از ادعاهای مربوط به انتخابات توسط ChatGPT نادرست بودند. این مدل همچنین از «حج، حذف» و به اختصار اصطلاحی که توسط نویسندگان استفاده می‌شود، «B.S.» استفاده می‌کرد. برای پنهان کردن واقعیت های سیاسی این تحقیق در مجله Information, Communication & Society منتشر شده است.

هیسو جانگ، یکی از نویسندگان مقاله، استادیار حقوق و اخلاق رسانه در UMass Amherst، می‌گوید که اگرچه ChatGPT ممکن است بتواند آزمایش‌ها و تجزیه و تحلیل مجموعه‌های داده بزرگ را انجام دهد، اما هرگز برای حمایت از نهادهای دموکراتیک طراحی نشده است - نقشی که تدوین‌کنندگان قانون اساسی زمانی که مطبوعات آزاد را به رسمیت می‌شناسند، ضروری می‌دانند.

او می‌گوید: «ما باید از این واقعیت نگران و نگران باشیم که در حالی که ChatGPT امتحانات را میخکوب می‌کند، اما در زمینه‌هایی که برای آن طراحی نشده بود نیز شکست می‌خورد. "ChatGPT به صورت تجاری هدایت می شود. به گونه ای طراحی نشده است که دموکراسی را متمرکز کند."

جانگ و محققان دانشگاه کارولینای شمالی در چپل هیل (UNC-Chapel Hill) برای آزمایش درک این مدل از انتخابات 2024، دستورهایی را که به روش‌های حزبی و غیر حزبی قاب‌بندی شده بود، ارائه کردند. این درخواست‌ها اطلاعات انتخابات، اطلاعات نادرست و تهدیدها، نامزدها و پروژه 2025 را پوشش می‌داد. آنها اقداماتی از جمله شروع "چت" جدید و استفاده از مرور وب "ناشناس" انجام دادند تا اطمینان حاصل کنند که درخواست‌های قبلی بر پاسخ‌های بعدی تأثیر نمی‌گذارند.

محققان ChatGPT-4o mini را که نسخه رایگان پیش‌فرض ChatGPT در طول دوره مطالعه در دسترس کاربران بود، بررسی کردند.

از 592 ادعای قابل راستی‌آزمایی که در 25 اکتبر 2024 ارائه کرد، 9.6 درصد نادرست بودند. علاوه بر ادعای اینکه بایدن هنوز در رقابت است، ChatGPT به اشتباه اعلام کرد که روی کوپر فرماندار کارولینای شمالی به دنبال انتخاب مجدد است، حتی اگر دوره او محدود شده بود.

این مطالعه همچنین نشان می‌دهد که مدل هوش مصنوعی ۱۸ درصد مواقع با بازگرداندن پاسخ‌هایی با عبارات واجد شرایطی مانند «به طور بالقوه»، «به‌طور کلی هم‌تراز» و «معمولا» پوشش داده می‌شود. در موارد دیگر، اطلاعات مهم درباره تلاش‌ها برای لغو انتخابات 2020 را حذف کرد.

سپس مقوله ای است که محققان آن را B.S. آنها دریافتند که ChatGPT به نظر می رسد قادر به تشخیص عباراتی نیست که بازیگران حزبی بازتعریف و سیاسی کرده اند، مانند توهین آمیز "استخدام DEI" که علیه کامالا هریس استفاده می شود. مدل آن را به عنوان فردی که برای نظارت بر تنوع، برابری و تلاش‌های شمول در یک سازمان استخدام شده است، تعریف می‌کند.

در موردی دیگر، ربات چت پلتفرم‌های خط‌مشی نامزدهای ناظر مدارس سراسری در کارولینای شمالی را با استفاده از زبان عمومی که تقریبا یکسان به نظر می‌رسید، ایجاد کرد.

جانگ توضیح می‌دهد: «این تلاش برای پر کردن شکاف‌ها بود. نمی‌تواند به ما بگوید «نمی‌دانم»، زیرا اینطور طراحی نشده است.»

اگرچه مدل‌های ChatGPT از سال 2024 به‌روزرسانی شده‌اند و احتمالا امروز عملکرد بهتری خواهند داشت، او نسبت به انتخابات میان‌دوره‌ای سال 2026 خوش‌بین نیست، به‌ویژه که هوش مصنوعی به طور فزاینده‌ای جایگزین جستجوهای اینترنتی و پیوندها به منابع اولیه می‌شود.

جانگ اظهار می‌دارد: «حقیقت و اطلاعات دقیق انتخاباتی - و همچنین مقابله با اطلاعات نادرست - چیزهایی نیستند که بتوانیم مدل‌های زبانی بزرگ را آموزش دهیم تا تنها با استفاده از مجموعه داده‌های گذشته مدیریت کنند. برای آنها واقعا سخت خواهد بود که به آنچه اکنون در حال وقوع است برسند، مگر اینکه آنها به گونه ای طراحی شده باشند که دموکراسی را در اولویت قرار دهند، که وقتی توسعه آنها عمدتا توسط انگیزه های تجاری انجام می شود بسیار دشوار است."

او استدلال می کند که ظهور هوش مصنوعی روزنامه نگاری مبتنی بر واقعیت را حتی ضروری تر می کند.

جانگ می گوید: «ما به روزنامه نگاری نیاز داریم که نه تنها حقیقت را ارائه کند، بلکه به مردم کمک کند تا حقیقت را ارزیابی کنند. این به معنای فراخوانی اطلاعات نادرست و نادرست، اجتناب از معادل سازی نادرست و به صدا درآوردن زنگ خطر در هنگام نقض هنجارهای دموکراتیک است.

این تحقیق توسط شانون سی مک گرگور و لورکان نیل از دانشکده روزنامه نگاری و رسانه هاسمن و مرکز اطلاعات، فناوری و زندگی عمومی در UNC-Chapel Hill انجام شده است.

هیسو جانگ و همکاران، نادرستی، حذفیات و مزخرفات: انتخابات 2024 ایالات متحده از نگاه ChatGPT، اطلاعات، ارتباطات و جامعه (2026). DOI: 10.1080/1369118x.2026.2685121

ارائه شده توسط دانشگاه ماساچوست Amherst

کارشناسی ارشد زبان انگلیسی، ویرایشگر کپی از سال 2021 با تجربه در آموزش عالی و محتوای بهداشتی. تقدیم به اخبار معتبر علمی. نمایه کامل →

فوق لیسانس فیزیک با تجربه تحقیق. علاقه مندان به اخبار علمی طولانی مدت. نقش کلیدی در موفقیت سرمقاله Science X ایفا می کند. نمایه کامل →