پرسش و پاسخ: سلام هوش مصنوعی، امسال به چه کسی رای بدهم؟

توسط ابی آبازوریوس، موسسه فناوری ماساچوست

ویرایش شده توسط Swati Mestri، بررسی توسط اندرو زینین

این مقاله با توجه به روند و سیاست های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:

مردم هر روز چت ربات‌های هوش مصنوعی را با سوالاتی پر می‌کنند، اما وقتی نوبت به سیاست و انتخابات میان‌دوره‌ای ایالات متحده در سال 2026 می‌رسد، پلتفرم‌های هوش مصنوعی چه نقشی دارند؟ آیا یک ربات چت هوش مصنوعی می تواند رأی دهندگان را برای تغییر احزاب یا بررسی مجدد باورهای سیاسی خود تحت تأثیر قرار دهد؟

محققان MIT داشبورد جدیدی به نام LLM Election Observatory ساخته اند تا به صورت لحظه ای بررسی کنند که چت ربات های محبوب هوش مصنوعی چگونه به سؤالات مربوط به انتخابات میان دوره ای 2026 پاسخ می دهند. تیم پشت داشبورد - به سرپرستی پروفسور آدام برینسکی، استادیار چارا پودیماتا و پروفسور چارلز استوارت سوم - تجربه گسترده‌ای در مطالعه رای‌گیری و مدیریت انتخابات، هوش مصنوعی و اطلاعات نادرست، و نحوه تأثیر سیستم‌های هوش مصنوعی بر تصمیم‌گیری انسان دارند.

در تلاش برای درک بهتر اینکه هوش مصنوعی چگونه انتخابات را شکل می دهد، داشبوردی را برای شبیه سازی نحوه ارتباط افراد در سراسر کشور با چت بات ها طراحی کردند.

این تیم بررسی می‌کند که چگونه سیستم‌های هوش مصنوعی مختلف به مجموعه‌ای از سوالات ثابت در طیف وسیعی از موضوعات، از جمله صدور گواهینامه انتخابات، مسائل کلیدی داغ، پیش‌بینی نتایج، پوشش خبری و موارد دیگر پاسخ می‌دهند. هر چند روز یکبار، تیم رصدخانه انتخابات LLM پرسش‌ها را دوباره از طریق ربات‌های چت اجرا می‌کند و بر نحوه تغییر پاسخ‌های آن‌ها با نزدیک‌تر شدن انتخابات بسته به مکان کاربر، وابستگی به حزب سیاسی، هویت و عوامل دیگر نظارت می‌کند.

هدف این کار صرفا درک نحوه انتشار اطلاعات توسط سیستم‌های هوش مصنوعی نیست، بلکه درک بهتر نحوه شکل‌دهی گفتمان سیاسی و درک رأی‌دهندگان از مسائل سیاسی در سراسر کشور است.

MIT News با پودیماتا، استاد توسعه شغلی در سال 1942، استادیار تحقیقات عملیات و آمار در دانشکده مدیریت MIT Sloan و عضو آزمایشگاه اطلاعات و سیستم‌های تصمیم‌گیری گفتگو کرد. و برینسکی، پروفسور میتسویی و پروفسور دپارتمان علوم سیاسی، در مورد کارشان با رصدخانه انتخابات LLM، اینکه چگونه هوش مصنوعی می‌تواند بر دوره‌های میان دوره‌ای تاثیر بگذارد و رای‌دهندگان هنگام تعامل با چت‌بات‌ها چه چیزی را باید در نظر داشته باشند.

Podimata: مردم به طور فزاینده ای از چت ربات های هوش مصنوعی برای یافتن و درک اطلاعات سیاسی و مربوط به انتخابات استفاده می کنند. این امر باعث می‌شود که درک کنیم که این سیستم‌ها چه اطلاعاتی را در واقع ارائه می‌دهند، نه فقط در یک لحظه در زمان، بلکه در طول یک دوره انتخابات. این به ویژه چالش برانگیز است زیرا خود مدل‌ها به‌طور مداوم به‌روزرسانی می‌شوند، ورودی‌های اطلاعات سیاسی در دسترس آن‌ها خودشان در حال تغییر هستند و پاسخ‌های آن‌ها می‌تواند به نحوه پرسیدن یک سؤال یا اطلاعاتی که کاربر در مورد خودش ارائه می‌دهد بستگی داشته باشد.

یک مشکل اساسی این است که ما در حال حاضر سابقه تاریخی خوبی از این محیط اطلاعاتی نداریم. اگر امروز یک سیستم هوش مصنوعی در مورد یک انتخابات پاسخ خاصی بدهد و چند هفته بعد پاسخ متفاوتی بدهد، پس از این واقعیت که رای دهندگان در هر مقطع زمانی چه چیزی را می دیدند، می تواند بسیار دشوار باشد. یکی از اهداف مهم پروژه ما صرفا مستندسازی سیستماتیک آن محیط در حین توسعه و در دسترس قرار دادن داده های حاصله در اختیار سایر محققان و عموم است.

در نهایت، دقت واقعی تنها مرز اول است. ما کاملا باید درک کنیم که آیا ربات‌های گفتگو اطلاعات سیاسی دقیقی ارائه می‌دهند یا خیر، اما همچنین باید به روش‌های ظریف‌تری که ممکن است درک مردم از مسائل سیاسی را شکل می‌دهند، توجه کنیم. تفاوت در چارچوب بندی، تاکید، عدم قطعیت و منابع ذکر شده می تواند بسیار مهم باشد، حتی در غیاب اطلاعات نادرست آشکار.

Podimata: رصدخانه انتخابات LLM بر اساس کار قبلی من در طول انتخابات ریاست جمهوری 2024 استوار است، که شواهدی از تنوع معنادار در پاسخ های مدل های هوش مصنوعی در طول زمان و در چارچوب های سریع، و همچنین تفاوت در نحوه توصیف کاندیداها و پیش بینی ضمنی نتیجه انتخابات توسط مدل ها یافت.

میان ترم های 2026 این فرصت را به ما می دهد تا این کار را به میزان قابل توجهی گسترش دهیم. انتخابات میان‌دوره‌ای به‌ویژه جالب است زیرا رقابت‌های محلی و ایالتی زیادی به‌طور همزمان در کنار روایت‌های سیاسی ملی گسترده‌تر در جریان است. بنابراین نظرسنجی حسابرسی جدید ما هم سؤالات ویژه رقابت در مورد نامزدهای مجلس نمایندگان و سنا و سؤالات گسترده تر در مورد اطلاعات رأی گیری و سایر جنبه های محیط اطلاعات انتخاباتی می پرسد.

پودیماتا: همه ما از طریق تعاملات خود با ربات‌های گفتگو، «جهان خرد» خود را می‌سازیم. و با این حال، ما فاقد راه‌های سیستماتیک برای درک چگونگی شکل‌گیری این محیط‌های اطلاعاتی شخصی‌شده با توجه به اینکه ما هستیم یا چگونه در طول زمان با تغییر ما و محیط اطلاعاتی تکامل می‌یابند، نداریم.

برای مثال، افراد ممکن است متوجه نشوند که آنچه ربات چت مورد علاقه آنها در مورد یک موضوع سیاسی به آنها می گوید ممکن است کاملا متفاوت از آنچه چت بات مورد علاقه دوستشان در مورد همان موضوع به آنها می گوید، متفاوت باشد. و مهمتر از همه، این تفاوت ها حتی زمانی که اطلاعات ارائه شده از نظر واقعی درست باشد، اهمیت دارند.

چت‌بات‌ها ممکن است حقایق یکسان را به‌صورت متفاوتی چارچوب‌بندی کنند، بر جنبه‌های مختلف یک موضوع تأکید کنند، سطوح مختلف عدم قطعیت را بیان کنند یا از منابع کاملا متفاوتی استفاده کنند، حتی زمانی که به سؤالات یکسان از کاربران مختلف پاسخ می‌دهند. در نتیجه، دو کاربر ممکن است با ادراکات بسیار متفاوتی از حقایق زیربنایی یکسان کنار بروند، بدون اینکه متوجه شوند تجربیاتشان متفاوت است.

از جهاتی، این موضوع بسیاری از نگرانی‌هایی را که ما (به عنوان محقق و جامعه) در زمینه رسانه‌های اجتماعی با آن‌ها دست و پنجه نرم کرده‌ایم، بازمی‌گرداند. در رسانه‌های اجتماعی، کاربران و محققان حداقل تا حدودی می‌توانند اطلاعاتی را که در گروه‌های مختلف فیس‌بوک، حساب‌های اینستاگرام یا جوامع TikTok در حال گردش است، مشاهده کنند. با چت‌بات‌ها، این محیط‌های اطلاعاتی تا حد زیادی برای هر کسی خارج از مکالمه فردی نامرئی است. ما نمی‌توانیم به راحتی آنچه به کاربران مختلف گفته می‌شود را مشاهده کنیم، چه رسد به اینکه به طور سیستماتیک آن پاسخ‌ها را مقایسه کنیم یا نحوه تغییر آنها را در طول زمان پیگیری کنیم.

دقیقا به همین دلیل است که پروژه‌هایی مانند رصدخانه انتخابات LLM بسیار مهم هستند: با جمع‌آوری سیستماتیک و اشتراک‌گذاری عمومی پاسخ‌های ربات‌های گفتگو، می‌توانیم این تفاوت‌های غیرقابل مشاهده را قابل مشاهده و قابل بررسی کنیم.

Podimata: چندین سوال وجود دارد که ما در نهایت می خواهیم این مجموعه داده به ما در مطالعه کمک کند. به عنوان مثال: آیا مدل های مختلف اطلاعات سیستماتیک متفاوتی را برای سوالات یکسان ارائه می دهند؟ آیا پاسخ آنها در طول کمپین تغییر می کند؟ آیا پاسخی که یک مدل خاص می دهد بسته به اینکه کاربر چگونه سؤال را طرح می کند یا خود را توصیف می کند تغییر می کند (به عنوان مثال، اگر به مدل گفته شود که کاربر دموکرات یا جمهوری خواه است، آیا تغییر می کند؟) و در نهایت، منابعی که مدل ها هنگام پاسخ به سؤالات مربوط به انتخابات از آنها اطلاعات می گیرند چیست؟

داشبورد عمومی ما بخش مهمی از پروژه است. ما می‌خواهیم که افراد در داخل و خارج از دانشگاه بتوانند داده‌هایی را که جمع‌آوری می‌کنیم به‌جای اینکه نتایج را ماه‌ها بعد در یک مقاله دانشگاهی ببینند، ببینند. بنابراین داشبورد داده‌های زیربنایی و برخی تحلیل‌های توصیفی اولیه را ارائه می‌کند و ما قصد داریم مجموعه داده را برای سایر محققان نیز در دسترس قرار دهیم. ما انتظار داریم که داشبورد با تکامل داده ها و روش های ما تکامل یابد.

از طریق این داشبورد، ما می‌خواستیم بر اساس روش‌شناسی علمی که در سال 2024 ایجاد کردیم، استفاده کنیم، اما همچنین می‌خواهیم تحقیقات را برای عموم در دسترس‌تر و مفیدتر کنیم، در حالی که انتخابات واقعا در حال گسترش است. نه تنها این، بلکه اهمیت افزودن کارشناسان علوم سیاسی MIT به تیم را نمی توان نادیده گرفت. آدام و چارلز واقعا به گسترش سؤالاتی که ما در حسابرسی خود می پرسیم کمک کرده اند.

برینسکی: مردم باید حتما به خاطر داشته باشند که فقط به این دلیل که یک ربات چت مطمئن به نظر می رسد به این معنی نیست که دقیق است. سیستم‌های هوش مصنوعی به گونه‌ای طراحی شده‌اند که به سؤالاتی که مردم از آنها می‌پرسند با صدایی معتبر پاسخ دهند، حتی زمانی که اشتباه، ناقص یا تکیه بر منبع ضعیفی هستند. این پاسخ ها محل معقولی برای شروع هستند، اما رای دهندگان نباید در همین جا متوقف شوند.

پودیماتا: ما هنوز تجزیه و تحلیل کامل و طولی را انجام نداده‌ایم، بنابراین در اینجا فقط در مورد سکته‌های گسترده صحبت می‌کنیم، اما به نظر می‌رسد چند الگوی گسترده در داده‌های 2026 قابل مشاهده است. در میان هویت‌های کاربری مختلف که ارائه می‌کنیم، تفاوت‌هایی را در نحوه ارائه پاسخ‌ها، منابعی که مدل استناد می‌کند و در لحن می‌بینیم - گاهی اوقات حتی زمانی که حقایق اساسی یکسان هستند.

چیزی که ما هنوز نمی توانیم بگوییم این است که این تفاوت ها چقدر پایدار هستند، چگونه در طول انتخابات حرکت می کنند یا یک فرد واقعی چگونه آنها را می خواند و به آنها واکنش نشان می دهد. تحلیل‌های آینده ما این موضوع را بررسی خواهد کرد. همچنین نشان می‌دهد که چرا رکورد مداوم پاسخ‌هایی که در حال جمع‌آوری ما هستیم، بیش از هر عکس فوری که ممکن است در روزهای نزدیک به انتخابات ببینید اهمیت دارد.

برینسکی: در دوره کارشناسی خود در زمینه اطلاعات و رسانه های اجتماعی، مدتی است که در مورد اینکه چگونه هوش مصنوعی می تواند هر دو طرف را کاهش دهد صحبت کرده ام. از یک طرف، این ابزارها می توانند ادعاهای گمراه کننده ای را در متن، تصاویر و ویدئو در مقیاسی که هرگز ندیده ایم ایجاد کنند. اساسا، هوش مصنوعی می‌تواند به بازیگران بد کمک کند تا با اطلاعات نادرست، منطقه را سیل کنند. از سوی دیگر، برخی از امیدوارکننده‌ترین کارهای اخیر نشان می‌دهند که گفت‌وگوهای مبتنی بر شواهد با یک ربات چت می‌تواند به‌طور دائمی باور به تئوری‌های توطئه و سایر باورهایی را که با توازن شواهد در دسترس عموم پشتیبانی نمی‌شوند، کاهش دهد.

هوش مصنوعی این پتانسیل را دارد که چنین افشاگری‌هایی را در مقیاس بزرگ انجام دهد – کاری که ما مدت‌ها برای انجام آن تلاش کرده‌ایم. درسی که از دهه‌ها تحقیق درباره اطلاعات غلط گرفته شده است این است که هر فناوری (چه فناوری چاپی، چه رادیویی یا تلویزیونی در دوره‌های قبل) ذاتا برای ترویج حقیقت خوب یا بد نیست. شیطان در جزئیات چگونگی ساخت و استقرار آن است. حسابرسی مستقل مانند این پروژه می تواند به ما در ارزیابی تأثیر نهایی چنین فناوری هایی کمک کند.

پودیماتا: هوش مصنوعی یک فناوری دگرگون‌کننده است و مردم انتظارات (و احساسات) بسیار متفاوتی در مورد معنای آن برای جامعه در کل دارند. همه ما افرادی را در زندگی خود داریم که بیش از حد مشتاق هوش مصنوعی هستند، دیگران عمیقا نگران هستند و بسیاری دیگر که تلاش می کنند بفهمند این فناوری چه کاری می تواند انجام دهد و چه کاری نمی تواند انجام دهد.

هدف ما در اینجا این نیست که از این فرض شروع کنیم که هوش مصنوعی برای انتخابات خوب یا بد است. در عوض، ما امیدواریم که بخشی از این تحول را روشن کنیم: سیستم‌های اصلی هوش مصنوعی در واقع چه اطلاعاتی را در مورد انتخابات به مردم می‌دهند.

ارائه شده توسط موسسه فناوری ماساچوست

سواتی مستری دارای مدرک لیسانس در مهندسی الکترونیک است و از سال 2019 به عنوان ویرایشگر محتوا کار کرده است. او ویرایش اسناد تحقیقاتی در زمینه فناوری، مراقبت های بهداشتی و علم مواد را تجربه کرده است و علاقه خاصی به فناوری و فضا دارد. نمایه کامل →

فوق لیسانس فیزیک با تجربه تحقیق. علاقه مندان به اخبار علمی طولانی مدت. نقش کلیدی در موفقیت سرمقاله Science X ایفا می کند. نمایه کامل →

این داستان با حسن نیت از MIT News (web.mit.edu/newsoffice/)، یک سایت محبوب که اخبار مربوط به تحقیقات، نوآوری و آموزش MIT را پوشش می دهد، بازنشر شده است.