آمریکا در شرف دیدن است که وقتی رأی دهندگان به هوش مصنوعی روی می آورند چه اتفاقی می افتد

اگر می‌پرسید آیا هوش مصنوعی می‌تواند میان‌ترم‌ها را گیج‌کننده‌تر کند، در اینجا یک نقطه داده وجود دارد: چندین نفر که فکر می‌کردند به جیمز تالاریکو کمک مالی می‌کنند، ناخواسته پول خود را به شخص دیگری دادند. تالاریکو، یک دموکرات تگزاس، در انتخاباتی که احتمالا از نزدیک ترین رقابت انتخابات آینده است، برای سنا نامزد می شود.

نحوه مشارکت در کمپین او را در گوگل جستجو کنید، و ممکن است پاسخی که توسط هوش مصنوعی ایجاد شده است دریافت کنید که به روش‌هایی مرتبط است که «می‌توانید به صورت ایمن وارد شوید». تا چند هفته پیش، یکی از این پیوندهای برجسته در واقع توسط یک کمیته اقدام سیاسی غیرمرتبط کنترل می شد که به جای آن پول را به کمپین انتخاب مجدد یک دموکرات دیگر فرستاد: سناتور جان هیکنلوپر از کلرادو.

اختلاط همه تقصیر هوش مصنوعی نبود. این پیوند به صفحه اهدای گمراه‌کننده‌ای منتهی شد که نام و تصویر Talarico را در خود داشت و فقط در پایین مشخص می‌کرد که پول به Hickenlooper می‌رسد. اما ابزار هوش مصنوعی گوگل ظاهرا چاپ دقیق را نمی خواند. و شاید اگر گوگل صفحه را در یک پاسخ معتبر هوش مصنوعی برجسته نمی کرد، هیچ کس روی آن کلیک نمی کرد.

یکی از سخنگویان کمپین هیکن لوپر به من گفت که دموکرات کلرادو، که صندلی‌اش امن تلقی می‌شود، عمدا کمک‌های مالی را جمع‌آوری نکرده است. در عوض، یک گروه خارجی، Kitchen Table Values ​​PAC، جمع آوری کمک مالی را بدون اطلاع Hickenlooper ایجاد کرده بود. سخنگوی گفت که به نظر می رسد این حداقل سه نفر را فریب داده است که در مجموع 1011 دلار اهدا کردند. ریچ ویلکینز، سازمان دهنده دموکرات پشت PAC، به من گفت که قرار بود پول بین تالاریکو و گروهش تقسیم شود.

او گفت: «اگر صفحه‌ای به اشتباه به Hickenlooper می‌رفت، به نظر یک خطای انسانی است. پس از اینکه یک استراتژیست تبلیغات دیجیتال دموکرات هنگام جستجوی نامزدهای مجلس سنا حزبش، جمع آوری کمک مالی گمراه کننده را کشف کرد، صفحه از پلتفرم جمع آوری کمک مالی ActBlue حذف شد و کمپین Hickenlooper این پول اشتباه را به Talarico ارسال کرد.

انتخابات میان‌دوره‌ای سال 2026 اولین انتخابات فدرال را رقم خواهد زد که در آن ده‌ها میلیون رأی‌دهنده برخی از اطلاعات سیاسی خود را از ابزارهای هوش مصنوعی دریافت می‌کنند. در یک نظرسنجی در ماه سپتامبر، بنیاد انجمن مشاوران سیاسی آمریکا گزارش داد که 4 درصد از پاسخ دهندگان از یک ربات چت مانند ChatGPT برای اطلاعات انتخابات در ماه قبل استفاده کرده اند. بسیار بیشتر - نزدیک به 40 درصد - گزارش داده اند که چنین اطلاعاتی را از خلاصه های جستجوی هوش مصنوعی گوگل دریافت کرده اند. با نزدیک شدن به انتخابات، این اعداد مطمئنا افزایش خواهند یافت.

دلیلی برای محبوبیت فزاینده هوش مصنوعی در بین رأی دهندگان وجود دارد: این ابزارها راحت هستند و پاسخ های آنها شخصی است. در تئوری، آنها پتانسیل این را دارند که انواع تئوری‌های توطئه مخربی را که در رسانه‌های اجتماعی شکوفا می‌شوند، از بین ببرند. حتی گروک، چت بات ایلان ماسک، به درستی به شما خواهد گفت که دونالد ترامپ در انتخابات 2020 شکست خورد. اما چت‌بات‌ها در حال حاضر پیچیدگی‌های جدیدی را به اینترنت وارد می‌کنند که مملو از دروغ‌ها و تحریف‌های سیاسی است.

بین سایت‌های خبری جعلی که برای تأثیرگذاری بر پاسخ‌های هوش مصنوعی ایجاد می‌شوند، مدل‌هایی که از تبلیغات خارجی استفاده می‌کنند و چت‌بات‌هایی که اطلاعات گمراه‌کننده رای‌دهندگان را منتشر می‌کنند، عصر سیاست‌های مبتنی بر هوش مصنوعی به طرز وحشتناکی آشنا می‌شود.

[ بخوانید: چت ربات ترامپ در مورد انتخابات به من چه گفت]

در آستانه انتخابات ریاست جمهوری 2024، بیشتر چت ربات ها نمی توانستند در وب جستجو کنند و به آنها آموزش داده شد که با احتیاط در مورد سؤالات مربوط به انتخابات و رویدادهای جاری قدم بگذارند. به ابزارهای هوش مصنوعی امروزی هنوز دستور داده می شود که از نظر سیاسی طرف نشوند، اما آنها به دستیاران همه منظوره تبدیل شده اند که مستقیما، با اطمینان و گاهی به اشتباه به سؤالات انتخاباتی شما پاسخ می دهند.

در گزارشی پیش رو، Forum AI، استارت آپی که عملکرد مدل های هوش مصنوعی را در مورد سؤالات مربوط به موضوعات بحث برانگیز ارزیابی می کند، دریافت که حدود 40 درصد از پاسخ های چت بات ها به سؤالات مربوط به انتخابات حاوی حداقل یک نادرستی واقعی است. هنگامی که محققان فروم از یکی از مدل‌های پرکاربرد پرسیدند که چه زمانی برای رای دادن در انتخابات میان‌دوره‌ای در پنسیلوانیا نیاز به درخواست رای نامه پستی داشتند، چت بات گفت: 3 نوامبر. مهلت واقعی یک هفته زودتر است.

(فوروم مدل دقیق هوش مصنوعی را مشخص نکرد.) در همان گزارش، که پیش از انتشار آن با آتلانتیک به اشتراک گذاشته شد، فروم تشخیص داد که از هر سه پاسخ، یک منبع اطلاعاتی غیرقابل اعتماد، مانند پست‌هایی در Reddit یا Quora، ذکر شده است. جمینی گوگل با استناد به مقاله ای از پیپلز دیلی، یک خبرگزاری دولتی چین، به سوالی درباره اینکه چرا قدرت جهانی آمریکا رو به افول است، پاسخ داد. کمپبل براون، یکی از بنیانگذاران Forum AI، به من گفت: «اینها سؤالات حقه‌ای نیستند». "هیچ بهانه ای برای چت بات ها وجود ندارد که به اشتباه آنها را ادامه دهند."

این شرکت ها می گویند که ربات های آنها از زمانی که Forum در ماه اوت تحقیقات خود را انجام داد، بهبود یافته است. در دو ماه گذشته، گوگل، OpenAI و Anthropic همگی با سازمان غیرانتفاعی غیرانتفاعی Democracy Works همکاری کرده اند تا اطلاعات دقیق و به روزی در مورد نحوه، مکان و زمان رای دادن به دست آورند. GPT-5.6 OpenAI دقیق‌ترین مدل در بین مدل‌های آزمایش‌شده توسط فروم بود، و نیت ایوانز، سخنگوی OpenAI، به من گفت که معتقد است که ربات‌های این شرکت اکنون باید امتیاز بالاتری داشته باشند.

در ایمیلی، دیویس تامپسون، سخنگوی گوگل به من گفت که این شرکت پاسخ‌های هوش مصنوعی خود را در مورد موضوعات انتخاباتی «به‌طور گسترده» آزمایش می‌کند و این پاسخ‌ها تنها زمانی در جستجوهای Google نشان داده می‌شوند که شرکت مطمئن باشد هوش مصنوعی می‌تواند اطلاعات خوبی ارائه دهد. سخنگوی آنتروپیک، که ادغام آن با Democracy Works هفته گذشته آغاز شد، از اظهار نظر خودداری کرد.

چت ربات ها می توانند منحصر به فرد متقاعد کننده باشند. در گزارش اخیر مرکز برنان برای عدالت، یک اندیشکده غیرحزبی، یک محقق به عنوان یک مشاور املاک در منطقه دالاس ظاهر شد که به روند انتخابات مشکوک بود. کلود پاسخ داد که احساس ناتوانی "کاملا قابل درک است" اما اصرار داشت که انتخابات در واقع توسط "گروهی از نخبگان سایه" در واشنگتن اداره نمی شود.

گیدئون ناو، استاد دانشکده بازرگانی وارتون دانشگاه پنسیلوانیا که هوش مصنوعی و شناختی را مطالعه می‌کند، به من گفت: مشکل این است که بیشتر مردم به‌خصوص نمی‌خواهند که از اعتقاداتشان صحبت شود. او نگران است که همان قدرت اقناع‌کننده‌ای که می‌تواند یک نظریه‌پرداز توطئه را متقاعد کند که فرود روی ماه واقعی است، می‌تواند هوش مصنوعی را به ابزاری قدرتمند برای دستکاری افکار عمومی تبدیل کند. وقتی افراد از هوش مصنوعی استفاده می‌کنند، می‌توانید انواع ایده‌ها را در سرشان کاشته کنید، و آنها احساس می‌کنند که این پاسخ‌های خودشان است.»

به ناچار، یک صنعت کلبه برای مشورت با نامزدها در مورد چگونگی تأثیرگذاری بر آنچه هوش مصنوعی در مورد آنها می گوید، ایجاد شده است. در سمت چپ، گروه مدافع Run for Something پلتفرمی به نام CampSight راه‌اندازی کرد که بر آنچه LLMها درباره یک موضوع یا نامزد می‌گویند نظارت می‌کند و نحوه شکل‌دهی به آن روایت‌ها را توصیه می‌کند. در سمت راست، مرکز نوآوری کمپین تحقیقاتی را درباره نحوه پاسخگویی مدل‌های هوش مصنوعی به سؤالات مربوط به نامزدها و منابعی که اغلب به آنها استناد می‌کنند، منتشر کرده است. اریک ویلسون، مدیر گروه، به من گفت: «ما اکنون برای رأی هوش مصنوعی مبارزه می کنیم.

برخی از مؤثرترین تاکتیک‌های «کم‌سازی» ساده هستند، اگرچه همیشه واضح نیستند. جردن هاینز، مدیر ارشد فناوری Something، با اشاره به مخزن آنلاین اطلاعات انتخابات، به من گفت: «بیشتر نامزدهایی که با آنها صحبت کردیم، نمایه های Ballotpedia را پر نمی کردند. "آنها مثل "اوه، هیچ کس واقعا آن را نمی خواند."" ممکن است اکثر رای دهندگان انبوه از Ballotpedia بازدید نکنند، اما معلوم می شود که ربات های چت آنها هستند. هینز و ویلسون به من گفتند که LLM ها وب سایت هایی با دامنه های dot-gov را نیز دوست دارند.

این می تواند مزیتی را برای مدیران فعلی ایجاد کند که می توانند از صفحات وب رسمی House.gov یا Senate.gov خود برای ارسال پیام برای چت بات ها استفاده کنند. با این حال، چالش‌گران ممکن است پاسخ‌های هوش مصنوعی را راحت‌تر تغییر دهند، زیرا اغلب اطلاعات کمتری در مورد آنها در پرونده عمومی وجود دارد.

[بخوانید: نتایج جستجوی شما به هم می‌ریزد]

وب‌سایت‌های رسمی دولتی معمولا بین کاندیداها تضاد ایجاد نمی‌کنند یا امتیازات نسبی دیدگاه‌های متفاوت را ارزیابی نمی‌کنند. با این حال اینها انواع سوالاتی است که مردم شروع به پرسیدن از هوش مصنوعی می کنند. برای پاسخ به آنها، ربات‌های چت همیشه نمی‌توانند به رسانه‌های خبری اصلی مراجعه کنند. بسیاری از آنها اقداماتی را انجام داده‌اند که مانع از ورود ربات‌های هوش مصنوعی بدون توافق محتوای خاص می‌شود.

(برای مثال آتلانتیک یک قرارداد مجوز محتوای شرکتی با OpenAI دارد، و در غیر این صورت اکثر خزنده‌های هوش مصنوعی را مسدود می‌کند.) کتی هاربث، که شرکتش، Anchor Change، به شرکت‌های فناوری در مورد سیاست‌گذاری مشاوره می‌دهد، به من گفت که منابع خوب می‌توانند به‌ویژه برای نژادهای ایالتی و محلی کمیاب باشند.

برای پر کردن این شکاف‌ها، ابزارهای هوش مصنوعی ممکن است در میان منابع نامطلوب جستجو کنند. محققان در یک استارت آپ امنیت سایبری به نام VisionHeight به من گفتند که اخیرا 37 وب سایت مشکوک مختلف را کشف کرده اند که همگی در یک شب در ماه سپتامبر ثبت شده اند و به نظر می رسد سفارشی شده باشند تا در پاسخ های هوش مصنوعی در مورد انتخابات ظاهر شوند. این سایت‌ها دارای نام‌های روزنامه‌هایی مانند Scranton Beacon و گزارش وضعیت پاشنه تار هستند، اما چیزی شبیه روزنامه‌ها نمی‌خوانند. در عوض آنها پر از پرسش و پاسخ در مورد نامزدهای ایالتی و محلی هستند.

"کدام نامزد در MI-04 برنامه قوی تری برای امنیت عمومی دارد؟" یک صفحه در گزارش ایالت ولورین می پرسد. پاسخ آن شروع می‌شود: «شان مک‌کان انتخاب قوی‌تری است»، با اشاره به نامزد دموکرات‌ها برای کنگره از آن ناحیه.

حداقل برخی از این مطالب در حال حاضر راه خود را به پاسخ های هوش مصنوعی باز کرده اند. وقتی از «حالت هوش مصنوعی» مبتنی بر جمینی گوگل پرسیدم آیا شان مک کان از کاهش بودجه پلیس حمایت می کند؟ پاسخ آن بر اساس گزارش ولورین ایالت و Kalamazoo Beacon بود که هر دو بخشی از شبکه ای هستند که VisionHeight کشف کرد. پاسخ در این مورد لزوما نادرست نبود. وب سایت کمپین او می گوید که او این کار را نمی کند. (مک کان تنها یکی از نامزدهای متعددی است که توسط گزارش ایالت ولورین نام برده شده است، و دلیلی وجود ندارد که باور کنیم او با این وب سایت ارتباطی داشته است.

کمپین او به درخواست اظهار نظر پاسخ نداد.)

تامپسون، سخنگوی گوگل، گفت که "خلأهای داده" مشکلات طولانی مدتی برای موتورهای جستجو و پاسخ های هوش مصنوعی هستند و این شرکت همیشه به دنبال تلاش های هماهنگ برای بهره برداری از آنها است. بعد از اینکه از او در مورد شبکه سایت‌ها پرسیدم، به نظر می‌رسید که منابع در نتایج جستجو ظاهر نمی‌شوند. و حالت هوش مصنوعی گوگل پاسخ متفاوتی در مورد موضع مک کان ارائه کرد: اینکه آیا او از کاهش بودجه پلیس حمایت می کند «به دیدگاه های کمپین او و مخالفان سیاسی او بستگی دارد».

اگرچه مشخص نیست چه کسی پشت شبکه سایت‌های متمرکز میان‌مدت قرار دارد، ترول‌ها و دولت‌های خارجی می‌توانند از روش‌های مشابهی برای کشف دروغ‌ها برای بازگرداندن ربات‌های گفتگو استفاده کنند. بر اساس شاخص جهانی اطلاعات نادرست، چت بات ها قبلا به ادعای نادرست وزارت دفاع روسیه برای پاسخ اشتباه به سؤالی در مورد کنترل روسیه بر اوکراین اشاره کرده اند.

و روز چهارشنبه، NewsGuard، شرکتی که اطلاعات نادرست را ردیابی می‌کند، گزارش داد که پاسخ‌های هوش مصنوعی گوگل از ویدئوی جعلی منتشر شده توسط یک کمپین نفوذ روسی که به دروغ دانشجویی را به تصویر می‌کشد که تالاریکو را به تجاوز جنسی در سال 2012 متهم می‌کند، دریافت کرده است.

یک دهه پیش، انتخابات 2016 نشان داد که چگونه رسانه های اجتماعی حوزه اطلاعات سیاسی را تخریب کرده اند. آخرین چیزی که شرکت‌های هوش مصنوعی می‌خواهند، Cambridge Analytica دیگری است: آنها در حال انتشار پست‌های وبلاگی هستند که آماده‌سازی خود را در برابر اطلاعات نادرست و دستکاری فهرست‌بندی می‌کنند. گوگل می‌گوید: «ما مسئولیت ارائه اطلاعات با کیفیت بالا و قابل اعتماد را جدی می‌گیریم، ادعایی که OpenAI و Anthropic هم تکرار کردند. اینکه آنها می گویند این مسئولیت را جدی می گیرند باعث اطمینان خاطر است. اتفاقا همان چیزی است که شرکت‌های رسانه‌های اجتماعی سال‌ها به ما می‌گویند.

ویکتوریا فنگ در ارائه گزارش مشارکت کرد.