غول‌های فناوری تلاش می‌کنند تا جریان اطلاعات نادرست انتخابات میان‌دوره‌ای آمریکا را که توسط هوش مصنوعی منتشر می‌شود، متوقف کنند

از آنجایی که هوش مصنوعی به طور فزاینده ای در زندگی اجتماعی و سیاسی آنلاین ادغام می شود، شرکت های فناوری همگی به دلیل انجام ندادن کافی برای محدود کردن محتوای مخرب با انتقاد مواجه شده اند.

سان فرانسیسکو - در یک اتاق کنفرانس کوچک در نزدیکی کافه تریا در یکی از دفاتر OpenAI در سانفرانسیسکو، تیمی متشکل از ده ها نفر به صورت شبانه روزی کار می کنند تا از استفاده از ChatGPT برای اخلال در انتخابات میان دوره ای 2026 جلوگیری کنند.

مرکز عملیات نشان دهنده گسترش گسترده تلاش های نوپای شرکت قبل از انتخابات ریاست جمهوری 2024 است. ابزارهای هوش مصنوعی در آن زمان بسیار کمتر قدرتمند بودند و چت بات یک پنجم از 1 میلیارد کاربر امروزی را داشت.

جاش لاوسون، رئیس ریسک مدنی و استراتژیک در OpenAI که رهبری این مرکز عملیات را بر عهده دارد، گفت: «در دسترس ترین فناوری در آن زمان در سال 2024 متن بود. ما دیگر فقط متن را زیر نظر نداریم.»

اکنون، تهدیدات بالقوه شامل دیپ‌فیک، حملات سایبری و عملیات نفوذ خارجی و داخلی است که می‌توان با یک سری تذکرات ایجاد و راه‌اندازی کرد.

آنتروپیک، که ربات چت کلود را اداره می کند، برای اولین بار "اتاق جنگ" خود را راه اندازی کرده است و تیم هایی از تحلیلگران را در سلول های سانفرانسیسکو، نیویورک و واشنگتن گرد هم می آورد.

گوگل و متا همچنین متعهد شده‌اند که تلاش‌های قوی‌ای را برای خنثی کردن تلاش‌ها برای استفاده از ابزارهای هوش مصنوعی برای تضعیف اعتماد به فرآیند دموکراتیک انجام دهند.

از آنجایی که هوش مصنوعی به طور فزاینده ای در زندگی اجتماعی و سیاسی آنلاین ادغام می شود، همه شرکت ها به دلیل انجام ندادن کافی برای محدود کردن محتوای مخرب با انتقاد مواجه شده اند.

مرکز برنان برای عدالت، یک گروه حقوق رای و دموکراسی در دانشکده حقوق دانشگاه نیویورک، دریافت که محبوب‌ترین ربات‌های گفتگو معمولا سؤالات مربوط به تئوری‌های توطئه مربوط به انتخابات را به عقب می‌اندازند. در همان زمان، این مرکز دریافت که ابزارهای هوش مصنوعی به طور منظم متن، تصاویر و ویدئوهایی را ایجاد می‌کنند که می‌توانند برای تضعیف اعتماد در انتخابات مورد استفاده قرار گیرند.

تأسیس اتاق‌های جنگ این شرکت‌ها یادآور ایجاد اتاقی از سوی متا برای انتخابات میان‌دوره‌ای ۲۰۱۸ است که پس از خشم ناشی از کمپین مداخله روسیه در فیس‌بوک در جریان انتخابات ریاست‌جمهوری سال ۲۰۱۶ به وجود آمد.

از آن زمان، متا و دیگر پلتفرم‌های رسانه‌های اجتماعی، اعتماد و تیم‌های ایمنی خود را کاهش دادند، از جمله تلاش‌ها برای اطلاع‌رسانی نادرست پلیس مربوط به انتخابات. آنها این کار را تحت فشار جمهوری خواهان و پس از سال 2025 دولت ترامپ انجام دادند که آنها را به سانسور دیدگاه های محافظه کار متهم کرد.

این عقب نشینی با گسترش هوش مصنوعی همزمان شده است و ترس از تأثیر آن بر انتخابات را افزایش داده است.

کارشناسان و مقامات دولتی سابق هشدار داده‌اند که فناوری راه‌های جدید قدرتمندی را برای تضعیف اعتماد عمومی به روند انتخابات ایجاد کرده است، حتی در شرایطی که دولت ترامپ تیم‌های دولتی را که قبلا با تلاش‌ها برای ایجاد اختلال در رای‌گیری مبارزه می‌کردند، منحل کرد.

لورن پروتنتیس، یکی از مقامات دولتی سابق که بر نفوذ بدخیم خارجی در شورای امنیت ملی در زمان جو بایدن، رئیس جمهور سابق، نظارت می کرد، گفت: «من فکر می کنم احمقانه است که فکر کنیم تهدید از بین رفته است و فناوری تهدیدها را قوی تر و قابل باورتر نمی کند.

OpenAI در 29 اکتبر مرکز انتخابات خود را برپا کرد و تیمی از کارمندان را گرد هم آورد که به نظارت بر سوء استفاده از محبوب ترین چت بات جهان اختصاص دارند. مقامات شرکت گفتند که این تیم در سانفرانسیسکو با یک مرکز ماهواره ای در واشنگتن کار می کند و تعداد زیادی از مردم را درگیر می کند.

آنها درخواست‌هایی را در ChatGPT بررسی می‌کنند که به‌طور خودکار برای تلاش برای ایجاد متن‌ها یا تصاویر نادرست درباره انتخابات پرچم‌گذاری شده‌اند.

این می تواند شامل ترغیب چت بات برای طراحی یک کمپین تأثیرگذاری - برای مثال در مورد پر کردن برگه های رأی - برای انتشار در یک پلت فرم رسانه های اجتماعی با استفاده از حساب های جعلی باشد. این شرکت هنگامی که فعالیت بدخیم را برای استفاده در سایت آنها شناسایی می کند، به پلتفرم ها اطلاع می دهد.

OpenAI قبلا تلاش‌های روسیه، چین و ایران را برای استفاده از ChatGPT برای اجرای عملیات نفوذ خارجی، از جمله دو کمپین که در اکتبر مختل کرد، افشا کرده است.

هنوز هیچ تلاش خاصی در انتخابات میان دوره ای فاش نکرده است.

بن نیمو، محقق ارشد OpenAI، در مصاحبه‌ای گفت: «ما سعی کرده‌ایم قبل از اینکه فرصتی برای جلب توجه داشته باشند، عملیات‌ها را دستگیر کنیم.» NYTIMES

این مقاله در ابتدا در نیویورک تایمز منتشر شد.