نحوه هدایت دستکاری هوش مصنوعی در این فصل انتخابات

یک مهاجم مجبور نیست یک رای را تغییر دهد تا به اعتماد در انتخابات آسیب برساند. گاهی ایجاد سردرگمی کافی است. ما می توانیم از سیستم هایی که انتخابات را اجرا می کنند محافظت کنیم و همچنان رای دهندگان را در معرض دستکاری قرار دهیم. برای مثال، در 2024، بازیگران سایبری ایرانی مطالب خصوصی مبارزات انتخاباتی را دزدیدند و سعی کردند آن را توزیع کنند تا بر انتخابات تأثیر بگذارند. سازمان‌های اطلاعاتی ایالات متحده همچنین ویدیوی ساختگی را که نشان می‌دهد برگه‌های رأی در پنسیلوانیا نابود می‌شود را به بازیگران روسی نسبت دادند. این تاکتیک های مختلف هدف مشترک بهره برداری از تفرقه و تضعیف اعتماد را داشتند.

هوش مصنوعی این چالش را پیچیده تر می کند. می‌تواند فریب را ارزان‌تر، سریع‌تر و آسان‌تر شخصی‌سازی کند، اما این خطر فراتر از ایجاد جعلی‌های متقاعدکننده‌تر است. همچنین می‌تواند با ادعای اینکه شواهد واقعی توسط هوش مصنوعی ایجاد شده‌اند، برای بازیگران غیر صادق آسان‌تر شود. مهندسی اجتماعی از طرز فکر مردم، به چه کسی اعتماد می‌کند و چه چیزی آنها را وادار به عمل می‌کند، بهره‌برداری می‌کند.

در طول انتخابات، مهاجمان چیزهای زیادی برای کار کردن دارند، از جمله احساسات قوی، چهره های عمومی آشنا و جریان دائمی اطلاعات نتیجه. یک تماس فرضی را در نظر بگیرید که شبیه درخواست یک نامزد برای کمک فوری است. یا متنی که ادعا می کند مکان نظرسنجی شما تغییر کرده است. یا ویدیویی که نشان می دهد یک مقام انتخاباتی به رفتار نادرست خود اعتراف می کند. هر کدام از یک هویت یا موسسه آشنا سوء استفاده می کنند و هوش مصنوعی می تواند به مهاجمان کمک کند تا تغییرات قانع کننده ای در مقیاس تولید کنند. همین رویکرد می تواند کارکنان کمپین را هدف قرار دهد.

مهاجمی که جعل هویت یک همکار خود را نشان می دهد می تواند از صدای شبیه سازی شده برای درخواست کد احراز هویت استفاده کند. یک فریب موفقیت‌آمیز می‌تواند ارتباطات خصوصی را فاش کند که سپس به بیرون درز می‌کند، به‌طور انتخابی ویرایش می‌شود یا برای حمایت از یک روایت گمراه‌کننده استفاده می‌شود. حمله ممکن است با یک پست رسانه اجتماعی شروع شود، با یک وب سایت جعلی ادامه یابد و با یک متن به پایان برسد. با این حال، مشاهده مکرر یک ادعا باعث تایید مستقل آن نمی شود. مشکل عمیق تر زمانی پدیدار می شود که آگاهی از فریب به ناباوری نسبت به همه چیز تبدیل شود.

بابی چسنی و دانیل سیترون، محققین حقوقی، این را «سود سهام دروغگو» می‌نامند. با آگاهی بیشتر مردم از دیپ‌فیک‌ها، بازیگران غیرصادق بهانه‌ای معقول‌تر برای رد کردن ضبط‌های معتبر، گزارش‌های قانونی یا سایر شواهد با ادعای اینکه توسط هوش مصنوعی تولید یا دستکاری شده‌اند، به دست می‌آورند. گفته می‌شود، دانستن این که هر چیزی را می‌توان جعل کرد، چیزی در مورد توانایی این فناوری به ما می‌گوید. به ما نمی گوید که آیا یک قطعه خاص از اطلاعات جعلی است یا خیر. چالش رای دهندگان این است که بیاموزند چگونه محتوای مشکوک را زیر سوال ببرند بدون اینکه فرض کنند هر چیزی که با آن روبرو می شوند جعلی است.

آنها به عادات عملی نیاز دارند که دستکاری را دشوارتر کند. ابتدا، زمانی که پیامی شما را وادار به عمل کرد، مکث کنید. فوریت، خشم و ترس مستحق بررسی بیشتر است. قبل از اهدا، اشتراک گذاری یا تغییر برنامه های رای گیری خود، درخواست را از طریق یک کانال جداگانه تأیید کنید. دوم، به دنبال تایید مستقل باشید. چندین حساب که یک کلیپ مشابه را تکرار می کنند ممکن است همه به یک منبع تایید نشده متکی باشند. به دنبال گزارش های معتبری باشید که منبع اطلاعات را مشخص می کند. سوم، رای دهندگان باید مستقیما به مرجع مربوطه مراجعه کنند.

ثبت نام، مکان های رأی گیری و مهلت های زمانی را با دفتر انتخابات ایالتی یا محلی خود تأیید کنید. برای ارتباطات کمپین، به جای دنبال کردن یک پیوند ناخواسته، به وب سایت شناخته شده کمپین بروید. بیانیه رسمی مبارزات انتخاباتی آنچه را که کمپین می گوید مشخص می کند، در حالی که گزارش مستقل به ارزیابی ادعا کمک می کند. در نهایت، راحت بگویید: «هنوز نمی‌دانم». شما هر پست ویروسی را مدیون یک حکم فوری نیستید.

انتظار برای شواهد یک تصمیم مسئولانه است و تضمین می کند که شما آن استاندارد را حتی زمانی که یک ادعا از ترجیحات سیاسی شما پشتیبانی می کند، اعمال می کنید. اما مسئولیت فراتر از رای دهندگان است. این عادات می تواند به رای دهندگان کمک کند تا از عدم اطمینان عبور کنند، اما نمی توانند بار کامل را به دوش بکشند. کمپین‌ها باید حساب‌های خود را ایمن کنند، ارتباطات اصلی را در دسترس نگه دارند و به تلاش‌های جعل هویت پاسخ دهند. هنگامی که محتوای انتخاباتی فریبنده ظاهر می شود، پلتفرم ها به فرآیندهای گزارش دهی و تشدید مؤثر نیاز دارند.

سازمان‌های غیرانتفاعی مانند Defending Digital Campaigns، که سازمان من به‌عنوان شریک فناوری از آن‌ها پشتیبانی می‌کند، امروز وجود دارند تا کمپین‌های واجد شرایطی را با منابع امنیت سایبری ارائه کنند که می‌توانند از این کار پشتیبانی کنند. هوش مصنوعی همچنین نقش مهمی در بخش دفاعی دارد. همان فناوری که به مهاجمان اجازه می‌دهد جعل هویت قانع‌کننده‌ای را با سرعت و مقیاس بیشتر ایجاد کنند، می‌تواند به مدافعان کمک کند زیرساخت‌های مخرب را شناسایی کنند، فعالیت‌های هماهنگ را در کانال‌ها به هم متصل کنند و کمپین‌ها را قبل از اینکه به افراد بیشتری دسترسی پیدا کنند، مختل کنند. اما فناوری به تنهایی نمی تواند اعتماد حرفه ای را حل کند

عیب از آنجایی که تولید محتوای مصنوعی آسان‌تر می‌شود، باید تأیید اطلاعات معتبر را آسان‌تر کنیم. این بدان معناست که مکان‌های قابل اعتمادی را به رای‌دهندگان بدهید تا آنچه را که کمپین‌ها و مقامات انتخاباتی واقعا گفته‌اند تأیید کنند و در صورت وقوع جعل هویت، به سرعت پاسخ دهند. خطر فقط این نیست که هوش مصنوعی باعث شود مردم چیز نادرستی را باور کنند. این است که قرار گرفتن مکرر در معرض دستکاری آنها را به این سوال وا می دارد که آیا اصلا می توان به چیزی اعتماد کرد یا خیر. امنیت انتخابات باید پاسخگوی هر دو تهدید باشد.

حفاظت از رای به معنای محافظت از سیستم هایی است که آن را به حساب می آورند، اما همچنین به معنای حفظ توانایی رای دهندگان برای دانستن واقعیات است. بابی فورد مدیر ارشد استراتژی در دوپل است.