متا می گوید اتوماسیون به اشتباه صفحه No Kings و یکی از نامزدهای سنا را حذف کرد. به هر حال بیشتر خودکار می شود

متا سال گذشته را صرف مدیریت بیشتر محتوای خود به هوش مصنوعی کرده است. در چند هفته گذشته، شرکت مادر فیس بوک و اینستاگرام اتهامات مداخله در انتخابات در برزیل و ایالات متحده را دفع کرده است و تا حد زیادی این اشتباهات را به گردن سیستم های خودکار خود انداخته است.

این اتهامات از سوی یک رئیس جمهور فعلی، یک جنبش اعتراضی ملی و یک نامزد سنای ایالات متحده مطرح شده است. هر کدام به عنوان Meta، یک شرکت Fortune 500 که درآمد 201 میلیارد دلاری را در سال گذشته گزارش کرده بود، تغییر را از مرورگرهای انسانی به مدل‌های زبانی بزرگ سرعت می‌بخشد.

متا در ماه مارس اعلام کرد که سیستم های پیشرفته تری برای اجرای محتوای هوش مصنوعی عرضه خواهد کرد. طبق گزارش فایننشال تایمز، تا ژوئن، مدل‌های زبان بزرگ برای حدود نیمی از درخواست‌های بازبینی، با هدف 90 درصد یا بیشتر خودکارسازی برای برخی از دسته‌های نقض تا پایان سال 2026، جایگزین بازبین‌های انسانی شدند. متا به این روزنامه گفت که مدل‌های آن 13 درصد کمتر از بازبینی‌کنندگان انسانی خطا دارند و 10 درصد بیشتر تخلف می‌کنند. برخی از کارمندان هشدار داده اند که این تغییر بسیار سریع و با نظارت بسیار کم اتفاق می افتد.

در سال 2018، پیش از انتخابات در برزیل و ایالات متحده، فیس بوک یک «اتاق جنگ» متشکل از بیش از دوجین کارشناس برای مبارزه با مداخله در انتخابات راه اندازی کرد. هشت سال بعد، هر دو کشور دوباره در حال رای دادن هستند و متا اکنون اتاق جنگ خود را مرکز عملیات انتخابات می نامد. اما بیشتر کار نظارت بر پلتفرم‌های آن از مردم به نرم‌افزار تغییر کرده است.

طبق گزارش اکتبر موسسه گفتگوی استراتژیک، یک سازمان تحقیقاتی، پلتفرم‌ها به‌جای نظارت انسانی، به‌طور فزاینده‌ای بر «سیستم‌های جمع‌سپاری و خودکار» متکی هستند. این گزارش نشان داد که پلتفرم‌ها اطلاعات کمی در مورد نحوه عملکرد یا آزمایش این سیستم‌ها منتشر کرده‌اند و می‌گوید: «تکیه به آنها به‌عنوان ابزار اصلی نظارت در طول چرخه انتخاباتی در حال حرکت، یک پیشنهاد آزمایش‌نشده باقی مانده است».

موارد پاییز امسال نشان می‌دهد که وقتی آن سیستم‌ها در میانه انتخابات از کار می‌افتند چه اتفاقی می‌افتد و چرا توضیحات متا افراد کمی را راضی کرده است.

متا به درخواست فورچون برای اظهار نظر پاسخ نداد.

چگونه متا در دادگاه انتخاباتی برزیل قرار گرفت؟

رئیس‌جمهور برزیل، لوئیز ایناسیو لولا داسیلوا، در دور دوم انتخابات 25 اکتبر، رئیس‌جمهور برزیل، علی‌رغم تلاش‌های متا برای محدود کردن دسترسی آنلاین خود، برای چهارمین دوره انتخابات ریاست‌جمهوری برزیل پیروز شد. متا خطاهای فنی را مقصر دانست.

کمپین لولا در 10 اکتبر به دادگاه عالی انتخابات برزیل رفت و متا را متهم کرد که از طریق الگوریتم‌های مغرضانه و محدودیت‌های هوش مصنوعی طرفداری از رقیب فلاویو بولسونارو دارد. در آن دادخواست و پرونده های بعدی، کمپین به مواردی اشاره کرد که در آن ترجمه خودکار متا نظراتی مانند "Flávio futuro presidiário!!" را ارائه می کرد. ("فلاویو، زندانی آینده!!") به عنوان "رئیس جمهور آینده فلاویو!!" و ادعا کرد که متا اشتراک گذاری برخی از پست های لولا را محدود کرده است.

روزنامه Folha de S. Paulo گزارش داد که کارکنان متا در پیام های داخلی اذعان کردند که حساب های لولا در مقایسه با بولسونارو محدود شده است.

در 15 اکتبر، دادگاه به متا دستور داد که با هر دو نامزد به طور مساوی رفتار کند و تهدید به جریمه روزانه 500,000 رئال، حدود 98,000 دلار شد. پس از ناکافی بودن پاسخ اولیه متا، دادگاه در 19 اکتبر به شرکت 24 ساعت فرصت داد تا ثابت کند هیچ یک از نامزدها را محدود نکرده است.

رویترز گزارش داد که پرونده متا 17 اقدام را فهرست کرده است، از جمله بررسی انسانی در عرض دو ساعت پس از هرگونه محدودیت خودکار در حساب های تبلیغاتی کمپین های ریاست جمهوری. این شرکت رفتار نابرابر با نامزدها را تکذیب کرد و گفت که مشکلات ناشی از اشتباهات فنی است. کمپین بولسونارو بعدا به این پرونده پیوست و گفت که با آن نیز ناعادلانه رفتار شده است.

دفتر دادستان انتخاباتی برزیل به دادگاه گفت که متا به طور کامل از احکام، از جمله الزام توضیح نحوه برخورد ابزار هوش مصنوعی با محتوای هر نامزد، پیروی نکرده است. این استدلال می کند که خطاها بر اساس نامزدها متفاوت است و توضیح متا در مورد خطاهای فنی را تضعیف می کند.

لولا با 51.8 درصد آرای معتبر در دور دوم پیروز شد. دادگاه انتخاباتی هنوز تصمیم نگرفته است که متا را جریمه کند یا خیر، و دادستان های فدرال که در 14 اکتبر تحقیقاتی را در مورد حذف ها آغاز کردند، در 21 اکتبر یک شکایت مدنی علیه متا تنظیم کردند.

چرا No Kings در اوج روز فعالیت خود تاریک شد

به گزارش MS NOW، در 17 اکتبر، در طول چهارمین روز ملی اقدام بدون پادشاهان، با هدف تشویق رای دادن زودهنگام، متا حساب اینستاگرام ائتلاف را به حالت تعلیق درآورد. سازمان دهندگان گفتند که حساب در حدود ساعت 1:30 بعد از ظهر از کار افتاد. ET، در اوج رویدادهای روز، برای حدود 90 دقیقه. حتی پس از اینکه دوباره قابل مشاهده شد، مدیران تا چند ساعت نتوانستند به آن دسترسی داشته باشند.

ائتلاف همچنین در Threads گفت که گزارش‌هایی دریافت کرده است مبنی بر اینکه «#NoKings و محتوای رای‌گیری زودهنگام غیرقابل دسترس، محدود یا سرکوب شده در پلتفرم‌های متا است».

توضیحات متا یک شبه تغییر کرد. در آن روز، اندی استون، معاون ارتباطات متا، این تعلیق را به نرخ غیرعادی بالای پست، اشتراک گذاری یا نظر دادن نسبت داد. روز بعد، او در X نوشت که سیستم‌های امنیتی شبکه متا «استفاده از ابزار کلود برای خواندن پروفایل‌ها، پست‌ها و هشتگ‌ها» را در فوران‌های شدید شناسایی کرده‌اند و «حفاظت‌های خودکار» شرکت به اشتباه حساب را آفلاین کرده است.

استون نوشت: «ما می‌خواهیم عذرخواهی صمیمانه خود را برای این اشتباه تکرار کنیم. تیم رسانه‌های اجتماعی ائتلاف بعدا به Ars Technica گفت که از Claude، مدل هوش مصنوعی Anthropic، برای جستجوی کلمات کلیدی و هشتگ‌ها برای ردیابی مکالمات آنلاین استفاده کرده است.

ائتلاف نامه ای سرگشاده به مارک زاکربرگ، مدیر عامل متا ارسال کرد و از او پرسید که آیا متا در مورد این رویداد یا انتخابات میان دوره ای 2026 با دولت ترامپ ارتباط برقرار کرده است. همچنین این پرسش مطرح شد که «پروتکل‌های فهرست سفید» متا، که از حساب‌های پرمخاطب خاص در برابر حذف خودکار محافظت می‌کند، در مقایسه با «نه پادشاهان» و دیگر «تلاش‌های جامعه مدنی برای تشویق مشارکت رای‌دهندگان» با ترامپ و متحدانش چگونه رفتار می‌کند.

در پاسخ 21 اکتبر، ائتلاف پست کرد که متا دوباره عذرخواهی کرد و پیشنهاد ملاقات با کارشناسان فنی خود را داد. ائتلاف با نامه دوم پاسخ داد که شرکت پاسخی اساسی نداده است و خواستار ملاقات با رهبری متا شد.

در 22 اکتبر، پنج سناتور دموکرات به رهبری کریس ون هولن از مریلند خواستار سوابق متا در مورد هرگونه ارتباط با دولت ترامپ در مورد No Kings شدند و "توضیحات در حال تغییر" شرکت را نگران کننده خواندند. در 30 اکتبر، ائتلاف گفت که با مدیران ارشد متا ملاقات کرده است، اما این جلسه بدون تعهدات اساسی برای تغییر رویه متا یا ایجاد تدابیر امنیتی به پایان رسید.

چه اتفاقی برای صفحه تبلیغات لاتین انجی نیکسون افتاد

در 27 اکتبر، اینستاگرام اکانت اسپانیایی زبانی را که کمپین انجی نیکسون، نامزد دموکرات سنای فلوریدا برای دستیابی به رای دهندگان لاتین تبار ایجاد کرده بود، حذف کرد، در حالی که این کمپین از یک تجمع برای رای گیری در شهرستان اوسئولا پست می کرد.

نیکسون در ایکس با به اشتراک گذاشتن اطلاعیه تعلیق ارسال شده توسط اینستاگرام، از متا می‌خواهیم که فورا صفحه را بازیابی کند و توضیحی برای حذف آن ارائه دهد. حساب کاربری تا صبح روز بعد دوباره آنلاین شد.

یکی از سخنگویان متا به نیوزویک گفت که از آنجایی که این حساب فقط یک هفته و نیم زودتر ایجاد شده است، «سیستم‌های ما به‌طور خودکار و به اشتباه آن را جعل هویت کمپین نیکسون برای سنا ارزیابی کردند».

جنبش سازماندهی ضد ترامپ 50501 که مخفف 50 تظاهرات، 50 ایالت، 1 جنبش است، در یک پست اینستاگرامی که خواستار «شفافیت و پاسخگویی فراتر از توضیحات فنی» شده بود، تعلیق را به حادثه No Kings مرتبط کرد.

چه چیزی می تواند متا را مجبور به پاسخگویی کند

هیئت نظارت متا، یک نهاد با بودجه متا اما مستقل که تصمیمات تعدیل محتوا را بررسی می کند، از "شکست های مکرر اجرایی در تلاش های متا برای یکپارچگی انتخابات" انتقاد کرد. به تعلیق No Kings و «اجرای بیش از حد» سیاست‌های کلاهبرداری متا علیه حساب‌های تبلیغاتی لولا اشاره کرد. این بیانیه نشان نمی دهد که هیچ یک از این رویدادها دارای انگیزه سیاسی بوده است و متا به آن متعهد نیست.

دادستان های کل 13 ایالت و ناحیه کلمبیا از متا خواسته اند تا تعلیق No Kings را توضیح دهد و توضیح دهد که چگونه "فعالیت سیاسی مشروع" را از "ترافیک مضر "ربات" متمایز می کند. نمایندگان رابرت گارسیا از کالیفرنیا و جیمی راسکین از مریلند، دموکرات‌های ارشد کمیته‌های نظارتی و قضایی مجلس نمایندگان، خواستار برگزاری جلسه توجیهی تا 9 نوامبر شدند.

راسکین گفت: «ما به سوابقی نیاز داریم که توضیح دهد چگونه این اتفاق افتاد و آیا کسی در دولت ترامپ دستی در آن داشته است یا خیر.

هیچ یک از این خواسته ها دارای نیروی قانونی نیستند. در برزیل، تصمیم دادگاه انتخاباتی در مورد جریمه نقدی و شکایت دادستانی بررسی می‌کند که آیا دولت می‌تواند پاسخ‌ها را وادار کند یا خیر. در ایالات متحده، این به رای امروز بستگی دارد: اگر دموکرات‌ها در مجلس نمایندگان پیروز شوند، گارسیا و راسکین در صف ریاست کمیته‌هایی قرار می‌گیرند که قدرت احضار به برخی از این سؤالات را دارند.

این داستان در ابتدا در سایت Fortune.com منتشر شد