یک الگوریتم رسانه اجتماعی را تصور کنید که اعتماد را بر خشم ترجیح می دهد
پس از حملات اخیر پهپادهای اوکراین به مراکز داده روسیه، رئیس جمهور اوکراین، ولودیمیر زلنسکی، پیشنهاد کرد که «نفرت کمتر، تفرقه کمتر و تحریکات کمتر» آنلاین وجود دارد، زیرا شبکه‌های ربات مرتبط با کرملین کمتر اطلاعات نادرست و اطلاعات نادرست را منتشر می‌کنند.
ویرایش شده توسط Swati Mestri، بررسی توسط اندرو زینین
این مقاله با توجه به روند و سیاست های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:
به دنبال حملات اخیر پهپادهای اوکراینی به مراکز داده روسیه، رئیس جمهور اوکراین، ولودیمیر زلنسکی، پیشنهاد کرد که «نفرت کمتر، تفرقه کمتر و تحریکات کمتر» در فضای مجازی وجود دارد، زیرا شبکه‌های ربات مرتبط با کرملین کمتر اطلاعات نادرست و اطلاعات نادرست را منتشر می‌کنند.
اگرچه این ایده جالبی است، اما محققانی که این ادعاها را بررسی می‌کنند، هیچ مدرک قانع‌کننده‌ای مبنی بر کاهش قابل توجه گزارش‌های تبلیغاتی روسیه پیدا نکردند.
بیشتر کاهش گزارش‌شده در «ترافیک ربات‌ها» مربوط به خزنده‌های وب است که برنامه‌های خودکاری هستند که وب‌سایت‌ها را فهرست‌بندی می‌کنند، نه حساب‌های رسانه‌های اجتماعی که اطلاعات نادرست را منتشر می‌کنند.
حتی اگر فردا بتوانیم هر عملیات اطلاعات نادرست روسیه را حذف کنیم، اطلاعات نادرست همچنان یک مشکل جدی خواهد بود.
و این به این دلیل است که ما بیش از حد بر روی افرادی که اطلاعات نادرست تولید می‌کنند و سیستم‌هایی که به انتشار آن کمک می‌کنند بسیار کم تمرکز کرده‌ایم.
اول، ما باید تمایز بین اطلاعات نادرست و اطلاعات نادرست را درک کنیم.
اطلاعات نادرست اطلاعات نادرستی است که بدون قصد فریب به اشتراک گذاشته می شود. اطلاعات نادرست اطلاعات نادرستی است که به عمد برای گمراه کردن منتشر می شود.
از سال 2024، مجمع جهانی اقتصاد هر سال اطلاعات نادرست و اطلاعات نادرست را در میان دو تهدید کوتاه مدت برای ثبات جهانی قرار داده است.
ادعاهای نادرست مبنی بر دزدیده شدن انتخابات ریاست جمهوری ایالات متحده در سال 2020 به حمله به ساختمان کنگره ایالات متحده در 6 ژانویه 2021 کمک کرد.
و اطلاعات غلط در مورد سلامتی می تواند کشنده باشد.
یک مطالعه بررسی شده تخمین زد که حدود 232000 مرگ ناشی از کووید-19 در ایالات متحده بین ماه مه 2021 تا سپتامبر 2022 از طریق واکسیناسیون قابل پیشگیری بوده است.
در حالی که نمی توان همه این مرگ ها را به اطلاعات نادرست نسبت داد، اطلاعات نادرست عامل مهمی در تردید واکسن است.
اما چرا مهار اطلاعات نادرست و اطلاعات نادرست اینقدر سخت است؟ بخشی از پاسخ در نحوه دریافت اخبارمان نهفته است.
بیش از یک چهارم استرالیایی‌ها بیشتر اخبار خود را از رسانه‌های اجتماعی دریافت می‌کنند، که مشکل‌ساز است، زیرا رسانه‌های اجتماعی فاقد محافظ‌های ویرایشی رسانه‌های سنتی هستند.
اما یک مشکل دوم، اساسی تر وجود دارد.
وقتی TikTok، Instagram یا Facebook را باز می‌کنید، بسیاری از چیزهایی که می‌بینید از افرادی که دنبال می‌کنید نمی‌آیند. در عوض، الگوریتم‌های توصیه‌گر با پیش‌بینی آنچه که توجه شما را به خود جلب می‌کند، آنچه را که روی صفحه نمایش شما است انتخاب می‌کنند.
و از آنجایی که توجه باعث ایجاد درآمد تبلیغاتی می‌شود، پلتفرم‌ها دلایل زیادی دارند تا شما را در تماشا، کلیک کردن و پیمایش نگه دارند.
متأسفانه آنچه توجه ما را به خود جلب می کند لزوما چیزی نیست که برای ما خوب است.
خشم، ترس و درگیری می تواند درگیر کننده باشد. بنابراین الگوریتم‌هایی که برای به حداکثر رساندن تعامل ساخته شده‌اند، می‌توانند مواد تفرقه‌انگیز یا مضر را تقویت کنند، حتی زمانی که کسی به دنبال آن نیست.
محققان دانشگاه شهر دوبلین با راه‌اندازی حساب‌های TikTok و YouTube Shorts که به نظر می‌رسید متعلق به پسران نوجوان هستند، این موضوع را آزمایش کردند.
در عرض 23 دقیقه، این پلتفرم‌ها به هر محتوای مضر حساب کاربری ارائه کردند، حتی آنهایی که با جستجوی علایق روزمره به جای مطالب زن‌ستیزانه شروع شده بودند.
دیدن این محتوا به طور خودکار باورهای افراد را تغییر نمی دهد، اما یک جریان ثابت از توصیه ها می تواند به عادی سازی نگرش های مضر کمک کند.
اکنون پاسخ واضح ممکن است این باشد که توصیه‌های شخصی‌سازی شده را به طور کلی خاموش کنید.
گروه مدافع استرالیایی Teach Us Consent دقیقا برای همین گزینه از طریق کمپین Fix Our Feeds کمپینی کرده است. دولت استرالیا پیش‌نویس قانونی را پیشنهاد کرده است، My Feed، My Way، که به افراد اجازه می‌دهد پست‌ها را فقط از حساب‌هایی که دنبال می‌کنند ببینند.
و طبق قانون خدمات دیجیتال خود، اتحادیه اروپا در حال حاضر به پلتفرم های بسیار بزرگ نیاز دارد تا فیدهایی را ارائه دهند که به پروفایل کاربران متکی نباشد.
این مراحل خوشایند هستند، اما از فرصت بسیار بزرگتری چشم پوشی می کنند.
اطلاعات آنلاین بسیار بیشتر از آن چیزی است که هر یک از ما بتوانیم بخوانیم. ما به راهی برای یافتن مطالب مفید نیاز داریم.
شخصی سازی ذاتا بد نیست. الگوریتم‌های توصیه‌گر خوب می‌توانند ما را با ایده‌ها و دیدگاه‌های ارزشمندی آشنا کنند که در غیر این صورت از دست می‌رفتیم.
بنابراین، چرا تنها انتخاب ما باید این باشد که الگوریتم یک شرکت را بپذیریم یا کلا الگوریتم های توصیه گر را کنار بگذاریم؟
تصور کنید اینستاگرام را باز کنید و انتخاب کنید کدام الگوریتم فید شما را شکل می دهد. شاید شما یکی را انتخاب کنید که توسط یک دانشگاه توسعه یافته است تا اطلاعات قابل اعتماد را اولویت بندی کنید. یا ممکن است یکی را انتخاب کنید که دیدگاه های سیاسی متضادی را معرفی کند.
ممکن است توصیه‌هایی را ترجیح دهید که برای کاهش محتوای زن‌ستیزانه یا نژادپرستانه طراحی شده‌اند، یا صرفا محتوایی که شما را عصبانی و مضطرب نمی‌کند.
شما نیازی به درک کد اصلی ندارید، بیشتر از اینکه بدانید مرورگر اینترنت شما چگونه کار می کند. شما ارائه‌دهنده‌ای را انتخاب می‌کنید که اولویت‌هایش با اولویت‌های شما مطابقت دارد و هر زمان که بخواهید تغییر می‌دهید.
Bluesky، یک پلتفرم رسانه اجتماعی، در حال حاضر به مردم اجازه می دهد فیدهای ایجاد شده توسط توسعه دهندگان مستقل را انتخاب کنند. گسترش این اصل به پلتفرم های بزرگتر از نظر فنی و سیاسی چالش برانگیز خواهد بود.
توسعه‌دهندگان خارج از کشور به دسترسی مناسب به محتوا، با پادمان‌هایی برای حفظ حریم خصوصی، امنیت و مسئولیت‌پذیری نیاز دارند. اما این چالش‌ها دلایلی برای طراحی دقیق سیستم هستند، نه اینکه ایده را رها کنیم.
مهمتر از همه، انتخاب رقابت بین الگوریتم های توصیه کننده ایجاد می کند.
به‌جای رقابت برای جلب توجه ما، توسعه‌دهندگان می‌توانند برای ارائه آنچه واقعا برای ما ارزش قائل هستیم، رقابت کنند، خواه این اخبار قابل اعتماد، مکالمه سازنده، یادگیری مفید یا صرفا لذت باشد.
دانشگاه‌ها، موسسات خیریه و توسعه‌دهندگان مستقل می‌توانند رویکردهایی را آزمایش کنند که پلتفرم‌های تجاری انگیزه کمی برای کشف آنها دارند.
البته، برخی از افراد همچنان ممکن است فیدهایی را انتخاب کنند که تعصبات آنها را تقویت کند.
انتخاب الگوریتمی اطلاعات نادرست را از بین نمی‌برد، و ما همچنان باید کمپین‌های سازمان‌یافته اطلاعات نادرست را به چالش بکشیم. اما این می تواند ما را کمتر به چند شرکت وابسته کند تا تصمیم بگیریم چه چیزی سزاوار توجه ماست.
ما سال‌ها از شرکت‌های رسانه‌های اجتماعی خواسته‌ایم که الگوریتم‌های خود را ایمن‌تر کنند، اما شاید سؤال اشتباهی پرسیده‌ایم.
ما روزنامه ها، کانال های تلویزیونی و وب سایت های خود را انتخاب می کنیم. چرا نباید الگوریتم هایی را انتخاب کنیم که به طور فزاینده آنچه را که می بینیم، درباره آن فکر می کنیم و بحث می کنیم، تعیین می کنند؟
الگوریتم‌های توصیه‌کننده اینجا هستند تا بمانند. گام گمشده حق ما برای انتخاب آنهاست.
سواتی مستری دارای مدرک لیسانس در مهندسی الکترونیک است و از سال 2019 به عنوان ویرایشگر محتوا کار کرده است. او ویرایش اسناد تحقیقاتی در زمینه فناوری، مراقبت های بهداشتی و علم مواد را تجربه کرده است و علاقه خاصی به فناوری و فضا دارد. نمایه کامل →
فوق لیسانس فیزیک با تجربه تحقیق. علاقه مندان به اخبار علمی طولانی مدت. نقش کلیدی در موفقیت سرمقاله Science X ایفا می کند. نمایه کامل →
این مقاله برای اولین بار در Pursuit منتشر شد. اصل مقاله را اینجا بخوانید.
متن اصلی (انگلیسی)
Imagine a social media algorithm that prioritizes trust over outrage
Following Ukraine's recent drone strikes on Russian data centers, Ukrainian President Volodymyr Zelenskyy suggested there was "less hate, less division and fewer provocations" online because of fewer Kremlin-linked bot networks spreading misinformation and disinformation.