الگوریتم های سمی آنها را رها نمی کنند - اکنون استرالیا یک سوئیچ خاموش می خواهد

تماشا کنید: بسیاری از پلت‌فرم‌های اجتماعی در حال حاضر فیدهایی فقط دنبال‌کننده دارند - نحوه کار آنها در اینجا آمده است

هشدار: این مقاله حاوی گزارشی از زندگی با یک اختلال خوردن است

وارشا یاجمن از قبل از اینکه در سن 13 سالگی به شبکه های اجتماعی پیوست، از ظاهر خود آگاه بود.

ویدیوهای تمرینی بی پایان که وعده های غیرممکن می داد، فیدهای او را پر می کرد. از طریق صفحه، دخترانی که او هرگز ندیده بود از او می خواستند که در چالش های خطرناک کالری ثبت نام کند. دیگران با افتخار قد و وزن خود را - حتی تعداد دفعاتی که به بیمارستان فرستاده بودند - در پروفایل خود در قالب رقابتی پیچیده تبلیغ کردند.

وارشا هر شب که به خواب می‌رفت، غریبه‌ای را در اینترنت می‌دید که آن روز چه خورده‌اند.

وارشا به بی‌بی‌سی می‌گوید: «من به این فکر می‌کردم که «نیازی به غذا خوردن ندارم. فقط می‌توانم غذا خوردن دیگران را تماشا کنم».

"من متوجه شدم که من در این سوراخ های واقعا عمیق خرگوش هستم ... مثل این بود که هر چقدر هم تلاش کردید از آن خارج شوید، نمی توانید."

وارشا که اکنون 24 ساله است و در حال بهبودی از بی اشتهایی است، می‌گوید با وجود روشن بودن همه تنظیمات ایمنی و فهرست کاملی از کلمات ممنوعه، همچنان محتوای کاهش وزن در رسانه‌های اجتماعی به او ارائه می‌شود.

وارشا یاجمان می گوید رسانه های اجتماعی اختلال خوردن او را تشدید کردند

دولت استرالیا می‌گوید که در حال تلاش برای محافظت از افرادی مانند او با مجموعه قوانین جدیدی برای سرکوب فناوری‌های بزرگ است که این هفته به پارلمان معرفی شد.

محور اصلاحات پیشنهادی آنها: تغییر الگوریتمی که پلتفرم های رسانه های اجتماعی را مجبور می کند تا به کاربران اجازه دهند محتوای توصیه شده را خاموش کنند. ایده این است که شما فقط پست‌هایی را از حساب‌هایی که دنبال می‌کنید ببینید.

این اولین دولتی نیست که این کار را انجام می‌دهد، اما کنترل‌های الگوریتم موجود اغلب گذرا هستند و در عملکرد برنامه‌ها با هم تفاوت دارند.

استرالیا تصمیم گرفته است تا قوانین خود را برای جلوگیری از این امر سخت تر کند. و امیدوار است قوانین جدید خود - که همچنین وظیفه قانونی مراقبت را بر خدمات آنلاین تحمیل می کند - به استرالیایی ها کمک کند تا شادتر و سالم تر شوند.

اما منتقدان نگرانند که دولت نخست‌وزیر آنتونی آلبانیز در مبارزه با فناوری‌های بزرگ بیش از آنچه که می‌تواند بجویده باشد، در حالی که دیگران از جمله دولت ترامپ می‌گویند اصلاحات آزادی بیان را تهدید می‌کند.

فلین مارتین می داند که مکیده شدن در یک مارپیچ الگوریتمی چگونه است.

اندرو تیت، اینفلوئنسر خودخوانده زن ستیز و دیگر چهره‌های مانوسفر، حدود چهار سال پیش، فیدهای رسانه‌های اجتماعی این جوان 20 ساله را تحت تأثیر قرار دادند.

زمانی بود که فلین، که در نهایت به اختلال دوقطبی مبتلا شد، ناامن بود، از زندگی خود ناامید شده بود و با سلامت روان خود دست و پنجه نرم می کرد. او می گوید که به لفاظی ها علاقه مند شده است.

او به زودی در استرالیا برای دو ویدئو در فضای مجازی پخش شد: یکی در مورد اینکه آیا خوب است که یک مرد سفید پوست باشد یا نه، و دیگری که در آن از یک تاریخ به دلیل سفارش ماست منجمد او انتقاد کرد.

او به بی‌بی‌سی می‌گوید: «شما خود را در یک اتاقک پژواک می‌بینید... به راحتی می‌توانید در آن غرق شوید».

"من واقعا این ایده را قبول کردم که ما در این ماتریکس زندگی می کردیم، ما این سیستم واقعا منفی را داشتیم که علیه شما طراحی شده بود. و تنها راه برای رهایی از آن تبدیل شدن به این شخصیت مرد آلفا بود."

ملبورنیایی تنها پس از یک دوره روان پریشی و بستری شدن در بیمارستان از مانوسفر بیرون کشیده شد.

فلین مارتین می گوید که هنوز در حال یافتن تعادل سالم با رسانه های اجتماعی است

امروزه برای او سخت است که به آن نسخه از خودش نگاه کند: "در حالی که کمی شرم و شرم وجود دارد... فکر می کنم کمی برای آن مرد جوان تر همدلی وجود دارد."

هم فلین و هم وارشا می دانند که رسانه های اجتماعی به تنهایی مقصر بدترین فصل زندگی آنها نیستند، اما می گویند که این یک عامل کلیدی بود.

افراد بی‌شماری داستان‌هایی از مواجهه با محتوای رسانه‌های اجتماعی دارند که به دنبال آن نبودند و نمی‌خواستند ببینند – و مدت‌هاست که شک و ظن وجود دارد که الگوریتم‌هایی که این پلتفرم‌ها را مدیریت می‌کنند به کاربران آسیب می‌رسانند.

شرکت‌های رسانه‌های اجتماعی استدلال می‌کنند که خطرات بالقوه بیش از حد بزرگ‌نمایی شده‌اند و از قبل ابزارهای ایمنی مؤثری را در اختیار کاربران قرار می‌دهند.

اما تحقیقاتی که از سرتاسر جهان در حال ظهور است، تصویر متفاوتی را ترسیم کرده است.

مطالعات نشان داده اند که استفاده از رسانه های اجتماعی باعث واکنش مغزی مشابه به قمار و اعتیاد به مواد می شود. که الگوریتم‌ها - اغلب ناخواسته - محتوایی را ارائه می‌کنند که به سلامت روانی کاربران آسیب می‌رساند، و اطلاعات نادرست را منتشر می‌کنند و دوقطبی‌سازی را افزایش می‌دهند و خشونت آفلاین را هدایت می‌کنند.

پرونده‌های قضایی و افشاگران ادعاهایی را منتشر کرده‌اند که این شرکت‌ها خطرات را می‌دانند و مایلند از آنها چشم پوشی کنند زیرا این فناوری تعامل کاربران و نتیجه نهایی آنها را افزایش می‌دهد.

شانل کانتوس به بی‌بی‌سی می‌گوید: «نتیجه این است که آن‌ها محتوایی را تبلیغ می‌کنند که ظالمانه است یا احساسات شدید مردم را برمی‌انگیزد - بنابراین ممکن است خشم یا ترس یا میل یا شهوت یا ناامنی باشد، هر چه که باشد، ما را در حرکت نگه می‌دارد».

Chanel Contos، مبارز آموزش رضایت، پس از تأسیس وب‌سایت Teach Us Consent در سال 2021، دولت را برای تغییر لابی کرد.

در حین مطالعه این موضوع در دانشگاه، این فعال - که به اصلاح استانداردهای آموزش رضایت جنسی در استرالیا کمک کرد - کمپینی برای تغییر ایجاد کرد.

«اصلاح فیدهای ما» خواستار آن شد که الگوریتم‌های توصیه‌شده به‌طور پیش‌فرض خاموش شوند و به کاربران رسانه‌های اجتماعی این امکان داده شود که آنها را انتخاب کنند.

کونتوس بازگشت نوستالژیک به رسانه های اجتماعی اوایل دهه 2010 را متصور بود - زمانی که رسانه های اجتماعی یک فرد مملو از پست های دوستان یا افرادی بود که واقعا دنبال می کردند و فیدهای آنها محدود بود.

بیش از 15000 نفر طومار او را امضا کردند و این کمپین همچنین مورد حمایت دو نخست وزیر سابق، چندین نماینده مجلس، شخصیت های با نفوذ، مدافعان سلامت روان و کارشناسان ایمنی آنلاین قرار گرفت.

دولت در ماه سپتامبر اعلام کرد که به استرالیایی‌هایی که از کمپین کونتوس حمایت کرده‌اند گوش داده است و نسخه‌ای از پیشنهاد او را اعلام کرده است: مجبور کردن فناوری‌های بزرگ برای معرفی یک سوئیچ الگوریتمی - اما از خاموش شدن خودکار آن جلوگیری می‌کند.

آلبانیز گفت: «این در مورد واگذاری کنترل به دولت نیست، بلکه در مورد کنترل مردم است.

"اگر مردم بخواهند اسکرول عذاب بکشند... خوب است، این به آنها بستگی دارد."

دادگاه ایالات متحده می گوید متا کودکان را در فیس بوک و اینستاگرام قلاب کرده است

وزیر ارتباطات آنیکا ولز (تریبون سمت چپ) و نخست وزیر استرالیا آنتونی آلبانیز (تریبون سمت راست) در ماه سپتامبر با والدین خود در مورد لایحه آتی Digital Duty of Care یک کنفرانس مطبوعاتی برگزار کردند.

این سیاست بخشی از لایحه مراقبت دیجیتالی دولت است که به خدمات آنلاین - شرکت‌های رسانه‌های اجتماعی، سایت‌های بازی، ربات‌های چت و موارد دیگر نیاز دارد تا "تا آنجا که به طور منطقی عملی باشد، یک محیط آنلاین امن" تضمین شود.

آنیکا ولز، وزیر ارتباطات استرالیا به بی‌بی‌سی گفت: «وظیفه دیجیتالی مراقبت به بسیاری از «چه چیزی» قانون حداقل سن رسانه‌های اجتماعی پاسخ می‌دهد، زیرا بسیار گسترده‌تر است؛ همه خدمات آنلاین را در بر می‌گیرد و مسئولیت را از دوش قربانیان به دوش اپراتورهای بزرگ فناوری که به دنبال کسب درآمد از کاربران استرالیایی هستند، منتقل می‌کند.

پاسخ خاموشی از سوی فناوری های بزرگ وجود دارد. متا، اسنپ، تیک تاک، ایکس و گوگل که مالک یوتیوب هستند، همگی درخواست‌های بی‌بی‌سی برای اظهار نظر را رد کرده‌اند و در مورد این قانون اظهارنظر عمومی نکرده‌اند.

در روزهای پس از اعلام، آدام موسری، رئیس اینستاگرام، استدلال کرد که فیدهای غیرالگوریتمی به این معنی است که کاربران پست‌های کمتری از دوستان خود می‌بینند، و گفت که او معتقد نیست برنامه‌اش اعتیادآور است – اگرچه هیئت منصفه ایالات متحده اخیرا حکم دیگری را صادر کرد.

او در یک کنفرانس مطبوعاتی در سیدنی گفت: «فکر می‌کنم ما روشی را که در محاوره‌ای از کلمه «معتاد» استفاده می‌کنیم – مانند «من به این نمایش معتاد هستم و دارم آن را تماشا می‌کنم» – و اعتیاد بالینی را با هم ترکیب می‌کنیم.

آدام موسری، مدیر اینستاگرام، معتقد است که الگوریتم‌های توصیه‌کننده برای لذت بردن کاربران ضروری هستند

احزاب راست‌گرا در استرالیا - و دولت ترامپ - گفته‌اند که پیشنهاد الگوریتم‌ها و لایحه گسترده‌تر هر دو خطر اعتدال بیش از حد و سانسور را دارند.

به نظر می‌رسد این پیشنهاد در مقایسه با ممنوعیت رسانه‌های اجتماعی برای کودکان در استرالیا، بین عموم و کارشناسان ایمنی آنلاین اختلاف‌افکنی کمتری دارد.

با این حال، سوال بزرگ این است: استرالیا چگونه این سیاست را اجرا خواهد کرد، در حالی که تا کنون برای اجرای این ممنوعیت تلاش کرده است؟ نظرسنجی‌ها نشان می‌دهد که بیشتر کودکانی که قبل از ممنوعیت در شبکه‌های اجتماعی حضور داشتند، هنوز هستند و هیچ جریمه‌ای صادر نشده است.

رگولاتورهای استرالیایی در حال بررسی نقض احتمالی ممنوعیت رسانه های اجتماعی هستند

تلاش اتحادیه اروپا برای معرفی کنترل‌های الگوریتم در سال 2023 - که پس از آن پلتفرم‌ها فیدهای زیر را منتشر کردند - یک داستان هشداردهنده است.

شرکت‌های رسانه‌های اجتماعی نشان داده‌اند که استفاده از ویژگی‌های ایمنی و کنترلی مانند این کم بوده است و آن را به عنوان شواهدی ذکر می‌کنند که کاربران محصولاتشان را به همان شکلی که هستند دوست دارند. کارشناسان می گویند دلیلی برای آن وجود دارد.

کریس زومر، محقق از مرکز تعالی کودک دیجیتال ARC، در The Conversation، خارجی نوشت: «پلتفرم‌ها همان کاری را انجام می‌دهند که قانون دستور می‌دهد، اما به‌گونه‌ای درهم و برهم که کاربران واقعا از این گزینه لذت نبرند و به تجربه الگوریتمی پیش‌فرض پایبند باشند».

به عنوان مثال، در اینستاگرام، وقتی الگوریتم را خاموش می کنید، نمی توانید پیام های مستقیم را ببینید یا به پروفایل و تنظیمات خود دسترسی پیدا کنید. هنگامی که برنامه را ترک می کنید، در بازگشت شما به یک فید تحت کنترل الگوریتم برمی گردد.

تنها جایی که این مسائل وجود ندارد هلند است. پس از اینکه سال گذشته دادگاه هلندی متا را ناقض قانون خدمات دیجیتال اتحادیه اروپا تشخیص داد، این قانون تغییر کرد.

متا درخواست تجدیدنظر علیه حکم دادگاه هلند در ماه مارس را از دست داد، به این معنی که کاربران در هلند حق انتخاب را برای فیدهای خانگی خود حفظ می کنند.

قوانین استرالیا هنوز قطعی نشده است، اما دولت می گوید استفاده از فیدهای فقط دنبال کردنی نباید سخت تر یا کمتر کاربردی باشد، تنظیمات الگوریتم باید "مشخص" باشد و نباید بدون "انتخاب صریح" توسط کاربر تغییر کند، حتی اگر از برنامه خارج شود.

کانتوس که از موفقیت خود در استرالیا حمایت می کند، اکنون کمپین خود را جهانی می کند.

ما احساس می‌کنیم که کانادا، بریتانیا، استرالیا همگی در زمینه امنیت آنلاین بسیار همسو هستند... سپس اگر آن سه حوزه قضایی این کار را انجام دهند، می‌تواند به یک موضوع مهم تبدیل شود.»

اگرچه تجربیاتی مانند آنها به الهام بخشیدن به این اصلاحات کمک کرد، فلین و وارشا هر دو تا حدودی نسبت به آنها بدبین هستند.

وارشا می‌گوید تلاش می‌کند باور کند کشوری مانند استرالیا می‌تواند فناوری‌های بزرگ را پشت سر بگذارد: بنابراین مطمئن نیست که لایحه مراقبت دیجیتالی کارساز باشد. و فلین می گوید قانونگذاران باید در مورد پتانسیل تغییر الگوریتم "واقع بین" باشند: "در پایان روز ما از رسانه های اجتماعی به عنوان نوعی سرگرمی استفاده می کنیم."

نظرسنجی در اوایل این ماه نشان داد که دو سوم از همتایان خود Gen-Z الگوریتم های رسانه های اجتماعی خود را حفظ می کنند - اگرچه تقریبا نیمی از استرالیایی ها عموما الگوریتم های خود را خاموش می کنند.

اگرچه وارشا اعتراف می کند که بعید است از یک سوئیچ الگوریتم استفاده زیادی کند، او از داشتن این انتخاب قدردانی می کند.

"در یک روز بد، من هنوز در معرض همه چیزهایی هستم که در 17 سالگی بودم. دانستن این موضوع، اگر روز بدی را سپری کنم، می‌توانم انصراف دهم، باعث می‌شود احساس خوبی داشته باشم."

اگر از مسائل مطرح شده در این داستان متاثر شده اید، می توانید با یک متخصص بهداشت یا سازمانی که پشتیبانی ارائه می دهد صحبت کنید. جزئیات سازمان‌هایی که به افراد در بریتانیا مشاوره و پشتیبانی ارائه می‌دهند از خط اقدام BBC در دسترس است.