نیویورک ادعا می کند که TikTok در آزمایشی ویژگی ایمنی دارونما را به نوجوانان و کودکان داده است

بر اساس ادعاهایی که در شکایت نیویورک علیه این شرکت در تاریخ 7 اکتبر منتشر شد، TikTok نسخه‌های غیر کاربردی ابزار ایمنی را به کاربران داد.

نیویورک - بر اساس ادعاهایی که در شکایت نیویورک علیه این شرکت در تاریخ 7 اکتبر منتشر شد، TikTok آزمایشی را بر روی هزاران کاربر انجام داد که سعی کردند یک ویژگی ایمنی را در این پلتفرم روشن کنند و نسخه‌های غیر کاربردی این ابزار را به آنها ارائه دهند.

در آزمایش‌های موسوم به «شبح» یا پلاسبو، TikTok هزاران کاربر از جمله نوجوانان و کودکان را انتخاب کرد که ترجیح دادند از ویژگی‌های ایمنی مانند Algo Refresh استفاده کنند، ابزاری که برای بازنشانی توصیه‌ها برای کاربرانی که به دنبال فرار از محتوای ناخواسته یا بالقوه مضر هستند طراحی شده است.

طبق این دادخواست، این کاربران معتقد بودند که این ویژگی را فعال کرده‌اند، اما فیدهای آن‌ها برخلاف کاربرانی که نسخه کاملا فعال را دریافت کردند، تغییر نکرد.

اتهامات افشا شده جدید بخشی از شکایت لتیتیا جیمز، دادستان کل نیویورک علیه این شرکت است، یکی از بیش از دوجین پرونده ای که توسط ایالت هایی مطرح شده است که TikTok را به طراحی پلت فرم خود برای معتاد کردن کودکان و گمراه کردن کاربران در مورد ایمنی آن متهم می کنند.

بسیاری از اسناد در پرونده‌های ایالتی در سراسر کشور مهر و موم شده یا به شدت ویرایش شده‌اند، زیرا TikTok به دنبال این است که جزئیات مربوط به عملیات خود را از دید عموم حفظ کند.

این دادخواست ادعا می‌کند که TikTok به کاربران اطمینان می‌دهد که ایمنی اولویت اصلی است و پلتفرم آن برای کودکان و نوجوانان مناسب است، در حالی که آگاهانه از دسترسی برخی گروه‌های کاربران به ابزارهای ایمنی خاص، از جمله کاربرانی که به طور خاص به دنبال اجتناب از محتوای ناخواسته یا بالقوه مضر بودند، جلوگیری می‌کند.

یکی از سخنگویان TikTok در بیانیه‌ای گفت: «ما به طور مداوم در پلتفرم خود بهبود می‌دهیم، به این معنی که مانند بسیاری از شرکت‌ها، به طور منظم محصولات و ویژگی‌های جدید را آزمایش می‌کنیم تا تجربه را تأیید کنیم و درک کنیم که چگونه آنها در دنیای واقعی کار می‌کنند.»

این شرکت به طور گسترده ادعاهای نیویورک در پرونده های دادگاه را رد کرده و گفته است که حفظ امنیت کاربران جوان یک اولویت است.

جیمز، یک دموکرات، ابتدا در سال 2024 شکایت کرد. ادعاهای مربوط به این آزمایشات در نسخه به روز شده و مهر و موم شده شکایت نیویورک که در پایان ماه اوت ثبت شد و بعدا توسط قاضی دستور بازگشایی آن صادر شد، گنجانده شد.

در داخل، یک مدیر محصول Digital Well Being در TikTok گفت که انجام آزمایش‌های پلاسبو روی ویژگی Algo Refresh مشکل‌ساز است و ممکن است کاربران آن را گمراه‌کننده بدانند.

بر اساس این دادخواست، این شخص در یک چت داخلی نوشت: «این ویژگی در مورد شفافیت و کنترل الگوریتم است. "یک گروه دارونما کاملا با آن در تضاد است."

در نهایت این شرکت در سال 2023 آزمایش‌ها را بر روی هزاران کاربر به طور مکرر انجام داد و کاربرانی را که این ویژگی را دریافت نکردند با افرادی که برای مطالعه مدت اقامت کاربران در سایت و تأثیر آن بر درآمد تبلیغاتی انجام دادند مقایسه کرد.

این شکایت همچنین ادعا می‌کند که TikTok مصرف‌کنندگان را در مورد نحوه عملکرد Algo Refresh گمراه کرده و به آنها گفته است که الگوریتمی را که ویدیوها را به آنها توصیه می‌کرد، بازنشانی می‌کند، در حالی که این فقط یک تغییر موقت است.

بخش‌های بدون مهر و موم این شکایت همچنین ادعا می‌کنند که TikTok مجموعه‌ای از آزمایش‌های جداگانه را انجام داده است که قبلا در گزارش بلومبرگ فاش شده بود.

در آن‌ها، TikTok به‌طور تصادفی کاربران را انتخاب کرد و ویژگی‌های ایمنی حساب‌هایشان را خاموش کرد که قرار گرفتن آنها در معرض محتوای مضر را محدود می‌کرد.

بلومبرگ گزارش داد، پسر نوجوانی در نیویورک که بخشی از این آزمایش بود، پس از نمایش مطالبی در مورد خودآزاری و خودکشی، خودکشی کرد.

در این دادخواست آمده است که بررسی‌های داخلی نشان می‌دهد که این پسر «هجوم» محتوایی درباره خودکشی و خودآزاری نشان داده است. رویترز