بررسی سن هوش مصنوعی متا جهانی می شود: آیا می تواند از نوجوانان محافظت کند؟

متا در تلاش برای شناسایی بهتر کاربران نوجوانی که با تاریخ تولد بزرگسالان در پلتفرم‌های رسانه‌های اجتماعی آن ثبت‌نام کرده‌اند، فناوری تخمین سنی مبتنی بر هوش مصنوعی (AI) را در سراسر جهان عرضه کرده است.

بزرگ‌ترین شرکت رسانه‌های اجتماعی جهان روز دوشنبه این تغییر را اعلام کرد و گفت که میلیون‌ها جوان دیگر در سراسر جهان پس از اجرای فناوری جدید در میان نگرانی‌هایی که پلتفرم‌هایش در محافظت از نوجوانان ناکام مانده‌اند، در حساب‌های نوجوانان خود قرار خواهند گرفت.

حساب‌های نوجوان محدودیت‌ها و محافظت‌های بیشتری دارند که برای ارائه تجربه کاربری ایمن‌تر طراحی شده‌اند. آنها حساب را به طور پیش‌فرض خصوصی نگه می‌دارند، انواع محتوا را محدود می‌کنند و از ارسال پیام‌های مستقیم (DM) توسط افراد غریبه به دارندگان حساب نوجوان جلوگیری می‌کنند. والدین همچنین می توانند بر حساب های نوجوان نظارت کنند.

با این حال، کارشناسان تردید دارند که آیا آخرین گام از کودکان در برابر آسیب های آنلاین محافظت می کند.

در اینجا چیزی است که ما در مورد آخرین ابزار می دانیم و چرا متا آن را به کار گرفته است:

متا که مالک اینستاگرام، فیس‌بوک، واتس‌اپ و Threads است، روز دوشنبه اعلام کرد که استفاده از سیستم تخمین سنی هوش مصنوعی خود را در حساب‌های اینستاگرام در سراسر جهان آغاز کرده است.

این شرکت گفت: "از اولین معرفی این فناوری، ما نوجوانان بیشتری را در حفاظت های متناسب با سن قرار داده ایم و از نتایج آن تشویق می شویم. بر اساس این موفقیت، امروز در حال گسترش این فناوری در سطح جهانی هستیم."

این سیستم برای شناسایی نوجوانانی طراحی شده است که با تاریخ تولد جعلی ثبت نام کرده اند تا از یک حساب معمولی استفاده کنند. سپس آنها به یک حساب نوجوان محدود تغییر یافته یا از پلتفرم حذف می شوند.

متا همچنین در حال راه اندازی ابزار جدید تشخیص سن برای فیس بوک است و قصد دارد تا قبل از پایان سال سیستم مشابهی را در سراسر جهان برای Threads، یکی دیگر از برنامه های رسانه اجتماعی خود، پیاده سازی کند.

قبل از دوشنبه، این سیستم قبلا در بیش از 20 کشور اجرا شده بود. متا از رقبا خواسته است که بررسی سنی مشابهی را انجام دهند.

متا می‌گوید هوش مصنوعی آن بدون توجه به تاریخ تولدی که هنگام ثبت‌نام داده است، قضاوت می‌کند که آیا دارنده حساب احتمالا نوجوان است یا خیر.

هوش مصنوعی حساب کاربری کاربر را جستجو می‌کند تا «سرنخ‌های زمینه‌ای» را پیدا کند که به سن آنها اشاره می‌کند. مثال‌های ارائه شده توسط متا عبارتند از "جشن تولد یا ذکر نمرات مدرسه".

همچنین از «نشانه‌های بصری» در تصاویر و ویدیوهای حساب استفاده می‌کند، اما متا می‌گوید که این به تشخیص چهره نمی‌پردازد.

حساب‌های پرچم‌دار سپس به حساب‌های نوجوان - در اینستاگرام، فیس‌بوک و مسنجر - منتقل می‌شوند که مدت زمانی را که نوجوانان می‌توانند در برنامه‌ها صرف کنند، محتوایی که می‌توانند به آن دسترسی داشته باشند و چه کسی می‌توانند پیام ارسال کنند را محدود می‌کند.

در کشورهایی که رسانه‌های اجتماعی را برای کاربران زیر سن خاصی ممنوع می‌کنند، ممکن است این حساب به طور کامل بسته شود.

در ایالات متحده، متا محدودیت‌های خاصی را برای افراد زیر 18 سال اضافه می‌کند و زمان استفاده از اپلیکیشن‌های خود را به دو ساعت در روز محدود می‌کند و از نیمه‌شب تا 6 صبح منع رفت و آمد را اعمال می‌کند.

در استرالیا، این شرکت می گوید که شروع به استفاده از یک ویژگی اپل کرده است که محدوده سنی کاربر را هنگام راه اندازی گوشی آنها تأیید می کند و آن را به برنامه هایی که دانلود می کنند منتقل می کند.

متا گفت که از قانونی پشتیبانی می کند که فروشگاه های اپلیکیشن سن کاربران را تأیید می کند و آن را «موثرتر» می خواند تا اینکه بسیاری از توسعه دهندگان روش هایی را برای جمع آوری اطلاعات برای هر برنامه ابداع کنند.

متا در اطلاعیه خود، این سیاست جدید را به نتیجه شکایتی نوآورانه که توسط 29 ایالت ایالات متحده و توسط 52 دادستان کل ایالات متحده امضا شد، مرتبط دانست.

این شرکت متهم به طراحی فیس‌بوک و اینستاگرام برای معتاد کردن کودکان و جمع‌آوری داده‌های شخصی آن‌ها، عدم انجام کافی برای تأیید سن کاربران و حتی تشویق خردسالان به دور زدن اقدامات تأییدیه موجود است.

اگرچه اعلامیه متا به توافق خارج از دادگاه اوت اشاره می کند، اما امسال با دو اقدام حقوقی بزرگ دیگر در ایالات متحده در رابطه با تأثیر محصولاتش بر کودکان مواجه شده است.

تقریبا در همان زمان، متا و گوگل نیز یک پرونده تاریخی را در لس آنجلس از دست دادند که توسط زنی که گفته بود به اینستاگرام و یوتیوب معتاد شده و در نتیجه با مشکلات روانی روبرو شده است، آورده شده است.

دولت ها همچنین به طور فزاینده ای برای محافظت از کودکان زیر سن قانونی در برابر آنچه به عنوان آسیب های رسانه های اجتماعی می دانند، مداخله کرده اند.

در سال‌های اخیر، چندین کشور ممنوعیت رسانه‌های اجتماعی را برای افراد زیر سن معین، از جمله بریتانیا، اندونزی، استرالیا و ترکیه اعمال کرده‌اند که اقدامات مشابهی در بسیاری از کشورها وجود دارد.

سونیا لیوینگستون، استاد دانشکده اقتصاد لندن و مدیر مرکز آینده‌های دیجیتال برای کودکان، به الجزیره گفت که متا هنوز مدرکی ارائه نکرده است که سیستمش از استفاده کاربران زیر سن قانونی از پلتفرم‌هایش جلوگیری می‌کند.

او به «فقدان شواهد واضح» اشاره کرد که نشان می‌دهد کودکان خردسال نمی‌توانند حساب ایجاد کنند یا اینکه نوجوانانی که از این پلتفرم‌ها استفاده می‌کنند واقعا در حساب‌های نوجوان قرار می‌گیرند.

لیوینگستون گفت که سیستم بررسی سن متا "برای همه کاربران، نه فقط کودکان، خطر حفظ حریم خصوصی را به همراه دارد، زیرا نکته تضمین سن این است که بفهمیم کودکان چه کسانی هستند".

او گفت، بدون ممیزی مستقل برای تعیین نحوه کارکرد آن، «به سختی می توان فهمید که چرا باید به اطلاعات شخصی خود به آنها اعتماد کنیم.

اگرچه استرالیا افراد زیر 16 سال را در ماه دسامبر از رسانه های اجتماعی منع کرد، اما تنظیم کننده آن، eSafety، دریافت که بیش از 80 درصد از نوجوانان و نوجوانان جوان نیم سال بعد همچنان از آن استفاده می کنند، عمدتا به این دلیل که بررسی های سنی نتوانسته آنها را متوقف کند.

در همان دوره، متا 462000 حساب اینستاگرام را مطابق با این ممنوعیت بسته بود - اما eSafety دریافت که بیش از 69 درصد از کاربران زیر سن قانونی حساب های اینستاگرام خود را حفظ کرده اند.

همچنین این خطر وجود دارد که کاربران نوجوان به سادگی به پلتفرم دیگری مهاجرت کنند که خطرات مشابهی برای سلامتی آنها دارد.

بسیاری از این پلتفرم‌ها نیز برای مسائل مشابه متا با گرمای نظارتی مواجه هستند. روز جمعه، رگولاتورهای اتحادیه اروپا تهدید کردند که مالک TikTok، ByteDance، ۶ درصد از درآمد سالانه جهانی خود را به دلیل طراحی اعتیادآور آن جریمه خواهند کرد.

کمیسیونر فناوری اتحادیه اروپا، هنا ویرکونن، گفت که این پلتفرم «کاربران را به سمت سوراخ‌های خرگوش‌هایی هدایت می‌کند که نمی‌توانند به راحتی از آن فرار کنند» و از TikTok خواست تا «تلاش‌های خود را برای محافظت از رفاه کاربران، از جمله کودکان خردسال، افزایش دهد».