متا ویدیوهای آزاردهنده هوش مصنوعی را پس از اینکه در ابتدا گفت قوانین خود را نقض نکرده اند حذف کرد.

شرکت‌های رسانه‌های اجتماعی همیشه برای تعدیل محتوای کاربران تلاش کرده‌اند و هوش مصنوعی فقط مشکل را بدتر می‌کند.

یک تحقیق جدید نشان داد که فیس بوک به حساب هایی که ویدیوهای مزاحم ایجاد شده توسط هوش مصنوعی از مربیانی را که به طور نامناسبی ورزشکاران جوان را لمس می کنند به اشتراک می گذارند، اجازه می دهد حتی پس از گزارش کاربران، آنلاین بمانند. این حساب‌ها تنها پس از اینکه روزنامه‌نگاران شروع به سؤال کردن کردند، حذف شدند.

مگی هریسون دوپره گزارشگر آینده پژوهی روز دوشنبه گزارش داد که فیس بوک میزبان حساب های متعددی است که به اشتراک گذاری ویدیوهای تولید شده توسط هوش مصنوعی از مربیان مرد مسن که زنان و دختران جوان را در حین تمرین ژیمناستیک، باله و یوگا لمس می کنند، اختصاص داده است.

ویدئوهای ناراحت کننده نشان می دهد که مربیان دستان خود را روی پشت و قسمت داخلی ران ورزشکاران می کشند. برخی حتی مربیانی را به تصویر می کشند که اندام تناسلی ورزشکاران جوان را روی لباس آنها لمس می کنند یا دهان آنها را می بوسند. سایر کلیپ ها سعی می کنند رفتار نامناسب را به عنوان مربی که صرفا در تلاش برای بهبود تکنیک ورزشکاران هستند، نشان دهند.

کیم شور، ژیمناستیک و مدافع ایمنی ورزشکاران که به ژیمناست‌ها برای تغییر بین‌المللی توصیه می‌کند، به Futurism گفت: "من این مواد سوءاستفاده را در نظر می‌گیرم. این تصاویر تعاملات توهین‌آمیز بین مربیان و ورزشکاران جوان را در یک محیط ورزشی که در آن عدم تعادل قدرت قابل توجهی وجود دارد، جنسی و عادی می‌کند."

برای اینکه ببیند فیس‌بوک چگونه پاسخ می‌دهد، Futurism از یک حساب کاربری معمولی برای گزارش ده صفحه‌ای که این ویدیوها را به اشتراک می‌گذارند، استفاده کرد.

یک هفته بعد، فیس بوک اعلام کرد که هشت صفحه از این صفحات قوانین آن را نقض نکرده و حذف نخواهند شد. دو حساب دیگر ناپدید شده بودند، اما مشخص نیست که آیا این به دلیل گزارش ها بوده است یا خیر.

این شرکت در هشت اعلان یکسان درباره حساب‌های گزارش‌شده گفت: "ما از ترکیبی از فناوری و بازبین‌های انسانی برای پردازش گزارش‌ها و شناسایی محتوایی استفاده می‌کنیم که با استانداردهای انجمن ما مغایرت دارد. برای اینکه فرآیند بررسی خود را تا حد امکان منصفانه نگه داریم، از مجموعه استانداردهای انجمن برای بررسی همه گزارش‌ها استفاده می‌کنیم." "ما نگاهی انداختیم و متوجه شدیم که صفحه با استانداردهای انجمن ما مطابقت ندارد."

اما واکنش فیس بوک پس از تماس Futurism با تیم روابط رسانه ای متا تغییر کرد.

به گفته دوپره، این هشت اکانت اندکی پس از تماس این رسانه خبری با متا حذف شدند. تعدادی از اعلان‌های قبلی نیز به‌روزرسانی شدند تا بگویند این صفحات در واقع قوانین فیس‌بوک را نقض کرده و حذف شده‌اند.

متا در بیانیه‌ای برای Futurism این حذف‌ها را تأیید کرد و گفت که محتوایی که سوءاستفاده یا بهره‌برداری را به تصویر می‌کشد، چه واقعی باشد و چه تولید شده توسط هوش مصنوعی، جایی در پلتفرم‌های آن ندارد.

وقتی Futurism از متا پرسید که چرا به گزارش‌های یک کاربر معمولی نسبت به سؤالات روزنامه‌نگاران پاسخ متفاوتی داده است، این شرکت از تلاش‌های خود برای تعدیل محتوا دفاع کرد.

شرکت پاسخ داد: «در حالی که مواقعی وجود دارد که چیزهایی را از دست می‌دهیم، سخت تلاش می‌کنیم تا قوانین خود را اجرا کنیم، که این امر با این واقعیت نشان می‌دهد که در سه ماهه گذشته، ما به طور فعال 98 درصد پست‌های در معرض خطر کودکان را قبل از اینکه به ما گزارش داده شود، پیدا کرده و حذف کردیم.»

با این حال، این توضیح نمی دهد که چرا فیس بوک در ابتدا این حساب ها را پاک کرد.

در همین حال، متا همچنین هوش مصنوعی را برای بهبود تعدیل محتوا آزمایش کرده است. در آخرین گزارش اجرای استانداردهای جامعه، این شرکت گفت که آزمایش‌های اولیه نشان می‌دهد که مدل‌های زبان بزرگ (LLM) «در هنگام اعمال قوانین در برابر نقض محتوا، 13 درصد اشتباهات کمتری نسبت به انسان‌ها مرتکب می‌شوند در حالی که 10 درصد موارد نقض واقعی بیشتری را پیدا می‌کنند».

اما اینکه آیا هوش مصنوعی واقعا می‌تواند به بهبود تعدیل محتوا کمک کند، باید دید. در حال حاضر، به نظر می رسد این فناوری مشکلات جدید زیادی ایجاد کرده است، زیرا متا تنها پلتفرم رسانه اجتماعی نیست که با نمایه سازی محتوای آزاردهنده تولید شده توسط هوش مصنوعی سروکار دارد.

در اوایل سال جاری، وب‌سایت رسانه اجتماعی ایلان ماسک X با واکنش‌های شدید مواجه شد و پس از آن که برخی از کاربران شروع به استفاده از ربات چت هوش مصنوعی Grok برای تولید تصاویر جنسی از افراد، از جمله تصاویر مربوط به خردسالان کردند، بدون رضایت آن‌ها، با واکنش‌های شدید مواجه شد.

این حوادث سوالاتی را در مورد اینکه آیا شرکت‌های رسانه‌های اجتماعی می‌توانند با محتوای مضری که ابزارهای هوش مصنوعی خودشان به ایجاد آن کمک می‌کنند، همگام باشند، ایجاد می‌کند.