کره جنوبی از هوش مصنوعی برای شناسایی مطالب آزار جنسی کودکان آنلاین استفاده می کند

وزارت برابری جنسیتی و خانواده روز سه‌شنبه اعلام کرد کره جنوبی یک سیستم هوش مصنوعی (AI) را برای شناسایی و حذف مطالب مربوط به سوء استفاده جنسی از کودکان مستقر کرده است که میزان تشخیص روزانه را تقریبا ده برابر می‌کند.

به گزارش خبرگزاری یونهاپ به نقل از این وزارتخانه، مرکز ملی پاسخگویی به جرایم جنسی دیجیتال، سیستم مبتنی بر هوش مصنوعی را در ماه آوریل برای مبارزه با جرایم جنسی دیجیتالی در حال توسعه معرفی کرد.

بین آوریل و سپتامبر، این سیستم 96210 مورد سوء استفاده جنسی از کودکان را شناسایی کرد و اعلان‌هایی را برای حذف به پلتفرم‌های آنلاین درخواست کرد.

میانگین تشخیص روزانه 202.1 به ازای هر کارگر نظارت بود، در مقایسه با 20.8 در سال گذشته.

این سیستم شبانه‌روزی رسانه‌های اجتماعی و برنامه‌های چت تصادفی را رصد می‌کند و قبل از ارسال درخواست‌های حذف، محتوای مشکوک غیرقانونی را برای بررسی انسانی علامت‌گذاری می‌کند.

این وزارتخانه در نظر دارد سال آینده نظارت را به 139 پلتفرم آنلاین گسترش دهد، از 74 پلتفرم امسال، در حالی که دقت تشخیص را از طریق آموزش های اضافی بهبود می بخشد.

این مرکز که در سال 2018 تأسیس شد، در سال گذشته از 10637 نفر از جمله 3052 قربانی زیر 20 سال حمایت کرد.

پلیس کره جنوبی قبلا 3557 مظنون را در پرونده های سوء استفاده جنسی آنلاین بین نوامبر 2024 تا اکتبر 2025 بازداشت کرده است که تقریبا نیمی از آنها را نوجوانان تشکیل می دهند. جرایم مربوط به دیپ فیک 35.2 درصد موارد را تشکیل می دهند.