متا ابزارهای هوش مصنوعی جدیدی را برای شناسایی تبلیغاتی که به طور مخفیانه منجر به سوء استفاده جنسی از کودکان می شود، ارائه می کند

متا روز چهارشنبه اعلام کرد که در نیمه اول سال 2026 علیه 33.2 میلیون قطعه محتوای استثمار جنسی از کودکان در فیس بوک و اینستاگرام اقدام کرده است. همزمان، این شرکت ابزارهای هوش مصنوعی جدیدی را برای یافتن تبلیغات و حساب هایی که ممکن است برای هدایت مخفیانه افراد به سمت مطالب غیرقانونی کودک آزاری استفاده شوند، ارائه می کند.

به گفته این شرکت، بیش از 97 درصد از محتوایی که Meta روی آن عمل کرده است، قبل از گزارش کاربران توسط سیستم‌های آن پیدا شده است. در هند، متا در مدت مشابه بر روی 5.3 میلیون قطعه محتوای استثمار جنسی از کودکان عمل کرد که بیش از 98 درصد آن قبل از گزارش کاربران شناسایی شد.

متا گفت که جدیدترین ابزارهای هوش مصنوعی آن برای افرادی است که از تبلیغاتی استفاده می کنند که برای ارسال کاربران به محتوای غیرقانونی خارج از پلتفرم های متا بی ضرر به نظر می رسند.

این شرکت یک سیستم جدید زبان بزرگ مدل (LLM) را برای تشخیص آنچه که "signposting" می نامد معرفی کرده است. این به تبلیغاتی اشاره دارد که ممکن است عادی به نظر برسند اما مشکوک هستند که کاربران را به سمت محتوای غیرقانونی یا سایر فعالیت‌های مضر در جای دیگر آنلاین هدایت می‌کنند. متا می‌گوید این تاکتیکی است که اخیرا شاهد آن بوده‌ایم که بازیگران بد از آن استفاده می‌کنند، زیرا همچنان روش‌های خود را تغییر می‌دهند تا شناسایی نشوند. اگرچه ممکن است خود تبلیغات حاوی مطالب غیرقانونی نباشد، اما همچنان می‌توانند به عنوان دروازه‌ای برای ورود به وب‌سایت‌های میزبان مطالب سوء استفاده جنسی از کودکان عمل کنند.

به همین دلیل، متا گفت که اکنون به دنبال این است که یک تبلیغ کاربران را به کجا می فرستد، و نه فقط به محتوای تبلیغات. این شرکت می‌تواند از این اطلاعات برای مسدود کردن وب‌سایت‌ها یا سایر مقاصدی که قوانین آن را نقض می‌کنند استفاده کند و علیه حساب‌های موجود در پشت آن‌ها اقدام کند.

متا همچنین از اسکن های اضافی مبتنی بر هوش مصنوعی برای یافتن محتوای سوء استفاده از کودکان استفاده می کند که ممکن است سیستم های قبلی از قلم افتاده باشند. این شرکت گفت که به افزودن سیگنال های جدید ادامه خواهد داد زیرا اطلاعات بیشتری در مورد نحوه عملکرد این شبکه ها کسب می کند.

ابزار جدید دیگر «عامل هوش مصنوعی تیم قرمز» است که اقدامات ایمنی خود متا را آزمایش می کند. به دنبال نقاط ضعفی است که بازیگران بد می توانند از آنها برای دور زدن حمایت های شرکت استفاده کنند. متا گفت که این می تواند به آن کمک کند تا روش های جدید سوء استفاده را قبل از رایج شدن پیدا کند.

علاوه بر این، این شرکت در حال بهبود سیستم‌های خود برای یافتن افرادی است که پس از حذف حساب‌های قبلی خود، با حساب‌های جدید به پلتفرم‌هایش باز می‌گردند.

متا چندین ویژگی ایمنی کودک را در سال جاری معرفی کرده است، از جمله کنترل‌های والدین برای هوش مصنوعی متا، حساب‌های پیش از نوجوانی در واتس‌اپ، و هشدارهایی برای والدین در هنگام جستجوی کودکان در اینستاگرام برای محتوای آسیب‌رسانی به خود.

در ماه سپتامبر، واتس اپ کنترل های بیشتری را برای والدین اضافه کرد. آنها می‌توانند نحوه استفاده نوجوانان از کانال‌ها را محدود کنند، کنترل کنند چه کسی می‌تواند به‌روزرسانی‌های وضعیت آنها را ببیند، و تصمیم بگیرد که چه کسی می‌تواند فرزندان خود را به گروه‌ها اضافه کند. والدین همچنین می‌توانند انتخاب کنند که اعلان‌هایی درباره فعالیت‌های گروهی خاص دریافت کنند.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

لورن در TechCrunch رسانه ها، استریمینگ، اپلیکیشن ها و پلتفرم ها را پوشش می دهد.

می‌توانید با ارسال ایمیل به laurenf.techcrunch@gmail.com یا از طریق پیام رمزگذاری‌شده در laurenforris22.25 در سیگنال، با لورن تماس بگیرید یا آن را تأیید کنید.

قاضی فدرال، آنتونی ها را "نظارت جمعی بی رویه" می نامد

آمازون در پاسخ به عکس العمل مرکز داده، می گوید دیگر از NDA آنتونی ها استفاده نمی کند

کارمند ایمنی OpenAI با این ادعا که آنتونی ها «فرهنگ شرکت شکسته است» استعفا داد

متا می‌خواهد ابزار بعدی شما Kirsten Korosec باشد

گوگل فکر می کند استارشیپ اسپیس ایکس باید 1800 بار قبل از اینکه مراکز داده فضایی از زمین خارج شوند تیم فرنهولز

اولین نیروگاه زمین گرمایی پیشرفته جهان تنها در 23 ماه تکمیل شد تیم دی چانت