CyberWell به شرکت های رسانه های اجتماعی توصیه هایی برای بهبود اعتدال یهودی ستیزی ارسال می کند

CyberWell اوایل این ماه راهنمای جدیدی را برای شرکت‌های رسانه‌های اجتماعی در مورد بهبود تعدیل محتوای هوش مصنوعی برای هدف قرار دادن بهتر یهودی‌ستیزی و در عین حال محافظت از بیان آزاد منتشر کرد. این راهنمایی به عنوان یک نظر عمومی در این ماه در پاسخ به درخواست برای ورودی از هیئت نظارت متا در مورد استفاده از مدل‌های زبانی بزرگ در تعدیل محتوا ارائه شد، که هم به کارایی بالقوه چالش تفسیر خودکار در مقیاس خودکار و هم به کارایی بالقوه چالش تفسیر خودکار در مقیاس خودکار در بررسی‌های AI ارائه شد. به پلتفرم‌ها فرصتی بی‌سابقه برای بهبود اجرای خود می‌دهد

قوانین خود را در مقیاس، فراتر از لیست های توهین آمیز به سمت تصمیم گیری های مبتنی بر زمینه حرکت می کند که می تواند به کاهش خطای انسانی کمک کند. با این حال، ورودی متخصص برای اطمینان از اینکه این سیستم‌ها می‌توانند به طور مؤثر اشکال خاصی از نفرت آنلاین را برطرف کنند، بسیار مهم است.» تال اور کوهن مونت مایور، موسس و مدیر عامل CyberWell، گفت: «یهود ستیزی دائما از طریق زبان رمزگذاری‌شده، نمادها، ارجاعات فرهنگی، و اشکال «algospeak» طراحی شده برای فرار از تشخیص خودکار تکامل می‌یابد.

سیستم‌های تعدیل هوش مصنوعی باید از تخصص زمینه‌ای، زبانی و موضوعی استفاده کنند تا پیام یهودی‌ستیزانه را تشخیص دهند، نه فقط کلمات را، و در عین حال از بیان مشروع محافظت کنند. کوهن مونت مایور افزود، پلتفرم‌های رسانه‌های اجتماعی برای ترسیم مرز بین قربانیان یهودی‌ستیزی، شکلی کلاسیک از یهود ستیزی، و کمپین‌های اطلاعات نادرست و اطلاعات نادرست که با رفتارهای اعتدالی متفاوت مواجه می‌شوند، تلاش کرده‌اند. Cyberwell در ارسال خود، چندین چالش فنی را که سیستم‌های خودکار اغلب نمی‌توانند آن‌ها را شناسایی کنند، توضیح داد.

گزارش اشاره می‌کند که بازیگران بد آنلاین از ابزارهای هوش مصنوعی مدرن برای ایجاد نسخه‌های جدید و پیچیده سخنان نفرت استفاده می‌کنند، به این معنی که برنامه‌های رایانه‌ای باید به جای جستجوی کلمات ممنوعه، معانی پنهان را بفهمند. برای مثال، فیلترهای ایمنی خودکار اغلب پست‌هایی را که تصاویر بی‌ضرر را با توهین‌های پنهان ترکیب می‌کنند، از دست می‌دهند، مانند ویدئویی که هوش مصنوعی ایجاد شده توسط هوش مصنوعی، متنی را نشان می‌دهد که آدولفیتز نشان می‌دهد در جلوی اردوگاه Hh. جشن کشتار دسته جمعی یهودیان. پست هایی مانند این نیز اغلب با استفاده از بی گناهی چک های خودکار را پشت سر می گذارند.

نمادهای nt به جای کلمات، مانند استفاده از ایموجی جعبه آب میوه، زیرا هنگام صحبت شبیه کلمه یهودی به نظر می‌رسد. این تحقیق نشان داد که کاربران اینترنت اغلب سعی می‌کنند محتوای نفرت‌انگیز را با تظاهر به شوخی، میم یا مطالب آموزشی مخفی کنند. برای مثال، فیلترهای خودکار اغلب برای گرفتن پست‌هایی تلاش می‌کنند که هولوکاست را به سخره بگیرند. محاسبه اینکه پختن شش میلیون پیتزا در پنج سال چقدر دشوار خواهد بود. به طور مشابه، کاربران اغلب برچسب های گمراه کننده مانند کمدی، طنز، یا سلب مسئولیت آموزشی را به پست های فریبنده می چسبانند.

حفظ کلیشه‌های صریح ضد یهودی و سخنان نفرت، فریب دادن فیلترهای رایانه‌ای به این معنا که محتوا بی‌ضرر است. این گزارش همچنین موانع غیرانگلیسی را مستند کرده و به محتوای عربی زبان اشاره می‌کند که از تغییرات ظریف حروف و نقطه‌های نقطه‌گذاری بین کلمات برای اجتناب از تعدیل خودکار و در عین حال تشدید تعدیل‌کننده‌ها و تعدیل‌های خشونت‌آمیز استفاده می‌کند. بررسی گسترش نفرت در بخش‌های نظرات بعلاوه، محتوای مضر اغلب در بخش‌های نظرات پنهان می‌شود، جایی که فیلترهای خودکار با مشکل مواجه می‌شوند، زیرا آنها متن را به‌صورت مجزا ارزیابی می‌کنند تا در ج.

به عنوان مثال، در زیر یک پست خبری که در مورد کارمندان سفارت اسرائیل در واشنگتن دی سی به قتل رسیدند، کاربران فیلترها را برای تمجید از هیتلر با نام بردن از او به عنوان "مرد نیمه سبیل" دور زدند، در حالی که سایر نظر دهندگان از عبارت "3000 سال پیش وعده داده شده" استفاده کردند تا به تمسخر و تلاش برای مشروعیت بخشیدن به سرزمینی که سیاست رسانه های اجتماعی اسرائیل را یک پلت فرم ارتباط تاریخی خاص یهودی تلقی کند. نقض هنگامی که در پست‌های مستقل استفاده می‌شود، ظاهر آن در نظراتی که به گزارش‌های خشونت‌ستیزانه پاسخ می‌دهند، نقضی است که برای تمسخر vi.

قربانیان و توجیه خشونت علیه آنها. مشکل اصلی که این امکان را فراهم می کند این است که ابزارهای تعدیل خودکار نمی توانند نحوه ارتباط نظرات با پست اصلی را تجزیه و تحلیل کنند، و از اینکه چگونه عبارات بی ضرر وقتی برای هدف قرار دادن قربانیان استفاده می شود سمی می شوند. این گزارش همچنین اشاره کرد که محتوای مضر با پنهان کردن نام های کاربری حساب کاربری و نمایشگرهای غیرقابل شنیدن، از ابزارهای خودکار عبور می کند. اشعار یا طول های مختلف برای فرار از تشخیص

پست‌های نقض‌کننده یخی به اشتراک‌گذاشته‌شده توسط اینفلوئنسرها با فالوورهای زیاد حتی پس از درخواست‌های مکرر فعال باقی می‌مانند، در حالی که پست‌های مجدد کاربران عادی فورا حذف می‌شوند. پنج توصیه اصلی CyberWell برای شرکت‌های فناوری برای رفع این آسیب‌پذیری‌ها، CyberWell پنج توصیه اصلی برای شرکت‌های فناوری صادر کرد که مدل‌های زبان بزرگ را برای اجرای ایمنی به کار می‌برند. پلتفرم‌ها باید با کارشناسان موضوعی مستقل همکاری کنند تا آموزش و ارزیابی مدل را با استفاده از مجموعه داده‌های حاشیه‌نویسی در دنیای واقعی اصلاح کنند.

از جمله نظرات، نام‌های کاربری، تصاویر، فایل‌های GIF، ویدئوها و صدا. پلتفرم‌ها باید دقت چندزبانه و فرهنگی را با آزمایش مدل‌ها در برابر عامیانه، گویش‌ها، کنایه‌ها و زبان‌های رمزی بهبود بخشند. شرکت‌های فناوری باید مسیرهای تشدید واضحی را برای بازبینی انسانی در طی رویدادهای به‌سرعت در حال تحول ایجاد کنند. نتایج اجرایی، و توضیحات حذف مربوط به محتوا. "آینده اعتماد و ایمنی موثر به ترکیب فناوری پیشرفته با داده های قابل اعتماد و واقعی بستگی دارد.

"روابط کاری ما با متا و دیگر پلتفرم‌های اصلی رسانه‌های اجتماعی نشان می‌دهد که در عمل چه چیزی می‌تواند باشد. پتانسیل مقیاس‌سازی اعتدال مؤثر از طریق هوش مصنوعی، تعمیق روابط با کارشناسان و شرکای مورد اعتماد را که فناوری و سیاست‌های دیجیتالی را درک می‌کنند، مهم‌تر می‌کند.» او اظهار داشت: «سایبرول در حال تبدیل تخصص خود در چگونگی تکامل یهودستیزی و نفرت آنلاین به مجموعه داده‌های عملی، ابزارهای ارزیابی و راه‌حل‌های تکنولوژیکی است که می‌تواند مقیاس‌بندی شود و به پلتفرم‌ها کمک کند تا سیستم‌های تعدیل خود را برای شناسایی سیاست‌های خود بهینه کنند.

کوهن مونت مایور در پایان گفت: نقض‌ها، از جمله اشکال ظریف و کدگذاری شده نفرت، و قوانین خود را دقیق‌تر و مداوم‌تر اجرا کنند.