ابزار جدید سخنان مشوق نفرت آنلاین را نقشه برداری و تجزیه و تحلیل می کند

توسط مادز وانگ-سوندسن، دانشگاه علم و صنعت نروژ

ویرایش شده توسط Swati Mestri، بررسی توسط اندرو زینین

این مقاله با توجه به روند و سیاست‌های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:

تعداد جرایم نفرت گزارش شده (جرایم ناشی از نفرت به خشونت، تهدید یا سخنان مشوق نفرت انگیز با انگیزه رنگ پوست، قومیت، مذهب، هویت جنسیتی یا خصوصیات مشابه اشاره دارد) از سال 2012 بیش از 5 برابر شده است. تقریبا 40 درصد از آنها شامل سخنان مشوق تنفر است.

انگیزه سخنان نفرت انگیز اغلب رنگ پوست یا قومیت و به دنبال آن گرایش جنسی است. در همین حال، سرویس امنیتی پلیس نروژ (PST) گزارش می دهد که سیاستمداران و مفسران عمومی نیز به عنوان یک گروه به طور فزاینده ای در معرض تهدید و آزار و اذیت قرار می گیرند.

این امر اخیرا آشکار شده است: اوایل امسال، Gaute Skjervø - که از آن زمان به عنوان رهبر AUF (لیگ جوانان کارگران) کنار رفته است - فاش کرد که اکنون باید زنگ امنیتی شخصی را به دنبال سوء استفاده طولانی مدت و تهدیدهای مکرر به همراه داشته باشد. اخیرا، ماریان حسین، معاون رهبر SV (حزب چپ سوسیالیست) با ذکر دلایل مشابه (پیوند به داستان به زبان نروژی) اعلام کرد که به دنبال انتخاب مجدد در سمت خود نخواهد بود.

احتشام هاشمی، کاندیدای دکترا در NTNU در Gjøvik، استدلال می‌کند که افزایش اخیر سخنان نفرت‌انگیز باید در چارچوب تکامل سریع رسانه‌های اجتماعی و دیگر پلت‌فرم‌های دیجیتال مورد بررسی قرار گیرد.

او می‌گوید: «مقیاس و سرعت ارتباطات دیجیتالی معاصر به این معناست که سخنان نفرت‌انگیز می‌تواند سریع‌تر گسترش یابد و به افراد بیشتری نسبت به گذشته برسد.

در نتیجه، روش‌های سنتی برای شناسایی و مهار چنین رفتاری دیگر کافی نیستند.

او با استاد NTNU Sule Yildirim Yayilgan، Vestlandsforskning (موسسه تحقیقاتی نروژ غربی)، پلیس و شهرداری های مختلف نروژ برای توسعه ابزاری که برای مبارزه با این مشکل طراحی شده است، همکاری کرده است.

اگرچه سخنان مشوق تنفر می تواند طبق بخش 185 قانون جزایی نروژ یک جرم کیفری باشد، اما محققان تاکید می کنند که این ابزار لزوما به عنوان وسیله ای برای ردیابی و تعقیب افراد خاص در نظر گرفته نشده است.

یایلگان می گوید: "همچنین می تواند به عنوان ابزاری برای شناسایی محیط هایی باشد که بیشتر به مداخلات هدفمند نیاز دارند. به این ترتیب، می تواند به پلیس و شهرداری ها کمک کند تا منابع خود را به سمت اقدامات پیشگیرانه و افزایش آگاهی در جایی که واقعا موثر هستند هدایت کنند."

این ابزار دارای عملکردی است که نمونه های فردی سخنان مشوق عداوت و تنفر را به هم مرتبط می کند. نتیجه یک شبکه تجسم شده از جملات است که نشان می دهد چگونه آنها یا یکدیگر را به وجود آورده اند یا از یکدیگر الهام گرفته اند.

هاشمی می‌گوید: «این بدان معناست که ما می‌توانیم ببینیم سخنان نفرت‌انگیز از کجا سرچشمه می‌گیرد، چگونه توسط دیگران برداشت می‌شود و چگونه گفتگوهایی که جرقه می‌زند در طول زمان تکامل می‌یابند.

محققان در آخرین مقاله تحقیقاتی خود که در Machine Learning and Knowledge Extraction منتشر شده است، بر اهمیت تشخیص روند جرایم ناشی از نفرت در مراحل اولیه تاکید می کنند. آنها به آداما دینگ - مشاور ویژه سازمان ملل در پیشگیری از نسل کشی - اشاره می کنند که طبق گزارش ها هشدار داده است که "قتل عام های بزرگ همیشه با اقدامات کوچک و زبان شروع می شود."

سال‌ها تحقیق و تنظیم دقیق طول کشیده است تا ابزاری برای شناسایی سخنان مشوق عداوت و تنفر با سطح دقت فعلی‌اش فعال شود.

این تا حدی به این دلیل است که سخنان نفرت‌انگیز یک پدیده پیچیده است. هاشمی می‌گوید: «آنچه از منظر حقوقی به عنوان سخنان نفرت‌انگیز تلقی می‌شود، از کشوری به کشور دیگر متفاوت است، و آنچه به عنوان نفرت‌انگیز تلقی می‌شود نیز از فردی به فرد دیگر متفاوت است.

محققان باید وجوه مشترکی را در میان تعاریف مختلف سخنان تنفرآمیز شناسایی می کردند. این منجر به تمرکز بر چهار ویژگی کلیدی شد.

به نظر می رسد که سخنان نفرت انگیز اغلب حول محور قومیت، هویت جنسیتی، مذهب یا گرایش جنسی می چرخد.

هاشمی می گوید: «این چهار مقوله هم در نروژ و هم در میثاق بین المللی حقوق مدنی و سیاسی سازمان ملل متحد هستند.

بنابراین این ابزار حتی فراتر از زمینه نروژی قابل اجرا و مرتبط است.

وقتی این ابزار نظراتی را تشخیص می‌دهد که در یک یا چند دسته از چهار دسته قرار می‌گیرند، محتوا را بر اساس سه سطح «سمی بودن» ارزیابی می‌کند - یعنی میزان توهین‌آمیز، نفرت‌انگیز یا پرخاشگرانه بالقوه آن.

هاشمی توضیح می دهد: "یک عبارت ممکن است چندین مورد از این پارامترها را به طور همزمان فعال کند. برعکس، اگر هیچ یک از آنها را فعال نکند، به عنوان خنثی طبقه بندی می شود."

توانایی این ابزار برای تشخیص پارامترها به الگوریتم های یادگیری ماشینی متکی است که در مجموع 14000 جمله نروژی و انگلیسی از پلتفرم هایی مانند فیس بوک، ردیت و توییتر آموزش داده شده اند.

دانشمندان علوم اجتماعی در Vestlandsforskning (موسسه تحقیقاتی نروژ غربی) در جمع آوری و طبقه بندی مجموعه داده ها کمک کردند.

با این حال، محققان به فناوری که صرفا سخنان نفرت انگیز را شناسایی و طبقه بندی می کند، بسنده نکردند. آنها همچنین می خواستند آن را به شیوه ای شفاف و قابل درک عمل کند.

هاشمی می‌گوید: «وقتی این ابزار یک بیانیه را به عنوان نفرت‌آمیز دسته‌بندی می‌کند، توضیح می‌دهد که از چه کلمات، عبارات و ارزیابی‌هایی برای رسیدن به آن تصمیم استفاده کرده است. این مهم است تا همه بتوانند بفهمند چه چیزی در این بیانیه مشکل‌دار است و اعتماد به فناوری حفظ شود».

محققان در حال حاضر در حال کار بر روی فعال کردن این ابزار برای تشخیص سخنان نفرت انگیز در زمان واقعی هستند.

Yayilgan می گوید: "از هم اکنون، عباراتی که باید ارزیابی شوند باید به صورت دستی به ابزار وارد شوند. در آینده، این ابزار به گونه ای پیکربندی خواهد شد که به طور مداوم داده ها را از پلتفرم های دیجیتال بازیابی کند."

فراتر از خودکار شدن، ابزار در وضعیت توسعه مستمر خواهد بود.

Yayilgan می گوید: "طراحی این ابزار به آن اجازه می دهد تا هرچه بیشتر از آن استفاده می شود بهبود یابد. هر چه داده های بیشتری در معرض آن قرار گیرد، فرصت های بیشتری برای تنظیم دقیق و افزایش دقت آن دارد."

از این نظر، ابزار هنوز به پتانسیل کامل خود نرسیده است.

با این حال، محققان تاکید می کنند که انسان ها باید همیشه در توسعه مداوم این ابزار مشارکت داشته باشند.

هاشمی می گوید: "سیستم قادر خواهد بود به طور مداوم ورودی دریافت کند و بر اساس بازخورد انسانی بهبود یابد. این کمک می کند تا اطمینان حاصل شود که در طول زمان قابل اعتماد و از نظر اخلاقی سالم باقی می ماند."

احتشام هاشمی و همکاران، تشخیص گفتار نفرت انگلیسی-نروژی اگاهی اخلاقی و اجتماعی: چارچوب طراحی سیستماتیک، یادگیری ماشین و استخراج دانش (2026). DOI: 10.3390/make8090292

ارائه شده توسط دانشگاه علم و صنعت نروژ

سواتی مستری دارای مدرک لیسانس در مهندسی الکترونیک است و از سال 2019 به عنوان ویرایشگر محتوا کار کرده است. او ویرایش اسناد تحقیقاتی در زمینه فناوری، مراقبت های بهداشتی و علم مواد را تجربه کرده است و علاقه خاصی به فناوری و فضا دارد. نمایه کامل →

فوق لیسانس فیزیک با تجربه تحقیق. علاقه مندان به اخبار علمی طولانی مدت. نقش کلیدی در موفقیت سرمقاله Science X ایفا می کند. نمایه کامل →