آزمایش تشخیص چهره توسط پلیس در استرالیا نتایج قوی به همراه داشت. اما آیا این یک موفقیت اخلاقی بود؟

ویرایش شده توسط لیزا لاک، بررسی توسط اندرو زینین

این مقاله با توجه به روند و سیاست‌های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:

نتایج اولین آزمایش زنده تشخیص چهره استرالیا منتشر شد. از ژوئن 2026، نیروی پلیس استرالیای غربی در حال آزمایش این فناوری در کلانشهرها و مناطق WA بوده است.

در طول محاکمه، بیش از 900000 چهره اسکن شدند و 209 هشدار (اعلان هایی مبنی بر مطابقت چهره اسکن شده با فردی از فهرست نظارت پلیس) و 79 دستگیری ایجاد شد.

این فناوری 114 مجرم جنسی ثبت شده را شناسایی و درگیر کرد. با این حال، هشت هشدار نادرست وجود داشت.

در نگاه اول، به نظر می رسد این نتایج یک داستان موفقیت آمیز را نشان می دهد. از آنجایی که سایر حوزه های قضایی در سراسر کشور به اجرای این فناوری فکر می کنند، آزمایش WA احتمالا با علاقه قابل توجهی نگریسته می شود. ممکن است به زودی فراخوان هایی برای استفاده گسترده تر دنبال شود.

با این حال، سوال اصلی این نیست که آیا فناوری تشخیص چهره زنده می تواند افراد مورد علاقه را شناسایی کند یا خیر. سوال مهمتر این است که اگر شکست بخورد چه اتفاقی می افتد و چه کسی این بار را به دوش می کشد.

با فراگیرتر شدن فناوری تشخیص چهره زنده، این سوال اهمیت فزاینده ای پیدا می کند.

در طول محاکمه، پلیس WA دوربین‌های تشخیص چهره زنده را در ملاء عام، از جمله در رویدادهای مهم جمعیت، مستقر کرد و تصاویر چهره‌ها را با فهرست نظارت پلیس مقایسه کرد. اگر فناوری مسابقه ای را با یک فرد مورد علاقه در لیست ثبت کند، سیستم هشداری را برای افسران مجاور ارسال می کند.

به نظر می رسد نتایج منتشر شده در این هفته به عنوان مدرکی برای موفقیت آمیز بودن کارآزمایی با تعداد قابل توجهی از افراد مورد علاقه، 79 دستگیری و خطاهای نسبتا کمی ارائه شده است.

با این حال، اعداد و ارقام به ما نمی گویند که آیا این آزمایش یک موفقیت اخلاقی بوده است یا خیر.

قبل و در طول محاکمه، چندین مفسر نگرانی‌های اخلاقی در مورد استفاده از فناوری تشخیص چهره زنده را مطرح کردند.

یک مسئله حریم خصوصی است. این فناوری با اسکن تعداد زیادی از افراد در فضاهای عمومی کار می کند. اکثر افراد اسکن شده در لیست های نظارت پلیس نیستند. پلیس WA گفت که تصاویر افرادی که در فهرست تماشا نیستند در زمان واقعی پیکسل شده و ذخیره نشده اند.

با این حال، محققان حفظ حریم خصوصی استدلال می‌کنند که نظارت بر صورت مشکلات رضایت جدی ایجاد می‌کند، زیرا افراد بدون انتخاب یا کنترل معنی‌دار در معرض آن هستند.

هیچ فناوری تشخیص چهره کامل نیست. هنگامی که اعداد بزرگ اسکن می شوند، حتی درصد کمی از خطاها می تواند روی بسیاری از افراد تأثیر بگذارد. در حالی که آزمایش تنها هشت خطا را ثبت کرد، کارشناسان هشدار داده اند که این فناوری ممکن است در گروه های جمعیتی خاص عملکرد متفاوتی داشته باشد.

همچنین نگرانی‌هایی در مورد اینکه اگر خطاها به طور مساوی در بین جمعیت توزیع نشود، در مورد اینکه چگونه این فناوری ممکن است بر افراد ملل و گروه‌های به حاشیه رانده شده تأثیر بگذارد، مطرح شده است. اگر برخی از گروه ها بیشتر از سایرین به اشتباه شناسایی شوند، ممکن است به نابرابری های اجتماعی کمک کند.

در واقع، در بحث درباره نتایج، کمیسر پلیس WA، سرهنگ بلانچ اظهار داشت که هشت هشدار نادرست به عواملی از جمله پوست تیره تر، شرایط روشنایی و کیفیت تصویر مرجع نسبت داده شده است.

نکته مهم این است که نتایج همچنین به ما نمی‌گویند چه کسی از قلم افتاده است، که گاهی اوقات به عنوان منفی کاذب از آن یاد می‌شود. آنها عملکردی را در میان گروه های جمعیتی ارائه نمی کنند.

نگرانی سوم شفافیت است. نتایج به ما اطلاعات نسبتا کمی در مورد خود فهرست نظارت می‌دهد: چه کسی شامل چه کسانی می‌شود، چگونه آن تصمیم‌ها گرفته می‌شوند، چه تدابیری در برابر سوگیری استفاده می‌شوند یا چه رویه‌هایی در هنگام بروز خطا در نظر گرفته می‌شوند.

نتایج کارآزمایی اطلاعاتی در مورد دستگیری ها، هشدارها و شناسایی های نادرست ارائه می دهد. با این حال، آن‌ها در مورد اینکه آیا گروه‌های خاص به طور نامتناسبی تحت تأثیر قرار گرفته‌اند، آیا تصمیم‌گیری‌ها در مورد افرادی که در فهرست نظارت قرار می‌گیرند منصفانه بوده یا اینکه آیا هرگونه سوگیری احتمالی تأیید شده و اصلاح شده است، بسیار کمتر به ما می‌گویند.

این سؤالات هنگام بررسی اخلاقی نتایج مهم هستند.

فناوری تشخیص چهره زنده اولین فناوری به کمک هوش مصنوعی نیست که در مجریان قانون استرالیا به کار گرفته شده است. دوربین‌های ایمنی جاده‌ای مبتنی بر هوش مصنوعی در سراسر کشور برای شناسایی رانندگانی که کمربند ایمنی نبسته‌اند و هنگام رانندگی از تلفن همراه استفاده می‌کنند، استفاده شده است.

پلیس دوربین‌ها را به‌عنوان فناوری‌های نجات‌بخش معرفی کرده و شواهدی ارائه کرده است که بسیار مؤثر بوده‌اند. در WA، مقامات کاهش قابل توجهی در موارد استفاده از تلفن همراه و موارد نقض کمربند ایمنی از زمان معرفی دوربین ها گزارش کردند.

با این حال، عرضه جنجال ایجاد کرد. صدها جریمه بعدا پس از اینکه رانندگان گزارش دادند که فرآیند جریمه‌های چالش‌انگیز دشوار، استرس‌زا و ترسناک بودند، لغو شد. پلیس WA بسیاری از جریمه های بعدی را کنار گذاشت.

در اینجا یک درس مهم وجود دارد. موفقیت اخلاقی تنها با نتایج کل سنجیده نمی شود. همچنین با نحوه رفتار مؤسسات با افرادی که هزینه اشتباهات را متحمل می شوند، اندازه گیری می شود. یک سیستم ممکن است تخلفات را کاهش دهد و امنیت عمومی را بهبود بخشد و در عین حال مسائل مهمی در مورد مسئولیت پذیری و انصاف را نیز مطرح کند.

در ارزیابی موفقیت این آزمایش، بسیاری از مردم بدون شک به تعداد بالای دستگیری ها و تعداد کم اشتباهات توجه می کنند و به این نتیجه می رسند که استقرار گسترده تر لازم است.

با این حال، سنجش موفقیت اخلاقی به تنهایی از روی اعداد دشوارتر است. یک سیستم پلیسی می‌تواند تعداد زیادی دستگیری و اشتباهات کمی داشته باشد و همچنان نگرانی‌های اخلاقی را در صورت عدم پاسخگویی یا شکست مکانیسم‌های آن برای عدالت ایجاد کند.

موفقیت را نباید با تعداد دفعاتی که یک سیستم همه چیز را درست می کند سنجید، بلکه باید با توجه به اینکه چگونه افراد بی گناه در صورت اشتباه کردن چیزها محافظت می شوند سنجیده شود.

لیسانس تاریخ هنر، کارشناسی ارشد فرهنگ مادی. سردبیر سابق موزه، پیراپزشک و هماهنگ کننده پیوند. ویرایش برای Science X از سال 2021. نمایه کامل →

فوق لیسانس فیزیک با تجربه تحقیق. علاقه مندان به اخبار علمی طولانی مدت. نقش کلیدی در موفقیت سرمقاله Science X ایفا می کند. نمایه کامل →

این مقاله از The Conversation تحت مجوز Creative Commons بازنشر شده است. مقاله اصلی را بخوانید.