"لرزش از سر تا پا" - چگونه بازی سرزنش تشخیص چهره خریداران را سرگردان می کند

مری می‌توانست بگوید که شوهرش از لحظه‌ای که به اشتباه متهم به دزدی از مغازه شد و به او دستور دادند که Home Bargains را ترک کند، «پریشان» بود. این مصیبت باعث شد که او احساس "انزوا" کند. او گفت: «از رفتن به مغازه می ترسیدم. آنها فقط برای برداشتن مقداری ویتامین بیرون آمده بودند.

در جاهای دیگر، شوهر زنی پس از اینکه هفته قبل به دلیل دزدیدن «انبوه گوشت» به او گفته شد که باجنس را ترک کند، «از سر تا پا می‌لرزد». او گفت: "ذهن من در حال تپش بود." ماه ها بود که به آن مغازه نرفته بودند.

تشخیص چهره یک فناوری ذاتا شخصی و صمیمی است. ویژگی‌های شما را اسکن می‌کند، داده‌های بیومتریک شما را پردازش می‌کند و بسته به نتایج آن، می‌تواند مانع ورود شما به یک فضای خاص شود.

همه اینها ممکن است در یک لحظه اتفاق بیفتند، اما تأثیر آن بسیار گسترده است و می‌تواند به‌طور شگفت‌انگیزی طولانی‌مدت باشد - چیزی که به دلیل عدم شفافیت سرگیجه‌آور در مورد اینکه چه کسی مقصر است، بدتر می‌شود.

"چشیدن طعم بی تفاوتی"

در اوایل این هفته، در یک اتاق تنگ در مجلس عوام، افرادی که به اشتباه به دزدی از فروشگاه توسط فناوری تشخیص چهره متهم شده بودند، ملاقات کردند تا تجربیات خود را با دکتر آلیسون گاردنر، نماینده حزب کارگر در استوک-آن-ترنت جنوبی، گفتگو کنند.

این رویداد که توسط گروه آزادی‌های مدنی دیده بان برادر بزرگ حمایت می‌شود، به این منظور طراحی شده است که به مردم فرصتی بدهد تا شکایات خود را با سیاستمداران، رسانه‌ها و شرکت‌های درگیر مطرح کنند.

مهم‌تر از همه، شاید به همه این فرصت را داد که در مورد نحوه عملکرد سیستم، چه کسی مقصر هستند وقتی آنطور که در نظر گرفته شده کار نمی‌کند، و شروع به برنامه‌ریزی برای بهترین راه رفتن کنند.

Big Brother Watch از Facewatch، شرکت سازنده این فناوری دعوت کرد تا در آن شرکت کند. همچنین از نمایندگانی از Sainsbury’s دعوت کرد، شرکتی که در حال حاضر در حال معرفی سیستم تشخیص چهره به 200 فروشگاه خود است.

هیچ یک از این دو شرکت نماینده ای به این رویداد نفرستادند.

دکتر گاردنر با شنیدن جزئیات یک مورد خاص گفت که "سوالات زیادی داشت." آیا این یک اشکال الگوریتمی بود، یک کارگر مغازه یک اشتباه صادقانه انجام می داد یا چیز دیگری؟ متأسفانه کسی نبود که به جزئیات پاسخ دهد.

یکی در پشت اتاق گفت: «می‌توانی طعم بی‌تفاوتی را بچشی».

جاسلین چاگار، افسر ارشد حقوقی و سیاستی در Big Brother Watch، بعدا به TechRadar گفت: "Sainsbury از اسکن چهره مشتریان خود خوشحال است، اما با افرادی که فناوری به آنها آسیب رسانده است، روبرو نخواهد شد."

هر یک از شهادت‌های افرادی که به اشتباه توسط این فناوری پرچم‌گذاری شده‌اند، شباهت‌های چشمگیری دارند. یک فعالیت معمولی ناگهان به یک مصیبت گیج کننده و عمومی تبدیل شد که باید از خود در برابر ادعاهایی که بلافاصله متوجه نمی شدند دفاع کنند. مردم گفتند که احساس «گیج»، «انزوا» و «گیج» می کنند.

با این حال، در حالی که تأثیر عاطفی ثابت بود، ویژگی‌های هر مورد اغلب نبود.

برخی از مردم در لحظه عبور از درب مغازه متوقف شدند. دیگران با یک سبد پر در زمین زراعت مواجه شدند. خطاها به همان اندازه غیر قابل پیش بینی بودند. یک نفر قربانی هویت اشتباه شده بود، در حالی که دیگری چهره خود را بر روی صفحه نمایش بالای سر مشاهده کرد. یک زن به اشتباه رهگیری شد زیرا سیستم افرادی را که مستقیما پشت سر او وارد می شدند شناسایی کرده بود.

صحبت از الگوریتم‌ها، سوگیری و داده‌های آموزشی با پیکربندی ضعیف، مکانیسم‌های جبران خسارت و چت‌های غیرقابل ضبط در مورد اینکه چگونه برخی موفق به جمع‌آوری اطلاعات بیشتر شدند، وجود داشت.

احساس فراگیر احساس خستگی بوروکراتیک بود. خریداران مسیر مشخصی برای پاک کردن نام خود نداشتند. یک نفر گفت: «نمی دانستم به چه کسی مراجعه کنم.

(اعتبار تصویر: آینده) جدید: هیچ ردی باقی نگذارید - یک خبرنامه هفتگی در مورد حریم خصوصی دیجیتال و نظارت آنلاین.

Leave No Trace درباره شرکت‌ها و دولت‌هایی که آزادی دیجیتالی ما را به خطر می‌اندازند - و مردمی که در حال مبارزه هستند، تحقیق می‌کند.

📩 هم اکنون مشترک شوید تا هر جمعه هر نسخه را به صندوق ورودی خود تحویل بگیرید.

دفاع شرکتی

TechRadar با تمام شرکت های ذکر شده در این مقاله تماس گرفت. گروه بوکر که مالک برند Budgens است، از اظهار نظر در مورد رکورد خودداری کرد. Sainsbury’s و Home Bargains هم پاسخی ندادند.

Facewatch گفت که دعوتنامه را «مورد توجه جدی» قرار داده است، اما با توجه به لحن پیام‌رسانی مبارزات انتخاباتی دیده‌بان برادر بزرگ تا به امروز، به نگرانی‌ها در مورد تعادل این رویداد اشاره کرد. این شرکت گفت که توضیحاتی را به برگزارکنندگان و رئیس مشترک پارلمان ارائه کرده و پیشنهاد داده است که پس از جلسه به سوالات پاسخ دهند.

وقتی از Facewatch پرسیده شد که چه کسی در هنگام خطای سیستم مسئول است، Facewatch گفت: «مسئولیت فناوری و فرآیندهای خود را بر عهده می‌گیرد و خرده‌فروشان مسئول نحوه تعامل کارکنانشان با مشتریان هستند» اگرچه گفت که مسئولیت قانونی «به واقعیت‌ها بستگی دارد و نمی‌توان آن را با ارائه پاسخی کامل مشخص کرد».

این شرکت همچنین گفت که هنگامی که یک هشدار نادرست رخ می دهد، "فرایند حفاظتی را با خرده فروش آغاز می کند تا دقیقا آنچه اتفاق افتاده است" را مشخص کند.

Facewatch افزود: "ما پیام‌های کمپینی را که از این حوادث برای ایجاد تصور نامتناسب از خطر برای خریداران عادی استفاده می‌کند، به چالش می‌کشیم. Facewatch هر روز با احتیاط و با موفقیت در هزاران فروشگاه در سراسر بریتانیا فعالیت می‌کند. ارائه حوادث استثنایی به عنوان نماینده آن عملیات روزمره گمراه‌کننده است و خطر ایجاد ترس غیرضروری را به همراه دارد."

"نمک در زخم"

چاگار از دیده بان برادر بزرگ گفت، فقدان وضوحی که به دنبال آن زمانی که شخصی به اشتباه توسط سیستم تشخیص چهره علامت گذاری می شود، «نمکی بر زخم تحقیر شدن در ملاء عام است».

هنگامی که TechRadar در اوایل این ماه از Sainsbury در جنوب لندن بازدید کرد، متوجه شدیم که هیچ راه قابل قبولی برای انصراف از سیستم تشخیص چهره وجود ندارد و امنیت اطلاعات کمی در مورد نحوه عملکرد سیستم دارد. تابلوهایی با کدهای QR در ورودی مغازه‌ها وجود دارد، اگرچه شرکت‌کنندگان گفتند که پس از اختلاف، اطلاعات کافی در آنها وجود ندارد.

(اعتبار تصویر: آینده) Big Brother Watch برای افراد آسیب‌دیده مهلت می‌دهد و به افراد کمک می‌کند تا درخواست‌های دسترسی موضوع (SAR) را بررسی کنند - یک مکانیسم قانونی تحت قانون حفاظت از داده‌های بریتانیا که برای وادار کردن شرکت‌ها به افشای اطلاعاتی که در اختیار دارند استفاده می‌شود. اما این روند کند است، از قربانیان می‌خواهد حتی داده‌های شخصی بیشتری را تسلیم کنند، و هیچ تضمینی برای حذف یک چهره از فهرست‌های نظارتی ارائه نمی‌دهد.

چاگار به TechRadar گفت: «این کابوس‌های کافکیایی است که در پیچ و خم بوروکراسی گیر افتاده‌اند و مجبور می‌شوند اطلاعات شخصی بیشتری را فقط برای گفتن اتهام به او تحویل دهند.

تنظیم‌کننده حریم خصوصی داده‌های بریتانیا، دفتر کمیساریای اطلاعات (ICO)، شدت شهادت‌ها را تأیید کرد و این تجربیات را "ناراحت کننده" خواند. گفت که امیدوار است به زودی بینش ملموس تری در مورد استفاده تجاری از این فناوری به اشتراک بگذارد.

اما در حال حاضر، سردرگمی همچنان پابرجاست و سرزنش زمانی که اشتباه پیش می‌رود هنوز نامشخص است.

پس از این رویداد، دکتر گاردنر به TechRadar گفت که او "بسیار نگران اجرای ضعیف و عدم حاکمیت" پیرامون این فناوری است و موضوع را با وزرا و تماس مستقیم با شرکت ها در میان خواهد گذاشت.

او افزود که "مایل است بداند که چه جبرانی به افراد متهم به اشتباه متناسب با ناراحتی ایجاد شده انجام می شود. چه کسی پاسخگو است و می تواند مسئول شناخته شود."

تا زمانی که به این سؤالات پاسخ داده نشود، فقدان وضوح فقط به عنوان یک خلأ نظارتی عمل نمی کند. این خطر ایجاد یک اثر سرد کننده برای عموم مردم است. اگر یک نفر هفته‌ها بعد از رفتن به مغازه می‌ترسید، شاید شما هم ترسیدید.

نام ها برای محافظت از حریم خصوصی افراد آسیب دیده تغییر کرده است.