ممکن است وزارت کشور بریتانیا در مورد استفاده از ابزارهای OpenAI مورد تحقیق قرار گیرد

سارا الشریف، یکی از فعالان کمپین انتخاباتی به WIRED می‌گوید، بازرس ارشد مستقل مرزها و مهاجرت (ICIBI)، که بر مدیریت مرزها، مهاجرت و گمرک وزارت کشور نظارت می‌کند، از گروه حقوق دیجیتال غیرانتفاعی Open Rights Group (ORG) خواسته است تا اطلاعات بیشتری را در مورد ابزارها به اشتراک بگذارد.

یافته‌های ORG از یک تحقیق شش ماهه در مورد این ابزارها به دست می‌آید که شامل 11 سؤال پارلمانی، دو نامه وزیران و 10 درخواست سوابق عمومی است که تلاش می‌کند جزئیات را از وزارت کشور که جزئیات مربوط به ابزارها را پنهان کرده است، کشف کند. ICIBI به WIRED می‌گوید که نمی‌تواند پیش از انتشار اولویت‌های بازرسی سالانه خود، تأیید کند که چه موضوعاتی در حال بررسی فعال هستند، اما می‌گوید از نگرانی‌ها در مورد استفاده از ابزارهای هوش مصنوعی آگاه است و به یافته‌های سال گذشته خود اشاره کرد که یکی از «اثربخشی و قابلیت اطمینان» ابزار متفاوت بود. تصمیمات پناهندگی توسط افراد آموزش دیده گرفته می شود

کارکنان موردی، با ابزارهای هوش مصنوعی که فقط برای کمک به سوابق مصاحبه و اطلاعات خط‌مشی استفاده می‌شوند. سخنگوی وزارت کشور در ایمیلی به WIRED می‌گوید: «ما به طور منظم عملکرد این ابزارها را در کنار فرآیندهای تضمین کیفیت تثبیت‌شده خود نظارت می‌کنیم و قبلا متعهد شده‌ایم که ارزیابی‌های به‌روزرسانی شده را در عرضه آن‌ها منتشر کنیم.» وزارت خانه از ابزارهای خلاصه‌سازی پرونده پناهندگی (ACS) و جستجوی خط‌مشی پناهندگی (APS) که بر اساس مدل زبان بزرگ GPT-4 2023 OpenAI و مایکروسافت فاندری ساخته شده‌اند، برای خلاصه‌سازی استفاده می‌کند.

اسکریپت مصاحبه با متقاضیان پناهندگی و اطلاعات در مورد کشورهای مبدا آنها، بر اساس اسناد به دست آمده توسط ORG. اداره مهاجرت و اجرای قانون آزمایشی این ابزارها را در اواخر سال 2024 آغاز کرد، زیرا دولت کارگر تلاش کرد تا حدود 100000 پرونده پناهندگی را پاک کند، در حالی که در بالای ده ها هزار درخواست جدید که بریتانیا هر سال دریافت می کند، باقی می ماند.

در حالی که این بخش پیشرفت قابل توجهی داشته است و تعداد افرادی که منتظر تصمیم اولیه هستند در سال منتهی به ژوئن به نصف کاهش یافته است، تعداد درخواست های تجدیدنظر علیه تصمیمات افزایش یافته است. محققان در مورد دقت ابزارهای هوش مصنوعی نگران هستند – به ویژه برای تصمیم گیری در مورد چیزی که ریسک بالایی دارد مانند اینکه آیا کسی را به کشوری بازگردانند که از آزار و شکنجه می ترسند یا خیر.

ORG دریافت که درصد خلاصه‌های تولید شده توسط ACS که برای استفاده مناسب تشخیص داده نمی‌شوند - اغلب به دلیل اینکه حاوی اشتباهات واقعی یا ارائه نادرست هستند - به طور قابل توجهی بالاتر از نرخ خطای منتشر شده 9 درصدی است که در ارزیابی آزمایشی محاسبه شده است. همچنین مشخص شد که هیچ کنترل کیفی برای خلاصه های تولید شده توسط APS وجود ندارد. تصمیم گیرندگان پناهندگی از ابزارهایی برای صرفه جویی در وقت هنگام بررسی پرونده های پناهندگی استفاده می کنند. طبق برآوردهای دولتی، خلبان نشان داد که وقتی با هم استفاده می‌شوند، ابزارها می‌توانند حدود یک ساعت در هر مورد صرفه‌جویی کنند.

کارمندان پرونده از ACS برای سرعت بخشیدن به بررسی متن مصاحبه ها استفاده می کنند که در آن پناهجویان توضیح می دهند که چگونه در کشورشان مورد آزار و اذیت قرار گرفته اند و چرا از بازگشت می ترسند. آنها از APS به عنوان دستیار جستجو برای یافتن و خلاصه کردن اطلاعات خط مشی کشور استفاده می کنند، که به آنها اطلاع می دهد که آیا متقاضی با خطر واقعی آسیب در کشور خود مواجه است یا خیر.

در ماه ژوئیه، یک قاضی بریتانیا، وزارت کشور را متهم کرد که به یک سند "توهم هوش مصنوعی" برای امتناع از درخواست پناهندگی یک زن مراکشی و فرزندش به این دلیل که کشور زادگاهش برای بازگشت او به کشور امن است، استناد کرده است. بل ریبیرو-آدی، نماینده حزب کارگر از حزب کارگر به WIRED می گوید: "ما با زندگی مردم سروکار داریم. ما در مورد افرادی صحبت می کنیم که با برخی از بدترین شرایط مواجه شده اند و قرار است بر اساس واقعیت ها و درک آسیب تصمیم گیری کنیم."

"فقط فکر نمی کنم مناسب باشد که ماشین ها این کار را انجام دهند." یکی از سخنگویان وزارت کشور می گوید: «استفاده از هوش مصنوعی تنها یکی از ابزارهایی است که در اختیار ما برای محافظت از مرزهایمان است و نقش تصمیم گیرندگان انسانی را جایگزین یا خودکار نمی کند». Ribeiro-Addy، Alsherif، و پروژه حقوق عمومی، که به طور جداگانه این ابزارها را بررسی کرده است، همچنین نگران هستند که «سوگیری فرهنگی» مستند در مدل‌های GPT می‌تواند به موانع زبانی و از بین رفتن تفاوت‌های فرهنگی در خلاصه‌ها منجر شود، که به نوبه خود می‌تواند منجر به تصمیم‌های تبعیض آمیز شود.

یکی از سخنگویان OpenAI به WIRED بر کار مداوم شرکت برای بهبود دقت مدل‌هایش تاکید کرد و اشاره کرد که این شرکت GPT-4 را در ژانویه بازنشسته خواهد کرد. در غیاب مقررات، «کتاب راهنمای هوش مصنوعی» بریتانیا الزام می‌کند که بخش‌ها باید در مورد ابزارهای الگوریتمی که در فرآیندهای تصمیم‌گیری استفاده می‌کنند شفاف باشند و اطلاعات مربوط به آنها را در دسترس عموم قرار دهند، از جمله فهرست کردن آن ابزارها در یک مخزن عمومی.

خلاصه کردن پرونده و ابزار جستجوی خط مشی وزارت کشور در آن لیست نیست. همچنین به پناهجویان اطلاع داده نمی شود که از این ابزارهای هوش مصنوعی در مورد آنها چه زمانی استفاده می شود. الشریف که برنامه عدالت دیجیتال مهاجران ORG را رهبری می‌کند، می‌گوید: «سازمان‌های مهاجر، متخصصان حقوقی، و بسیاری از آنها از استفاده واقعی از این ابزار اطلاع ندارند.

بنابراین ما باید به آنها اطلاع دهیم که چگونه کار می کند، تا بتوانند آن را به چالش بکشند. وکلای Cloisters در یک نظر حقوقی مستقل به سفارش ORG نوشتند که ناتوانی در اعتراض به یک خلاصه هوش مصنوعی نادرست از اطلاعات شخصی خود ممکن است قوانین حقوق داده های بریتانیا را نقض کند. وزارت کشور می‌گوید که بخش‌هایی از فرآیند تصمیم‌گیری ممکن است شامل خودکارسازی در اطلاعیه حریم خصوصی باشد. هر دو گروه یافته‌های خود را برای تنظیم‌کننده داده‌های بریتانیا، کمیسیون اطلاعات ارسال کرده‌اند، که در حال حاضر در حال بررسی امتناع وزارت کشور از گفتن این موضوع به ORG است که کارکنان چگونه از آنها استفاده می‌کنند و برای استفاده از دو AI آموزش دیده‌اند.

ools کارولین سلمان، پژوهشگر ارشد پروژه حقوق عمومی نیز خاطرنشان می کند که ابزارهای ACS و APS تنها دو مورد از 11 سیستم هوش مصنوعی پرخطری هستند که تیم او دریافته است که در سراسر دولت استفاده می شود اما در مخزن عمومی وجود ندارد. او نگران است که ممکن است تعداد بیشتری در سراسر دولت مستقر شود که حتی محققان، چه رسد به افرادی که از آنها استفاده می شود، از آنها بی خبر باشند. سلمان می‌گوید: «ابزارهای دیگر استفاده می‌شوند، اما اصلا در معرض عموم قرار نمی‌گیرند، و شما حتی نمی‌توانید درباره چیزهایی سؤال بپرسید، اگر ندانید که از آنها استفاده می‌شود.»