هوش مصنوعی پناهندگی وزارت کشور از هر پنج بررسی صحت یک مورد را انجام می دهد

آخرین تلاش وزارت کشور برای تسریع در تصمیم گیری های پناهندگی با هوش مصنوعی به یک مشکل ناخوشایند برخورد کرده است: یک گزارش جدید می گوید که بیش از یک مورد از هر پنج خلاصه مصاحبه بررسی شده توسط کارشناسان در تست های صحت شکست خورده است. یک تحقیق ۲۰ صفحه‌ای توسط گروه حقوق باز (ORG) ادعا می‌کند که این وزارتخانه با وجود نگرانی‌ها در مورد دقت، نظارت و افزایش بهره‌وری وعده داده شده، ابزارهای هوش مصنوعی را ادامه می‌دهد.

این یافته‌ها بر اساس درخواست‌های آزادی اطلاعات و مکاتبه با وزرا، مربوط به دو سیستم مورد استفاده کارمندان دفتر امور داخلی است: خلاصه پرونده پناهندگی (ACS) که مصاحبه‌های پناهندگی را خلاصه می‌کند و جستجوی سیاست پناهندگی (APS)، ابزاری به سبک چت که به مقامات کمک می‌کند اطلاعات سیاست کشور را جستجو کنند. هر دو از مدل OpenAI GPT-4o از طریق Azure AI Foundry مایکروسافت استفاده می کنند. دولت اصرار دارد که انسان‌ها در قبال تصمیم‌های پناهندگی مسئول باقی بمانند، اما ORG این سوال را مطرح می‌کند که چگونه کارکنان پرونده می‌توانند اشتباهات را در اطلاعات تولید شده توسط هوش مصنوعی تشخیص دهند.

ارقام به‌دست‌آمده توسط گروه کمپین نشان می‌دهد که 45 مورد از 203 خلاصه مصاحبه تولید شده توسط هوش مصنوعی پس از راه‌اندازی سیستم در آوریل 2026، در بررسی‌های کارشناسی اولیه شکست خوردند. این نرخ 22 درصدی شکست است، در مقایسه با نرخ رد 9 درصدی که در آزمایش اولیه ثبت شده بود. 19 خلاصه دیگر برای بررسی بیشتر پرچم گذاری شدند. این ارقام همچنین 56 بررسی مرحله دوم را به ثبت رسانده اند که 30 مورد از آنها نتوانسته استاندارد لازم را برآورده کند. این اشتباهات می تواند شامل عدم دقت واقعی و ارائه نادرست از آنچه پناهجویان در طول مصاحبه گفته اند باشد.

ORG همچنین دریافت که خلاصه‌ها می‌توانند بررسی‌ها را حتی اگر جزئیات مهم را حذف کرده باشند، تا زمانی که اطلاعاتی که شامل می‌شوند دقیق باشد. با وجود آن نتایج، خلاصه های نسبتا کمی مورد بررسی قرار گرفته است. ORG تخمین می زند که کارشناسان وزارت کشور تنها 0.3 درصد را بین آوریل و ژوئیه بر اساس حجم پرونده ماهانه پیش بینی شده 17515 مورد بررسی کردند. ORG همچنین این سوال را مطرح کرد که آیا ابزارها در زمان زیادی صرفه جویی می کنند.

این گزارش می‌گوید که میانگین ماهانه تصمیم‌های اساسی اولیه پناهندگی از آوریل 2026 در مقایسه با مدت مشابه در سال 2025 حدود 42 درصد کاهش یافته است، در حالی که میانگین زمان مصاحبه تا تصمیم 29 درصد افزایش یافته است. در حالی که این ارقام ثابت نمی کنند که هوش مصنوعی باعث کاهش سرعت شده است، اما شواهد کمی از دستاوردهای بهره وری که وزیران وعده داده اند ارائه می دهند. نظارت بر ابزار جداگانه جستجوی سیاست پناهندگی نیز به نظر نمی رسد. وزارت کشور در ماه اوت تایید کرد که آزمایشات کارشناسی متوقف شده است، علیرغم اینکه قبلا به نمایندگان مجلس گفته بود که بررسی ها ادامه دارد.

ORG می گوید که هیچ خلاصه ای از نتایج آزمایش تولید نشده است. در همین حال، به متقاضیان پناهندگی به طور مشخص گفته نمی شود که چه زمانی از هوش مصنوعی در پرونده های آنها استفاده شده است و نمی توانند خلاصه های تولید شده از مصاحبه های خود را بررسی یا تصحیح کنند. ORG همچنین ادعاهای وزارت کشور در مورد نظارت انسانی را زیر سوال می برد. ارزیابی حفاظت از داده‌های خود وزارتخانه می‌گوید که ACS کارهایی را که قبلا توسط متخصصان فنی انجام می‌شد، خودکار می‌کند، که پرونده‌های پناهندگی را قبل از ارسال به تصمیم‌گیرندگان بررسی و خلاصه می‌کردند. ORG هشدار می دهد که این ابزار به جای صرفه جویی در وقت کارکنان، می تواند یک لایه باتجربه از بررسی را حذف کند.

این گروه خواستار تعلیق هر دو ابزار و ممیزی مستقل است و استدلال می‌کند که پادمان‌های کنونی برای تصمیم‌گیری‌هایی که تعیین می‌کنند کسی می‌تواند در بریتانیا بماند یا خیر، کافی نیست. این اولین بار نیست که طرح های فناوری وزارت کشور مورد انتقاد قرار می گیرد. در ماه ژوئن، بیش از 60 گروه حقوق بشری از وزیران خواستند که از برنامه های تخمین سنی کودکان پناهجو با هوش مصنوعی صرف نظر کنند و هشدار دادند که این فناوری در محدوده سنی حیاتی 16 تا 18 سال غیرقابل اعتماد است.

در اواخر همان ماه، یک بازرسی نشان داد که سیستم مهاجرتی اطلس این وزارتخانه که مدت‌ها با تأخیر مواجه شده بود، بازخورد درخواست‌های پناهندگی را به کارکنان پرونده ارائه نمی‌کرد و کارمندان را مجبور به تکیه بر راه‌حل‌ها کرد. وزارت کشور به سوالات The Register پاسخ نداد. ®