آیا "جنگ هوش مصنوعی" جستجوی شغل شما را پیچیده می کند؟

نگرانی هایی در مورد افزایش استفاده از هوش مصنوعی در استخدام وجود دارد

من تعداد افرادی را که به من گفته اند برای صدها شغل درخواست داده اند گم کرده ام، اما پس از رد شدن با رد شدن مواجه می شوم.

اغلب، آنها می گفتند که احساس می کند یک انسان حتی به برنامه های آنها نگاه نکرده است.

انواع مختلفی از ابزارهای استخدام وجود دارد. برخی از کاندیداها را با مشاغل مطابقت می دهند، برخی دیگر رزومه های خود را درجه بندی و بررسی می کنند. کارفرمایان از آنها برای صرفه جویی در زمان استفاده از برنامه ها استفاده می کنند، اما نگرانی های فزاینده ای وجود دارد که این ابزارها ممکن است جانبدارانه باشند.

من می خواهم بفهمم که ابزارهای استخدام هوش مصنوعی چقدر منصفانه برای کمک به تصمیم گیری در مورد آینده ما استفاده می شوند - و وقتی روی "اعمال" کلیک می کنیم چه اتفاقی می افتد.

شیراز گلشر می‌گوید «نگرانی‌های زیادی» در مورد هوش مصنوعی وجود دارد

یک سازمان غیرانتفاعی مستقر در لندن، People Like Us، در حال افزایش آگاهی از حق قانونی مردم برای به چالش کشیدن تصمیمات خودکار در صورت مخالفت با نتیجه است.

نظرسنجی انجام شده توسط Censuswide بین 2000 کارگر بریتانیایی که در 24 ماه گذشته حداقل برای یک شغل درخواست داده بودند، نشان داد که 75 درصد از حق خود برای به چالش کشیدن رد خودکار بی اطلاع بودند.

شیراز گلشر، مدیرعامل People Like Us، کمپینی به نام Reject the Rejections را رهبری می‌کند که از کارفرمایان می‌خواهد شفافیت و پاسخگویی را در استفاده از هوش مصنوعی و سیستم‌های استخدام خودکار بهبود بخشند.

او وضعیت کنونی را به عنوان یک "جنگ هوش مصنوعی" توصیف می کند که نامزدها "برای تقویت برنامه های خود به هوش مصنوعی متوسل می شوند" در حالی که "کارفرمایان با حجم عظیمی از برنامه ها سروکار دارند".

گلشر گفت: «ما نمی‌توانیم به طور قطعی بگوییم که هر شرکتی سیستم‌های خودکار یا هوش مصنوعی خود را بدون تعصب کار می‌کند. به همین دلیل است که ما از شرکت‌ها می‌خواهیم که این سیستم‌ها را حسابرسی کنند، نتایج را منتشر کنند و به طور مستقل ارزیابی کنند.

"در تحقیقات خود، راهنمایی‌هایی را از دفتر کمیسر اطلاعات یافتیم که بیان می‌کرد افرادی که تحت تصمیم‌های خودکار خاصی قرار دارند، حق درخواست بازبینی انسانی را دارند. ما سعی می کنیم این حق را به مردم یادآوری کنیم، زیرا بسیاری از آنها به سادگی از آن آگاه نیستند."

این تحقیق همچنین نشان داد که 70 درصد از جویندگان کار دارای تنوع قومیتی، اطلاعات مربوط به رزومه خود، از جمله کشور مبدا، مذهب یا نام خود را از ترس اینکه نرم افزار استخدام یا ابزارهای هوش مصنوعی درخواست های آنها را رد کند، تغییر داده یا پنهان کرده اند. این در مقایسه با 57 درصد از نامزدهای سفیدپوست است.

مشاور بازرگانی ویوی که در لویشم زندگی می‌کند، اوایل امسال از کار برکنار شد. او می گوید که برای مشاغل زیادی درخواست داده است که منصرف شده و شرکت خود را راه اندازی کرده است.

"یک مورد وجود دارد که برنامه ها در روز جمعه بسته شد و من در صبح روز شنبه پاسخی دریافت کردم که اساسا باید روی مهارت هایم کار کنم و شش ماه دیگر برگردم. اما آنقدر واضح بود که هیچ کس مهارت های من را ارزیابی نکرده بود."

اگر او می دانست که می تواند از یک انسان برای بررسی درخواستش بخواهد، ممکن بود کارها را به گونه ای دیگر انجام دهد.

من قطعا برمی‌گردم و از یک انسان می‌خواهم که درخواست من را ببیند و اگر "نه" باشد، خوب است، اما بازخورد به من به عنوان یک جوینده کار کمک می‌کند.

هما، 49 ساله، از ساری، یک متخصص منابع انسانی و استعداد است که در بخش های مختلف در سطح بین المللی کار کرده است.

او در ژوئن اخراج شد و از آن زمان تاکنون بیش از 100 درخواست شغلی و فرصت های استخدام را پیگیری کرده است.

بسیاری از آنها به طور خودکار طی 24 تا 36 ساعت رد شده اند."

وی افزود: من همیشه در 10 درخواست شغلی پیدا کرده ام، بنابراین نزدیک شدن به 100 کار کاملا دور از دنیا است.

در حالی که او در مورد درخواست بازنگری انسانی در صورتی که درخواست خود را به خطر بیندازد، «تردید» است، او معتقد است «یک استخدام‌کننده انسانی می‌تواند تصویر کامل‌تری را ببیند».

"اگر یک تیم استخدام داخلی دارید، آنها فرهنگ را می شناسند، می توانند نوع زبانی را که شما در رزومه کاری خود، در نامه پوششی خود، در صفحه نمایش تلفن استفاده می کنید، مشاهده کنند."

از 425 استخدام کننده CV Library که با آنها صحبت شده است، حدود 90 نفر گفتند که از هوش مصنوعی در مرحله غربالگری CV استفاده کرده اند.

الک استنول، مدیر بازاریابی، معتقد است که یک "شکاف درک" وجود دارد.

کاندیداها تقریبا عموما بر این باورند که کارفرمایان از هوش مصنوعی برای بررسی رزومه‌های خود، فیلتر کردن و غربال کردن آنها در حین انجام فرآیند استفاده می‌کنند و این اتفاق می‌افتد، اما به اندازه‌ای که کاندیداها فکر می‌کنند، نزدیک نیست.

"این شکاف درک یک مشکل است زیرا نامزدها اکنون در حال نوشتن رزومه و برنامه های کاربردی خود هستند، از دریچه "یک ربات هوش مصنوعی به جای یک انسان، این موضوع را بررسی می کند".

او اضافه می‌کند که این یک مشکل است زیرا استخدام‌کنندگان می‌بینند که همه رزومه‌ها یکسان به نظر می‌رسند، زیرا «همه آنها توسط هوش مصنوعی نوشته شده‌اند یا توسط هوش مصنوعی صیقل داده شده‌اند».

او می‌گوید که این یک «طوفان کامل» ایجاد می‌کند زیرا هوش مصنوعی احتمالا برای فیلتر کردن حجم زیادی از برنامه‌ها استفاده می‌شود.

ما در نهایت به رایانه هایی خواهیم رسید که رایانه ها را استخدام می کنند، اما در واقع در دنیای استخدام افراد هستیم.

در چهار سال منتهی به دسامبر 2022، محققان استنفورد چهار میلیون درخواست شغلی پردازش شده توسط یک ابزار استخدام هوش مصنوعی، خارجی را تجزیه و تحلیل کردند.

برخی از کاندیداها بیشتر از آنچه که اگر توسط هر کارفرما به طور مستقل ارزیابی می شد، از چند نقش رد می شدند.

تجزیه و تحلیل همچنین نشان داد که متقاضیان سیاه پوست و آسیایی برای مشاغل با نرخ های پایین تر توصیه می شوند.

اما شواهد محدود است. آنها فقط به یک ابزار استخدام هوش مصنوعی نگاه کردند و عوامل دیگری مانند تحصیلات و وضعیت مهاجرت نیز می توانستند نقش داشته باشند.

ابزار استخدام ارزیابی شده به درخواست های ما برای اظهار نظر پاسخ نداد.

افرادی که من با آنها مصاحبه کرده ام در مورد هیچ شرکت خاصی صحبت نمی کنند، اما نگرانی ها در مورد هوش مصنوعی مورد استفاده در استخدام نیز در دادگاه مطرح است.

یک شرکت، Workday، با ادعاهای حقوقی خارجی در ایالات متحده مواجه است که ادعا می کند ابزارهای آن علیه متقاضیان کار تبعیض قائل شده است.

این پرونده ادامه دارد، اما Workday این ادعاها را رد می‌کند و می‌گوید ابزارهای آن تصمیم‌گیری برای استخدام نمی‌کنند.

به‌طور کلی‌تر، می‌گوید ابزارهایش «به جای جایگزینی قضاوت انسان‌ها، پشتیبانی می‌کنند».

شرکت بارب هیمن نامزدها را در مصاحبه‌های چت مبتنی بر متن نمره می‌دهد

چیزی که این کار را سخت‌تر می‌کند این است که ابزارهای استخدام هوش مصنوعی به روش‌های مختلفی کار می‌کنند، به طوری که برخی از آنها در وهله اول حتی رزومه‌های خود را غربال نمی‌کنند.

من با یک شرکت صحبت کردم که داوطلبان را در مصاحبه های چت مبتنی بر متن نمره می دهد.

بارب هیمن، بنیانگذار هوش مصنوعی ساپیا، گفت: "ما از منظر جمعیت شناختی چیزی در مورد شما نمی دانیم و نمی دانیم که آیا برای نقش قبلی استخدام شده اید یا نه. بنابراین فکر می کنم شما واقعا باید به ماهیت هوش مصنوعی و نحوه ساخت آن نگاه کنید. همه هوش مصنوعی یکسان نیستند.

"حداقل در فضای سازمانی، هر شرکتی که با آنها صحبت می کنیم، از قانون هوش مصنوعی اتحادیه اروپا بسیار آگاه است، حتی اگر هنوز خود را مجبور به رعایت آن نمی دانند. و این مستلزم سطحی از پاسخگویی است."

وی افزود: "هیچ شرکتی با نظارت بر افراد خود فرهنگ عملکردی بالا را ایجاد نکرده است و شما نیز با نظارت بر کاندیداها، روند استخدام منصفانه ایجاد نمی کنید.

"با جلب اعتماد نامزدها شروع کنید: به آنها بگویید چه چیزی را اندازه گیری می کنید، چگونه امتیاز می گیرند و به آنها بازخورد بدهید. وقتی مردم به این فرآیند اعتماد کنند، تقلب کوچکتر می شود."

الک سامویز می‌گوید که شرکت او در برنامه‌های کاربردی که «همه یکسان به نظر می‌رسند» «افزایش زیادی» داشته است.

Alec Samways، مدیر عامل Splendid Communications مستقر در لندن، می‌گوید که آنها معمولا 3 تا 400 درخواست برای سه مکان در برنامه کارآموزی سالانه خود دریافت می‌کنند، اما سال گذشته تعداد آنها سه برابر شد.

"ما شاهد افزایش شدید برنامه ها بودیم، اما به طرز عجیبی، همه آنها شبیه به هم هستند. گمان ما این بود که نامزدها به طور ناگهانی از هوش مصنوعی برای ساختن خود برنامه ها استفاده می کردند."

Samways از دو ابزار مختلف هوش مصنوعی برای کمک به شرکت در درک میزان تولید محتوا توسط هوش مصنوعی استفاده کرد، اما آنها «پاسخ‌های مختلفی را تولید کردند».

«ما متوجه شدیم که نمی‌توانیم به آنها اعتماد کنیم و در نهایت مجبور شدیم به معنای واقعی کلمه آن برنامه‌ها را به روشی انسانی بررسی کنیم.

واضح است که در این مرحله ما آماده نیستیم به هوش مصنوعی برای این نوع تصمیم گیری اعتماد کنیم.

سخنگوی ICO گفت هوش مصنوعی و اتوماسیون می تواند "سریعتر و کارآمدتر استخدام شود" اما "نباید به ضرر حقوق مردم باشد".

آنها گفتند: "کارفرمایان باید در مورد زمان استفاده از تصمیم گیری خودکار، نحوه کارکرد آن و اینکه چگونه می تواند بر برنامه شخصی افراد تأثیر بگذارد، آگاه باشند.

تعصب می تواند در مراحل مختلف ساخت و استفاده از محصولات هوش مصنوعی ظاهر شود و ما از همه سازمان ها انتظار داریم که برای شناسایی و کاهش آن اقداماتی انجام دهند.

سخنگوی دولت گفت: "در حالی که هوش مصنوعی می تواند به کارفرمایان کمک کند تا حجم زیادی از برنامه ها را مدیریت کنند و بار اداری را کاهش دهند، بسیار مهم است که فرآیندهای استخدام منصفانه، شفاف و در دسترس باقی بماند."

آنها افزودند: «حفاظت‌های قانونی موجود، از جمله قانون برابری و حفاظت از داده‌ها، در حال حاضر برای سیستم‌های هوش مصنوعی اعمال می‌شود و ما در جایی که به حمایت‌های اضافی نیاز باشد، عمل خواهیم کرد».

به نظر می رسد ترس واقعی از ناشناخته وجود دارد زیرا ما اغلب مطمئن نیستیم که وقتی روی "اعمال" کلیک می کنیم چه اتفاقی می افتد.

اما با توجه به اینکه به نظر می رسد هوش مصنوعی اینجا باقی مانده است، چگونه می توانیم از عادلانه بودن آن اطمینان حاصل کنیم؟

به بهترین های رادیو بی بی سی لندن در صداها گوش دهید و بی بی سی لندن را در فیس بوک، خارجی، X، خارجی و اینستاگرام، خارجی دنبال کنید. ایده های داستان خود را به hello.bbclondon@bbc.co.uk، خارجی ارسال کنید