الگوریتم‌های استخدام یکسان ممکن است اتاق‌های پژواک ایجاد کند که نامزدهای شغلی قوی‌تر را نادیده می‌گیرد

توسط آدام زوی، موسسه فناوری ماساچوست

ویرایش شده توسط Swati Mestri، بررسی توسط Robert Egan

این مقاله با توجه به روند و سیاست‌های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:

ابزارهای هوش مصنوعی در برخی تنظیمات به طور فزاینده ای جایگزین قضاوت های انسان می شوند. به عنوان مثال، الگوریتم‌های غربالگری رزومه اغلب در استخدام استفاده می‌شوند، جایی که ممکن است کارایی و ثبات در تصمیم‌گیری را بهبود بخشند.

اما برخی از محققان این نگرانی را مطرح کرده‌اند که پذیرش سیستم‌های خودکار می‌تواند در نهایت منجر به استفاده از یک الگوریتم برای تصمیم‌گیری در یک صنعت خاص شود. آنها نگرانند که کشت تک الگوریتمی می تواند پیامدهای منفی داشته باشد.

به عنوان مثال، در استخدام، این تفکر به این صورت است که تک‌فرهنگ الگوریتمی ممکن است منجر به طرد سیستماتیک شود - وضعیتی که در آن نامزد شغلی که توسط الگوریتم یک شرکت رد می‌شود، احتمالا توسط الگوریتم هر شرکت دیگر نیز رد می‌شود.

با این حال، محققان MIT اکنون استدلال می کنند که کشت تک الگوریتمی ممکن است همیشه آنطور که برخی از دانشمندان پیشنهاد کرده اند بد نباشد.

آنها به طور سیستماتیک ایرادات عمده به تک‌کشت الگوریتمی، از جمله طرد سیستماتیک را ارزیابی کردند و به این نتیجه رسیدند که این و بسیاری از استدلال‌های دیگر یا شکست می‌خورند یا در برابر همه اشکال تک‌کشت تعیین‌کننده نیستند.

در عوض، آنها از نظر ریاضی نشان می‌دهند که تک‌فرهنگ تمایل به ایجاد اتاقک‌های پژواک اطلاعاتی دارد که می‌تواند مانع اکتشاف شود. در استخدام، این می تواند احتمال کمتری پیدا کند که بهترین نامزدها شغل پیدا کنند. با این حال، محققان نشان می‌دهند که ترکیب الگوریتم‌های مختلف استخدام در یک «گروه» می‌تواند بر این محدودیت غلبه کند.

این امر گاهی اوقات می‌تواند تک‌کشت را به همان اندازه، اگر نگوییم بهتر از چند فرهنگی که در آن شرکت‌های مختلف از الگوریتم‌های متفاوتی استفاده می‌کنند، قادر می‌سازد.

یکی از نویسندگان این مطالعه، پروفسور برایان هین، می‌گوید: «گرایش به سمت تک‌کشت الگوریتمی یک سناریوی واقع‌بینانه و موضوعی واقعا مهم است که با استفاده از هوش مصنوعی ایجاد می‌شود، اما به‌طور انتزاعی نمی‌توان گفت که آیا تک‌فرهنگ چیز بدی است یا خیر. این به جزئیات، مانند دامنه‌ای که در مورد آن صحبت می‌کنیم و دقت خود الگوریتم بستگی دارد». دارای موقعیت مشترک کالج محاسباتی MIT شوارتزمن با دپارتمان مهندسی برق و علوم کامپیوتر (EECS) و همچنین محقق اصلی در

آزمایشگاه اطلاعات و سیستم های تصمیم گیری (LIDS).

هدن توسط نویسنده همکار مانیش راغوان، استاد توسعه شغلی درو هیوستون (2005) در دانشکده مدیریت اسلون MIT و در EECS و همچنین محقق اصلی LIDS به هدن پیوسته است.

این تحقیق در دیدگاه های فلسفی ظاهر می شود.

تک‌کشت الگوریتمی، که در آن تمام تصمیم‌گیری‌ها در یک حوزه خاص با استفاده از الگوریتم یکسان انجام می‌شود، پدیده جدیدی نیست.

به عنوان مثال، زمانی تصمیمات وام دهی توسط بانکداران مستقل در بانک های منفرد اتخاذ می شد، اما اکنون همه بانکداران از اطلاعات یکسانی بر اساس امتیازهای اعتباری استاندارد شده وام گیرنده استفاده می کنند که از الگوریتم Fair Isaac Corporation (FICO) مشتق شده است.

به طور مشابه، تعداد انگشت شماری از الگوریتم های غربالگری رزومه معمولا توسط بسیاری از شرکت های Fortune 500 استفاده می شود.

راغوان می‌گوید: «نگرانی این است که از آنجایی که افراد بیشتری از هوش مصنوعی و الگوریتم‌ها برای دریافت اطلاعات و تصمیم‌گیری استفاده می‌کنند، ابزار بیشتری برای وقوع این نوع همبستگی وجود دارد.

برای درک بهتر این موضوع، او و هدن با هم متحد شدند تا به طور سیستماتیک وعده ها و مشکلات کشت تک الگوریتمی را ارزیابی کنند. آنها بر استخدام متمرکز بودند، اما رویکرد آنها می تواند در حوزه های دیگر مانند وام دهی اعمال شود. (با این حال، آن‌ها خاطرنشان می‌کنند که سایر حوزه‌ها، مانند ایجاد محتوای مولد هوش مصنوعی یا تحقیقات علمی با هدایت هوش مصنوعی، ممکن است متفاوت عمل کنند، و اینکه تک‌کشت در برخی از این حوزه‌ها ممکن است مشکل‌سازتر باشد.)

محققان با بررسی یک ایراد رایج به تک‌فرهنگ الگوریتمی شروع کردند: تکیه بر الگوریتم یکسان به طور سیستماتیک افراد خاصی را از فرصت‌ها حذف می‌کند.

این ممکن است در استخدام اتفاق بیفتد زیرا اگر یک شرکت رزومه فردی را بررسی کند، آن متقاضی احتمالا با بدشانسی مشابهی در هر شرکت روبرو خواهد شد.

اما پس از ارزیابی سیستماتیک این استدلال با استفاده از مجموعه‌ای از مدل‌ها که موقعیت‌های متعدد را ثبت می‌کنند، محققان استدلال می‌کنند که قانع‌کننده نیست زیرا تعداد کلی افراد استخدام شده تحت تأثیر استفاده شرکت‌ها از الگوریتم مشابه قرار نمی‌گیرد.

در عوض، تک کشت الگوریتمی می تواند قدرت چانه زنی نامزدهای شغلی را بهبود بخشد.

رغوان می‌گوید: «همه مشاغل پر می‌شوند و تعداد یکسانی از افراد شغل دارند، اما شرکت‌ها بر سر همین تعداد نامزدها با هم می‌جنگند، که در واقع دستمزدها را بالا می‌برد.»

آنها همچنین ایرادات مربوط به نمایندگی را بررسی کردند. به عنوان مثال، اگر یک نامزد شغلی برای شغلی درخواست دهد و رزومه او با استفاده از الگوریتم استخدام به هر شرکتی ارسال شود، نامزد هرگز فرصتی برای تنظیم رزومه خود برای بهبود شانس خود ندارد.

هدن می‌گوید: «به نظر می‌رسد که این یک اعتراض خوب به اشکال بد تک‌کشت است. اما اگر یک تک‌کشت دارید که در آن می‌توانید رزومه‌تان را اصلاح کنید و مطالبتان را دوباره ارسال کنید، آن‌وقت جواب نمی‌دهد».

از طرف دیگر، تک‌کشت می‌تواند افراد را قادر به بازی با سیستم کند. به عنوان مثال، اگر داشتن رزومه در قالب خاصی منجر به نتیجه بهتری شود، نامزدهای شغلی می توانند به سادگی رزومه خود را اصلاح کنند تا شانس خود را افزایش دهند.

هدن می‌گوید: «اما واضح نیست که داشتن یک الگوریتم بیشتر از داشتن یک سری الگوریتم‌های مختلف که توسط شرکت‌های مختلف استفاده می‌شود، انگیزه بیشتری برای این نوع بازی‌ها ایجاد کند.» "در سناریوی دوم، شما ممکن است فقط الگوریتم های چند شرکت را مورد هدف قرار دهید و سعی کنید آنها را بازی کنید و با چند کارفرما کمی مزیت را به خود بدهید."

آنها همچنین یک اعتراض کمتر مورد بررسی را در نظر گرفتند: تک‌فرهنگ می‌تواند یکسان سازی اطلاعات را افزایش دهد.

هدن توضیح می‌دهد که «حکمت جمعیت»، نظریه‌ای از روان‌شناسی اجتماعی، معتقد است که گروه متنوعی از تصمیم‌گیرندگان مستقل می‌توانند از یک فرد پیشی بگیرند.

در استخدام، این بدان معناست که داشتن شرکت‌هایی با الگوریتم‌های استخدام متنوع می‌تواند منجر به مجموعه‌ای با کیفیت بالاتر از استخدام‌های جدید شود.

تک‌کشت الگوریتمی همچنین می‌تواند باعث شود نامزدهایی با ویژگی‌ها و اعتبارات یکسان هر بار توسط هر شرکتی استخدام شوند. این ممکن است شرکت ها را از کشف نامزدهایی که ممکن است جایگزین های بهتری باشند، باز دارد.

راغوان می‌گوید: «تک‌فرهنگ ممکن است از میزان کشفی که به طور کلی اتفاق می‌افتد، جلوگیری کند. مشخص نیست که آیا این چیز بدی است یا خیر، اما وقتی به طراحی هوش مصنوعی برای کاربردهایی مانند علم، هنر یا نوشتن فکر می‌کنیم، قطعا مایه نگرانی است.

او اضافه می‌کند که این مشکل را می‌توان با ایجاد تصادفی در یک پلتفرم تک‌فرهنگی کاهش داد، که می‌تواند سطح بالاتری از اکتشاف را القا کند.

علاوه بر این، عملکرد تک کشت به الگوریتم بستگی دارد. اگر یک الگوریتم واحد بسیار دقیق‌تر از الگوریتم‌های بسیاری است که توسط شرکت‌های مختلف استفاده می‌شود، تک‌کشت ممکن است سیستم بهتری باشد.

یکی از راه‌های افزایش عملکرد ممکن است بسته‌بندی الگوریتم‌های استخدام چند شرکت در یک «الگوریتم مجموعه‌ای» باشد که می‌تواند به هر نامزد شغل امتیازی بر اساس میانگین اختصاص دهد.

با انجام یک سری شبیه‌سازی از موقعیت‌های مختلف استخدام، محققان تأیید کردند که چنین «الگوریتم مجموعه‌ای» گاهی اوقات می‌تواند از استفاده از الگوریتم‌های متعدد بهتر عمل کند.

هدن می‌گوید، با این حال، هنوز باید بررسی شود که این نوع «هم‌آهنگی» الگوریتمی در عمل چقدر امکان‌پذیر است.

رغوان می‌گوید: «بسیاری از پاسخ‌ها در مورد وعده‌ها و دام‌های تک‌کاذب الگوریتمی به صورت زمینه‌ای خواهد بود. حتی از منظر پژوهشی، هنوز کار زیادی باید انجام شود تا بفهمیم چگونه می‌توانیم به این نگرانی‌ها از منظر تجربی برخورد کنیم».

در نهایت، محققان امیدوارند که این کار الهام‌بخش تحقیقات بیشتری در مورد پیامدهای بلندمدت کشت تک الگوریتمی و همچنین مطالعاتی باشد که بر پیچیدگی‌های دنیای واقعی درگیر در یک سیستم پیچیده مانند بازار کار تمرکز دارند.

برایان هدن و همکاران، تک فرهنگ الگوریتمی و نقدهای آن، دیدگاه های فلسفی (2026). DOI: 10.1111/phpe.70018

ارائه شده توسط موسسه فناوری ماساچوست

سواتی مستری دارای مدرک لیسانس در مهندسی الکترونیک است و از سال 2019 به عنوان ویرایشگر محتوا کار کرده است. او ویرایش اسناد تحقیقاتی در زمینه فناوری، مراقبت های بهداشتی و علم مواد را تجربه کرده است و علاقه خاصی به فناوری و فضا دارد. نمایه کامل →

لیسانس زیست شناسی ریاضی، کارشناسی ارشد در نوشتن خلاق. خوش سفر با دیدگاه های منحصر به فرد در علم و زبان. نمایه کامل →

این داستان با حسن نیت از MIT News (web.mit.edu/newsoffice/)، یک سایت محبوب که اخبار مربوط به تحقیقات، نوآوری و آموزش MIT را پوشش می دهد، بازنشر شده است.