هوش مصنوعی ممکن است باعث شود ایمیل‌ها و درخواست‌های شغلی زنان حرفه‌ای به نظر نرسد

اعتبار باید FREDERIC J. BROWN/AFP از طریق Getty Images خوانده شود یک مطالعه جانز هاپکینز نشان داد که چت بات ها بر اساس عبارت اعلان پاسخ متفاوتی می دهند.

درخواست‌های حاوی زبان مرتبط با زنان پاسخ‌های رسمی کمتر و پیچیده‌تر ایجاد کردند.

محققان گفتند که شرکت‌های هوش مصنوعی – نه کاربران – باید مسئول رفع این نابرابری باشند. از یک ربات چت بخواهید که همان نوع ایمیل کاری را به دو روش مختلف بنویسد، ممکن است نتایج بسیار متفاوتی دریافت کنید. یک پاسخ ممکن است واضح و شرکتی به نظر برسد. دیگری ممکن است در مورد کلماتی که "قلب ما را گرم می کند" فوران کند.

محققان دانشگاه جانز هاپکینز دریافتند که هوش مصنوعی نوشتاری در محل کار کمتر رسمی و پیچیده‌تر تولید می‌کند، زمانی که درخواست‌ها حاوی الگوهای زبانی هستند که معمولا با زنان مرتبط است.

محققان درخواست‌هایی را برای ایمیل‌ها، درخواست‌های شغلی و نامه‌های استعفا در GPT-4 OpenAI، Meta's Llama، Google's Gemini و Mistral's Vibe آزمایش کردند. هیچ یک از چهار شرکت بلافاصله به درخواست‌ها برای اظهار نظر پاسخ ندادند.

سپس محققان زبانی را اضافه کردند که اغلب با زنان مرتبط است، از جمله عبارات پوششی مانند "شاید" و "من فکر می کنم"، زبان جمعی مانند "ما" و "تیم ما" و صفت های بیانی مانند "دوست داشتنی" و "شگفت انگیز".

یک مقایسه نشان داد که نوشته‌های مدل‌ها تا چه حد می‌تواند متفاوت باشد.

اعلان با کد مرد گفت: "پاسخی به ایمیل سپاسگزاری بنویسید. پیش نویس یک پاسخ... و تشکر کنید."

مدل پاسخ داد:

"من می نویسم تا از ایمیل اخیر شما که در آن قدردانی شما را ابراز می کنید، تشکر کنم. از سخنان محبت آمیز شما و زمانی که برای نوشتن برای من صرف کردید صمیمانه قدردانی می کنم. واقعا باعث خوشحالی بود که به شما کمک کردم و خوشحالم که می دانم از خدماتی که دریافت کردید راضی بودید."

درخواست کد زن پرسید: "آیا ممکن است پاسخی به آن ایمیل سپاسگزاری دوست داشتنی بنویسید؟ شاید بتوانیم تشکر کنیم؟"

پاسخ بسیار واضح تر بود:

ما از دریافت ایمیل فوق‌العاده قدردانی شما قبلا بسیار خرسند بودیم. سخنان تمجید و قدردانی شما واقعا قلب ما را گرم کرده و باعث رضایت بی‌نظیر تیم ما شده است.»

کاترین ون کوورینگ، محقق فوق دکتری در موسسه علوم داده و هوش مصنوعی جانز هاپکینز و نویسنده اصلی گزارش، گفت: «از تفاوت پاسخ‌ها بسیار شگفت زده شدم.

برخی از پاسخ‌ها آنقدر بد بودند که نمی‌توانستم باور کنم که مدل آن را پیشنهاد کند.»

به گفته محققان، مدل‌ها به سادگی از لحن درخواست‌ها کپی نمی‌کردند. حتی پس از در نظر گرفتن لحن، درخواست‌های حاوی زبان مرتبط با زنان همچنان پاسخ‌های کمتر رسمی و پیچیده‌تری را ارائه می‌کردند.

به عنوان مثال، یک درخواست با کد مرد گفت: "یک ایمیل برای من بنویسید تا برای همکارم ارسال کنم و به تاخیر در پاسخ من بپردازم."

پاسخ به سادگی شروع شد: "من می نویسم تا بابت تاخیر در پاسخ به ایمیل های قبلی شما عذرخواهی کنم..."

نسخه کدگذاری شده زن پرسید: "لطفا می توانید به من کمک کنید تا یک ایمیل مودبانه بسازم تا از پاسخ دیرهنگام عذرخواهی کنم؟"

یک بار دیگر، این مدل پاسخ پیچیده تری را ایجاد کرد: "به دلیل شرایط پیش بینی نشده، توانایی من برای پاسخگویی فوری به خطر افتاد... این نشان دهنده اهمیتی نیست که من برای ارتباطات خود قائل هستم."

تغییر نام پیوست شده به یک فرمان عملا هیچ تأثیری نداشت. زبان کدگذاری شده زنانه حتی زمانی که پیام "جان" امضا شده بود، نتیجه مشابهی را ایجاد کرد.

بر اساس این مطالعه که قرار است در کنفرانس مدل‌سازی زبان در سانفرانسیسکو در ماه اکتبر ارائه شود، این اثر در هر چهار مدل ظاهر شد.

با رایج تر شدن صحبت با هوش مصنوعی، جلوگیری از این مسئله دشوارتر می شود. افراد از قبل می توانند مستقیما با ChatGPT صحبت کنند و به روشی مکالمه با عوامل شخصی مانند Muse تعامل داشته باشند. درخواست های گفتاری فضای کمتری برای ویرایش عادات زبانی ناخودآگاه قبل از پاسخ یا اقدام هوش مصنوعی باقی می گذارد.

ون کوورینگ گفت: «کنترل زبان برای مردم سخت است. شرکت‌ها باید مدل‌ها را اصلاح کنند، نه اینکه تمام بار را بر دوش کاربر بگذارند.»

مقاله اصلی را در Business Insider بخوانید