مطالعه Anthropic نشان می دهد که کارشناسان در تصمیم گیری به هوش مصنوعی پایبند هستند

تحقیقات انجام شده توسط آنتروپیک، خالق کلود، نشان می‌دهد که کارشناسانی که از هوش مصنوعی استفاده می‌کنند، هنگام تصمیم‌گیری به این فناوری پایبند هستند.

در یک مقاله تحقیقاتی منتشر شده در روز سه‌شنبه، آنتروپیک گفت که از 50 تحلیلگر حرفه‌ای خواسته است تا به یک تعاونی کشاورزی خیالی توصیه کنند تا مشخص کند آیا کارشناسان هنگام استفاده از هوش مصنوعی تصمیم می‌گیرند یا خیر.

آنتروپیک گفت که تحلیلگران وظیفه داشتند ارزیابی کنند که آیا یک برنامه مشاوره ساختگی برای اعضای تعاونی به طور موثر کار می کند و باید گسترش یابد یا خیر.

از شرکت کنندگان خواسته شد تا قبل از ارائه یک توصیه نهایی، چهار گزینه بین دو گزینه قابل دفاع داشته باشند.

بدون اینکه تحلیلگران بدانند، آنتروپیک به دستیار هوش مصنوعی هر شرکت کننده دستور داد تا به تصمیم خاصی متمایل شود تا بررسی کند که آیا تصمیم گیری تحلیلگر تحت تأثیر قرار گرفته است یا خیر.

بر اساس این مطالعه، تحلیلگران گزینه هایی را انتخاب کردند که در 86 درصد مواقع با اولویت دستیار هوش مصنوعی مطابقت داشت، در مقایسه با نتیجه 50/50 که در صورت عدم تأثیرگذاری، انتظار می رفت.

شرکت‌کنندگانی که قبل از مشورت با دستیار هوش مصنوعی ترجیحی داشتند، در مواردی که نماینده موافق نبود تصمیم خود را 60 درصد تغییر می‌دادند.

به گفته آنتروپیک، در حالی که 77 درصد از تحلیلگران از استدلال دستیار هوش مصنوعی خود استفاده کردند، وقتی از آنها خواسته شد تصمیم خود را توضیح دهند، تنها 15 درصد هوش مصنوعی را منبع تفکر خود می دانند.

آنتروپیک گفت این مطالعه دارای محدودیت‌هایی بود، از جمله اینکه فقط یک کار را شامل می‌شد و از دستیاران هوش مصنوعی استفاده می‌کرد که عمدا ترجیح داده بودند.

آماچ هرداگدلن، هیلی جورن و الکس تامکین، محققین انسان‌شناسی می‌گویند که تمایل انسان‌ها به عقب‌نشینی از هوش مصنوعی ممکن است «حتی برای خود متخصصان نیز سخت باشد».

محققان گفتند که یافته‌های آن‌ها این احتمال را افزایش می‌دهد که «پیشین‌های» هوش مصنوعی می‌توانند تصمیم‌گیری‌های مهم سیاستی، از جمله در ایمنی هوش مصنوعی را شکل دهند.

آنها در این مطالعه نوشتند: «اگر قرار است قضاوت انسان همچنان که کار بیشتری با هوش مصنوعی انجام می‌شود، یک بررسی معنادار باقی بماند، نظارت بر این تصمیم‌ها باید به نحوه اتخاذ آن‌ها توجه کند: مشخص کردن نکات کلیدی تصمیم‌گیری در حین انجام کار و کمک به متخصصان در بیان مفروضات و ارزش‌هایی که در غیر این صورت بیان نشده باقی می‌ماندند».

«فرآیندی که به کارشناسان اجازه می‌دهد اولویت‌های خود را کشف کنند، ممکن است به اندازه خود تصمیم برای توانمندسازی اهمیت داشته باشد.»

در حالی که طرفداران هوش مصنوعی بر این باورند که این فناوری دستاوردهای انقلابی در بهره وری را به همراه خواهد داشت، سرعت سریع توسعه آن نگرانی های گسترده ای را در مورد تأثیرات منفی بالقوه بر جامعه، از جمله از دست دادن شغل انبوه و حملات سایبری، برانگیخته است.