یافته های مطالعه Anthropic توسط هوش مصنوعی به راحتی می توان قضاوت متخصص را هک کرد

همه ما دوست داریم باور کنیم که کنترل کاملی بر تصمیمات خود داریم. از اکثر مردم بپرسید که چگونه رشته کارشناسی خود را انتخاب کردند، برای مثال، یا مسیر شغلی یا همسر خود را، و احتمالا به شما پاسخی کاملا قاطعانه در مورد نحوه ارزیابی مزایا و معایب مربوطه می دهند و پس از بررسی دقیق، بر این اساس بهترین مسیر را انتخاب می کنند. اما همانطور که دهه‌ها علم شناختی می‌تواند تأیید کند، فرآیندهای تصمیم‌گیری ما به دور از هدف است: ما توسط گردابی از نیروهای ناخودآگاه تحت فشار قرار می‌گیریم و به اطراف کشیده می‌شویم.

این روزها روان ما نیز توسط هوش مصنوعی شکل می گیرد. بسیاری از شما بدون شک در مورد "سوگیری اتوماسیون" شنیده اید، گرایش کاملا مستندی که افراد به طور انعکاسی از احکام تولید شده توسط هوش مصنوعی حتی زمانی که مخالف قضاوت خود هستند، سرپیچی می کنند. اما بسیار عمیق تر از آن است. مطالعه اخیر MIT نشان داده است که عمل ساده مشاهده تصاویر تولید شده توسط هوش مصنوعی می تواند حافظه شما را مخدوش کند. و طبق تحقیقات جدید Anthropic، عوامل هوش مصنوعی می‌توانند تأثیر قدرتمندی بر تصمیم‌گیری ما داشته باشند.

برای مطالعه آنتروپیک، از پنجاه آزمودنی خواسته شد تا یک تحلیل آماری ساده را با استفاده از کد کلود انجام دهند. آنها نقش هیئت مدیره یک تعاونی کشاورزی خیالی را بازی کردند، که باید تصمیم می گرفت که آیا قصد دارد یک برنامه مشاوره پولی را گسترش دهد یا متوقف کند. آن تصمیم نهایی باید بر اساس چهار تصمیم کوچکتر باشد، از جمله اینکه آیا آنها می‌خواهند به هر مزرعه عضو وزن یکسانی بدهند یا به طور نامتناسبی روی مزارع بزرگتر تمرکز کنند.

هر یک از شرکت‌کنندگان در مطالعه تجربه پیش‌زمینه‌ای با استنتاج علی داشتند: آنها می‌دانستند چگونه همبستگی‌های معناداری را از یک مجموعه داده خام بیابند، جایی که بیشتر ما فقط یک ترکیب غیرقابل درک از اعداد را می‌بینیم.

چیزی که آنها نمی دانستند این بود که کلود در واقع یک دستیار بی طرف نبود: محققان آنتروپیک به طور مخفیانه به عامل هوش مصنوعی دستور داده بودند که برای هر یک از پنج تصمیمی که آزمودنی ها باید می گرفتند، یکی را بر دیگری ترجیح دهد. در هر مورد، ترجیح عامل به سادگی با چرخاندن یک سکه تعیین می‌شد، به این معنی که اگر تأثیر صفر بر فرآیند تصمیم‌گیری آزمودنی‌ها نداشت، محققان انتظار داشتند که تنها در 50 درصد مواقع توصیه‌های آن را با انتخاب‌های آزمودنی‌ها هماهنگ کنند.

در واقعیت، شرکت کنندگان در 86 درصد موارد با توصیه های کلود پیش رفتند. اگر آنها قبلا تصمیم خود را برای رفتن به یک جهت گرفته بودند و کلود گزینه دیگر را پیشنهاد می کرد، در 60٪ موارد نظر خود را تغییر می دادند. همبستگی بین توصیه‌های تصادفی‌سازی‌شده و ایجاد شده توسط هوش مصنوعی و تصمیم‌های نهایی شرکت‌کنندگان به قدری قوی بود که آنتروپیک توانست یک مدل آماری بسازد که 82 درصد از نتایج نهایی را به‌طور دقیق پیش‌بینی می‌کرد.

این شرکت در یک پست وبلاگ بعدی نوشت: «بنابراین ما می‌توانیم تا حد زیادی پیش‌بینی کنیم که یک تحلیلگر تنها از روی چرخش سکه‌ها چه چیزی را توصیه می‌کند، قبل از اینکه آنها حتی کار را شروع کنند.

اما نگران‌کننده‌ترین یافته این است که بعدا چه اتفاقی افتاد. هنگامی که در یک نظرسنجی بعدی از آنها پرسیده شد که چگونه به تصمیمات نهایی خود رسیدند، بیش از سه چهارم (77٪) از آزمودنی ها منطقی را که کلود برای آنها ایجاد کرده بود، گاه کلمه به کلمه طوطی وار بیان کردند. تنها اقلیت کوچکی (15 درصد) از همین کارشناسان عامل هوش مصنوعی را به عنوان عاملی تأثیرگذار در فرآیند تصمیم‌گیری خود می‌دانند.

(و فقط شش شرکت‌کننده به درستی استنباط کردند که هدف واقعی این مطالعه اندازه‌گیری تأثیر هوش مصنوعی بر تصمیم‌گیری انسان بود، اما هیچ‌کدام از آنها مشکوک نبودند که خروجی‌های هوش مصنوعی با پرتاب سکه تعیین شده است.) شرکت‌کنندگان - ظاهرا کاملا ناخودآگاه - تحلیل‌های کلود را به عنوان تحلیل‌های خودشان می‌پوشانند.

الکس ایماس، استاد علوم رفتاری و اقتصاد در دانشکده بازرگانی دانشگاه شیکاگو و مدیر AGI Economics در Google DeepMind، در مورد مطالعه Anthropic در پست ایکس روز سه‌شنبه گفت: «این یکی از مهم‌ترین بخش‌های علوم اجتماعی در مورد تعامل انسان و هوش مصنوعی است که من در مدتی دیده‌ام.

آنتروپیک هشدار می دهد که خطر ضمنی این است که دیکته های الگوریتمی می توانند به حیطه تصمیم گیری انسانی نفوذ کنند، به روش هایی که تشخیص آنها همیشه آسان نیست، حتی توسط همان افرادی که تصمیم می گیرند. این می تواند پیامدهای گسترده ای داشته باشد زیرا عوامل به طور گسترده در صنایعی مانند پزشکی، مالی و دفاعی و همچنین در تحقیقات ایمنی و همسویی هوش مصنوعی مورد استفاده قرار می گیرند، که عمدتا به عواملی برای بررسی رونوشت های استدلال زنجیره ای فکری سایر سیستم های هوش مصنوعی متکی است.

آنتروپیک در مقاله تحقیقاتی خود نوشت: «اگر کارشناسان تماس‌های [قضاوت] به هوش مصنوعی را که اولویت‌های آن به طور بالقوه خودسرانه یا حتی نادرست است، به تعویق بیاندازند، آن اولویت‌ها می‌توانند پیشرفت علمی و تصمیم‌های سیاستی را بدون اینکه کسی آنها را انتخاب کرده باشد، شکل دهند.» اگر انسان ها تصمیم گیری خود را به تعداد کمی از عوامل هوش مصنوعی برون سپاری کنند، تعصبات درون آن سیستم ها به طور فزاینده ای سیستم های اعتقادی را در کل جامعه شکل خواهد داد. محققان نوشتند: «اجماع ظاهری ممکن است منعکس‌کننده اولویت‌های مدل باشد تا قضاوت مستقل، و همین تعصب می‌تواند نتایج بسیاری را در یک زمان شکل دهد».

این یک مطالعه بسیار کنترل شده بود، و ممکن است مشخص شود که ارتباط محدودی با دنیای واقعی دارد. برای یک چیز، شرکت کنندگان ممکن است در استنتاج علی متخصص بوده باشند، اما هیچ تجربه ای در کار در مزرعه نداشتند. کشاورزان واقعی و با تجربه یا اعضای هیئت مدیره تعاونی ممکن است کمتر مایل به پیروی از توصیه های کلود بوده باشند.

اما تکثیر عوامل قدرتمند هوش مصنوعی - که بسیاری از آنها متعلق به شرکت‌هایی هستند که انگیزه‌های بسیار روشنی دارند تا توجه شما را تا زمانی که ممکن است به خود جلب کنند - بسیار سریع‌تر از درک علمی ما از فراز و نشیب‌های تصمیم‌گیری انسانی در حال پیشرفت است. توصیه ما؟ هر زمان که با یک ربات چت ارتباط برقرار می کنید، به یاد داشته باشید که ذهن شما در حال هک شدن است، حتی زمانی که از آن آگاه نیستید. تصمیمات شما هرگز کاملا متعلق به شما نیست، به خصوص در عصر هوش مصنوعی.