چه کسی در عصر هوش مصنوعی تخصص دارد؟

یکی از برجسته ترین دستاوردهای فرهنگی بشریت، تقسیم کار توضیحی است. وقتی دخترم تب داشت، با مشورت با یک متخصص اطفال که تشخیص احتمالی آنفولانزا را داشت، مشکل را حل کردم. برخلاف دکتر، نمی‌توانستم به دخترم درباره مکانیسمی که آنفولانزا به تب منجر می‌شود یا اینکه دقیقا چرا نوشیدن مایعات برای او بسیار مهم است، بگویم. اما توضیحی که به دست آوردم - تقریبا "تب به دلیل آنفولانزا" - چیزی بود که برای درمان او لازم بود.

جامعه بر اساس این نوع کارآمد از اشتراک گذاری اطلاعات اجرا می شود. همانطور که هماهنگی مهارت های تخصصی می تواند ساخت محصولات را ساده کند - اعم از پین یا ماشین یا روزنامه - هماهنگی دانش تخصصی می تواند پاسخ به سوالات را تسهیل کند. شما می توانید یک ماشین رانندگی کنید، حتی اگر خودتان تخصص تولید آن را نداشته باشید، و من از توضیحات پزشک اطفال بهره بردم، اگرچه درک او بسیار بیشتر از درک من بود.

ما می‌توانیم از این روش تفرقه بیانداز به خاطر پیشرفت‌های بسیاری در پزشکی و علم، مهندسی و تجارت تشکر کنیم. در واقع، به انباشت دانش انسانی در جوامع و در طول زمان کمک کرده است. اما همچنین ما را مستعد توهمات درک می‌کند: مواردی که درک دیگران را با درک خود اشتباه می‌گیریم.

احساس انسان از چه کسی می‌خواهد آنچه را که تکامل، فرهنگ و تجربه شخصی به‌خوبی تنظیم می‌کند، بپرسد. حتی کودکان 3 تا 5 ساله بیشتر می گویند که باید از پزشک به جای یک مکانیک در مورد تعمیر بازوی شکسته و به جای یک پزشک در مورد تعمیر لاستیک پنچر شده از یک مکانیک بپرسید. وقتی بچه ها بالغ می شوند، درک عمیق تری از تخصص پیدا می کنند.

در مطالعه‌ای در سال 2004 که در رشد کودک منتشر شد، برای مثال، کودکان 11 و 12 ساله که وظیفه داشتند بفهمند چرا توپ‌های تنیس در پیاده‌رو بهتر از روی چمن جهش می‌کنند، احتمال بیشتری داشت که از کسی بپرسند که چرا روکش حباب‌دار مانع از شکستن اشیای شیشه‌ای می‌شود (که به فیزیک نیز مربوط می‌شود) تا یک نفر که می‌داند. شامل توپ های تنیس). انتخاب آنها از اینکه چه کسی را بپرسند بر اساس اصول اساسی بود - نه فقط شباهت های ظاهری.

با صرف زمان و مراقبت فراوان، سالها آموزش و اشتهای سالم برای یادگیری، اکثر ما از کودکانی که اطلاعات کمی در مورد علم یا سایر حوزه های تخصصی دارند به ... بزرگسالانی که اطلاعات کمی در مورد علم یا سایر حوزه های تخصصی دارند تغییر می کنیم. حتی آن دسته از ما که در یک زمینه تخصص کسب می کنیم، بعید است که در بسیاری دیگر این کار را انجام دهیم. بنابراین توانایی ردیابی تخصص بیرونی برای بزرگسالان کمتر از کودکان اهمیت ندارد.

ما باید بدانیم که چه کسی می تواند تب کودک، گیاه پژمرده، بند در وصیت نامه یا سوفله ناقص را توضیح دهد - و تحقیقات نشان می دهد که به نظر می رسد بزرگسالان این کار را به خوبی انجام می دهند. (البته به عنوان یک جمعیت، ما این کار را به طور کامل انجام نمی دهیم: بسیاری از مردم به توصیه های بد دوستان، تأثیرگذاران، و کارشناسان خودخوانده اعتماد می کنند.) یک مطالعه از آلمان نشان داد که حتی دانشجویان کالج که رشته های علمی نیستند، به خوبی حدس می زنند که کدام نوع تخصص علمی مربوط به موضوعات مختلف علمی است.

تا اینجای کار خیلی خوبه. مشکل زمانی ایجاد می‌شود که ارتباطات ما با ذهن‌های دیگر کمی بیش از حد یکپارچه می‌شود، و شروع می‌کنیم از اینکه درک خودمان به کجا ختم می‌شود و درک دیگری شروع می‌شود. وقتی توضیحی از یک متخصص دریافت می کنیم - مانند "تب به دلیل آنفولانزا" - ممکن است به اشتباه به این نتیجه برسیم که بیشتر از آنچه واقعا آموخته ایم، یاد گرفته ایم.

در واقع، تحقیقات نشان می‌دهد که صرف دسترسی به پاسخ‌های متخصص می‌تواند منجر به توهم درک شود. در یک مجموعه از مطالعات، شرکت‌کنندگان در مورد اکتشافات علمی تخیلی مختلف مطالعه کردند و گزارش دادند که چگونه پدیده توصیف شده در هر یک را درک کرده‌اند. به عنوان مثال، برخی از شرکت کنندگان متن کوتاه زیر را دریافت کردند:

مطالعه ای در 19 می 2014 در ژورنال زمین شناسی، کشف سنگ جدیدی را گزارش کرد که دانشمندان به طور کامل توضیح داده اند. این سنگ شبیه کلسیت است، اما در غیاب منبع نور می درخشد. نویسندگان این مطالعه، Rittenour، Clark، و Xu، به طور کامل درک می کنند که چگونه کار می کند. آنها توصیفی از ظاهر قابل توجه این ماده معدنی ارائه کردند و آزمایشات آینده را تشریح کردند.

این قطعه در واقع هیچ توضیحی در مورد دلیل درخشش سنگ نداشت. و با این حال، پس از خواندن متن، شرکت کنندگان فکر کردند که تا حدودی درک کرده اند: چیزی که نویسندگان آن را "احساس مسری از درک" می نامند، زیرا به نظر می رسد آن را از دانشمندان توصیف شده در قسمت دریافت کرده اند. هنگامی که شرکت کنندگان در عوض خواندند که دانشمندان «هنوز توضیح نداده اند» صخره درخشان، و آنها «هنوز نمی دانند» چگونه کار می کند، هیچ حس مسری از درک وجود نداشت. رتبه‌بندی شرکت‌کنندگان از درک خودشان تقریبا به انتهای مقیاس رسید.

کار جدیدتر نشان داده است که یک حس مسری از درک حتی می تواند تعامل ما با فناوری را تحت تاثیر قرار دهد. در یک مطالعه، شرکت کنندگان در مورد "روبو-مشاور" یک بانک، که می تواند توصیه های سرمایه گذاری را ارائه دهد، یاد گرفتند. شرکت کنندگان همچنین متوجه شدند که توضیحی در مورد نحوه کار روبو-مشاور در یک مجله علمی منتشر شده است. اما به نیمی از آنها گفته شد که توضیحات در وب سایت مجله در دسترس است و به نیمی گفته شد که مجله دارای یک دیوار پرداخت اشتراک است.

کسانی که فکر می کردند این توضیح برای آنها در دسترس است، گزارش دادند که درک بهتری از نحوه کار روبو-مشاور دارند. آنها همچنین احتمال بیشتری را برای استفاده از مشاور روبو گزارش کردند.

این نتایج یک سوال مبرم را ایجاد می کند. با دسترسی بیشتر به اطلاعات از طریق دستیاران هوش مصنوعی، چت ربات ها و سایر فناوری ها، آیا این توهمات درک بیشتر آشکار می شود؟ برخی شواهد اولیه نشان می دهد که پاسخ مثبت است. اکنون چندین مطالعه نشان داده اند که وقتی افراد اطلاعاتی را از طریق اینترنت در دسترس خود دارند، میزان آگاهی خود را بیش از حد برآورد می کنند.

به عنوان مثال، در یک مطالعه، از شرکت کنندگان خواسته شد تا توضیح دهند که چگونه چیزی مانند یک زیپ کار می کند، و نیمی از آنها به اینترنت دسترسی پیدا کردند تا جزئیات توضیح را تأیید کنند. سپس از همه شرکت‌کنندگان پرسیده شد که چگونه می‌توانند پاسخ‌های مفصلی به سؤالات نامرتبط ارائه دهند، مانند اینکه چرا شب‌های ابری گرم است.

کسانی که در بخش اول مطالعه به اینترنت دسترسی داشتند، خود را به طور قابل‌توجهی در توضیح بخش دوم رتبه‌بندی کردند و نشان دادند که تجربه داشتن دانش بیشتر در دستانشان، از این توهم پشتیبانی می‌کند که دانش در ذهن خودشان است.

تعامل با چت‌بات‌های سریع و آموزنده تنها چنین توهم‌هایی را تشدید می‌کند، اما با یک پیچ و تاب نگران‌کننده: شواهد تاکنون نشان می‌دهد که انسان‌ها در ردیابی مدل‌های زبان بزرگ مانند ChatGPT و Claude نمی‌دانند چه کسی چه می‌داند. به عنوان مثال، هنگامی که افراد در یک مطالعه در مورد یک LLM که می تواند به سؤالی در مورد اقتصاد به درستی پاسخ دهد، یاد گرفتند، انتظار داشتند که یک مسئله اساسی جبر را به درستی حل کند - اما آنها در اشتباه بودند.

و وقتی فهمیدند که یک LLM می‌تواند به سؤالی در مورد فلسفه اخلاق پاسخ دهد، فکر کردند که می‌تواند مشخص کند کدام شخصیت در یک سناریو کار غیراخلاقی انجام داده است - اما باز هم اشتباه کردند. شرکت‌کنندگان تقریبا به طور قطع مفروضاتی را در مورد نحوه خوشه‌بندی دانش در ذهن انسان به سیستم هوش مصنوعی اعمال کردند و در هر دو مورد، این امر باعث گمراهی آنها شد.

انواع خطاهایی که سیستم‌های هوش مصنوعی مرتکب می‌شوند احتمالا با توسعه هوش مصنوعی تغییر می‌کنند و شهود انسان درباره هوش مصنوعی احتمالا در کنار این تغییرات تکامل خواهد یافت. همانطور که ما جامعه توضیح دهندگان خود را فراتر از متخصصان انسانی به چت بات ها و سایر اشکال هوش مصنوعی گسترش می دهیم، فرصت های جدیدی برای درک انسان ایجاد می کنیم. اما ما همچنین پتانسیل افزایش یافته برای توهم و خطا را معرفی می کنیم. این مقاله برگرفته از کتاب جدید تانیا لومبروزو، چرا می‌پرسیم چرا: علم تبیین و انگیزه انسانی برای درک است.