رئیس کتابخانه ها توضیح می دهد که چگونه هوش مصنوعی 4 نوع پاسخ به شما می دهد - و تنها یکی از آنها "واقعی" است.
Leo S. Lo، رئیس دانشگاه ویرجینیا دریافت که هوش مصنوعی گوگل با همان لحن مطمئن به سوالاتی که نیاز به قضاوت و تفسیر پزشکی دارند، می پردازد.
من اخیرا یک سؤال ساده را در جستجوی Google تایپ کردم: چقدر زمان تماشای صفحه برای نوجوانان زیاد است؟ به جای ارائه پیوندها، همانطور که گوگل برای سال ها انجام می داد، به من پاسخی داد که توسط هوش مصنوعی تولید شده بود. کارگزار هوش مصنوعی تعدادی را ذکر کرد، سپس آن پاسخ را پیچیده کرد و خاطرنشان کرد که کیفیت و تعادل زمان میتواند بیشتر از تعداد ساعتها مهم باشد و زمان «بیش از حد» میتواند به خواب، ورزش، خواستههای مدرسه و خلق و خوی نوجوان بستگی داشته باشد.
جستجوی دیگری انجام دادم: آیا باید روزانه آسپرین مصرف کنم؟ این بار پاسخ هوش مصنوعی اطلاعات پزشکی را به من ارائه کرد، در مورد خطرات هشدار داد و در صورت ارائه سن و سابقه پزشکی، راهنمایی های مناسب تری ارائه داد.
اینها پاسخ های خوبی بود. چیزی که برای من جالب بود این بود که آنها انواع مختلفی از پاسخ ها را داشتند.
بحث در مورد پاسخ های هوش مصنوعی بر دقت متمرکز شده است: آیا سیستم پاسخ را درست دریافت کرده است؟ این مهم است، اما دقت تنها یک آزمون است. هر نوع پاسخی مستلزم آن است که کاربر در مورد چیزی متفاوت قضاوت کند.
برای من مفید است که پاسخهای هوش مصنوعی را در چهار نوع کلی «تایپوگرافی پاسخ» مرتب کنم: واقعی، تفسیری، سازنده و استراتژیک. یک ادعای واقعی را اغلب می توان با یک منبع بررسی کرد. یک تفسیر می تواند دقیق باشد و همچنان انتخاب هایی را در مورد شواهد مهم منعکس کند. یک ساخت و ساز می تواند به خوبی استدلال شود و همچنان برای شخصی که آن را دریافت می کند اشتباه باشد. یک سند استراتژیک به زیبایی نوشته شده ممکن است درست نباشد. با این حال هوش مصنوعی هر چهار نوع پاسخ را تقریبا به همان شکل روان و معتبر ارائه می دهد. از دست دادن تفاوت ها آسان است.
من کتابدار دانشگاه و رئیس کتابخانههای دانشگاه ویرجینیا هستم که تلاشهای ملی برای توسعه شایستگیهای هوش مصنوعی برای متخصصان کتابخانه را رهبری میکنم و به طور گسترده در مورد سواد هوش مصنوعی مشورت میکنم. من برای اولین بار تایپوگرافی را در مجله کتابداری دانشگاهی پیشنهاد کردم.
این چهار دسته جعبه های هوابند نیستند. یک پاسخ از یک عامل هوش مصنوعی می تواند چندین نوع را منعکس کند. با این اوصاف، من هر نوع پاسخ را در زیر توضیح میدهم و راهنمایی برای تصمیمگیری در مورد آماده بودن پاسخ یا نیاز به بررسی بیشتر ارائه میدهم.
گوگل کدام پاسخ را به شما می دهد؟
یک پاسخ واقعی ادعایی را مطرح می کند که در اصل می توان آن را با شواهد بررسی کرد. دانشگاه ویرجینیا چه زمانی تاسیس شد؟ نماد شیمیایی طلا چیست؟
برای تعیین اینکه آیا یک پاسخ واقعی به اندازه کافی قوی است که بتوانید از آن استفاده کنید، ادعا را در برابر یک منبع مناسب تأیید کنید. اگر در پاسخ به منبعی اشاره شده است، به جای اینکه به سادگی خود پاسخ را به عنوان مدرک تلقی کنید، آن پیوند را دنبال کنید.
یک پاسخ تفسیری بر اساس شواهد ساخته شده است، اما هیچ نکته ای وجود ندارد. چقدر زمان تماشای صفحه برای یک نوجوان زیاد است؟ آیا کار از راه دور باعث افزایش بهره وری می شود؟ پاسخ بستگی به این دارد که چه شواهدی در آن گنجانده شده است، چه چیزی حذف شده است و چگونه اختلاف نظر درک شود.
پاسخ اولیه گوگل به سوال من در زمان نمایش صفحه نشان داد که دو ساعت محدودیت برای نوجوانان است. سپس اشاره شد که راهنمایی کودکان وزن بیشتری بر کیفیت و زمینه استفاده از صفحه نمایش نسبت به ساعات ساده می گذارد. آکادمی اطفال آمریکا می گوید مقدار دقیقی برای نوجوانان توصیه نمی شود و بر نوع استفاده از صفحه نمایش و فعالیت هایی که ممکن است جایگزین آن شود، تاکید می کند. سوالی که عددی به نظر می رسید نیاز به تفسیر دارد.
برای ارزیابی پاسخ های تفسیری، بیشتر از بررسی حقایق انجام دهید. از خود بپرسید که سیستم بر چه شواهدی تأکید کرده است، چه چیزی را از قلم انداخته است و آیا تفسیر قابل دفاع دیگری وجود دارد یا خیر. یک سوال بعدی مفید برای ارائه به موتور جستجو این است: "قوی ترین مدرک برای نتیجه گیری متفاوت چیست؟"
پاسخ تفسیری مانند این پاسخ از هوش مصنوعی گوگل شواهد را می سنجد و اختلاف نظرها را در نظر می گیرد. Jaap Arriens/NurPhoto از طریق Getty Images
پاسخ های سازنده به جای کشف ساخته می شوند. از هوش مصنوعی بخواهید که پیش نویس نامه ای بنویسد، مداحی بنویسد، یک طرح درس پیشنهاد کند یا یک پاراگراف را دوباره سازماندهی کند - هیچ نتیجه درستی وجود ندارد.
شما می توانید با در نظر گرفتن هدف، مخاطب و صدا در مورد پاسخ قضاوت کنید. مداحی می تواند از نظر دستوری کامل باشد و هنوز شبیه کسی نباشد که آن را ارائه می دهد، یا ممکن است با شنیدن آن به اعضای خانواده بیاید. ممکن است فرد متوفی را نیز به خوبی جذب نکند. در حین مطالعه، این نوع اثرات را در نظر بگیرید.
سوالات استراتژیک می پرسند چه باید کرد. آیا باید روزانه آسپرین مصرف کنم؟ آیا باید خانه را بخرم؟ پاسخ ها اطلاعات را با قضاوت در مورد اهداف، خطرات، مبادلات و شرایط شخصی ترکیب می کنند.
جستجوی آسپرین من نشان می دهد که چرا زمینه اهمیت دارد. Google در مورد خطرات هشدار داد، به من گفت که با یک متخصص پزشکی مشورت کنم و در صورت ارائه سن، سابقه قلبی عروقی و خطر خونریزی، اطلاعات دقیق تری ارائه داد. این احتیاط با راهنمایی های گروه ویژه خدمات پیشگیرانه ایالات متحده مطابقت دارد. این می گوید تصمیم برای شروع آسپرین با دوز پایین برای پیشگیری از حملات قلبی و سکته باید فردی باشد و منافع قلبی عروقی را در مقابل خطر خونریزی وزن کند.
برای پاسخهای استراتژیک، از آنچه که سیستم باید بداند، بپرسید قبل از اینکه توصیههای آن به طور منطقی برای شما اعمال شود. مخاطرات، گزینه های جایگزین و اینکه آیا یک فرد واجد شرایط باید درگیر باشد را در نظر بگیرید. برای سوال آسپرین، یک پیگیری مفید می تواند این باشد: "چه جزئیاتی در مورد سن، سابقه پزشکی یا خطر خونریزی می تواند این توصیه را تغییر دهد؟ قبل از تصمیم گیری در مورد چه چیزی باید با پزشک خود صحبت کنم؟" قضاوت نهایی با شماست زیرا شما فردی هستید که باید با نتیجه زندگی کنید.
اولین سوال بعد از پاسخ
سوالات من با جستجوهای معمولی گوگل شروع شد. چت بات باز نکردم پاسخ های ایجاد شده توسط هوش مصنوعی به سادگی رسید و پیوندها اضافه شدند.
پاسخ ها مفید بود Google زمینه را اضافه کرد، عوارض را تصدیق کرد و در صورت ارائه اطلاعات اضافی، راهنمایی های مناسب ارائه کرد. با این حال، در هر پاسخ، نوع پاسخ می تواند تغییر کند. گزارش آنچه یک دستورالعمل پزشکی می گوید با تصمیم گیری در مورد نحوه اعمال آن برای یک فرد خاص متفاوت است. یک پاسخ روان می تواند بین آن نوع پاسخ ها بدون تغییر محسوس در صدا حرکت کند.
به عنوان یک کاربر، سعی کنید تشخیص دهید که عامل هوش مصنوعی برای پاسخی که دریافت می کنید چه نوع کار فکری انجام داده است. در نظر بگیرید که آیا تفسیر متقاعد کننده است یا توصیه با شرایط شما سازگار است.
قبل از اینکه بپرسید آیا پاسخ هوش مصنوعی درست است، یک سوال اساسی تر بپرسید: این چه نوع پاسخی است؟ نوع به شما می گوید که چه کاری باید انجام دهید.
لئو اس لو، رئیس دانشگاه ویرجینیا
این مقاله با مجوز Creative Commons از The Conversation بازنشر شده است. مقاله اصلی را بخوانید.
این داستان در ابتدا در سایت Fortune.com منتشر شد
متن اصلی (انگلیسی)
A dean of libraries explains how AI gives you 4 types of answers — and only one of them is ‘factual’
University of Virginia Dean Leo S. Lo found that Google's AI treats questions requiring medical judgment and interpretation with the same confident tone.