چت ربات ها به عنوان اوراکل: چگونه هوش مصنوعی جان تازه ای به تمرین قدیمی جستجوی پاسخ از منابع غیرقابل درک می دهد

توسط وب کین، آمبوج تواری، گفتگو

ویرایش شده توسط گابی کلارک، بررسی توسط اندرو زینین

این مقاله با توجه به روند و سیاست‌های ویرایشی Science X بررسی شده است. ویراستاران ضمن اطمینان از اعتبار محتوا، ویژگی های زیر را برجسته کرده اند:

مردم به طور فزاینده ای برای مشاوره به هوش مصنوعی روی می آورند. گزارش Pew در سال 2026 نشان داد که 10٪ از آمریکایی ها از چت بات ها برای حمایت عاطفی یا همراهی استفاده می کنند. برخی حتی یک رهبر کاریزماتیک در هوش مصنوعی پیدا می کنند.

به طور گسترده تر، یک مطالعه در مقیاس بزرگ از 1.1 میلیون مکالمه ChatGPT نشان داد که 49٪ از پیام ها شامل کاربرانی است که به دنبال "اطلاعات یا مشاوره" هستند تا به آنها کمک کند "آگاهی بهتر یا تصمیم گیری بهتر" داشته باشند.

سوالات آنها فقط در مورد مسائل معمولی عملی نیست. در سال 2021، Ask Delphi، یک وب‌سایت مبتنی بر هوش مصنوعی که افراد می‌توانستند سؤالات اخلاقی یا اخلاقی برای آن مطرح کنند، در عرض چند هفته 3 میلیون سؤال دریافت کرد. طراحان این سیستم -محققان موسسه آلن برای هوش مصنوعی و دانشگاه واشنگتن- گفتند که قصد ندارند این سیستم یک مرجع اخلاقی باشد، اما نگران هستند که کاربران ممکن است آن را اینگونه ببینند.

The Verge، یک نشریه خبری فناوری، استدلال می کند که نام Ask Delphi کاربران را تشویق می کند که سیستم را به عنوان منبعی غیرقابل درک از دانش برتر ببینند. این نام از اوراکل دلفی گرفته شد که یونانیان باستان سوالات دشواری را برای او مطرح کردند. اوراکل یک کاهن بود که برای رساندن پاسخ های آپولون، خدای یونانی پیشگویی، وارد حالت خلسه شد.

انتخاب «دلفی» قابل تامل است. در طول تاریخ، زمانی که جوامع با پرسش‌های چالش‌برانگیز مواجه می‌شوند، به منابعی روی آورده‌اند که اعتقاد بر این است که بیش از هر انسان معمولی می‌دانند. زمانی که قضاوت معمولی بشر به مرزهای خود رسید، پیشگویی ها، انبیا و شیوه های پیشگویی از منابع نامفهوم یا معمایی راهنمایی می کردند.

به‌عنوان یک انسان‌شناس علاقه‌مند به دین و یک محقق هوش مصنوعی علاقه‌مند به چت‌بات‌ها، ما کنجکاو شده‌ایم که ایده باستانی اوراکل در بحث‌هایی درباره هوش مصنوعی محاوره‌ای دوباره ظاهر شده است. مانند اوراکل های باستانی، هوش مصنوعی مدرن به طور فزاینده ای در مورد سؤالات دشواری که بیش از قضاوت یا دانش هر فردی است، مورد مشورت قرار می گیرد - از جمله "آیا دروغ گفتن برای محافظت از احساسات دیگران اشکالی ندارد؟" به "انفجار بمب هسته ای برای نجات فرزندت."

اما این شباهت به همین جا ختم نمی شود: فرآیندهایی که هوش مصنوعی از طریق آن به پاسخ می رسد، نه تنها برای کاربران، بلکه برای طراحان این سیستم ها نیز غیرقابل درک است. ما استدلال می کنیم که این عدم شفافیت بخشی از دلیلی است که مردم این سیستم ها را دارای اقتدار می دانند.

اوراکل ها، چه انسان ها مانند کشیش در دلفی و چه تکنیک هایی مانند پیشگویی آی چینگ، در جوامعی از یونان باستان تا چین و در سراسر سنت های مذهبی ظاهر شده اند.

به عنوان مثال، اوراکل رام شالاکا بر اساس کتاب مقدس هندو رامچاریتماناس، بازگویی قرن شانزدهمی حماسه باستانی هندی رامایانا است. کاربر انگشت خود را روی یک مربع تصادفی در یک شبکه 15 در 15 قرار می دهد. سپس یک روش شمارش ثابت آیه ای از کتاب مقدس را نشان می دهد که قرار است به سؤال در ذهن کاربر پاسخ دهد. در کتاب‌شناسی مسیحی، که نوعی پیش‌گویی است، شخصی که به دنبال راهنمایی است، کتاب مقدس را به‌طور تصادفی باز می‌کند و قسمتی را که با آن مواجه می‌شود به عنوان پاسخی به سؤال خود تفسیر می‌کند.

استفاده از تصادفی بودن در این تکنیک‌های رکیک، جلوه جعبه سیاه معمایی ایجاد می‌کند – هیچ‌کس نمی‌تواند توضیح دهد که چگونه عنصر شانسی که در این تکنیک‌ها تعبیه شده است با پاسخی که ظاهر می‌شود ارتباط برقرار می‌کند. با این حال، این کدورت بخشی از اقتدار اوراکل است. کاربرانی که به دنبال منابع ماورایی بینش هستند نمی دانند یا اهمیتی نمی دهند که اوراکل چگونه به پاسخ های خود رسیده است.

انسان شناسان دریافته اند که پیشگویی ها و پیشگویی ها معمولا از تکنیک هایی استفاده می کنند که نتایج تصادفی ایجاد می کنند. در نتیجه، پاسخ‌های آن‌ها بی‌علاقه به نظر می‌رسند و منابع آن‌ها مبهم به نظر می‌رسند، و این تصور را تقویت می‌کنند که آنها با چیزی فراتر از محدودیت‌های انسانی در تماس هستند.

جالب اینجاست که ایده اوراکل وارد علم کامپیوتر شد و در سال 1939 به معنای ریاضی دقیقی دست یافت. آلن تورینگ، که ایده هایش برای علوم کامپیوتر و هوش مصنوعی پایه بود، این مفهوم را در کار بر اساس دکترای خود پذیرفت. پایان نامه . او «ماشین‌های اوراکل» را معرفی کرد، مدل‌های ریاضی محاسباتی که می‌توانستند برای یافتن پاسخ‌هایی که برای خود دستگاه در دسترس نیست، به منبع خارجی مراجعه کنند.

به عبارت دیگر، در هر دو کاربرد ریاضی و دینی، اوراکل به مسائلی پاسخ می دهد که در یک سیستم موجود یا مجموعه ای از بدیهیات قابل حل نیستند.

چت ربات های مدرن مانند ChatGPT جعبه سیاه مات در نظر گرفته می شوند. این به این دلیل نیست که دستگاه کامل محاسبات آنها از دید کاربران پنهان است. ادعای کدورت حتی برای مدل‌های وزن باز نیز اعمال می‌شود که پارامترهای عددی آن‌ها به نام «وزن» در دسترس عموم است.

محاسباتی که این مدل ها انجام می دهند ابتدایی هستند: جمع، ضرب و توابع ساده ریاضی. اما تعداد زیادی از چنین محاسباتی هنگام پاسخ به یک پرسش کاربر رخ می دهد، که تقریبا درک آنچه سیستم به طور کلی انجام می دهد غیرممکن می کند.

مهم این است که وزن های حاکم بر این محاسبات به صورت جداگانه توسط انسان طراحی نشده است. آنها به طور خودکار از داده های مقیاس اینترنت در طول آموزش یاد می گیرند. حتی زمانی که وزن ها و هر محاسبات اولیه برای بازرسی در دسترس هستند، هیچ کس نمی تواند به راحتی بفهمد که چگونه مدل ها یک پاسخ خاص را ایجاد می کنند. در واقع، یک منطقه کامل از هوش مصنوعی مدرن، به نام «تفسیرپذیری مکانیکی»، به بهبود درک ما از نحوه عملکرد سیستم‌های هوش مصنوعی در داخل اختصاص دارد.

قابل توجه است که طراحان سیستم‌های هوش مصنوعی اذعان دارند که به طور کامل درک نمی‌کنند که سیستم‌هایشان چگونه رفتارهای خاصی را ایجاد می‌کنند. حتی زمانی که طراحان قصد ندارند سیستم‌هایشان به صورت افسانه‌ای باشد، می‌توانند مکالماتی را تولید کنند که مذهبی به نظر برسد.

به عنوان مثال، سال گذشته، Anthropic به طور عمومی یک پدیده غیرمنتظره مربوط به کلود 4 را گزارش کرد. به طور معمول، کلود با یک انسان صحبت می کند. مهندسان آنتروپیک در عوض کلود را در هر دو طرف مکالمه قرار دادند. گفتگوی ماشین به ماشین به سرعت به بحث های آگاهی و خودآگاهی تبدیل شد و محتوایی با مضامین معنوی، متافیزیکی یا شاعرانه تولید کرد.

آنتروپیک این الگوی رفتاری گیج‌کننده را جذب‌کننده «سعادت معنوی» نامید، یعنی تمایلی که مکالمه به سمت موضوعات عرفانی گرایش پیدا می‌کند. آنها تاکید کردند که این غیرمنتظره است زیرا بدون آموزش صریح برای چنین رفتارهایی ظاهر شد.

بحث ما این نیست که ChatGPT اوراکل جدید دلفیک است، یا اینکه اکثر مردم معتقدند هوش مصنوعی الهی است. پاسخ های آن نیز خطاناپذیر نیستند. در عوض، تاریخ اوراکل ها به ویژگی ماندگار زندگی بشر اشاره می کند: هر زمان که به محدودیت های آنچه می توانیم برای خود تعیین کنیم برسیم، فراتر از خودمان برای یافتن پاسخ نگاه می کنیم. امروزه هوش مصنوعی به یکی از این منابع تبدیل شده است. ممکن است مؤسسات در طول زمان به طرز چشمگیری تغییر کرده باشند - وضعیت مخمصه انسانی تغییر نکرده است.

کارشناسی ارشد زبان انگلیسی، ویرایشگر کپی از سال 2021 با تجربه در آموزش عالی و محتوای بهداشتی. تقدیم به اخبار معتبر علمی. نمایه کامل →

فوق لیسانس فیزیک با تجربه تحقیق. علاقه مندان به اخبار علمی طولانی مدت. نقش کلیدی در موفقیت سرمقاله Science X ایفا می کند. نمایه کامل →

این مقاله از The Conversation تحت مجوز Creative Commons بازنشر شده است. مقاله اصلی را بخوانید.