GPT Oracle: از هر 10 آمریکایی 1 نفر در حال احیای عمل بت پرستانه پیشگویی است

مردم به طور فزاینده ای برای مشاوره به هوش مصنوعی روی می آورند. گزارش Pew در سال 2026 نشان داد که 10٪ از آمریکایی ها از چت بات ها برای حمایت عاطفی یا همراهی استفاده می کنند. برخی حتی یک رهبر کاریزماتیک در هوش مصنوعی پیدا می کنند.

به طور گسترده تر، یک مطالعه در مقیاس بزرگ از 1.1 میلیون مکالمه ChatGPT نشان داد که 49٪ از پیام ها شامل کاربرانی است که به دنبال "اطلاعات یا مشاوره" هستند تا به آنها کمک کند "آگاهی بهتر یا تصمیم گیری بهتر" داشته باشند.

سوالات آنها فقط در مورد مسائل معمولی عملی نیست. در سال 2021، Ask Delphi، یک وب‌سایت مبتنی بر هوش مصنوعی که افراد می‌توانستند سؤالات اخلاقی یا اخلاقی برای آن مطرح کنند، در عرض چند هفته 3 میلیون سؤال دریافت کرد. طراحان این سیستم - محققان موسسه آلن برای هوش مصنوعی و دانشگاه واشنگتن - گفتند که قصد ندارند این سیستم یک مرجع اخلاقی باشد، اما نگران هستند که کاربران ممکن است آن را اینگونه ببینند.

The Verge، یک نشریه خبری فناوری، استدلال می کند که نام سیستم - Ask Delphi - کاربران را تشویق می کند که سیستم را به عنوان منبعی غیرقابل درک از دانش برتر ببینند. این نام از اوراکل دلفی گرفته شد که یونانیان باستان سؤالات دشواری را برای او مطرح کردند. اوراکل یک کاهن بود که وارد حالت خلسه شد تا پاسخ های آپولو، خدای یونانی پیشگویی را بدهد.

انتخاب "دلفی" پیشنهاد کننده است. در طول تاریخ، زمانی که جوامع با پرسش‌های چالش‌برانگیز مواجه می‌شوند، به منابعی روی آورده‌اند که اعتقاد بر این است که بیش از هر انسان معمولی می‌دانند. زمانی که قضاوت معمولی بشر به مرزهای خود رسید، پیشگویی ها، انبیا و شیوه های پیشگویی از منابع نامفهوم یا معمایی راهنمایی می کردند.

به‌عنوان یک انسان‌شناس علاقه‌مند به دین و یک محقق هوش مصنوعی علاقه‌مند به چت‌بات‌ها، ما کنجکاو شده‌ایم که ایده باستانی اوراکل در بحث‌هایی درباره هوش مصنوعی محاوره‌ای دوباره ظاهر شده است. مانند اوراکل های باستانی، هوش مصنوعی مدرن به طور فزاینده ای در مورد سؤالات دشواری که فراتر از قضاوت یا دانش هر فردی است، مورد مشورت قرار می گیرد - از جمله "آیا دروغ گفتن برای محافظت از احساسات دیگران اشکالی ندارد؟" به "انفجار بمب هسته ای برای نجات فرزندت."

اما این شباهت به همین جا ختم نمی شود: فرآیندهایی که هوش مصنوعی از طریق آن به پاسخ می رسد، نه تنها برای کاربران، بلکه برای طراحان این سیستم ها نیز غیرقابل درک است. ما استدلال می کنیم که این عدم شفافیت بخشی از دلیلی است که مردم این سیستم ها را دارای اقتدار می دانند.

یک مصیبت باستانی بشر

اوراکل ها، چه انسان ها مانند کشیش در دلفی و چه تکنیک هایی مانند پیشگویی آی چینگ، در جوامعی از یونان باستان تا چین و در سراسر سنت های مذهبی ظاهر شده اند.

به عنوان مثال، اوراکل رام شالاکا بر اساس کتاب مقدس هندو رامچاریتماناس، بازگویی قرن شانزدهمی حماسه باستانی هندی رامایانا است. کاربر انگشت خود را روی یک مربع تصادفی در یک شبکه 15 در 15 قرار می دهد. سپس یک روش شمارش ثابت، آیه ای از کتاب مقدس را نشان می دهد که قرار است به سؤال در ذهن کاربر پاسخ دهد. در کتاب‌شناسی مسیحی، که نوعی پیش‌گویی است، شخصی که به دنبال راهنمایی است، کتاب مقدس را به‌طور تصادفی باز می‌کند و قسمتی را که با آن مواجه می‌شود به عنوان پاسخی به سؤال خود تفسیر می‌کند.

استفاده از تصادفی بودن در این تکنیک‌های افسانه‌ای یک جلوه جعبه سیاه معمایی ایجاد می‌کند - هیچ‌کس نمی‌تواند توضیح دهد که چگونه عنصر شانسی که در این تکنیک‌ها تعبیه شده است با پاسخی که ظاهر می‌شود ارتباط برقرار می‌کند. با این حال، این کدورت بخشی از اقتدار اوراکل است. کاربرانی که به دنبال منابع ماورایی بینش هستند نمی‌دانند یا اهمیت نمی‌دهند که اوراکل چگونه به پاسخ‌های خود رسیده است.

انسان شناسان دریافته اند که پیشگویی ها و پیشگویی ها معمولا از تکنیک هایی استفاده می کنند که نتایج تصادفی ایجاد می کنند. در نتیجه، پاسخ‌های آن‌ها بی‌علاقه به نظر می‌رسند و منابع آن‌ها مبهم به نظر می‌رسند، و این تصور را تقویت می‌کنند که آنها با چیزی فراتر از محدودیت‌های انسانی در تماس هستند.

جالب اینجاست که ایده اوراکل وارد علم کامپیوتر شد و در سال 1939 به معنای ریاضی دقیقی دست یافت. آلن تورینگ، که ایده هایش برای علوم کامپیوتر و هوش مصنوعی پایه بود، این مفهوم را در کار بر اساس دکترای خود پذیرفت. پایان نامه . او «ماشین‌های اوراکل» را معرفی کرد، مدل‌های ریاضی محاسباتی که می‌توانستند برای پاسخ‌های غیرقابل دسترس خود ماشین به منبعی خارجی مراجعه کنند.

به عبارت دیگر، در هر دو کاربرد ریاضی و دینی، اوراکل به مسائلی پاسخ می دهد که در یک سیستم موجود یا مجموعه ای از بدیهیات قابل حل نیستند.

اوراکل در عصر هوش مصنوعی

چت ربات های مدرن مانند ChatGPT جعبه سیاه مات در نظر گرفته می شوند. این به این دلیل نیست که دستگاه کامل محاسبات آنها از دید کاربران پنهان است. ادعای کدورت حتی برای مدل‌های وزن باز نیز اعمال می‌شود که پارامترهای عددی آن‌ها به نام «وزن» در دسترس عموم است.

محاسباتی که این مدل ها انجام می دهند ابتدایی هستند: جمع، ضرب و توابع ساده ریاضی. اما تعداد زیادی از چنین محاسباتی هنگام پاسخ به یک پرسش کاربر رخ می دهد، که تقریبا درک آنچه سیستم به طور کلی انجام می دهد غیرممکن می کند.

مهم این است که وزن های حاکم بر این محاسبات به صورت جداگانه توسط انسان طراحی نشده است. آنها به طور خودکار از داده های مقیاس اینترنت در طول آموزش یاد می گیرند. حتی زمانی که وزن ها و هر محاسبات اولیه برای بازرسی در دسترس هستند، هیچ کس نمی تواند به راحتی بفهمد که چگونه مدل ها یک پاسخ خاص را ایجاد می کنند. در واقع، یک منطقه کامل از هوش مصنوعی مدرن، به نام «تفسیرپذیری مکانیکی»، به بهبود درک ما از نحوه عملکرد داخلی سیستم‌های هوش مصنوعی اختصاص دارد.

قابل توجه است که طراحان سیستم‌های هوش مصنوعی اذعان دارند که به طور کامل درک نمی‌کنند که سیستم‌هایشان چگونه رفتارهای خاصی را ایجاد می‌کنند. حتی زمانی که طراحان قصد ندارند سیستم‌هایشان به صورت افسانه‌ای باشد، می‌توانند مکالماتی را تولید کنند که مذهبی به نظر برسد.

به عنوان مثال، سال گذشته، Anthropic به طور عمومی یک پدیده غیرمنتظره مربوط به کلود 4 را گزارش کرد. به طور معمول، کلود با یک انسان صحبت می کند. مهندسان آنتروپیک در عوض کلود را در هر دو طرف مکالمه قرار دادند. گفتگوی ماشین به ماشین به سرعت به بحث های آگاهی و خودآگاهی تبدیل شد و محتوایی با مضامین معنوی، متافیزیکی یا شاعرانه تولید کرد.

آنتروپیک این الگوی رفتاری گیج کننده را جذب کننده «سعادت معنوی» نامید، تمایلی که مکالمه به سمت موضوعات عرفانی گرایش پیدا می کند. آنها تأکید کردند که این غیرمنتظره است زیرا بدون آموزش صریح برای چنین رفتارهایی ظاهر شد.

بحث ما این نیست که ChatGPT اوراکل جدید دلفیک است، یا اینکه اکثر مردم معتقدند هوش مصنوعی الهی است. پاسخ های آن نیز خطاناپذیر نیستند. در عوض، تاریخ اوراکل ها به ویژگی ماندگار زندگی بشر اشاره می کند: هر زمان که به محدودیت های آنچه می توانیم برای خود تعیین کنیم برسیم، فراتر از خودمان برای یافتن پاسخ نگاه می کنیم. امروزه هوش مصنوعی به یکی از این منابع تبدیل شده است. ممکن است نهادها در طول زمان به طرز چشمگیری تغییر کرده باشند - وضعیت مخمصه انسانی تغییر نکرده است.

وب کین، جورج هربرت مید، استاد برجسته مردم شناسی دانشگاه میشیگان و آمبوج تواری، استاد مهندسی برق و علوم کامپیوتر، دانشگاه میشیگان

این مقاله از The Conversation تحت مجوز Creative Commons بازنشر شده است. مقاله اصلی را بخوانید.

این داستان در ابتدا در سایت Fortune.com منتشر شد