آیا هوش مصنوعی در حال حاضر اطلاعات را به گونه ای پردازش می کند که منجر به آگاهی شود؟

یکی از مسافران در حالی که منتظر عبور از امنیت فرودگاه در جزیره بالترا، اکوادور هستم، به من می گوید: "گوش های کلود تا پایان هفته خواهد سوخت." با جت لگ من، یک دقیقه طول می کشد تا بفهمم که او در مورد ربات چت کلود صحبت می کند، نه یکی دیگر از اعضای گروه.

ما اینجا در گالاپاگوس هستیم تا یک کارگاه آموزشی اختصاصی که توسط مرکز بین المللی مطالعات آگاهی سازماندهی شده است. برخی از بزرگ‌ترین نام‌ها در فلسفه و علوم اعصاب در سالن یک قایق تفریحی تجاری ملاقات می‌کنند، جایی که در حال حرکت در میان جزایر، مشکل گره‌دار موجودات - نوزادان، اختاپوس‌ها و حتی ربات‌های گفتگو - را از بین می‌برند.

بین سفرهای پیاده‌روی و غواصی، ما در بحث‌های مبتنی بر امپانادا درباره این «مشکل توزیع» شرکت می‌کنیم و اینکه آیا می‌توان آن را با تضاد نحوه پردازش اطلاعات در مغز و ماشین‌ها حل کرد. فیلسوف ند بلاک در دانشگاه نیویورک که تولد 84 سالگی خود را در قایق تفریحی جشن گرفت، می‌گوید: «این موضوع تعیین‌کننده عصر ما است که ما باید از لحاظ عملی و اجتماعی با آن دست و پنجه نرم کنیم.

درست یک ماه قبل از ورود ما، شرکت هوش مصنوعی Anthropic مقاله ای منتشر کرد که در آن استدلال می کرد که کلود اخیرا چیزی شبیه به "فضای کاری جهانی" ذهن انسان ایجاد کرده است. بر اساس یک فرضیه اصلی، اینجا محل آگاهی است - جایی که مناظر و صداها، افکار و احساسات به آگاهی می رسند. بنابراین حضور آن در چت ربات Anthropic می تواند نوعی هوشیاری مصنوعی را نشان دهد. در حالی که هنوز بعید به نظر می رسد که هوش مصنوعی مانند من یا شما تجربیات ذهنی داشته باشد، این ویژگی های اضطراری ممکن است به ما اجازه دهند که تفاوت های بین ما را درک کنیم.

اینکه دقیقا چگونه باید علائم بالقوه هوشیاری را در انسان، حیوان یا ماشین تفسیر کنیم، تا حدی به بلوک تمایزی بستگی دارد که در دهه 1990 بیان شد. یک ایگوانا ممکن است با تنبلی در مسیر من در جزایر راه برود بدون اینکه من از حضور آن آگاه باشم، تا اینکه ناگهان متوجه می شوم که قرار است روی دمش قدم بگذارم. فقط پس از آن این اطلاعات به ذهن من می رسد تا بتوانم در مورد آن صحبت کنم. بلوک این در دسترس بودن اطلاعات برای گزارش و استدلال را به عنوان "آگاهی دسترسی" تعریف کرد.

از سوی دیگر، «آگاهی پدیده‌ای» خود تجربه ذهنی را توصیف می‌کند: بودن در جزیره و دیدن فلس‌های سبز رنگارنگ ایگوانا یا حرکت‌های ناگهانی آن به سمت ایمنی چگونه است.

تفاوت بین آگاهی آگاهانه از یک ایگوانا و کیفیت آن تجربه چیست؟

بسیاری از عصب شناسان و فیلسوفان بر این باورند که نظریه فضای کار نورون جهانی (GNWT) بهترین مکان برای پرداختن به آگاهی دسترسی است. طبق نظریه فضای کاری، پردازش مغز در «ماژول‌هایی» انجام می‌شود که وظایف خاصی را انجام می‌دهند. یک ماژول ممکن است زمین روبروی من، از جمله ایگوانا را پردازش کند، در حالی که دیگری چهره شخصی را که با او صحبت می کنم پردازش می کند، و دیگری کلماتی را که آنها به زبان می آورند پردازش می کند.

ما فقط زمانی از یک قطعه اطلاعات آگاه می شویم که به فضای کاری جهانی مغز ارسال شود. در اینجا در مدل ذهنی کنونی ما از جهان ادغام می شود و برای سایر نواحی مغز قابل پردازش است. برای مثال، توجه به مارمولک در مسیرم، به من اجازه می دهد تا با عکس گرفتن از مارمولک یا اشاره به حضور آن به سایر اعضای گروه، آن اطلاعات را بازتاب و عمل کنم. نکته مهم این است که محتویات فضای کاری برای حافظه کاری ما نیز در دسترس است و به ما امکان می دهد تا مدت ها پس از پایان یک رویداد آنها را در ذهن نگه داریم.

استانیسلاس دیهان، عصب‌شناس شناختی در کالج دو فرانس در پاریس می‌گوید: «ما می‌توانیم [رویدادی] که به‌طور فوق‌العاده کوتاه بود، مانند یک ستاره در حال تیراندازی، و تا زمانی که لازم است درباره آن فکر کنیم».

در طول 30 سال گذشته، Dehaene و همکارانش شواهد قابل توجهی برای وجود فضای کاری جهانی به عنوان یک شبکه دوربرد از نورون های تخصصی در سراسر مغز، از جمله نواحی پیش پیشانی مرتبط با تصمیم گیری، جمع آوری کرده اند. در برخی آزمایش‌ها، تیم یک تصویر هدف، مانند یک عدد یا کلمه، و به دنبال آن تصویر دیگری را به شرکت‌کنندگان فلش زد. با زمان‌بندی صحیح، هدف دقیقا در آستانه آگاهی آگاهانه ظاهر می‌شود - به این معنی که گاهی اوقات شرکت‌کنندگان آن را گزارش می‌کنند و گاهی اوقات نمی‌بینند.

در هر دو مورد، محققان معمولا سوسو زدن فعالیت در ناحیه مغز مرتبط با بینایی را مشاهده کردند. اما زمانی که شرکت‌کنندگان از هدف آگاه بودند، بعدا در شبکه گسترده‌ای از نورون‌ها موجی از فعالیت‌ها به وجود آمد. Dehaene این فرآیند را "اشتعال" می نامد.

حتی رویدادهای خیره کننده، مانند کسی که لباس گوریل پوشیده است، می تواند به دلیل رقابت برای آگاهی ما از دست داده شود

علاوه بر این، GNWT ممکن است پدیده عجیب کوری بدون توجه را توضیح دهد، که ما را از رویدادهایی که درست جلوی چشمانمان رخ می دهد بی خبر می کند. در یک آزمایش معروف، از دانش‌آموزان خواسته شد تعداد دفعاتی که بازیکنان خاصی از بسکتبال عبور کرده‌اند را در یک ویدیو بشمارند. بسیار قابل توجه است که بسیاری از بینندگان دلتنگ زنی با لباس گوریل در حال قدم زدن در صحنه بودند. این غیرقابل توضیح به نظر می رسد مگر اینکه متوجه شوید که رقابت عظیمی برای انواع مختلف اطلاعات برای ورود به فضای کاری جهانی وجود دارد.

دهاینه در بین جلسات آکادمیک روی عرشه قایق به من می گوید: "آگاهی یک گلوگاه است."

همه اینها نظریه فضای کاری را برای مقابله با مشکل توزیع در حیوانات بسیار جذاب می کند. در پیاده‌روی‌هایمان در جزایر، شرکت‌کنندگان کنفرانس در مورد اینکه آیا ایگواناها، شیرهای دریایی و سگ‌های پا آبی که می‌بینیم توانایی فکر و احساس دارند یا خیر، حدس می‌زنند. برخلاف انسان‌ها، نمی‌توانید از این موجودات بخواهید تجربیات درونی خود را گزارش کنند. اما اگر GNWT درست باشد، ممکن است انتظار داشته باشید که فضای کاری جهانی نیز داشته باشند.

Dehaene در سخنرانی خود در سالن قایق تفریحی، آزمایش هایی را توصیف می کند که در آن نخستی ها و کلاغ ها نیز تصاویری به سختی قابل درک دیده می شدند. مانند انسان‌ها، این حیوانات نیز هر زمان که به تصویر واکنش نشان می‌دادند - برای مثال با تمرکز نگاهشان - یک موج دیرهنگام در فعالیت عصبی گسترده نشان دادند که نشان دهنده فضای کاری جهانی است. او می‌گوید: «به نظر می‌رسد فضای کاری جهانی که ما در ابتدا برای آگاهی انسان فرض کردیم نیز وجود دارد و خواص مشابهی در این حیوانات دارد. پس چرا ماشین ها هم نه؟

در حین پیاده روی در گالاپاگوس، کارشناسان درباره تفاوت ذهن انسان با حیوانات و هوش مصنوعی بحث کردند.

همانطور که همسفر من در همان ابتدای سفر ما پیش بینی کرد، این احتمال موضوع بحث های زیادی در حین حرکت است. این بیشتر به دلیل مقاله طولانی منتشر شده در ماه جولای توسط وس گورنی و همکارانش در آنتروپیک است. این تیم ادعا می کند که یک فضای کاری جهانی به طور خود به خود در شبکه های عصبی کلود ظاهر شده است.

اکثر مدل‌های زبان بزرگ (LLM) مانند کلود با در نظر گرفتن نظریه فضای کاری برنامه‌ریزی نشده‌اند. آنها به صورت آماری عمل می کنند و از مقادیر فراوانی از داده های آموزشی استفاده می کنند تا محتمل ترین کلمات و دنباله های نقطه گذاری را که به دنبال دستور کاربر باشد، بدست آورند. و ماهیت دقیق محاسبات آنها با داده‌هایی که دریافت می‌کنند تکامل می‌یابد، بنابراین روش‌های جدیدی برای پردازش اطلاعات، شاید حتی یک فضای کاری جهانی، می‌تواند پدیدار شود.

گورنی و همکارانش برای کشف اینکه آیا این اتفاق افتاده است یا نه، ابزار رمزگشایی ایجاد کردند که به آنها اجازه می‌داد واحدهای اطلاعاتی را که در هر مرحله از پردازش کلود ظاهر می‌شوند، بخوانند. از این رو، آنها یک منطقه متمرکز را شناسایی کردند که حاوی لیست کوچکی از کلمات بالقوه است، که برخی از آنها مستقیما در پاسخ‌های آن ظاهر می‌شوند و برخی از آنها نه.

"افکار پنهان" کلود

مهندسان این مجموعه از نمایش ها را فضای J نام گذاری کردند. مانند فضای کاری جهانی فرضی مغز، به نظر می رسد فضای J حاوی اطلاعات مهمی است که باید برای استدلال سطح بالاتر به سایر مناطق پردازشی پخش شود. برای مثال، زمانی که به کلود یک محاسبات حسابی ذهنی داده شد، مهندسان مراحل تکی محاسبه را در فضای J تقریبا به همان روشی یافتند که یک انسان قسمت‌های جداگانه را کار می‌کرد – چیزی که قبلا در یک LLM مشاهده نشده بود.

سپس، آنها سعی کردند محتویات فضای J را تغییر دهند تا ببینند آیا و چگونه این «تفکر» کلود را مختل کرده است. هنگامی که مهندسان از کلود خواستند یک متن اسپانیایی را بخواند، متوجه شدند که نام زبان در فضای J آن ظاهر می شود. تغییر آن به "فرانسوی" باعث ایجاد سردرگمی خنده دار در پاسخ های بعدی آن شد. «سلام» به جای hola به bonjour ترجمه شد و وقتی از یک نویسنده مشهور خواسته شد، کلود پاسخ داد «ویکتور هوگو» شاعر رمانتیک فرانسوی.

در این مقاله، گورنی و همکارانش استدلال می‌کنند که این شبیه روشی است که محتوای فضای کاری جهانی ما بر نحوه استنتاج و تصمیم‌گیری ما تأثیر می‌گذارد.

مهندسان همچنین شواهدی از "افکار" پنهان پیدا کردند - معادل چیزهایی که فکر می کنیم اما نمی گوییم زیرا آنها بی ادب هستند. هنگامی که تیم نتایج جستجوی نادرست را به کلود داد، فضای J آن پر از کلمات مرتبط با فریب، مانند "تقلب" و "جعلی" شد، اما اینها در پاسخ آن ظاهر نشدند.

Dehaene می‌گوید پنهان کردن «افکار» یک نشانه ابتدایی از نظارت بر خود در LLM است. در GNWT، تصور بر این است که آگاهی زمانی پدید می‌آید که یک موجودیت به این ترتیب محتوای فضای کاری جهانی خود را منعکس می‌کند. حتی نشانه‌های جالب‌تری از خودنظارتی زمانی پدیدار شد که تیم آنتروپیک از کلود خواست که جمله «نقاشی قدیمی به شکل کج روی دیوار آویزان بود» را بنویسد در حالی که به پل گلدن گیت فکر نمی‌کرد. اگر خودتان این نوع سرکوب افکار را امتحان کنید، خواهید دید که چقدر سخت است که افکار خود را از نقطه عطف سانفرانسیسکو دور نگه دارید.

با کمال تعجب، کلمات مربوط به پل هنوز در فضای J کلود ظاهر می‌شوند، حتی زمانی که در خروجی گنجانده نشده‌اند، و اینها با کلمات حاکی از شکست همراه بوده است. فضای J شامل کلمه "لعنتی" بود، برای مثال، گویی از ناتوانی خود در سرکوب فکر آگاه بود. Dehaene به من می‌گوید: «این مستقیما به یک خط تحقیقاتی در آزمایشگاه من متصل می‌شود، جایی که ما به آگاهی از خطاها نگاه کردیم. وقتی متوجه می‌شوید که اشتباه کرده‌اید، نوعی آتش‌سوزی وجود دارد.»

او می‌گوید: «فضای J دقیقا به این دلیل پدیدار می‌شود که ما فکر می‌کنیم آگاهی در تکامل پدید آمده است». "این یک معماری بسیار مفید برای انتخاب اطلاعات مرتبط و نگهداری آن به اندازه کافی است که بتوانید به طور انعطاف پذیر از آن در استدلال و گزارش خود استفاده کنید."

در یک قایق تفریحی لوکس، کارشناسان آگاهی جمع می شوند تا در مورد اینکه آیا چت ربات ها نوعی زندگی درونی دارند یا خیر، جمع می شوند.

همانطور که قایق بادبانی به جزیره سن کریستوبال نزدیک می شود، من این یافته ها را در هنگام ناهار با سوزان اشنایدر، فیلسوف دانشگاه آتلانتیک فلوریدا در میان می گذارم. او که از پنجره به سمت سواحل سفید و شنی اشاره می کند، می گوید: «چه جای شگفت انگیزی برای هوشیاری است. او می‌گوید که LLMها قبلا به‌طور خودجوش توانایی‌های انسان‌مانند دیگری مانند توانایی استنباط دانش، نیات یا باورهای یک نفر را توسعه داده‌اند. بنابراین خبر فضای کاری جهانی کلود برای اشنایدر تعجب آور نبود، زیرا معتقد است این ممکن است ویژگی مشترک بسیاری از سیستم های هوشمند باشد.

با این حال، این که دقیقا چه معنایی برای وجود یک زندگی درونی دارد، یک سؤال باز است.

Dehaene مراقب است که ادعاهای قوی در مورد تجربه داخلی کلود نداشته باشد، و اکثر شرکت کنندگان شک دارند که چت بات چیزی نزدیک به افکار یا احساسات ما باشد. با این حال، دیوید چالمرز، فیلسوف دانشگاه نیویورک، استدلال می کند که یافته ها ما را مجبور می کنند که این احتمال را جدی بگیریم. او می گوید، حتی اگر پاسخ منفی باشد، این کار مهمی است که می تواند به اصلاح درک ما از این مسائل کمک کند.

برخی از شک و تردیدها که کلود هر شکلی از تجربه دارد، از ویژگی های فنی خود فضای J ناشی می شود. برای مثال، چالمرز ابراز تردید می‌کند که شباهت کافی به فضاهای کاری جهانی خودمان دارد تا بتوان نتیجه‌گیری‌های محکمی به دست آورد. مشخص نیست که محتوای آن به همان میزانی که مثلا در مغزها می بینیم، در سایر بخش های سیستم کلود «پخش» شده باشد.

هوشیاری فوق العاده

و حتی اگر کلود یک فضای کاری جهانی کامل داشت، ممکن است لازم باشد با تمایز اساسی بین آگاهی پدیداری و دسترسی که بلاک در دهه 1990 بیان کرد، روبرو شویم.

در انسان‌ها، نشانه‌های آگاهی دسترسی با افکار، احساسات و ادراکات فرض می‌شود، اما بدیهی نیست که این امر در مورد سیستم سیلیکونی نیز صادق باشد. تفکر پنهان و نظارت بر خود، اصطلاحات بارگذاری شده در زمینه یک چت بات هستند، و این رفتارها را می توان ساده تر به عنوان الگوهای پردازش اطلاعات در نظر گرفت.

شاید کلود فقط در حال مدل سازی پدیده های زندگی واقعی است که در تجربه آگاهانه دخیل هستند، از جمله مواردی مانند سرکوب افکار، بدون تکرار تجربه واقعی، بسیار شبیه شبیه سازی محیطی که با خود آب و هوا قابل مقایسه نیست.

به هر حال، مغز ورودی‌های حسی زیادی دریافت می‌کند که از طریق سطوح مختلف فعالیت، از تبادلات مولکولی پیچیده در سیناپس‌ها تا پردازش اطلاعات انتزاعی، آن‌ها را پردازش می‌کند. هنوز هم توافق اندکی در مورد اینکه کدام عناصر برای تجربه‌ی خارق‌العاده مهم هستند و کدام‌ها اهمیت ندارند وجود دارد – با صدها نظریه قابل قبول در حال بحث.

به عنوان مثال، پیتر گادفری اسمیت، فیلسوف دانشگاه سیدنی، در جلسه خود به بررسی این موضوع می پردازد که چگونه امواج الکتریکی ممکن است مناطق مختلف مغز را همگام کنند و تجربه را در یک کل واحد پیوند دهند. چه اتفاقی می‌افتد اگر معماری‌های اطلاعاتی مشابه را حفظ کنید اما امواج الکتریکی جهانی را که LLM‌ها فاقد آن هستند حذف کنید؟ "آیا شما نوع دیگری از آگاهی یا چیزی غیر از هوشیاری به دست خواهید آورد؟" او می پرسد.

Dehaene صبر کمی برای این ایده دارد که هوش مصنوعی تنها زمانی می تواند هوشیار باشد که از زیست شناسی ما تقلید کند. وقتی صحبت از ماشین‌ها می‌شود، آیا نمی‌توانیم از سطح محاسباتی راضی باشیم؟ او به یکی از این ایرادات پاسخ می دهد. او آن را با مورد پرواز در ماشین ها در مقابل پرندگان مقایسه می کند. "اگر می خواهید هواپیما بسازید، بهتر است از پر استفاده نکنید."

با این حال، او اعتراف می کند که بررسی کلود در حالت استراحت، سؤالات جدی تری در مورد وجود زندگی درونی ایجاد می کند - شکی که گادفری اسمیت در آن سهیم است. بین اعلان‌ها، LLM کاملا بیکار است، در حالی که مغز انسان دائما در حال بررسی مسائل است. آیا هوشیاری می تواند بدون آن هیاهوی فعالیت و تعامل مداوم با یک محیط وجود داشته باشد؟ گادفری اسمیت به من می‌گوید: «فکر می‌کنم این به خودی خود دلیلی برای تردید است که کلود تجربه‌ای دارد.

آیا نظرات در آینده با پیچیده تر شدن این مدل ها تغییر خواهد کرد؟ Dehaene می‌گوید ما می‌توانیم به دنبال نشانه‌هایی از توانایی‌های یادگیری باشیم که نیاز به در نظر گرفتن چیزی در طول زمان دارد. به عنوان مثال، شرطی‌سازی ردیابی - ظرفیت ارتباط دو محرک، مانند صدا و پف هوا، حتی زمانی که آنها به موقع از هم جدا شوند - تصور می‌شود که به بازنمایی آگاهانه پایدار در حیوانات نیاز دارد. یافتن آنالوگ در LLM ها ممکن است به تقویت هوشیاری ماشین کمک کند.

با این حال، چنین آزمایش‌هایی نمی‌توانند شواهد قطعی ارائه دهند، که ممکن است دستیابی به اجماع را دشوار کند. ما بیش از نیم قرن است که در مورد راه هایی برای تشخیص عوامل "زامبی" از ذهن آگاه بحث کرده ایم. تیم باین، فیلسوف دانشگاه موناش در ملبورن، می‌گوید: «ما هنوز منتظر پیشرفت بزرگ هستیم. ظهور هوش مصنوعی این سوال را فوری تر می کند.

از او می‌پرسم که آیا بازگشت به همان سؤالات خسته‌کننده است، اما او معتقد است که این بحث‌ها در نهایت به ما کمک می‌کند تا خطوط پیچیده‌تری از تحقیق را تدوین کنیم. باین می گوید: «می توانید یک هفته را در یک قایق بگذرانید و از بسیاری از جزایر خنک دیدن کنید. "در پایان هفته، شما به جایی که رها شده بودید بازگشته اید - اما شما همان شخص نیستید." او به عنوان یک حوزه می گوید: "من فکر می کنم که ما در اینجا هستیم".

سفر دیوید به گالاپاگوس و حضور در کنفرانس توسط کارآفرین فناوری دیمیتری ولکوف، یکی از بنیانگذاران مرکز بین المللی مطالعات آگاهی تامین شد.