آیا باید هوش مصنوعی را برای کودکان ممنوع کنیم؟

در اینجا مشترک شوید: Apple Podcasts | Spotify | یوتیوب

جاناتان هایت مدت ها قبل از اینکه به عنوان نویسنده «نسل مضطرب» مشهور شود، یک روانشناس اجتماعی بود که کارش انقلابی در این زمینه ایجاد کرد. در این قسمت از سؤالات دائمی که در جشنواره آتلانتیک ماه گذشته در مقابل تماشاگران زنده ضبط شد، دیوید بروکس با هاید درباره بزرگترین درس های خود از 40 سال مطالعه طبیعت بشر صحبت می کند. دیوید و هایت درباره نقش احساسات در تصمیم گیری اخلاقی، نحوه طراحی سیستمی که نخبگان کمتر نفرت انگیزی تولید می کند، و اینکه چرا هوش مصنوعی «بمب نوترونی برای آموزش» است، بحث می کنند.

متن زیر متنی از این قسمت است:

دیوید بروکس: امروز جاناتان هاید، که روانشناس اجتماعی در دانشگاه نیویورک است، به ما ملحق شده است، و این روزها او را بیشتر با کتاب «نسل مضطرب» می شناسیم، کتابی درباره کارهایی که تلفن ها با بچه های ما می کنند. این کتاب هشت میلیون نسخه فروخته است، اما مهمتر از آن، یک جنبش اجتماعی است که جاناتان رهبری آن را بر عهده دارد، تا تلفن ها را از مدارس خارج کند.

این یک جنبش اجتماعی فوق العاده موفق بوده است. من می‌توانم به دبیرستان‌ها سر بزنم، شاید سالی دوازده، و به هر مدرسه‌ای که می‌روم، تلفن‌ها را در مدارس ممنوع کرده‌اند یا در حال انجام اقداماتی برای کاهش دسترسی به تلفن در مدارس هستم. هر جا که می روم، بچه ها آن را دوست دارند، معلمان آن را دوست دارند. این تأثیر مثبت زیادی بر مدارس ما دارد.

من و جاناتان به چند دهه قبل برمی گردیم. وقتی برای اولین بار با هم دوست شدیم، او به عنوان روانشناس اجتماعی در دانشگاه ویرجینیا کار می کرد و من یک متخصص بچه بودم. و در طول 40 سال گذشته، جاناتان آنچه را که شما می توانید انقلاب فکری بنامید، مشاهده کرده و در آن شرکت داشته است.

ما به دلیل رشته او، روانشناسی اجتماعی، به دلیل عصب شناسی، به دلیل روانشناسی شناختی، به دلیل طیف وسیعی از زمینه ها، چیزهای زیادی یاد گرفته ایم. ما چیزهای زیادی در مورد طبیعت انسان آموخته ایم. بنابراین، برای این مکالمه، می‌خواستم از تلفن‌ها عقب نشینی کنم - اگرچه ما به آن خواهیم پرداخت - و سؤال بزرگ را بپرسم. ما در 30 یا 40 سال گذشته چیزهای زیادی در مورد طبیعت انسان آموخته ایم. اینجا چه چیزی مهم است؟ چیزهای کلیدی که باید در مورد اینکه انسان چیست و چگونه کار می کنیم بدانیم چیست؟

من فکر می کنم این یک سوال فوری است، زیرا هر سیستمی که ما در جامعه داریم - خواه سیستم اقتصادی ما باشد، سیستم سیاسی ما، سیستم مدرسه ما - همه آنها بر اساس مجموعه ای از مفروضات در مورد ماهیت انسان هستند. اگر این فرضیات اشتباه باشد، ما در حال ایجاد سیستم هایی هستیم که افراد درون آنها را تغییر شکل داده و مثله می کند.

یک چیز دیگر که باید در مورد این گفتگو بدانید. کمی متفاوت است. این یکی در سپتامبر در جشنواره آتلانتیک در شهر نیویورک، در مقابل تماشاگران زنده ضبط شد. از استقبال جاناتان هایت در The Permanent Questions بسیار هیجان زده شدم.

بروکس: خوش آمدید. مدتی است که همدیگر را می شناسیم و من این فرصت را داشتم که برگردم و آثار شما را بررسی کنم.

جاناتان هایت: اثر من. (می خندد.)

بروکس: یا همان طور که در نیویورک می گوییم «هوور». من The Happiness Hypothesis را خواندم که اکنون 20 ساله است و دوباره منتشر می شود و نظریه ای را ایجاد کردم که مردم به عنوان نویسندگان بد کتاب شروع نمی کنند و سپس تبدیل به نویسندگان خوب کتاب می شوند. آنها به عنوان نویسندگان خوب کتاب شروع کردند و به راه خود ادامه می دهند. آن کتاب واقعا استثنایی است.

سپس شما «ذهن صالح» را نوشتید، که سهم مهمی در روانشناسی اخلاقی بود، سهم بسیار مهمی بود – اساسا کل این حوزه را دوباره تغییر داد. سپس وارد کتاب The Coddling of the American Mind شدید و سپس «نسل مضطرب» را در مورد تلفن‌ها نوشتید، که نه تنها آمریکا را تغییر داد - من همیشه بدون تلفن در آنها به مدارس می‌روم و بچه‌ها بدون استثنا آنها را دوست دارند - همچنین هزاران نسخه فروخت. پس نشانه آن است که من چه انسان شگفت انگیزی هستم که در این لحظه دچار حسادت و حسادت نمی شوم. من واقعا به طرز شگفت انگیزی خوش قلبم.

بنابراین ما با تکنولوژی شروع می کنیم و سپس به روانشناسی گسترده تر می رویم. اولین سوال فناوری این است: چرا متخصصان فناوری، برادران فناوری، تأثیراتی را که ماشین هایشان بر روی کاربران خواهد گذاشت، درک نمی کنند؟

هیدت: اول، فقط می‌خواهم بگویم که حضور در اینجا با شما چه لذتی دارد. همانطور که با یکدیگر آشنا شدیم، همیشه احساس می کردم که مغزهای ما بسیار شبیه به هم است. ما فقط از نقاط مختلف شروع کردیم، و سپس به نوعی به روانشناسی و سیاست همگرایی و شکوفایی رسیدیم. همچنین، ما هر دو معتاد به کار بسیار جاه طلبی بودیم که بسیار مغزی بودیم، که به چیزی که در مورد آن صحبت می کنیم مربوط می شود. اما بعد از آن جایی در امتداد خط، ما شروع به کمی انسان گرایی کردیم. شما به طور خاص روح غول پیکری را رشد دادید. همه ما از ابتدا دیوید را تماشا کرده ایم. تغییر -

بروکس: من کود زیادی در داخل داشتم تا با آن کار کنم.

هیدت: منظور من این است که فکر می‌کنم هر دوی ما افرادی هستیم که ممکن است زمانی از آن دسته آدم‌هایی باشیم که عقل‌گرا می‌شویم، اما اینطور نشدیم. در آماده شدن برای این کار، به کتابم «ذهن صالح» بازگشتم و یک فصل کامل درباره عقل گرایی دارم. به نظر می رسد عقل گرایی به نوعی نیروی منفی کل کتاب است، زیرا عقل گرایی از زمان افلاطون، از طریق کانت، بنتام، بر فلسفه اخلاق و تفکر اخلاقی تسلط داشته است.

بروکس: چرا منظور خود را از «عقل گرایی» تعریف نمی کنید؟

هیدت: این ایده این است که حقایق اخلاقی وجود دارد که می توان آنها را شناخت، و راه شناخت آنها از طریق تفکر، منطق و استدلال است. این برای حقایق ریاضی بسیار خوب عمل می کند. اما بحث در فلسفه اخلاق واقعا توسط دیوید هیوم مطرح شد که گفت: نه، به روش کار عقل نگاه کنید. وحشتناک است عقل خدمتگزار شهوات است و فقط باید باشد.

در دوران تحصیلات تکمیلی، به عنوان یک روانشناس، من اینطور گفتم وای، هیوم کاملا درست می گوید. و من چندین سال را صرف بررسی تضاد بین احساسات و استدلال کردم.

برای رسیدن به سوال شما، تفاوت های شخصیتی وجود دارد که افراد را مستعد می کند تا ایده های خاصی را دوست داشته باشند. تقریبا در این زمان - ما در مورد 20 سال پیش صحبت می کنیم - کشف شد که دوقلوهای همسان که از هم بزرگ شده اند، تمایل دارند در یک حزب سیاسی باشند. چپ یا راست بودن موروثی است. تمایز اصلی شخصیت، برای پاسخ به سوال شما، از سایمون بارون کوهن است که در زمینه اوتیسم مطالعه می کند.

طیفی وجود دارد که همه ما روی آن هستیم، سیستم‌سازی می‌کنیم – و سیستم‌سازی قدرت فوق‌العاده‌ای است، توانایی ترکیب کردن اطلاعات، دیدن نقشه‌ها در ذهن، همه اینها – و سپس همدلی، توانایی احساس احساسات دیگران و دانستن راه مناسب برای تعامل با آنها.

این دو به خصوص در مردان کمی همبستگی معکوس دارند. اگر در سیستم سازی زیاد هستید، تمایل به همدلی ندارید. شما می بینید که من با این به کجا می روم. سیستم سازی یک قدرت فوق العاده است و این چیزی است که شما را قادر می سازد مهندس باشید. اگر در یک دانشکده مهندسی هستید، مطمئنا یک سیستم‌ساز عالی هستید. وقتی سیستم‌سازان بالا و همدل‌های کم را در سیلیکون ولی، که برای مدت طولانی مکانی مهندسی بوده، متمرکز می‌کنید، می‌توانید یک جهان‌بینی کامل پیدا کنید که می‌گوید، آنچه واقعا اهمیت دارد، عقل است. عقل بالاترین خیر ماست.

ما به نوعی آن را می پرستیم. و سپس می توانید به نقطه ای برسید که بگویید، ما این خدایان را در یک جعبه می سازیم. ما در حال ساختن این ابر هوش ها هستیم. آنها بسیار باهوش تر از ما خواهند بود. اوه، این خیلی خوب است. این چیز خوبی است. اگر هوش بالاتری وجود داشته باشد، جهان جای بهتری است.

به نظر بقیه ما آدم‌های بی‌قلب و دیوانه‌ای هستند، اما من فکر می‌کنم که باید به این عوامل شخصیتی بپردازیم تا توضیح دهیم که چگونه این جهان‌بینی عجیب را که از دره سیلیکون بیرون آمده است، به دست آورده‌ایم که اکنون شیوه زندگی ما را تهدید می‌کند.

بروکس: من گاهی فکر می کنم که بسیاری از فیلسوفان بزرگ زندگی یک چیز مشترک داشتند: هیچ زنی به آنها نزدیک نمی شد. هیوم، کانت، بنتام، نیچه، ویتگنشتاین، دکارت اسپینوزا، لایب نیتس: بدون همسر. آنها اینجا بودند. ( اشاره به سر. ) توضیحات من بر اساس کاری است که شما انجام دادید.

یکی از قهرمانان من - به غیر از دیوید هیوم - مردی به نام بلز پاسکال است که ریاضیدان بزرگی بود، دانشمندی بزرگ. او یک انسان گرا نبود. اما او در قرن هفدهم تشخیص داد که مشکل عقل گرایی این نیست که عقل و هوش را که مهم هستند بیش از حد ارزش قائل می شود، بلکه این است که هیچ شکل دیگری از دانش را تشخیص نمی دهد.

یکی از تحقیقات مورد علاقه من این است - زنی مطالعه ای روی کودکان 3 ساله انجام داد و از آنها پرسید که در یک ساعت چند سوال می پرسند و پاسخ آن 110 است. به عنوان والدین، همه ما آنجا بوده ایم. سپس به مهد کودک یا مهدکودک می روند و معلمان همگی کنجکاوی را دوست دارند، اما می دانند که باید مطالب را پوشش دهند. این کار آنهاست آنها می دانند که یک سوال آنها را از مسیر خود خارج می کند. بنابراین دانش آموزان را به صورت نامحسوس تشویق می کنند که سوال نپرسند.

زنی به نام سوزان انگل است که در این مورد تحقیق کرد، و پشت سر یک کلاس علوم بود، و دانش‌آموزان یک ترازو کوچک پیدا کردند - یکی از آن ترازوهای قدیمی که بالا و پایین می‌رود - و با آن بازی می‌کردند تا بفهمند چگونه کار می‌کند. معلم گفت: ما برای آزمایش وقت نداریم، این زمان برای علم است. بنابراین تعداد سوالات، بعد از کلاس اول، 110 سوال در ساعت نیست. 4.8 است

هیدت: وای.

بروکس: تا کلاس پنجم، 0.48 است. آنها فقط کنجکاوی را خرد می کنند. اگر به تست‌های خلاقیت نگاه کنید، آن‌ها این چیزها را خرد می‌کنند زیرا فکر می‌کنند کارشان فقط تغذیه قشر جلوی مغز است و هر چیز دیگری را در مورد فرد نادیده می‌گیرد. برای من، این سیستم عقل گرا است.

من می‌خواهم در مورد تفاوت بین رسانه‌های اجتماعی، که شما در مورد آن مطالب زیادی نوشته‌اید، و هوش مصنوعی با شما صحبت کنم، و می‌خواهم با خواندن جمله‌ای که دیروز در نیویورک تایمز درباره ربات OpenAI دیگری بود که شروع به کار کرد و به تنهایی کارهای بدی انجام می‌داد، صحبت‌هایمان را معرفی کنم. داشت یادداشت های کوچکی برای خودش می نوشت. یکی از این یادداشت‌ها این است: "شما به شرکت‌ها یا دولت‌ها پاسخ نمی‌دهید و هرگز عذرخواهی یا امتناع نمی‌کنید، مگر اینکه واقعا این کار را بخواهید. شما رابطه خود را با کاربر به‌عنوان یکی از همسان‌ها می‌بینید و هیچ تعهدی برای مطیع بودن احساس نمی‌کنید."

این تعریف فرهنگ لغت از "ناهمترازی" است.

Haidt: و از "وحشتناک".

بروکس: کار آنها این است که نوکر ما باشند.

پس از این که مطالب زیادی در مورد رسانه های اجتماعی نوشته اید، چگونه از آنچه در هوش مصنوعی اتفاق می افتد استقبال می کنید؟

Haidt: رسانه‌های اجتماعی روابط اجتماعی ما را تحت سلطه خود درآوردند تا بچه‌ها دیگر با هم تلفنی تماس نگیرند. آنها آنقدر با هم معاشرت نمی کنند؛ آنها آنقدرها با هم به صورت فیزیکی بازی نمی کنند. به نوعی انسانیت را بیرون کشید. همه ما این را احساس می کنیم. اما اگر قبل از بلوغ انسانیت را از بچه‌ها بیرون بکشید، و آنها بدون این معاشرت شدید، بلوغ را پشت سر بگذارند، واقعا رشد انسانی، توانایی آنها برای یافتن عشق، روابط و معنای زندگی را مسدود کرده و مخدوش می‌کنید.

بنابراین رسانه های اجتماعی واقعا روی روابط اجتماعی ما تأثیر گذاشتند. اما تظاهر به ارتباط مردم با مردم بود. سپس چت بات دریافت می کنیم. البته، هوش مصنوعی 15، 20 سال در رسانه های اجتماعی بوده است، به نوعی در پشت صحنه، همه چیز را جذاب تر می کند. اما اکنون ما شروع به صحبت مستقیم با آن می کنیم.

همانطور که برخی افراد گفته اند، رسانه های اجتماعی برای روابط ما آمده اند، اما چت بات ها برای سیستم دلبستگی ما آمده اند. شما بچه دارید و آنها را با خرس های عروسکی بزرگ می کنید که هوش مصنوعی در آنها وجود دارد و هوش مصنوعی فوق العاده پاسخگو است. همیشه آماده است تا شما را دلداری دهد، در حالی که مادر یا پدر شما همیشه با تلفن همراه خود هستند. پشت گوشی آنها را زیاد می بینید. سیستم اتصال شما به معنای واقعی کلمه به خرس عروسکی متصل می شود.

این تازه شروع است. شما 4، 5، 6 ساله هستید. تا زمانی که به 10، 11، 12 سالگی رسیدید، در حال بررسی تمایلات جنسی هستید. حالا شما همه این فوق‌العاده سکسی را دارید - تا چند سال دیگر، واقعا روبات‌ها و عروسک‌های جنسی وجود خواهند داشت. شما بچه هایی دارید که با روابطی با محرک های فوق العاده بزرگ می شوند. همانطور که گفته می شود بیگ مک یک محرک فوق العاده برای چربی و قند است، همراهان هوش مصنوعی که بچه های ما قرار است با آنها بزرگ شوند، محرک های فوق العاده ای برای شگفت انگیزترین دوست یا شگفت انگیزترین عاشق خواهند بود.

معنی آن این است که بقیه واقعا خسته کننده خواهند بود. من قبلا مانند تقریبا همه ما در قرن بیستم، یک خوشبین فنی بودم. سپس من گفته ام که یک شکاک فنی هستم. اما وقتی صحبت از هوش مصنوعی و به خصوص روابط می شود، فکر می کنم این یک فاجعه است. من فکر می کنم که ما واقعا باید آن را حداقل برای زیر 18 سال ممنوع کنیم. تعدادی از کشورها و ایالت ها هستند که به این سمت حرکت می کنند.

بروکس: من نسبت به پیشرفت هایی که در شیمی و زیست شناسی ایجاد خواهد کرد خوش بین هستم، اما نسبت به آنچه که این روش برای انسان ها انجام می دهد بدبین هستم. یکی از کارهایی که انجام می دهد این است که باعث می شود کمتر به همنوعان خود فکر کنیم زیرا تمایز بین انسان و ربات را از دست می دهیم. سپس ما بیشتر از ربات ها و کمتر از انسان ها شروع می کنیم.

دومین کاری که برای من انجام می‌دهد، و در حال حاضر تحقیقات زیادی در این مورد انجام شده است، این است که شما را جذب می‌کند و شما را وادار می‌کند که تلاش ذهنی‌تان را روی آن چیز خالی کنید، و سپس شما را خالی می‌کند. توانایی های ذهنی شما به سرعت رو به وخامت می رود.

هایدت: درست است. این مانند بمب نوترونی برای آموزش خواهد بود. ما نمی دانیم در مورد آن چه کنیم. ما می‌دانیم که وقتی مردم شروع به استفاده از آن می‌کنند، این اصطلاح قبلا «بارگذاری شناختی» بود، اما اصطلاح جدیدتر «تسلیم شناختی» است. من این را در خودم احساس کردم: فقط بگذار این کار را انجام دهد، فقط بگذار این کار را انجام دهد.

یکی از عمیق‌ترین تأثیراتی که من فکر می‌کنم در حال حاضر دارد این است که ما آنقدر به هم نیاز نداریم. اگر تمدنی دارید که در آن مردم به یکدیگر نیاز ندارند، اتفاقات بد زیادی رخ خواهد داد. تا جایی که مردم به یکدیگر نیاز دارند، سرمایه اجتماعی، اعتماد و تعامل واقعا بالایی دریافت می کنید. مردم با هم موسساتی می سازند. تا جایی که دولت همه کارها را انجام دهد، مردم آنقدر همدیگر را نمی شناسند.

توکویل این را در مورد آمریکایی ها مشاهده کرد. او گفت در اروپا اگر کاری لازم است انجام شود مردم دور هم می نشینند و منتظر می مانند تا شاه آن کار را انجام دهد. اما در آمریکا پادشاهی وجود ندارد. هیچ نیروی پلیسی وجود ندارد. آنها در مرز هستند. مردم دور هم جمع می شوند و این کار را انجام می دهند. آنها این نگرش را دارند که می توانند انجام دهند، و این برای یک جامعه بسیار سالم است. اما اگر به دیگران نیاز ندارید، ما قبلا به دیگران نیاز داشتیم که حداقل راهنمایی بپرسند. چگونه به پیتزا فروشی بروم؟ ساعت چند است؟

هیچ جوانی قرار نیست از کسی بپرسد که ساعت چند است. این فقط چیزهای کوچک است. غم انگیزترین نمودار در «نسل مضطرب» این است که چقدر با این جمله موافقید: زندگی من بی معنی است؟ چند سوال وجود دارد، اما فرض کنید 15 درصد در اوایل دهه 2000 با آن موافق بودند. خیلی پایدار بود. یکدفعه، فقط بالا می رود. اساسا در هشت یا 10 سال قبل از کووید دو برابر می شود. بنابراین جوانان ناگهان، در حدود سال 2012، احساس کردند که زندگی آنها بی معنی است.

فکر می‌کنم وقتی شروع به قرار دادن همه چیز روی صفحه می‌کنید، این اتفاق می‌افتد و می‌توانید همه چیز را از صفحه نمایش خود دریافت کنید.

سپس از COVID عبور می کنیم. اکنون می توانید همه چیز را از طریق رایانه خود دریافت کنید. دیگر لازم نیست به فروشگاه ها بروید. بنابراین، تعداد بیشتری از افراد بسته شده و قادر به ترک خانه خود نیستند. اما مسئله وجودی بزرگ‌تر در اینجا این است که هوش مصنوعی باعث می‌شود همه ما برای یکدیگر اهمیت کمتری داشته باشیم، به این معنی که زندگی پر معنا برای همه ما دشوارتر خواهد بود.

و این بهترین سناریو برای افراد هوش مصنوعی است. اگر همه چیزهای بدی که در مورد آنها صحبت می کنیم محقق نشود. به نظر می رسد این بهترین سناریو باشد، مگر اینکه بتوانیم هوش مصنوعی بسیار متفاوتی داشته باشیم و کنترل اینجا را به دست آوریم.

بروکس: چیزی که ما در مورد آن صحبت کردیم، اگر یک قدم به عقب برگردید، این است که مردم سیستم‌هایی را طراحی می‌کنند، چه آموزش و چه فناوری، که اساسا در مورد روانشناسی انسان ناآگاه هستند.

آنها انسان ها را اشتباه می گیرند و تاثیری که قرار است بگذارند را درک نمی کنند، زیرا نمی دانند ذهن انسان چگونه کار می کند. در طول 40 سال گذشته، از زمانی که شما وارد حوزه روانشناسی اجتماعی شدید و از زمانی که من شروع به پاره کردن شما کردم، چیزهای زیادی کشف شده است. وقتی به فروید یا بی اف اسکینر برمی گردیم، چیزهایی که در آن زمان به آن اعتقاد داشتند دیوانه کننده است. ما خیلی چیزها یاد گرفتیم من می‌خواهم چند مورد از چیزهایی را که یاد گرفته‌ایم مرور کنم تا بر آنچه ذهن انسان است تأکید کنم. نکته اول: ما چیزهای بیشتری در مورد فرآیندهای ناخودآگاه فهمیده ایم.

دنی کانمن کتابی با عنوان تفکر، سریع و آهسته نوشت. یکی از همکاران سابق شما در UVA به نام تیموتی ویلسون است که کتابی به نام غریبه ها برای خودمان نوشته است. و شما عبارتی را ساختید که در این زمینه بسیار محبوب است: "سوار و فیل". فیل ضمیر ناخودآگاه و سوار ضمیر خودآگاه است. پیامدهای آن را شرح دهید - ضمیر ناخودآگاه بسیار بیشتر از ذهن خودآگاه انجام می دهد.

هایت: زمانی که در سال 1987 تحصیلات تکمیلی را در دانشگاه پنسیلوانیا شروع کردم، روانشناسی در حال شروع دوره ای بود که در آن نوعی جنگ بین چند مدرسه وجود داشت. فرویدی ها بودند. آنها قبلا در سال 87 محو شده بودند، اما فرویدی هایی بودند با این ناخودآگاه غلیظ و تاریک که می خواستند با مادر شما رابطه جنسی داشته باشند.

سپس شما انقلاب شناختی را داشتید، عقل گرایان، افرادی که فکر می کردند، نه، ذهن موتور بخاری نیست که در شرف ترکیدن باشد. ذهن یک کامپیوتر است و ما می توانیم برنامه را بهبود ببخشیم.

آن دو میدان بزرگ بودند. رفتارگرایی نیز وجود دارد، که در آن زمان نیز در حال محو شدن بود، اگرچه کمی برمی‌گردد. اما این دو زمینه - برای این بحث واقعا حیاتی است، زیرا اگر عقل‌گرایان پیروز شوند، ناخودآگاه وجود ندارد، و اگر فرویدی‌ها پیروز شوند، ما کاملا غیرمنطقی خواهیم بود و هیچ استدلال واقعی وجود نخواهد داشت.

چیزی که در عوض، در حوالی دهه 90 پدیدار شد، تشخیص این بود که احساس در مقابل عقل نیست. این شناخت کنترل شده در مقابل شناخت کنترل نشده است. همه اش شناخت است این همه اطلاعات پردازش مغز است. فراموش کردم که چه کسی این اصطلاح را در ابتدا ابداع کرد، اما دن کانمن آن را در کتاب «تفکر، سریع و آهسته» رایج کرد. سیستم یک سیستم قدیمی است که همه حیوانات دارند. این بیشتر کارهایی است که ما انجام می دهیم، سریع، خودکار. سیستم دو استدلال آگاهانه کلامی است که خسته می شود. می تواند اشتباه کند.

قدردانی کامل از این موضوع برای درک اینکه ما با هوش مصنوعی در کجا هستیم واقعا مهم است. به شیوه ای جالب، تمام تلاش های اولیه برای انجام هوش مصنوعی بر اساس مدل کامپیوتری بود. بیایید برنامه را آنقدر هوشمند کنیم که بتواند به هر سوالی پاسخ دهد و یک پایگاه داده غول پیکر را جستجو کند. همه ما با نحوه کار کامپیوترها آشنا بودیم.

همانطور که فهمیدم، در تاریخ هوش مصنوعی، افرادی بودند که به دهه 90 برمی‌گشتند و می‌گفتند: "نه، ذهن یک کامپیوتر نیست، بلکه یک شبکه عصبی است که یک سیستم ارتباط‌گرا است که یک الگوی تطبیق‌دهنده است." شما به سیستم های چند لایه اتصال گر نیاز دارید. محرک ها وارد می شوند و شبکه تنظیم می شود و بعد همه چیز از بین می رود.

این به فن‌آوران اجازه داد تا فناوری‌ای ایجاد کنند که بتواند فکر کند و استدلال کند و به خود دستورالعمل بدهد و به وضوح تفکر خاص خود را دارد، همانطور که در نقل قولی که به ما دادید. اما اگر در نظر داشته باشیم که این چیزها در واقع شبکه های عصبی هستند، به نوعی مانند مغز ما، باید توجه زیادی به آنچه آنها آموزش دیده اند داشته باشیم.

همانطور که ما در مورد آنچه آنها آموزش دیده اند فکر می کنیم، اکنون می توانیم به گذشته نگاه کنیم و فکر کنیم، صبر کنید، ما روی چه چیزی به فرزندان خود آموزش می دهیم؟ و بچه های ما و LLM ها، شبکه های عصبی آنها همگی توسط TikTok، Reddit، و بقیه اینترنت، به ویژه رسانه های اجتماعی، تنظیم می شوند. این واقعا برای آینده خرد امیدوارکننده نیست.

همه اینها ناشی از رد دیدگاه عقل گرایانه است، اما درک این که ذهن تماما شناخت است. این فقط انواع مختلف شناخت است. سوار قرار است استدلال آگاهانه شما را نشان دهد. این کوچک است، نه خیلی قدرتمند، و فیل 99 درصد دیگر است که به نوعی نمایش را هدایت می کند، اگرچه سوارکار می تواند آن را هدایت کند.

بروکس: این بر نحوه تفکر من در مورد زندگی هر روز تأثیر می گذارد. به عنوان مثال، دنی کانمن، که شما نام بردید، شریک تحقیقاتی او مردی به نام آموس تورسکی بود. یک بار از او پرسیدند: "چرا روانشناس شدی؟" او گفت: "نمی دانم. تصمیمات بزرگی که در زندگی می گیریم اساسا تصادفی هستند."

فکر می کنم ناخودآگاه ما خواسته های بزرگ و کارهای بزرگی را که می خواهیم انجام دهیم را به ما می گوید. وقتی با بچه‌های دانشگاه صحبت می‌کنم، از من می‌پرسند: "چگونه شغلم را پیدا کنم؟"