آیا ما تفکر خود را به هوش مصنوعی برون سپاری می کنیم - و چقدر باید نگران باشیم؟

«گرانش هوش مصنوعی» ممکن است ما را مجبور کند تا حد امکان از این فناوری استفاده کنیم

CollisionEric C. بنابراین، W. W. NortonUS: در حال حاضر. بریتانیا: 20 نوامبر

این همان سؤالی بود که اریک سی سال‌ها از کلاس خود پرسیده بود. سو به عنوان استاد اقتصاد رفتاری در موسسه فناوری ماساچوست، دوست داشت از دانشجویانش بپرسد که فکر می‌کنند فناوری چه تأثیری بر طرز تفکر ما دارد.

اما این بار، قبل از اینکه حتی بتواند سوال را تمام کند، یک دانش آموز دست او را بالا برد. او قبل از خواندن پاسخی که چت ربات هوش مصنوعی داده بود، گفت: «من فقط ChatGPT آن را انجام دادم. وقتی سو از او پرسید که چه فکری می کند، دانش آموز واقعا متحیر به نظر می رسید. پاسخ ChatGPT اکنون همان چیزی بود که او فکر می کرد.

بنابراین در The Collision می نویسد: "او نمی توانست بین استدلال خود و استدلال تولید شده توسط هوش مصنوعی تمایز قائل شود. یا شاید می توانست. اما او متوجه نشد که چرا این تمایز مهم است."

این همان حکایتی است که مردم در سراسر جهان می شنوند - و نگران آن هستند. آیا ما از فناوری استفاده می کنیم که همه ما را شبیه این دانش آموز می کند و بدون اینکه متوجه باشیم تفکر خود را به هوش مصنوعی برون سپاری می کنیم؟

بنابراین قطعا به نظر می رسد که چنین فکر می کند. Collision از تحقیقات حوزه‌های علوم رفتاری و علوم اعصاب استفاده می‌کند تا استدلال کند که هوش مصنوعی، به‌ویژه ابزارهای هوش مصنوعی مولد مانند ربات‌های گفتگو، می‌تواند باعث شود بسیاری از ما از «آتروفی شناختی» رنج ببریم. این ادعایی است که عقل مانند یک عضله است، با مغز ما مسیرهای عصبی را در اطراف عادت های ما و مهارت های هرس کردنی که دیگر از آنها استفاده نمی کنیم، دوباره سیم کشی می کند. بنابراین استدلال می کند که اگر از مهارت های تفکر مستقل خود استفاده نکنیم، آنها بدتر می شوند، در حالی که "بازتاب شناختی" برای استفاده از هوش مصنوعی برای هر چیزی که از نظر ذهنی چالش برانگیز است تقویت می شود.

Eric C. So ایده جالبی را پیشنهاد می کند که ما در طی هزاران سال تکامل یافته ایم تا فریب هوش مصنوعی را غیرقابل مقاومت بدانیم.

او به مطالعه‌ای اشاره می‌کند که نشان می‌دهد چگونه افرادی که در طی سه ماه شعبده بازی را یاد می‌گیرند، رشد بافت قابل مشاهده را در مناطقی از مغز که برای ردیابی حرکات طراحی شده بودند نشان دادند، اما پس از سه ماه دیگر تمرین نکردن، این بافت مغز پسرفت کرد. به عبارت دیگر، از آن استفاده کنید یا آن را از دست بدهید.

شما می توانید مشکلاتی را که می تواند به خصوص در کودکان ایجاد کند، مشاهده کنید. So هشدار می‌دهد: «وقتی ابزارهای هوش مصنوعی را قبل از اینکه پایه‌های شناختی خود را بسازند به دانش‌آموزان می‌دهیم، ممکن است از شکل‌گیری صحیح این ارتباطات ضروری جلوگیری کنیم. خطرات مشابهی در مورد مهارت هایی که معمولا در طول یک حرفه ایجاد می کنیم نیز صدق می کند. برای مثال، در طی یک نسل، می‌توانیم پزشکانی داشته باشیم که «مغزشان هرگز معماری را برای تشخیص مستقل توسعه نداده است».

پس از اینکه متوجه شد از ChatGPT می‌خواهد ایمیل ساده‌ای را که برای یکی از همکارانش می‌نویسد، تمام کند و متوجه شد که «برخی از رابطه‌های اساسی بین من و تفکر من تغییر کرده است»، الهام گرفته شد تا بررسی کند که هوش مصنوعی با ذهن ما چه می‌کند.

خطر نوشتن کتاب بر اساس چنین فرضی این است که انتخاب گزینشی استدلال هایی که آن را تأیید می کنند وسوسه انگیز می شود. بنابراین، با تکیه بر چند مطالعه کوچک برای انجام کارهای سنگین، در آن دام می افتد و هیچ مصاحبه یا مطالعه موردی را ارائه نمی دهد. من خیلی دوست داشتم بینش دانشمندان علوم اعصاب را در مورد آخرین تفکر در مورد آنچه هوش مصنوعی با مغز ما انجام می دهد ببینم.

یکی از مطالعات کوچک سو توصیف، فعالیت عصبی سه گروه از دانش‌آموزان را که یک مقاله می‌نویسند، اندازه‌گیری کرد، به یک مجموعه اجازه استفاده از ذهن آنها، دیگری، موتورهای جستجو و گروه نهایی ChatGPT را می‌داد. در حین تکمیل کار، مغز نویسندگان بدون کمک "با ارتباطات گسترده و قوی در حال سوختن بود"، اما مغز گروه ChatGPT "ساکت شد".

بلافاصله پس از اتمام، از شرکت کنندگان خواسته شد که هر جمله ای از مقاله خود را نقل کنند. برای کسانی که بدون کمک می نوشتند یا از موتور جستجو استفاده می کردند، یادآوری تقریبا بی عیب و نقص بود. اما 83 درصد از کاربران ChatGPT در به خاطر سپردن هرگونه نقل قول مستقیم مشکل داشتند.

So می نویسد: «اطلاعات هرگز رمزگذاری نشدند. او استدلال می‌کند که این نشان می‌دهد که چگونه ما در خطر ایجاد دنیایی از «صلاحیت توخالی» هستیم، با نسلی که می‌تواند «بدون درک» تولید کند. اما در این کتاب ذکر نشده است که این مطالعه فقط شامل 54 شرکت‌کننده، 18 نفر در هر گروه بود و تنها 20 دقیقه برای نوشتن مقاله به آنها فرصت داده شد.

The Collision هرگز شواهد علمی کاملا محکمی برای تأیید ادعاهای جسورانه خود ارائه نمی دهد. با این حال، این یک مطالعه کاملا استدلالی و قابل تأمل است. این کتاب به مطالعاتی اشاره می‌کند که نشان می‌دهد چگونه هوش مصنوعی می‌تواند درک ما را از میزان مهارت ما در چیزی منحرف کند و اساسا دانش آن را با خود اشتباه بگیریم. با این حال، از آنجایی که هوش مصنوعی به ما احساس توانایی بیشتری می‌دهد، تمایل بیشتری به تکیه بر آن پیدا می‌کنیم و مهارت‌های تفکرمان را بیشتر از بین می‌بریم.

بنابراین، همچنین این ایده جالب را پیشنهاد می کند که ما طی هزاران سال تکامل یافته ایم تا فریب هوش مصنوعی را تقریبا غیرقابل مقاومت بدانیم، زیرا مغز ما انرژی زیادی را برای تفکر مصرف می کند و بنابراین ترجیح برای "آسانی شناختی" در طبیعت ما رمزگذاری شده است. So می‌گوید که این امر مقاومت در برابر بارگذاری افکارمان در هوش مصنوعی را برای ما سخت می‌کند. زیست‌شناسی ما عملا این را می‌طلبد».

با این حال، نویسنده این استدلال را کمی بیش از حد پیش می‌برد و ادعا می‌کند که جهان چیزی را تجربه می‌کند که او آن را «گرانش هوش مصنوعی» می‌نامد - نیرویی که دائما بر ما تأثیر می‌گذارد تا تا آنجا که ممکن است از هوش مصنوعی استفاده کنیم، مگر اینکه فعالانه علیه آن کار کنیم. این می تواند توصیف مناسبی از تلفن هوشمند باشد، اما هنوز برای هوش مصنوعی فاصله زیادی دارد. گاهی اوقات، احساس می‌شد که این کتاب برای زیرمجموعه کوچکی از افرادی نوشته شده است که قبلا کاملا به چت‌بات‌ها معتاد هستند.

در یک نقطه، نویسنده می پرسد: "اگر هوش مصنوعی فردا ناپدید شود، چه کاری می توانید انجام دهید؟ بیشتر مردم تا زمانی که تلاش نکنند نمی دانند." واقعا؟ من فکر می کنم اکثر مردم می دانند که آنها کاملا خوب خواهند بود.

بنابراین فرض بر این است که عامل کلیدی برای موفقیت در کار با هوش مصنوعی، اجرای اصطکاک در فرآیند است. او به مطالعاتی اشاره می‌کند که نشان می‌دهد وقتی افراد باید قبل از دریافت پاسخ، از طریق اعلان‌ها کار کنند، پس هوش مصنوعی به عنوان یک «شریک شناختی» می‌تواند قابلیت‌های فکری ما را گسترش دهد.

این کتاب هشدار می دهد که در غیر این صورت، عقل ما ممکن است دچار مشکل شود. "تو لحظه ای که از فکر کردن برای خودت دست بکشی متوجه نخواهی شد. هیچ زنگی به صدا در نخواهد آمد، هیچ زنگ خطری به صدا در نخواهد آمد. تسلیم آهسته... تقریبا نامحسوس خواهد بود."

در اینجا امیدواریم، به خاطر تمام مغزمان، اجازه ندهیم این اتفاق بیفتد.

صمیمیت مصنوعی: وقتی با ماشین‌ها صحبت می‌کنیم چه کسی می‌شویم نوشته شری ترکل این کتاب ظهور افرادی را که از چت‌بات‌ها به عنوان جایگزینی برای شرکت‌های واقعی انسانی استفاده می‌کنند را بررسی می‌کند و نشان می‌دهد که چگونه ما را از رشد شخصی محروم می‌کند و رشد عاطفی ما را متوقف می‌کند.

کتاب As If Human: Ethics و هوش مصنوعی نوشته نایجل شادبولت و راجر همپسون کتابی است که مکاتب مختلف فکری فلسفی را بررسی می کند تا بپرسد اخلاق هوش مصنوعی چگونه باید باشد و انسان ها چگونه باید با چت بات ها رفتار کنند، به این امید که بتواند بر نحوه تنظیم این ابزارها در آینده تأثیر بگذارد.

ما ماشین نیستیم: مبارزه برای آینده کاری توسط سارا اوکانر این کتاب توسط ویراستار فایننشال تایمز نوشته شده است، این کتاب استدلال می کند که ما باید با انتظارات برخی کارفرمایان مقابله کنیم که نحوه کار و زندگی خود را طوری تنظیم کنیم که با دنیای مبتنی بر هوش مصنوعی مطابقت داشته باشد، نه برعکس.

تام نولز یک روزنامه نگار در زمینه فناوری و تجارت است که در لندن زندگی می کند

هنگامی که از طریق لینک های موجود در این صفحه خرید انجام می دهید، کمیسیون دریافت می کنیم.