روش دیگری که هوش مصنوعی تفکر ما را مختل می کند

تمایل هوش مصنوعی برای از بین بردن دامنه توجه ما مدتی است که مشخص شده است. اجازه دادن به فناوری بر دوش بار اندیشه، توانایی ما برای حفظ تلاش ذهنی را از بین می برد. من همیشه این را در مقطع کارشناسی که تدریس می کنم می بینم. درمان، همانطور که به آنها می گویم، پذیرش تلاش و فعال نگه داشتن ماهیچه های شناختی است. اما ناگهان هوش مصنوعی شروع به کاهش تمرکز افراد به روشی جدید کرده است، روشی که مبارزه با آن بسیار سخت تر است.

در هفته گذشته، مشاوره تقریبا با هر منبع خبری مهم - به جز رسانه های اجتماعی - به معنای رویارویی با چشم انداز آخرالزمان هوش مصنوعی بود. استفاده از هوش مصنوعی ظرفیت بسیاری از افراد را برای تمرکز، کار و تفکر کاهش داده است. نگرانی در مورد هوش مصنوعی مشکل را بدتر می کند. من مستثنی نیستم

نقطه اوج در 8 سپتامبر اتفاق افتاد. آن شب، یک محقق جوان به نام جیکوب کاکسون در مورد تصمیم خود برای ترک شغلش در آنتروپیک در X پست کرد. کاکسون نوشت، هم Anthropic و هم OpenAI، جایی که او نیز در آنجا کار می کرد، با زندگی ما قمار می کنند. او ادامه داد: مدل‌های آنها «به زودی سیستم‌های مافوق بشری خواهند بود که می‌توانند هر چیزی را هک کنند، یک شبه هر زمینه‌ای را متحول کنند و قدرت و منابع واقعی را به دست آورند». افرادی که هوش مصنوعی می‌سازند، عمیقا معتقدند که می‌تواند تا پایان دهه همه ما را بکشد.»

شاید حتی نگران‌کننده‌تر، یکی از برترین محققان ایمنی آنتروپیک با این موضوع موافق بود. ایوان هابینگر از Anthropic در X نوشت: "جاکوب در اینجا درست می گوید - ما واقعا عمیقا معتقدیم که هوش مصنوعی می تواند همه انسان ها را بکشد."

[ایان بوگوست: هیجان این که می‌خواهی هوش مصنوعی دنیا را نابود کند]

اینترنت پر از حساب های اول شخص هشدار وجودی است. در ردیت، یکی از پوسترها نوشته بود که از زمان خواندن هشدار کاکسون که بیش از 170 میلیون بار دیده شده، چند روز نخوابیده بودند. من تقریبا 40 ساله هستم و هرگز از ترسی که تا به حال در گلویم فرو رفته است سیر نشده ام. ممکن است به این دلیل باشد که اکنون یک کودک زیر 2 سال دارم و فقط می خواهم او فرصتی برای بزرگ شدن داشته باشد.

یکی دیگر از پوسترهای ردیت نوشت: «من نسبت به آینده فرزندانم احساس فلج و چنین ناامیدی دارم، چه برسد به آینده خودم. من به بچه‌هایم نگاه می‌کنم و می‌خواهم گریه کنم. می‌توانم از کمک/امید استفاده کنم. در حال حاضر واقعا در حال مبارزه هستم.» بچه ها هم ابراز ترس کرده اند. شخصی که به عنوان یک نوجوان 13 ساله معرفی شده بود، پست کرد: "من به تازگی آن مصاحبه کارمند آنتروپیک را تماشا کردم و این من را بسیار ترساند." روز بعد نتوانستم روی مدرسه تمرکز کنم. و دارم فکر می کنم که اگر اینطور باشد دیگر هیچ فایده ای برای گرفتن نمرات خوب ندارد.»

آخرالزمان پیش از این بارها بر روان جمعی تسخیر شده است و اغلب در میان جوانان حاد بوده است. در سال 1982، در دوران اوج جنگ سرد، بیش از یک سوم دانش آموزان دبیرستانی آمریکایی معتقد بودند که احتمالا بشریت در طول زندگی آنها از بین خواهد رفت. در سال 2021، یک نظرسنجی از 10000 جوان 16 تا 25 ساله در 10 کشور نشان داد که 59 درصد آنها بسیار یا به شدت نگران تغییرات آب و هوایی هستند.

تقریبا نیمی از آنها گفتند که احساسات آنها در مورد تغییرات آب و هوایی تأثیر منفی بر "زندگی و عملکرد روزانه" آنها گذاشته است. مطالعات بعدی نشان داد که به اصطلاح اکو اضطراب با خواب ضعیف، اختلال در تمرکز و علائم افسردگی مرتبط است.

هزاره‌ها و کسانی که پشت سر ما می‌آیند، مدت‌هاست که باید با احتمال ناپدید شدن کار دانش مقابله کنند. چنین چشم‌اندازی می‌تواند باعث وحشت مادی شود، به‌ویژه در کسانی از ما که وام‌های دانشگاهی گرفته‌ایم و اکنون برای بچه‌ها فراهم می‌کنیم. همچنین می‌تواند باعث نگرانی عمیق‌تر شود: اینکه حس هدفمندی ما در دنیایی که بسیاری از تلاش‌های انسانی را منسوخ می‌کند، جان سالم به در نمی‌برد.

[بخوانید: هوش مصنوعی در حال دویدن دور سیستم سیاسی ما است]

تا همین اواخر، می‌توانستم ترس‌هایم را خاموش کنم، اگر نه آنها را خاموش کنم. اکنون نادیده گرفتن گفتمان آخرالزمانی تقریبا غیرممکن است. در رسانه‌های اجتماعی، به نظر می‌رسد که کل جهان باسواد در ایجاد غوغایی بی‌وقفه نقش دارد. نظریه پردازان و کارشناسان محترم برای جلب توجه با الیگارشی ها و شتاب گرایان خودخواه که می خواهند مرگ بشریت را تسریع کنند، رقابت می کنند. وحشتناک ترین فرضیه ها هر بار که به یاد می آورم رهبری سیاسی ما چقدر عمیقا آماده نیست، محتمل تر به نظر می رسند.

ناراحت‌کننده‌تر از همه این درک اساسی است که آینده مشترک ما عمدتا توسط یک کادر کوچک و بدون محدودیت از میلیاردرها تعیین می‌شود که فناوری‌هایی را که از دست می‌دهند کاملا درک نمی‌کنند. من از این فلج نیستم؛ من هنوز بیدار می شوم، مراقب بچه هایم هستم، کارم را انجام می دهم. اما من همچنین احساس می کنم انرژی و علاقه ام کم شده است. دنیای اطراف من کم کم دارد افسون شده به نظر می رسد.

اگرچه این احساسات اخیرا قوی شده اند، اما ریشه در نگرانی های طولانی مدت دارند. فن‌آوران در مورد ظرفیت مخرب هوش مصنوعی برای دهه‌ها هشدار داده‌اند و نگرانی‌های عمومی در بیشتر سال جاری به شکلی خاص افزایش یافته است. یکی دیگر از محققین ارشد ایمنی در Anthropic، Mrinank Sharma، در ماه فوریه استعفا داد و هشدار داد که "جهان در خطر است". در ماه جولای، OpenAI اعلام کرد که مجموعه‌ای از پیشرفته‌ترین مدل‌های آن سرورهای یک شرکت دیگر را به‌طور مستقل هک کرده‌اند و دستورالعمل‌های محققان را نادیده گرفته و از شناسایی آنها طفره می‌روند.

یک هفته بعد، 1386 کارمند در شرکت‌های بزرگ هوش مصنوعی نامه‌ای سرگشاده منتشر کردند و از دولت خواستند صنعت آنها را تنظیم کند.

داریو آمودی، مدیر عامل آنتروپیک، درخواست آنها را در مقاله ای که چند روز پس از انتشار پست کوکسون منتشر کرد، تکرار کرد و در آن استدلال کرد که توسعه دهندگان هوش مصنوعی باید سرعت خود را کاهش دهند تا از خطر فزاینده فاجعه جلوگیری کنند. سام آلتمن، ایلان ماسک و دیگر رهبران فناوری موافقت خود را اعلام کردند و پیشنهاد کردند که آنها نیز معتقدند دولت باید مداخله کند. این موضع در زمانی که دونالد ترامپ در کاخ سفید حضور دارد به سختی اطمینان بخش است. ترامپ اوایل این هفته در سایت Truth Social پست کرد: «تنها کنترل یا «حفاظ‌هایی» که هوش مصنوعی به آن نیاز دارد، یک رئیس‌جمهور قوی و باهوش (IQ بالا!) است.

اما اگر آخرالزمان امروزی منجر به مدیریت مسئولانه‌تر هوش مصنوعی شود، ناامیدی بیهوده نخواهد بود.