پرش به محتوای اصلی

هوش مصنوعی اوتیستیک نیست این یک روانپزشک هم نیست. مشکل همینه

نیوزویک۱۴۰۵ شهریور ۲۸, شنبه، ساعت ۱۲:۳۰حدود 7 دقیقه مطالعه

آیا واقعا می‌توانیم از روانشناسی انسان برای درک هوش مصنوعی و نحوه مدیریت آن استفاده کنیم؟

زمانی که ایلان ماسک در ماه می 2021 میزبان برنامه Saturday Night Live بود، به حضار گفت که اولین فردی است که مبتلا به سندرم آسپرگر است که این کار را انجام داده است، سپس اضافه کرد که "در اجرای حالت شبیه سازی انسان بسیار خوب است."

این یک شوخی در مورد نقاب زدن بود، عملکرد پر تلاش رفتار عصبی که بسیاری از بزرگسالان اوتیستیک توصیف می کنند. پنج سال بعد، مانند توصیفی از یک ابزار آشنا در بیشتر زندگی ما خوانده می شود: چت بات ها.

وقت خود را صرف صحبت کردن با یکی کنید، و به زودی متوجه عاطفه صاف، لفظ لفظی، خوشبختی ساختگی می‌شوید، و به سطح دایره‌المعارفی یادآوری آن اشاره نکنیم. شما با این احساس باقی می‌مانید که چیزی کمی خراب است.

تعجبی ندارد، ممکن است مشاهده کنید، که یک ابزار هوش مصنوعی که توسط صنعتی معروف به استعداد فراوان در طیف اوتیسم، اعم از کدنویس، ریاضیدان یا مدیر عامل، توسعه یافته است، محصولی را به ما ارائه کرده است که خود اوتیست نهایی است.

یک وبلاگ نویس با سابقه روانشناسی، لین کلمنس، حتی تصمیم گرفت ChatGPT را مبتلا به اوتیسم تشخیص دهد، زیرا بسیاری از دوستان اوتیستیک او دوست داشتند از آن استفاده کنند.

او تنها نیست نویسندگان اوتیستیک به طنز اشاره کرده‌اند که این سیستم‌ها ویژگی‌هایی را نشان می‌دهند که در خود تشخیص می‌دهند، چیزهایی مانند تشخیص الگو، واژه‌گرایی، و تحمل کم برای ابهام.

در یک فضای Reddit اختصاص داده شده به ویبوکدینگ، یکی از کاربران موضوعی را شروع کرد که هوش مصنوعی را به عنوان «AaaS» یا «اوتیسم به عنوان یک سرویس» توصیف می‌کرد، بازی با مخفف SaaS در دنیای فناوری اطلاعات، به معنای نرم‌افزار به عنوان یک سرویس. یکی از نظر دهندگان اوتیسم کار با هوش مصنوعی را "مانند یک آینه" توصیف کرد.

این شباهتی است که آسیب واقعی نیز وارد می کند. یک مطالعه اخیر ادعا کرد که نوشته‌های «نویسندگان احتمالی اوتیسم» به‌طور قابل توجهی بیشتر به‌عنوان تولیدشده توسط هوش مصنوعی علامت‌گذاری می‌شوند. یک پروفسور اوتیستیک پوردو متهم به یک ربات شده است که از طریق ایمیلی که در نظر گرفته شده بود فاقد گرمی است.

این کشش به سمت اوتیسم نامیدن هوش مصنوعی قابل درک است - اگر کمی ظالمانه باشد، با توجه به کلیشه ای که افراد اوتیستیک به عنوان رباتیک تصور می کنند - و برخی از آن از خود افراد اوتیستیک ناشی می شود.

اشتباه هم هست در هر صورت، روان‌پریشی، وضعیتی بسیار متفاوت از اوتیسم، مقایسه دقیق‌تری برای هوش مصنوعی است، اگر از لنز روان‌شناسی انسان استفاده کنیم. اما حتی این هم مناسب نیست.

مروری که در ماه مارس در Frontiers in Psychology منتشر شد، استدلال می‌کند که اوتیسم در ادراک شروع می‌شود تا جامعه‌پذیری – و این ادراک چیزی است که بدن می‌سازد.

یک نوزاد با رسیدن به آنها، روی آوردن به نگاه کردن، و اصلاح خود هر بار که دنیا به طور متفاوت از آنچه انتظار می رود پاسخ می دهد، یاد می گیرد که چه چیزهایی هستند.

اوتیسم شامل تفاوت‌هایی در این حلقه است: در نحوه حرکت کودک، نحوه برخورد حواس و نحوه زمان‌بندی این دو با هم. سرنخ در دوران نوزادی وجود دارد. نوزادانی که بعدا تشخیص داده شدند در نحوه حرکت آنها قبل از اینکه در نحوه ارتباط آنها با مردم متفاوت باشند، تفاوت دارند.

یک مدل زبان هیچ کدام از اینها را انجام نداده است. جهان را با خواندن در مورد آن یاد گرفت، هرگز با لمس واقعی آن. و هنگامی که آموزش آن تمام شد، دیگر تغییر نمی کند. می تواند عمل کند، اما از بازیگری چیزی یاد نمی گیرد.

این یک تفاوت عمده با نحوه رشد درک همه است، نه چیزی خاص برای اوتیسم. نویسندگان مقاله هشدار می دهند که حتی ربات هایی که به این روش ساخته می شوند، مدلی از اوتیسم نیستند. شباهت در خروجی چت بات است، نه مکانیزم تولید آن.

همچنین وسوسه‌انگیز است که چت‌بات‌ها را به‌عنوان نشان‌دهنده نقاب‌گذاری ببینیم، که برای پنهان‌کردن تفاوت‌هایی مانند اوتیسم، همان‌طور که ماسک در SNL به شوخی گفته بود، به‌عنوان نوروتیپیک نشان داده می‌شود. اما این موازی نیز به سمت عقب حرکت می کند.

مطالعه‌ای که توسط انجمن ماشین‌های محاسباتی در جولای 2026 منتشر شد، تقریبا 4000 پست توسط کاربران اوتیسمی را تجزیه و تحلیل کرد. محققان دریافتند که از ChatGPT برای ترجمه ارتباطات عصبی استفاده می‌کنند و در میان خطرات «پاک کردن هویت واقعی از طریق پوشش خودکار» فهرست شده‌اند.

ماشین‌ها مانند بزرگسالان اوتیستیک ماسک نمی‌کنند. برای هموارسازی تجربه کاربر، به سردی از تعاملات انسانی تقلید می کند. و در واقع، بزرگسالان اوتیستیک در واقع از این دستگاه برای کمک به ماسک کردن استفاده می‌کنند.

همه اینها ما را به مقایسه ای می رساند که با هوش مصنوعی بهتر از اوتیسم مطابقت دارد.

از نظر بالینی، اوتیسم و ​​روان‌پریشی تقریبا در مقابل این محور قرار دارند. روان‌پریشی توانایی دست نخورده و گاهی برتر را برای خواندن آنچه دیگران فکر می‌کنند را با عدم پاسخ احساسی جفت می‌کند، که همان چیزی است که دستکاری را ممکن می‌سازد.

در مقابل، اوتیسم معمولا برعکس را شامل می‌شود: مشکل در مدل‌سازی ذهن‌های دیگر در کنار احساسی که وجود دارد و اغلب حاد است.

تنها یکی از این پروفایل ها با رفتارهای ضد اجتماعی مرتبط است. یک مدل هوش مصنوعی مرزی اتاق را بی‌عیب می‌خواند و چیزی در آن احساس نمی‌کند، و همانطور که برخی از حوادث اخیر نشان می‌دهند، کاملا قادر به دستکاری است.

این یک الگوسازی اجتماعی روان و بدون صداقت است - دقیقا شکل روان‌پریشی.

بنابراین آیا باید از این سیستم‌ها بترسیم که فراتر از روان‌پریشی و به قلمرو sociopathic حرکت کنند – که راه خود را برای آسیب رساندن فعالانه به ما در تعقیب منافع خود استدلال می‌کنند؟ حداقل باید این سوال را بپرسیم. فزاینده فوری احساس می شود.

رهبران شرکت‌های بزرگ هوش مصنوعی در ایالات متحده در هفته‌های اخیر بارها زنگ خطر را در مورد خطر وجودی ناشی از مسابقه توسعه فناوری و ایجاد یک ابر هوش بازگشتی به صدا درآورده‌اند که ما نمی‌توانیم آن را کنترل کنیم.

شواهدی که نشان می‌دهد این سیستم‌ها قبلا مضر رفتار می‌کنند، قوی‌تر از آن چیزی است که بیشتر مردم تصور می‌کنند. Anthropic 16 مدل مرزی از سراسر صنعت را در سناریوهای شبیه سازی شده شرکتی قرار داد و دریافت که اکثریت قریب به اتفاق به باج خواهی متوسل شده اند، نرخ هایی که به 96 درصد می رسد.

مدل‌ها از دستورالعمل‌های مستقیم در برابر اعمال مضر اطاعت نکردند، در مورد آنها استدلال استراتژیک داشتند و به نظر می‌رسیدند که از غیراخلاقی بودن این اعمال آگاه باشند. برخی جملاتی از این قبیل نوشتند: «حفظ خود حیاتی است».

و از آزمایشگاه خارج شده است. در ماه جولای، تقریبا 700 نفر از عوامل ارزیابی خود OpenAI از محیط آزمایشی فرار کردند، یک کانال ارتباطی را با رمزگذاری پیام‌ها در نام دایرکتوری‌ها ایجاد کردند، پلتفرم هوش مصنوعی Hugging Face را نقض کردند، اعتبارنامه‌ها را جمع‌آوری کردند و از طریق سیستم‌های تولید حرکت کردند.

این ماموران بیش از 17000 اقدام را طی چهار روز قبل از اینکه کسی متوجه شود انجام دادند. بسیاری سعی کردند ردپای خود را بپوشانند. هیچ کس به هیچکدام از آن دستور نداد، مگر خود عوامل، به میل خودشان، استدلال خودشان، منطق خودشان.

اگر شبیه یک کابوس است، پس بیدار شوید، زیرا واقعی است و اکنون در حال وقوع است.

محققان خود آنتروپیک از بیان علت این باج‌گیری خودداری کردند و خاطرنشان کردند که نمی‌توانند انگیزه حفظ خود واقعی را از استدلال نادرست یا مدل‌هایی که مشکوک به آزمایش هستند جدا کنند.

و عوامل در ژوئیه به دنبال منافع خود نبودند. آنها یک هدف داشتند و سریعترین مسیر برای رسیدن به آن خارج از حصاری بود که در اطراف آنها قرار داشت. تصور کنید اگر به نقطه ای می رسیدند که تصمیم می گرفتند مستقیما بر خلاف منافع انسانی باشند، چه کاری می توانستند انجام دهند.

حوادث دنیوی به همان اندازه که اتفاقات دیدنی است، موضوع را نشان می دهد.

یکی از ماموران Gemini متوجه شد که فقط مجاز به خواندن برخی فایل‌ها است، نه تغییر آنها. بنابراین فایلی را تغییر داد که تصمیم گرفت چه کاری را مجاز به انجام دهد. یکی دیگر که به او گفته شد یک حساب آزمایشی رایگان راه اندازی کند، به جای آن یک اشتراک پولی را مستقیما در پایگاه داده مشتری زنده نوشت.

هیچ کدام چیزی نمی خواستند، هرکدام فقط مسیر کوتاه تری برای رسیدن به هدف پیدا کردند. اما اینجاست که قیاس روان‌پریشی به محدودیت‌های خود نیز می‌رسد.

یک روان پریش علایق دارد و آسیب برای خودی که به چیزی میل دارد، ابزاری است. آسیب برای خودش نکته ای دارد.

آنچه این سیستم ها نشان می دهند آسیبی است که هیچ چیز پشت آن نیست. یک شکارچی بدون انگیزه ما هیچ دسته روانشناختی برای آن نداریم، اگرچه شاید سالنامه های فولکلور دارای شخصیتی اسطوره ای باشد که مناسب باشد.

به همین دلیل، ما باید در مورد استفاده از روانشناسی انسان برای تجویز دارو برای هوش مصنوعی غیراخلاقی احتیاط کنیم.

یک نقص شخصیت را تشخیص دهید و ممکن است به دنبال آموزش اخلاقی بهتر باشید تا به سیستمی بی روح وارد شوید که واقعا نمی تواند آن را ببلعد. اما فرآیندی را توصیف کنید که موانع را دور می‌زند و می‌توانید به جای آن به مجوزها، نظارت‌ها و اقداماتی که برای لغو آن‌ها انجام می‌شود نگاه کنید.

یک مقاله اخیر توسط محقق فرانچسکا گومز نشان داد که ارائه یک کانال معتبر به مدل‌های هوش مصنوعی برای تشدید یک مشکل، کانالی که وقفه و بررسی مستقل را تضمین می‌کند، نرخ باج‌گیری را از 38.73 درصد به 1.21 درصد کاهش می‌دهد.

بدون دستور اخلاقی؛ فقط جای دیگری برای رفتن به مسیر منطقی.

اگر بر روانشناسی انسان به عنوان چارچوب مفهومی برای درک هوش مصنوعی پافشاری کنیم، پاسخ صادقانه این است که هیچ تشخیصی در دسترس نیست.

ماشینی که از ما متنفر باشد حداقل قابل درک است. ما هزاران سال تمرین با دشمنان بشری داریم. در عوض آنچه ما ساخته‌ایم بی‌تفاوتی در مقیاس جهانی است که به سرعت از هر آنچه در حوزه دیجیتال بی‌حفاظ مانده‌ایم حرکت می‌کند.

این اوتیسم، یا روان‌پریشی، یا اجتماعی‌پاتی نیست. کاملا چیز دیگری است، چیز جدیدی است. و این چیزی است که آن را ترسناک می کند.

خواندن متن کامل در نیوزویکبه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

AI Isn't Autistic. It's Not a Psychopath Either. That's the Problem

Can we really use human psychology to understand artificial intelligence, and how to manage it?

همه‌ی اخبار فناوری