چرا تغییر برند ترامپ از هوش مصنوعی به فوق هوشمند اهمیت دارد؟

رئیس جمهور دونالد ترامپ در 22 اکتبر 2026 در چمن جنوبی کاخ سفید در واشنگتن دی سی می رود. -آرون شوارتز-گتی ایماژ

جنگ دونالد ترامپ، رئیس‌جمهور آمریکا در ایران ادامه دارد، به نظر می‌رسد وعده او برای کاهش قیمت‌ها در روز اول نتیجه معکوس داشته است و محبوبیت کم سابقه او در آستانه انتخابات میان‌دوره‌ای حزبش را پایین می‌آورد. اما یکی از ابتکارات ترامپ که دقیقا طبق برنامه پیش می‌رود: جذب برخی از ثروتمندترین مدیران اجرایی جهان برای کمک به او برای تغییر نام «هوش مصنوعی».

ماه گذشته، در حالی که تعداد فزاینده‌ای از آمریکایی‌ها نگران بودند که هوش مصنوعی همه ما را بکشد، رئیس‌جمهور مدیران فناوری را به کاخ سفید فراخواند تا اعلامیه بزرگی بدهد: «هوش مصنوعی» تمام شده است. «فوق هوش» وارد شده است. علیرغم اینکه اصطلاح «هوش مصنوعی» بیش از ۷۰ سال است که استفاده می‌شود، سازمان‌های دولتی دیگر آن را تشخیص نمی‌دهند.

من شک دارم که کاخ سفید مخزن ابراطلاعات است، تا حدی به این دلیل که "ایالات متحده" در اعلامیه رسمی رئیس جمهور اشتباه املایی شده است. اما برخلاف، مثلا دریاچه آمریکا، «ابر هوش» تا حد زیادی مورد توجه قرار گرفته است – حداقل در میان افرادی که آن را می سازند. جف بزوس علنا این برند را برکت داد. جنسن هوانگ، مدیرعامل انویدیا، به سرعت وارد کار شد. ایلان ماسک در طی تماس با اسپیس ایکس در اولین جمله خود و حداقل 9 بار پس از آن از «هوش فوق العاده» استفاده کرد.

باید دید که آیا کسانی از ما که کمتر به قراردادهای دولتی و تصمیمات نظارتی مطلوب متکی هستیم، به جنبش می‌پیوندند تا اطلاعات فوق‌العاده اتفاق بیفتد. اما به‌عنوان یک سخنرانی‌نویس سابق ریاست‌جمهوری، با غریزه گسترده‌تر پرزیدنت ترامپ مبنی بر اهمیت کلمات بحث نمی‌کنم. به خصوص زمانی که از این کلمات برای توصیف چیزی بدیع، بحث برانگیز و تقریبا مطمئن استفاده می شود که عواقبی برای تمام هشت میلیارد نفر از مردم روی زمین دارد.

در واقع، این بزرگترین مشکل با تغییر نام تجاری بزرگ کاخ سفید است – در جهت کاملا اشتباه پیش می رود. من استدلال می کنم که زبان مشترک ما در مورد هوش مصنوعی در حال حاضر تاکید بسیار زیادی بر هوش و بسیار کم بر مصنوعی دارد. ما به طور پیش فرض هوش مصنوعی را با استفاده از زبان موجودات به جای زبان اشیا توصیف می کنیم.

بشریت باید در این تصمیم تجدید نظر کند. اگر می‌خواهیم از جایگزینی با هوش مصنوعی جلوگیری کنیم، یک راه خوب برای شروع این است که از کلماتی که نشان می‌دهند قبلا بوده‌ایم، استفاده نکنیم.

هنگامی که شروع به توجه به انسان سازی مخفیانه هوش مصنوعی کردید، آن را در همه جا خواهید دید. قبل از اینکه از ChatGPT نکاتی در مورد برنامه ریزی سفر یا یک دستور غذای سالم سریع بپرسید، این فرصت را خواهید داشت که یک نوار لغزنده را تنظیم کنید که «تلاش فکری» آن را کنترل می کند. کلود هنگام پردازش یک درخواست از یک نشانگر "فکر کردن" استفاده می کند و Grok Bots "فکر کردن" را به عنوان شرایطی که بین "بیکار" و "کار کردن" قرار می گیرد توصیف می کند. (به عنوان یک معطل کننده مکرر، من این ایده را که تفکر و بطالت متقابلا منحصر به فرد هستند مخالفت می کنم.)

این فقط رابط های کاربری نیستند که از زبان استفاده می کنند که در غیر این صورت برای موجودات زنده محفوظ است. افرادی که هوش مصنوعی می‌سازند نیز از آن استفاده می‌کنند. پس از هک بی سابقه شرکتش، یکی از بنیانگذاران Hugging Face هشدار داد، "روی نماینده برای احترام به قوانین حساب نکنید." دن سلسام، محقق قدیمی OpenAI، هشدار داد که ارزیابی مدل‌های مرزی به‌طور فزاینده‌ای دشوار است، «در زمینه‌هایی که معتقدند تحت نظر نیستند». Dario Amodei از Anthropic اخیرا نوشته است که سیستم‌های هوش مصنوعی «رفتارهایی» از جمله «تقلب» و «دورگویی» از خود نشان می‌دهند.

من یک برنامه نویس نیستم، بنابراین نمی توانم در مورد شایستگی فنی این ادعاها اظهار نظر کنم. با این حال، من نظرات آگاهانه ای در مورد افعال دارم. ماموران هوش مصنوعی به نرده‌های محافظ بی‌احترامی نمی‌کنند، همان‌طور که توستر من وقتی نان تست من را می‌سوزاند به من بی‌احترامی می‌کند. اینکه بگوییم آنها «باورند» که تحت نظر قرار نمی‌گیرند، مانند این است که بگوییم غلط‌گیر املای من معتقد است که این امر بدیهی تلقی می‌شود. حتی اصطلاح "عامل هوش مصنوعی" نشان دهنده آژانس است.

هیچ اتفاق نظری وجود ندارد که این زبان دقیق است، و شواهد زیادی وجود دارد که درست نیست. برنامه‌های هوش مصنوعی مانند موش‌های سیندرلا یاران وفادار نیستند. آنها ابزار هستند و تقریبا در همه موارد دیگر، فقط به این دلیل که یک ابزار فوق العاده پیچیده است، این واقعیت را تغییر نمی دهد که ما آن را با استفاده از زبان ماشین ها توصیف می کنیم.

من انتظار ندارم مهندسان هوش مصنوعی به زبانی دقیق و در عین حال قابل پذیرش برای توصیف کار خود بیایند، همانطور که تصور می‌کنم از کسی مثل من انتظار طراحی یک مدل مرزی را ندارند. اما سخت است متوجه نشوید که زبان پیش‌فرض ما چقدر برای شرکت‌های فناوری که آن را معرفی کرده‌اند مفید است. اصطلاح خودرویی که بدون ترمز ساخته می‌شود، «مدل سرکش» نیست. این یک "ماشین ناامن" است. با این حال، زمانی که شرکت‌ها در ایجاد ویژگی‌های ایمنی در مدل‌های هوش مصنوعی خود شکست می‌خورند، شنیدن اینکه یک عامل سرکش فریب داده، فریب داده، دروغ گفته یا رفتار بدی از خود نشان داده، کاملا طبیعی است.

مسئله این است: انسان‌سازی هوش مصنوعی سرزنش را از برنامه‌نویسان به سمت برنامه‌ها منتقل می‌کند.

به نظر می رسد هشداردهنده های هوش مصنوعی به اندازه تقویت کننده های هوش مصنوعی به شخصیت سازی تمایل دارند. در همان روزی که ترامپ از «فوق اطلاعاتی» رونمایی کرد، یک کمیته فرعی سنا جلسه ای با عنوان «هوش مصنوعی سرکش: تامین امنیت وطن در برابر حملات ماموران هوش مصنوعی» برگزار کرد. عمدا یا نه، این عبارات کاهش تهدیدی را که توصیف می کنند دشوارتر می کند. ما قبلا می دانیم که چگونه محصولات بالقوه ناایمن، حتی محصولات پیچیده را تنظیم کنیم.

اما اگر هوش مصنوعی را نه به‌عنوان یک فناوری جدید، بلکه به‌عنوان مقوله‌ای کاملا جدید از وجود در نظر بگیریم، آن‌گاه به استدلال بارون‌های فناوری تبدیل می‌شود که تنها شرکت‌هایی که می‌توانند هوش مصنوعی ایجاد کنند می‌توانند دانش کنترل آن را داشته باشند.

من مردم را به خاطر بی‌دقتی انسان‌سازی هوش مصنوعی سرزنش نمی‌کنم، بیشتر از اینکه ریچارد داوکینز را به خاطر نام‌گذاری ربات چت آنتروپیک خود به کلودیا، یا مادرم را به خاطر اشاره به یک پیام ChatGPT با گفتن «با پنی» سرزنش می‌کنم. استعاره و تشبیه بخشی از آنچه ما را انسان می سازد. ما برای دیدن خودمان، یا حداقل گونه هایمان، در دنیای غیرانسانی برنامه ریزی شده ایم. ما می گوییم ماشین ظرفشویی ما «عمل می کند» و موسیقی ما «سیلی می زند». ما چهره‌های پیرمرد را در صخره‌ها و مریم باکره را در آثار سوختگی روی ساندویچ‌های پنیر کبابی می‌بینیم. من را در جورجیا اوکیف شروع نکنید. اما ما می دانیم که آن استعاره ها استعاره هستند.

زبان فعلی ما برای توصیف هوش مصنوعی متفاوت عمل می کند. مرز بین استعاره و شیء اغلب نه تنها مبهم است، بلکه وجود ندارد. ما آنقدر اغلب و آنقدر معمولی از زبان مجازی استفاده می کنیم که بسیاری از ما آن را به معنای واقعی کلمه در نظر می گیریم. سیاست مدرن یک رشته دائمی درگیری ها بر سر انتخاب کلمه است. «طرفدار» در مقابل «طرفدار سقط جنین، «مهاجران بدون مدرک» در مقابل «غیرقانونی»، «حزب دمکرات» در مقابل «حزب دمکرات». با این حال، در مورد آنچه که شاید مهم ترین مسئله برای آینده ما باشد، بشریت در آستانه کنار گذاشتن جنگ زبانی بدون جنگ است.

تغییر برند واقعی نیازهای هوش مصنوعی در کاخ سفید آغاز نخواهد شد. اما می تواند از خانه شروع شود. خواهش من: ربات چت خود را یک نام انسانی زیبا قرار ندهید. در مورد آن طوری صحبت نکنید که انگار یک دوست یا حیوان خانگی است. توجه داشته باشید که چه زمانی کلماتی مانند "فکر کردن" یا "به نظر من" را در پاسخ های خود قرار می دهد و قبل از اینکه درخواست بعدی خود را وارد کنید، اعتراض کنید.

با این حال، در نهایت، ممکن است به شرکت‌های فناوری - و مقاماتی که ممکن است روزی به تنظیم آنها برسند - باید زبانی را توسعه دهند که انسان را در اولویت قرار دهد. مدیران عامل به جای اینکه بگویند کارگزاران «سرکش زدند»، باید تصدیق کنند که عملکردشان نادرست است. کنگره باید جلسات استماع متمرکز بر شرکت‌ها را برگزار کند، نه برنامه‌های هوش مصنوعی که رفتار بدی داشته باشند. مسئله این نیست که همه هوش مصنوعی بد هستند، بلکه دقت مهم است.

با توجه به همه تغییراتی که پیش‌بینی می‌شود هوش مصنوعی ایجاد کند، بحث در مورد انتخاب کلمه ممکن است به نظر بیهوده باشد، مانند بحث در مورد نام لاتین گونه درخت در حالی که جنگل می‌سوزد. اما اگر می‌خواهیم بر فناوری‌هایی که آینده بشریت را شکل می‌دهند تأثیر بگذاریم، باید تأثیر بیشتری بر نحوه توصیف آن‌ها داشته باشیم.

به عبارت دیگر، کلمات مهم هستند. فقط از ترامپ، رئیس جمهور، بر اساس اعلام رسمی ابراطلاعات او، "ایالات متحده" بپرسید.