ترامپ می خواهد نام هوش مصنوعی را به «هوش فوق العاده» تغییر دهد – اما چیز دیگری مرا نگران می کند

اگر رئیس‌جمهور دونالد ترامپ در یک چیز خوب است، آن هدایت نادرست است: توجه خود را روی چیزهایی که مهم نیست متمرکز کنید تا بتواند به طور فعال نگران‌کننده‌ترین مشکلات را نادیده بگیرد. بنابراین جای تعجب نیست که او اکنون در حال تلاش برای تغییر نام هوش مصنوعی به "هوش فوق العاده" است. در همین حال، او نگرانی‌ها را کم اهمیت جلوه می‌دهد و قول می‌دهد که به هوش مصنوعی... SI "اختیار" بدهد.

ترامپ این تغییر نام را در جریان سخنرانی سالانه خود در مجمع عمومی سازمان ملل متحد در منهتن در روز سه‌شنبه مطرح کرد و اذعان داشت که نمی‌داند آیا قدرت تغییر نام کل یک رشته علم، فناوری و صنعت را دارد یا خیر. اما به طور طبیعی، مردی که ابتدا ساختمان ها را با بولدوزر می کند و بعدا هرگز سؤال نمی کند، مایل است تلاش کند.

ترامپ اعلام کرد: به دنیای ابر هوش خوش آمدید، داش، SI، SI. "بیایید ببینیم که آیا آن را می چسباند. بیایید ببینیم که آیا می شود. صدا بسیار بهتر است، و بسیار دقیق تر." او حتی قصد دارد استفاده از تمام اسناد دولتی را تغییر دهد، که فقط باعث سردرگمی گسترده خواهد شد.

منطق در اینجا این است که "هیچ چیز مصنوعی در مورد آن وجود ندارد"، هر معنایی که داشته باشد. ترامپ چیزهای برتر خود را دوست دارد، مانند «بزرگترین»، «زیبا»، «عظیم»، «بزرگ» (یا «یوگ»). "Super" متناسب با قالب است. اما همچنین نادرست است. هوش مصنوعی فوق هوش نیست. هنوز هوش انسان با آب اضافی نیست. اینگونه در نظر بگیرید: سوپرمن، اگرچه یک بیگانه است، اما "سوپر" نامیده می شود زیرا او به عنوان یک مرد ظاهر می شود اما با قدرت های خارق العاده.

هوش مصنوعی به این دلیل نامگذاری شده است که مانند یک شیرین کننده مصنوعی ساخته شده است. هیچ چیز طبیعی در مورد آن وجود ندارد. این یک فرد نابغه یا فوق باهوش نیست. این رایانه‌ها، برنامه‌ها، الگوریتم‌ها، مدل‌ها و آموزش هستند که می‌توانند ظاهری مانند هوش انسان ایجاد کنند که در برخی موارد می‌تواند بسیار بیشتر از هوش ما باشد. اما هیچ چیز از راه دور انسانی در مورد آن وجود ندارد.

ترامپ به سازمان ملل می‌گوید که نام هوش مصنوعی را رسما به «هوش‌های فوق‌العاده» تغییر می‌دهد و می‌گوید همه اسناد دولت آمریکا اکنون به «SI» تغییر خواهند کرد pic.twitter.com/LEWbc5tn3B 22 سپتامبر 2026

بخش گیج‌کننده دیگر این است که جدول زمانی هوش مصنوعی اجازه «هوش فوق‌العاده» را می‌دهد، اما نه به عنوان یک چیز. در عوض، این چیزی است که بسیار فراتر از شناخت انسان است. همچنین این همان چیزی است که برخی آن را هوش عمومی مصنوعی (AGI) می نامند. هر چه اسمش را بگذارید، کارشناسان فکر می کنند که به سرعت در حال نزدیک شدن است و ما باید عمیقا نگران باشیم.

به‌اصطلاح پدرخوانده هوش مصنوعی، جفری هینتون، هشدار تازه‌ای صادر کرد مبنی بر اینکه کنگره ایالات متحده «شاید یک سال، اما نه بیشتر از یک سال» فرصت دارد تا قبل از از دست دادن کنترل هوش مصنوعی را تنظیم کند. هینتون هفته گذشته پس از شهادت خود در کنگره گفت: او به ویژه نگران هوش مصنوعی است که برای بهبود نیازی به مداخله انسانی ندارد: "هوش مصنوعی اکنون به نقطه ای رسیده است که هوش مصنوعی بهتری طراحی می کند." "به آن خودسازی بازگشتی می گویند." وی افزود که ممکن است از کنترل خارج شود و هشدار داد: "ما باید سرعت خود را کاهش دهیم."

هوش مصنوعی رها شد

ببینید، من می‌دانم که ترامپ در تغییر نام آب‌ها (حداقل از دیدگاه ایالات متحده) اقبال داشته است، اما امیدوارم صنعت هوش مصنوعی و کسانی که هوش مصنوعی را پوشش می‌دهند پیشنهاد ترامپ را بی‌درنگ رد کنند و در عوض روی مشکل هوش مصنوعی وجودی‌تر و اعلامیه ترامپ تمرکز کنند که "ما فقط هوش فوق‌العاده را تشویق خواهیم کرد. ما آن را تشویق می‌کنیم، نه مهار آن."

اگر کسی امیدوار بود که افزایش نگرانی‌ها در مورد توانایی انسان برای پیگیری و حفظ کنترل هوش مصنوعی - به‌علاوه حوادث مستند اخیر پرش هوش مصنوعی از جعبه‌های شنی - باعث تامل و اقدامی از سوی کاخ سفید شود، مطمئنا ناامید شده‌اند.

این موضع گیری برای او عجیب نیست. ترامپ علنا نگران عقب ماندن از چین در رقابت هوش مصنوعی (یا SI) است. حتی کسانی که در مورد حملات اخیر هوش مصنوعی به سیستم های شخص ثالث، توسعه بازگشتی و زبان غیرقابل درک ابراز نگرانی کرده اند، به نیاز به تنظیم و کنترل هوش مصنوعی در حالی که هنوز با چین رقابت می کنند، اشاره کرده اند. ایده غالب ایجاد سازمان‌های نظارتی مستقل داخلی و نوعی سازمان جهانی است که به همه از جمله چین کمک می‌کند تا در تنظیم مقررات هوش مصنوعی با یکدیگر همکاری کنند.

تا زمانی که ترامپ رئیس جمهور است، ایالات متحده به وضوح هیچ نقشی در آن نخواهد داشت.

که ما را با هوش مصنوعی بدون محدودیت (یا SI یا هر چیز دیگری) و هیچ مسیر روشنی برای استفاده ایمن ادامه می‌دهد. در عوض، ایالات متحده شرکت‌های هوش مصنوعی را تشویق می‌کند تا سریع کار کنند، و مانند فیس‌بوک قدیمی، همه چیز را در طول مسیر شکست دهد، همه در تلاش برای حفظ سلطه جهانی هوش مصنوعی. اگر بارقه‌ای از امید در اینجا وجود دارد، این است که ترامپ، همانطور که اصرار داشت هوش مصنوعی «جعلی» نیست (هیچکس نمی‌گوید که اینطور است، اما ترامپ فکر می‌کند «مصنوعی» مترادف با «جعلی» است)، گفت «ما باید مراقب باشیم». او همچنین گفت که ایالات متحده "هر گونه تلاش برای ایجاد یک طرح جهانی برای کنترل هوش مصنوعی را رد می کند."

بنابراین، مطمئنا، بیایید در مورد Super Intelligence و، حدس می‌زنم، Super Intelligence (؟) صحبت کنیم، اما فراموش نکنیم که ترامپ کنار می‌رود تا قطار باری توسعه هوش مصنوعی بتواند با سرعت بیشتری به آینده‌ای مبهم بپردازد که در آن هوش مصنوعی ممکن است حساس نباشد، اما احتمالا کاملا از کنترل ما خارج شود.

به نظر خیلی باهوش نیست.