جنسن هوانگ می‌گوید اگر شرکت‌های هوش مصنوعی نتوانند مدل‌های خود را کنترل کنند، «باید آزمایشگاه‌ها را تعطیل کنیم»

جنسن هوانگ، مدیرعامل انویدیا معتقد نیست که هوش مصنوعی یک تهدید وجودی برای بشریت است، مهم نیست که چند کارمند سابق آزمایشگاه هوش مصنوعی زنگ خطر را به صدا درآورند. اما، اگر افرادی که پشت درهای بسته در مکان‌هایی مانند Anthropic یا OpenAI کار می‌کنند واقعا در آستانه نابودی جهان هستند، هوانگ یک ایده دارد: آنها را ببندید.

در مصاحبه ای در نمایش ازرا کلاین، هوانگ همچنان به ریختن آب سرد بر روی پرمصرف ترین قسمت های فضای هوش مصنوعی ادامه داد و در عین حال پیشنهادی بسیار ساده و سرراست را به شرکت هایی ارائه کرد که معتقدند فناوری آنها آنقدر قدرتمند است که می تواند انسان ها را از کار بیاندازد، یعنی در وهله اول اجازه ندهید جن از بطری بیرون بیاید.

او گفت: "اگر می خواهید یک ماشین خودران بسازید، فرض کنید یک رباتاکسی است، و شرایط واقعا دشواری وجود دارد. ما به عنوان یک مهندس، نمی‌دانیم چگونه این مشکل را حل کنیم، زیرا این ماشین‌ها برنامه‌ریزی نشده‌اند، آنها آموزش دیده‌اند. بنابراین ما هیچ ایده‌ای نداریم که چگونه این ماشین‌ها را آموزش دهیم، و هیچ ایده‌ای نداریم که چگونه آنها را با استانداردهای ایمنی در جاده‌ای که انتظار می‌رود هماهنگ کنیم." "جواب چیست؟ آن را ارسال نکنید."

هوانگ آن را بیشتر گسترش داد و گفت که اگر مشکلی وجود داشته باشد - مثلا عامل هوش مصنوعی که تهدید به تسخیر کل اینترنت می کند، همانطور که داریو آمودی، مدیر عامل آنتروپیک پیشنهاد کرد ممکن است در عرض چند ماه بدون کاهش سرعت ممکن باشد - باید قبل از انتشار عمومی یک محصول حل شود. و اگر نمی توان آن را حل کرد، خوب پس نباید محصول را آزاد کنید.

مدیر عامل انویدیا گفت: «اکنون، اگر [آزمایشگاه‌های هوش مصنوعی] جایگزین را بگویند، که این است: هیچ راهی برای مهار آزمایش‌های ما وجود ندارد، فقط هیچ راهی وجود ندارد؛ وقتی مدل‌های هوش مصنوعی خود را آزمایش می‌کنیم، از بین می‌رود و به جهان آسیب می‌زند، فکر می‌کنم پاسخ این است که ما باید آزمایشگاه‌ها را تعطیل کنیم.»

او همچنین اشاره ای صریح به بازگرداندن آژانس به دست آزمایشگاه های هوش مصنوعی کرد که به نظر می رسد بسیار مایل به فرار از آن هستند زیرا آنها ادعا می کنند که پیشرفت های هوش مصنوعی ممکن است از توانایی آنها برای درک یا کنترل آنها پیشی بگیرد. هوانگ گفت: "اینها شرکت هایی با نمایندگی هستند. اینها مدیران عامل با نمایندگی هستند." "اگر من معتقدم که در شرف عرضه محصولی ناامن هستم، کاملا در توانایی، قدرت و مسئولیت من است و من برای این کار انگیزه دارم تا محصول را عرضه نکنم."

هوانگ اساسا بر روی رویکرد "Trant Create The Torment Nexus" برای توسعه فناوری قرار گرفته است که به نظر می رسد نتیجه گیری کاملا منطقی باشد. متأسفانه، هنگامی که او استدلال خود را برای آن موضع توضیح می دهد، آنقدرها هم که می توان انتظار داشت طرفدار بشریت نیست. درعوض، احساس می‌شود که هوانگ کاملا در بازار آزاد است و به اندازه‌ای است که از ما محافظت کند.

او درباره دلیل تعطیلی آزمایشگاه‌هایی که تهدیدی وجودی هستند، گفت: "از آنجایی که هزینه برای بشریت، خسارت بسیار زیاد است. سهامداران، مسئولیت‌ها - ممکن است مسئولیت مدنی باشد، ممکن است مسئولیت کیفری باشد. منظورم این است که این مسئولیت باورنکردنی است."

ما می‌توانستیم جان انسان‌ها را بیشتر از ارزش آنها بگیریم، اما مطمئنا خطر برای سهامداران یکی از دلایلی است که همه وجود را از بین نمی‌برد. اگر همه آنها مرده باشند چگونه می توانند پول در بیاورند؟ ریاضی فقط کار نمی کند.