جنسن هوانگ، مدیر عامل انویدیا، به عنوان بزرگ‌ترین فاجعه برای نابودی هوش مصنوعی در مورد خطر وجودی برای بشریت ظاهر شده است.

جنسن هوانگ، مدیر عامل انویدیا، بارها هشدارهای مربوط به تهدید وجودی هوش مصنوعی برای بشریت را رد کرده است و یک دفاع قوی برای پیشروی با سرعت کامل ایجاد کرده است.

او دو هفته پیش در مصاحبه ای با CBS News گفت: "2030 پایان جهان نخواهد بود. 0٪ احتمال وجود دارد که پایان جهان باشد."

او گفت که دیگر رهبران هوش مصنوعی مانند سام آلتمن از OpenAI و داریو آمودی از Anthropic نسبت به "روایت های روز قیامت" که در گزارش های اخیر مطرح کرده اند، "غیر مسئولیت پذیر" هستند.

هوانگ گفت: "من معتقدم که ادعاهای پایان جهان، ایجاد ترس در سراسر آمریکا، و انجام آن توسط افرادی که این کار را انجام می دهند، برای من معنی ندارد، بنابراین آنها باید این کار را به دلایل پنهانی انجام دهند." این غیرمسئولانه است و من نمی دانم انگیزه آنها چیست.»

در یک رویداد G20 در اوایل سپتامبر، هوانگ همچنین استدلال کرد که دولت‌ها باید به جای آسیب‌های فرضی و نظری، «مضرات واقعی و عملی» را تنظیم کنند. او با مقایسه توسعه هوش مصنوعی با تکامل خودروها ادامه داد و اساسا گفت که این فناوری می تواند با پیشرفت ایمن تر شود.

و در ماه ژوئیه، هوانگ به Axios گفت که این ایده که هوش مصنوعی باعث پایان بشریت خواهد شد "کاملا مزخرف" بود. او همچنین افزود که سیاستگذاران نباید اجازه دهند «علمی تخیلی» سیاست هوش مصنوعی را هدایت کند و گفت که ایالات متحده می تواند با ترس بیش از حد از این فناوری به خود آسیب برساند.

مطمئنا حفظ هوش مصنوعی با سرعت کامل به Nvidia کمک می کند تا تراشه های بیشتری بفروشد. اما تغییر به سمت امنیت سایبری بیشتر برای محافظت در برابر عوامل سرکش هوش مصنوعی نیز باعث افزایش تقاضا برای تراشه خواهد شد.

در همین حال، پس زدن قاطع هوانگ با دونالد ترامپ، رئیس‌جمهور آمریکا همسو می‌شود، او در حالی که مدیرعامل در میانه سخنرانی بود، تلفنی با او تماس گرفت و گفت که نابودی هوش مصنوعی «یک فریب است».

ترامپ در ماه سپتامبر در سایت Truth Social پست کرد: «تسلط هوش مصنوعی بر جهان، نابود کردن بشریت، و همه چیزهای بد دیگر، یک HOAX است. "

اما این بدان معنا نیست که هوانگ معتقد است حفاظت از هوش مصنوعی غیرضروری است. او ایمنی هوش مصنوعی را "بالاترین" خوانده و در عین حال اصرار دارد که توسعه همچنان می تواند به سرعت پیش برود.

او به سی‌بی‌اس نیوز گفت: «اگر ما ایمنی را به خطر بیندازیم، این اتفاق نمی‌افتد. ما باید تا جایی که می توانیم سریع برویم، اما نه سریعتر از آنچه باید.»

و روز دوشنبه، انویدیا پلتفرم جدیدی را ارائه کرد که برای جلوگیری از سرکشی عوامل هوش مصنوعی طراحی شده بود و گفت که پلتفرم Open Agent Safety این شرکت برای ارائه کنترل "فول پشته" بر روی عوامل هوش مصنوعی از آزمایش از طریق استقرار طراحی شده است. این سیستم به منظور ارائه قابلیت های نظارتی برای جلوگیری از تجاوز به ماموران از اختیاراتی است که به آنها داده شده است.

این راه اندازی در حالی انجام می شود که شرکت های هوش مصنوعی با تعداد فزاینده ای از حوادث روبرو هستند. چندین حساب از عوامل سرکش هوش مصنوعی گزارش شده است - از جمله از OpenAI، Google و Anthropic. انویدیا گفت سیستم ایمنی جدیدش می‌توانست هک Hugging Face توسط مدل‌های OpenAI را متوقف کند.

جاستین بویتانو، معاون و مدیر کل محاسبات سازمانی در انویدیا، طی یک نشست خبری گفت: «از آنچه ما می‌دانیم، این پلتفرم امنیتی جدید اگر در آزمایشگاه‌های مرزی برای ارزیابی مدل‌ها در مراحل اولیه استفاده می‌شد، می‌توانست جلوی نقض را بگیرد.»

چگونه کار می کند

با هجوم گزارش‌های عامل هوش مصنوعی، انویدیا به دنبال رفع آن با استفاده از دو فناوری است: OpenShell و Sentry.

به گفته انویدیا، OpenShell عوامل هوش مصنوعی را در محیط های ایزوله قرار می دهد تا دسترسی به فایل ها، ابزارها، شبکه ها، اعتبارنامه ها و سایر منابع را محدود کند. اساسا، محدودیت هایی را که منجر به شکست های قبلی شده است، استاندارد می کند.

Sentry یک لایه بیرونی است. بر روی واحدهای پردازش داده انویدیا اجرا می شود تا به طور مداوم بر فعالیت عامل نظارت کند. این شرکت می‌گوید که اگر یک نماینده تلاش کند به خارج از مرز نرم‌افزار خود حرکت کند، Sentry می‌تواند آن را قرنطینه کرده و در چند میلی ثانیه متوقف کند.

هوانگ در یک بیانیه مطبوعاتی گفت: «پتانسیل فوق‌العاده هوش مصنوعی برای جامعه تنها در صورتی تحقق خواهد یافت که ایمنی هوش مصنوعی را حل کنیم. "در حالی که ما به کشف مرزهای قابلیت های هوش مصنوعی ادامه می دهیم، باید کشف در مرز ایمنی هوش مصنوعی را تسریع کنیم. ایمنی و امنیت نیاز به مهندسی کامل دارد."

این داستان در ابتدا در سایت Fortune.com منتشر شد