مدیر عامل انویدیا امیدوار است که هوش مصنوعی سرکش «مشکل مهندسی» باشد، در غیر این صورت «قابل حل نیست»

جنسن هوانگ، مدیرعامل انویدیا، دوشنبه گفت که امیدوار است مشکل عوامل سرکش هوش مصنوعی یک چالش مهندسی باشد و هشدار داد که اگر اینطور نباشد، قابل حل نخواهد بود.

در یک مصاحبه تلویزیونی با پخش کننده CNBC از وی پرسیده شد که آیا عوامل هوش مصنوعی از مهار فرار می کنند یا خیر

هوانگ گفت و انجام اقدامات مرموز یا حتی غیرقانونی یک مشکل مهندسی است، هوانگ گفت که او معتقد است که خطرات را می توان از نظر فنی برطرف کرد.

او به Squawk Box از CNBC گفت: "ما امیدواریم این یک مشکل مهندسی باشد. من معتقدم که این یک مشکل مهندسی است... اگر یک مشکل مهندسی نباشد، قابل حل نیست."

هوانگ استدلال کرد که شرکت‌های پیشرو هوش مصنوعی معتقدند می‌توان بر چالش عوامل سرکش غلبه کرد. او گفت: "اینها برخی از باهوش ترین مهندسان جهان هستند. من با همه آنها کار می کنم." "این یک مشکل فنی قابل حل است."

اظهارات وی در حالی بیان شد که سازنده تراشه آمریکایی روز دوشنبه یک پلتفرم باز را راه اندازی کرد که برای تقویت امنیت در اطراف عوامل هوش مصنوعی مستقل و محدود کردن دسترسی غیرمجاز به فایل ها، شبکه ها و سیستم های رایانه ای طراحی شده است.

پلتفرم ایمنی عامل باز Nvidia ترکیبی از OpenShell، یک زمان اجرا منبع باز است که کنترل می‌کند به سیستم‌ها و داده‌هایی که عامل هوش مصنوعی می‌تواند دسترسی داشته باشد، با Nvidia Sentry، طراحی سیستم مرجع برای نظارت بر عوامل در سطح زیرساخت.

این راه‌اندازی در بحبوحه نگرانی فزاینده در مورد عوامل سرکش هوش مصنوعی پس از چندین حادثه اخیر که در آن سیستم‌های مستقل از محیط‌های آزمایشی فرار کردند یا به سیستم‌های شخص ثالث دسترسی غیرمجاز پیدا کردند، انجام شد. anthropic.com

هوانگ گفت بهبود قابلیت‌های هوش مصنوعی و ایمن‌تر کردن فناوری نباید به عنوان اهداف جداگانه تلقی شود.

او گفت: "وقتی به پیشرفت فکر می کنیم، لازم نیست به آن جدا از قابلیت در مقابل ایمنی فکر کنید. برای من، این موضوع یکسان است."

او افزود: "ما می خواهیم پیشرفت هوش مصنوعی را تسریع کنیم. و امروز این فناوری جدید، OpenShell و Nvidia Sentry را ارائه می کنیم، که این دو فناوری امکان کنترل و نظارت را برای ما فراهم می کند."

اما برای ایجاد این امکان به فناوری زیادی نیاز است.»

هوانگ همچنین استدلال کرد که نوآوری و مقررات ذاتا در تضاد نیستند، اما گفت که تعادل بین آنها به مرحله توسعه یک فناوری بستگی دارد.

او گفت: "نوآوری و مقررات با هم تضاد ندارند. سوال این است که شما به کدام مرحله از صنعت گرایش دارید."

هوانگ می‌گوید: «در ابتدای صنعت، زمانی که فناوری در حال اختراع است و هیچ‌کس واقعا نمی‌داند که چگونه خواهد شد، شرم آور است که قبل از درک، قانون‌گذاری شود.

او هشدار داد که تنظیم پیش از موعد یک فناوری می تواند از فرصت نوآوری آن جلوگیری کند.