جنسن هوانگ در مورد عوامل سرکش و محکومان هوش مصنوعی

هیچ کس مترادف تر از جنسن هوانگ با رونق هوش مصنوعی نیست.

مدیرعامل انویدیا - یک مهندس شارژ سخت که اولین کارش شستن ظروف در دنی بود - به محوری تبدیل شده است که ظاهرا تمام هوش مصنوعی به آن می چرخد. پردازنده‌های گرافیکی انویدیا «بیل‌های» ضروری و سخت‌گیر هوش مصنوعی هستند و تقاضا باعث شده ارزش این شرکت در بازارهای عمومی به بیش از 5 تریلیون دلار برسد. (انویدیا همچنین از نظر عملکردی بانک مرکزی اقتصاد چرخشی هوش مصنوعی است.) در هوش مصنوعی، همه جاده ها به انویدیا و به خصوص به خود هوانگ منتهی می شوند.

جرمی کان و بئاتریس نولان از فورچون این هفته در لندن با هوانگ نشستند، جایی که هوانگ در مورد حوادث امنیتی سایبری خبرساز در ماه‌های اخیر صحبت کرد، از جمله لحظه‌ای که عوامل OpenAI به طور مستقل برای حمله به استارت‌آپ Hugging Face هماهنگ شدند. (به ویژه انویدیا در ماه سپتامبر موافقت کرد که Hugging Face، یک پلتفرم متن باز را به قیمت تقریبا 13 میلیارد دلار خریداری کند.) همانطور که کان و نولان می نویسند:

هوانگ به فورچون گفت که می‌توان با مهار و نظارت قوی‌تر بر عوامل هوش مصنوعی از وقوع حوادث تاکنون جلوگیری کرد. او این مشکل را با اینترنت مصرف کننده اولیه مقایسه کرد، زمانی که کلیک بر روی یک وب سایت می تواند رایانه شخصی را با ویروس آلوده کند. راه حل این بود که مرورگرها وب‌سایت‌ها را به صورت مجزا اجرا کنند، بنابراین نمی‌توانستند بقیه رایانه را لمس کنند. هوانگ می‌گوید عوامل هوش مصنوعی به همان رفتار نیاز دارند و باید در داخل یک محفظه امن بسته شوند، جایی که نمی‌توانند بیش از حد مجاز دسترسی به آن آسیب وارد کنند.

هوانگ همچنین به فورچون گفت که اخیرا از نابودی هوش مصنوعی بیزار است. او نامی را ذکر نکرد، اما می‌توانید حدس بزنید که به چه کسی اشاره می‌کند (مثلا Anthropic، آخرین ارزشی که در ماه مه به ارزش 965 میلیارد دلار رسید، که در بخش عمده گفتمان «هوش مصنوعی همه ما را خواهد کشت» محوریت داشت. شایعه شده است که این شرکت در حال آماده‌سازی و به تعویق انداختن عرضه اولیه اولیه خود برای ماه‌هاست.) به کان، پاسخ ساده است: اگر کسی به‌اندازه خطرناک و غیرقابل کنترل هوش مصنوعی را متوقف می‌کند، شایعه شده است. بنویسید:

هوانگ همچنین هشدارهایی درباره خطرات وجودی ناشی از هوش مصنوعی که از سوی بسیاری از شرکت‌های پیشرو هوش مصنوعی، از جمله مدیران اجرایی مانند Dario Amodei از Anthropic آمده است را کنار گذاشت و به Fortune گفت که این فناوری «کاملا در کنترل ماست».

او گفت: "من نمی دانم چرا کسی بخواهد از پیشرفت فناوری حمایت کند که به پایان تمدن بشری منجر می شود، همانطور که ما آن را می شناسیم. و بنابراین، اگر آنها این را باور دارند، واقعا باید کار روی آن را متوقف کنند."

تفسیر شخصی من از نظرات هوانگ: به نظر می رسد او مردی است که صبر خود را از دست داده است و در نهایت هشدارها را نوعی ترس آفرینی و شاید فرار از مسئولیت می داند.

ادامه مطلب را اینجا بخوانید.

دوشنبه میبینمت،

آلی گارفینکل X: @agarfinks ایمیل: alexandra.garfinkle@fortune.com

قراردادی را برای خبرنامه ترم شیت اینجا ارسال کنید.

جوی آبرامز سرپرستی بخش معاملات خبرنامه امروز بود.

این داستان در ابتدا در سایت Fortune.com منتشر شد