8 نقل قول وحشیانه از آخرین مصاحبه جنسن هوانگ، مدیر عامل انویدیا در مورد هوش مصنوعی و اینکه چرا آنها باید شما را نگران کنند

جنسن هوانگ چه شد؟ به نظر می رسد که بنیانگذار و مدیر عامل Nvidia به همان اندازه که یک فرد می تواند از تجربیات زندگی انسان های دیگر جدا باشد. اگر به خاطر این واقعیت نبود که او با ارزش ترین شرکت جهان را اداره می کند و مسئول سخت افزاری است که در پس تغییر دهنده ترین نوآوری در طول زندگی ما وجود دارد: هوش مصنوعی، چندان نگران کننده نبود.

هوانگ که 33 سال پیش انویدیا را تاسیس کرد، چندین دهه مدیرعامل و از سال 1999 میلیاردر بوده است. او همچنین اکنون قاطعانه در کنار توسعه و استقرار سریع هوش مصنوعی با مقررات بسیار کم قرار دارد، و هوانگ را محکم در تقابل با لژیون رو به رشدی از میلیاردرها و مدیران عامل دیگر - از جمله دیگران - قرار می‌دهد که خواستار توقف توسعه مدل پایه یا حداقل کاهش سرعت هستند.

در این لحظه است که هوانگ صحبت می کند - بسیار. او با چندین روزنامه‌نگار برای چت گفت‌وگو کرده است، اما هیچ‌یک در حال حاضر قابل توجه‌تر از پادکست نیویورک تایمز با ستون‌نویس ازرا کلاین نیست.

برخلاف برخی از مصاحبه‌های دیگر، کلاین از توصیف خود هوانگ از هوش مصنوعی به عنوان کیک پنج لایه استفاده کرد: برنامه‌ها، مدل‌ها، زیرساخت‌ها، تراشه‌ها. انرژی برای چارچوب گفتگو، که هوانگ را به اظهار نظر در مورد تمام این بیت های حیاتی هوش مصنوعی دعوت کرد، و باید بگویم، بسیاری از نظرات او چشم باز بود.

در اینجا شگفت‌انگیزترین چیزهایی است که هوانگ گفت و شاید چرا آنها را می‌گوید:

"مهارت های زیادی وجود دارد که مهم نیستند"

"مهارت های زیادی وجود دارد که مهم نیست."

موضوع در اینجا مطالعاتی در چین بود که نشان می‌داد در حالی که هوش مصنوعی در آموزش ممکن است در ابتدا به دانش‌آموزان کمک کند کارآمدتر کار کنند، به طور متوسط ​​نمرات آزمون آنها را تقریبا 20٪ کاهش می‌دهد.

هوانگ با Ezra موافق است که استفاده از هوش مصنوعی، در عین حال که به آنها کمک می‌کند سریع‌تر کار کنند، احتمالا عملکرد دانش‌آموز را حداقل در مهارت‌های خاص تنزل می‌دهد.

"جدول ضرب در حال فراموش شدن است. خدای من، انجام دادن جذرها. ریاضیات پایه در حال فراموش شدن است. مهم است؟...آره. فکر نمی کنم داشته باشد. فکر نمی کنم اینطور باشد."

هوانگ معتقد است که حتی زمانی که برخی از مهارت‌ها را از دست می‌دهیم، یا زمانی که دانش‌آموزان با ورود به نیروی کار بزرگسال می‌شوند، مهارت‌های جدید دیگری نیز کسب خواهند کرد. البته، این یک بازی با مجموع صفر است که می توانید به راحتی یک چیز را با چیز دیگری جایگزین کنید.

من در مورد شما نمی دانم، اما من جداول ضرب را یک مهارت اصلی و مفید می دانم حتی اگر در یک زمینه مرتبط با ریاضی کار نکنید. طبیعتا، هوانگ و اکثر ارائه دهندگان هوش مصنوعی دوست دارند باور کنند که مانند ماشین حساب قبلی، هوش مصنوعی این مهارت را مدیریت می کند و تمام محاسبات را برای شما انجام می دهد. شاید. اما در چه مقطعی توانایی به عنوان یک فرهنگ برای بررسی مجدد کار هوش مصنوعی را از دست می دهیم؟

"در واقع آدرسم را نمی دانم"

این مورد بعدی در واقع به نقل قول قبلی متصل است اما ارزش آن را دارد:

"اولین اعتراف من، من در واقع آدرس خود را نمی دانم."

نه آدرس ایمیل او، نه شماره تلفن یا شماره تلفن شریک زندگی اش، بلکه محل زندگی او. شماره خیابان و کد پستی (فکر می کنم او شهر و ایالت را می داند).

هوانگ از این به عنوان نمونه ای از مهارتی استفاده کرد که دیگر به آن نیازی ندارد، اما اعتراف می کند که فهمیدن آن در حین پمپاژ بنزین و نیاز به کد پستی خود (حدس می زنم برای تأیید کارت اعتباری) او را وحشت زده کرد.

با گوش دادن به این در حین رانندگی با ماشین خودم، تقریبا جلوی آن را گرفتم. "چی؟!" من روی آیفون 18 پرو مکس پر از هوش مصنوعی فریاد زدم که در حال پخش پادکست بود. اول از همه، چگونه؟ دوم، هوانگ نمی توانست نظر بهتری برای تضعیف این و بسیاری از نظرات دیگرش ایجاد کند.

تنها راهی که شما آدرس منزل خود را نمی دانید این است که از وارد کردن آن در اسناد و رانندگی خود به خانه در امان باشید زیرا همیشه شخص دیگری این کار را برای شما انجام می دهد. تجربه زیسته هوانگ کاملا با افراد معمولی جدا شده است، و با این حال انتخاب هایی که او انجام می دهد بر اکثر افراد عادی تأثیر می گذارد.

[چین] همه چیز را در حجم تولید می کند. آنها بچه های باهوش را در حجم تولید می کنند.

در طول گفتگوی طولانی، هوانگ به عنوان یک صنعت پولیانا و به شدت خودخواه ظاهر می شود.

او بارها در مورد رویکرد چین به هوش مصنوعی و اینکه آیا و چگونه ایالات متحده باید با آنها رقابت کند و اطمینان حاصل کند که ایالات متحده در این مسابقه حیاتی عقب نمی افتد، سؤال شده است. برای قرار دادن نظرات خود در زمینه، باید به خاطر داشته باشید که هوانگ شخصا از کاخ سفید درخواست کرد تا به آن اجازه دهد به فروش تراشه های هوش مصنوعی به چین ادامه دهد. به هر حال، هوانگ اشاره کرد که حداقل ابتدا فناوری جدید را به شرکت های آمریکایی می فروشد.

به طور کلی، هوانگ اساسا هرگز چین را مورد انتقاد قرار نمی‌دهد و در واقع، به نظر می‌رسد که تقریبا از رویکرد آن در بیشتر جبهه‌ها، به ویژه در استفاده از جامعه مدل باز (آن را "فوق العاده پر جنب و جوش" می‌نامد، و اینکه چگونه ارتشی از مردم را برای ساختن آینده هوش مصنوعی خود تشکیل می‌دهد، وحشت زده است.

آنها دانشمندان و ریاضیدانان زیادی دارند. تعداد مهندسانی که دارند، آن را در حجم تولید می کنند. آنها همه چیز را در حجم تولید می کنند. آنها بچه های باهوشی را در حجم تولید می کنند."

نمی‌دانم که آیا آن بیت آخر انتقادی پشت سر از سیستم آموزشی ایالات متحده بود یا نه، اما اینطور نیست که او اضافه کرد، "البته، ما به همان اندازه بچه‌های باهوش در ایالات متحده ایجاد می‌کنیم."

«همه لفاظی‌ها و همه هشدارها، همه نابودی‌ها، همه پیش‌بینی‌ها - آنها مردم را می‌ترسانند».

اگر هوانگ انتقادی داشته باشد، برای همتایان آمریکایی خود محفوظ است که آنها را "هشدار" و "محکوم کننده" می نامد.

من می‌خواهم ببینم که ما فرصت بهره‌مندی ایالات‌متحده در بالاترین سطح را از بین ندهیم. و به همه لفاظی‌ها و همه هشدارها، همه نابودی‌ها، همه پیش‌بینی‌ها توجه کنید - آنها مردم را می‌ترسانند.»

هوانگ اصرار دارد که این مدل‌های هوش مصنوعی هنوز فقط برنامه‌هایی هستند که روی سیستم‌های عامل اجرا می‌شوند، و آرزو می‌کند که مردم از القای ویژگی‌های انسانی به آن‌ها دست بردارند.

"فقط به این دلیل که از یک دانشمند می آید، آن را علمی نمی کند"

در حالی که کلاین از بسیاری از شرکای هوانگ و زنگ‌های گاه به گاه مانند آلتمن، مودی و ماسک نام می‌برد، هوانگ در واقع هیچ یک از آنها را با نام ذکر نمی‌کند. با این حال، «پدرخوانده هوش مصنوعی» و هشداردهنده اصلی جفری هینتون، مورد اشاره ویژه قرار گرفته است.

هوانگ در پاسخ به سوالی در مورد ادعای هینتون مبنی بر اینکه 10 درصد احتمال دارد هوش مصنوعی به جامعه ای که ما می شناسیم پایان دهد، این بیانیه را "غیر مسئولانه" می خواند و می افزاید: "فقط به این دلیل که از یک دانشمند می آید، آن را علمی نمی کند."

از جهاتی حق با هوانگ است. به هر حال، هینتون هنوز هم فقط فردی است که می تواند نظرات شخصی را به بحث بیاورد. هوانگ استدلال می کند که "احتمال 10٪ بر اساس علم نیست."

اما اینطور نیست؟ اگر هینتون برنده جایزه نوبل است که جهان را با یادگیری عمیق آشنا کرد که به انقلاب مولد هوش مصنوعی کمک کرد، آیا همه چیزهایی که او می گوید، به نوعی مبتنی بر علم نیست؟

هوانگ به جای اینکه بگوید نگرانی را می‌فهمد، اما دلیل اشتباهش اینجاست، فقط ادعا می‌کند که اساس استدلال هینتون معیوب است، و بنابراین اظهارات او واقعا ارزش پرداختن به آن را ندارند. هوانگ به سادگی دوست دارد همه، همه محکومان، از ترساندن همه دست بردارند.

"A.I. ابرکامپیوترها در مصرف انرژی فوق العاده کارآمد هستند، اما همچنان از انرژی زیادی استفاده می کنند.

هوانگ می‌گوید که می‌خواهد هوش مصنوعی به نفع همه شرکت‌ها و افراد باشد، و سعی می‌کند رویکردی منطقی برای اعتراض رو به رشد مراکز داده ارائه دهد.

او موافق است که اگر مردم نمی‌خواهند آنها در شهرشان باشند، «پس همینطور باشد» و شرکت‌ها را تشویق می‌کند تا در مورد تأثیر آن شفاف باشند، اگرچه او استدلال می‌کند که «استفاده از آب واقعا کارآمد است». در همین راستا، هوانگ سعی می‌کند آن را به هر دو صورت داشته باشد: «ابر رایانه‌های هوش مصنوعی فوق‌العاده کارآمد انرژی هستند، اما همچنان از قدرت زیادی استفاده می‌کنند».

اگر در دنیای کامل هوانگ، شرکت‌های هوش مصنوعی توان خود را تولید کنند (ساخت منابع انرژی زمان می‌برد، احتمالا بیشتر از آن‌چه برای ساخت مراکز داده نیاز است) و مالیات‌های دارایی را به نحوی کاهش دهند، شاید مراکز داده روزی می‌توانند به طور خالص مثبت باشند. من فکر می‌کنم اکثر آنها استدلال می‌کنند که ما هنوز به آنجا نرسیده‌ایم، حتی با وجود افزایش تعداد مراکز داده در حال ساخت در سراسر ایالات متحده.

"من فکر می کنم ما فقط باید بپذیریم که خودمان را واقعا در تغییرات آب و هوا و انرژی پایدار غرق کرده ایم."

بیشتر نگران کننده، دیدگاه تکان دهنده هوانگ در مورد تغییرات آب و هوا و سوخت های فسیلی است.

"من فکر می کنم ما فقط باید بپذیریم که ما واقعا در تغییرات آب و هوایی و انرژی پایدار غرق شدیم و در نتیجه، تولید انرژی کافی را برنامه ریزی نکردیم."

کلاین، به طور طبیعی، منظور جنسن از "آدامس کردن" را پرسید، و بله، بدتر شد.

"خب، در کوتاه مدت، تولید انرژی به سوخت فسیلی نیاز دارد. و از آنجایی که نگرانی زیادی در مورد تولید انرژی سوخت فسیلی وجود دارد، اگر به کشور ما نگاه کنید، ما برای مدت طولانی انرژی جدید خالص بسیار کمی تولید کرده ایم."

چیزهای زیادی برای باز کردن بسته وجود دارد. به نظر می‌رسد هوانگ نگرانی‌های واقعی تغییرات آب و هوایی را کم اهمیت جلوه می‌دهد، چیزی که ممکن است با اعتقادات رفیق او و منکر تغییرات اقلیمی، دونالد ترامپ، رئیس‌جمهور ایالات متحده، «محفظه-بچه-دریل» و منکر تغییرات اقلیمی باشد.

در واقع، هوانگ هرگز به واقعی بودن یا نبودن تغییرات اقلیمی توجه نمی‌کند و در عوض به نظر می‌رسد به این فکر می‌کند که چگونه از دست دادن نیروگاه‌های انرژی فسیلی بیشتر ما را پشت سر چین در رقابت انرژی قرار می‌دهد، و برای او مشکل‌سازتر، در زمانی که هوش مصنوعی به انرژی بسیار بیشتری نیاز دارد.

"آنها باید درد و رنج زیادی را به شما تحمیل کنند تا بتوانند شما را نجات دهند"

همه چیز بد نیست. هوانگ معتقد است، "اگر آینده ای پایدار می خواهید، به هوش مصنوعی متمایل شوید."

و بعد این را می گوید:

"آره. مثل این است که برای نجات شما، ابتدا باید به شما صدمه بزنند - این ماهیت جراحی است. آنها باید برای نجات شما بازتان را قطع کنند. آنها باید درد و رنج عظیمی را به شما تحمیل کنند تا بتوانند شما را نجات دهند. بنابراین فکر می کنم A.I. این گونه است."

در مورد سطح "درد و رنج" که هوانگ معتقد است ما باید تحمل کنیم، توضیح بیشتری نداد.

اگر به امید تشویق یا یک رویکرد منطقی تر و منطقی تر برای تنظیم و مدیریت هوش مصنوعی به روش هایی که واقعا به نفع همه باشد، مصاحبه را تماشا یا گوش می دادید، ممکن است ناامید شده باشید. هوانگ می‌گوید وقتی سازندگان می‌بینند که هوش مصنوعی به اشتباه می‌افتد، باید آن را متوقف کنند، و وقتی یک هوش مصنوعی خارج از تراز عمل می‌کند، "آنها نباید محصول را آزاد کنند. این پاسخ ساده است." اما او هرگز به نگرانی‌های مربوط به آنچه که به نظر می‌رسد قبل از انتشار مدل‌های Anthropic، OpenAI و احتمالا دیگران رخ می‌دهد، توجه نمی‌کند. این سیستم ها در حال آزمایش هستند.

هوانگ ممکن است نیازهای افراد عادی را درک نکند، اما در مقایسه با هوش مصنوعی بی‌علاقه‌ای که نه ما را می‌شناسد و نه به آن اهمیت می‌دهد، کمرنگ است. ما به رهبرانی مانند هوانگ نیاز داریم تا شروع به مراقبت کنند، اما ابتدا باید ما و نگرانی های بسیار منطقی ما را درک کنند.