بیل گیتس می‌گوید برای 20 سال اختلال هوش مصنوعی «سرسخت‌آمیز» آماده می‌شود

امروز، من با بیل گیتس، بنیانگذار و مدیر عامل سابق مایکروسافت و رئیس بنیاد گیتس صحبت می کنم.

ممکن است اخیرا بیشتر متوجه بیل در اخبار شده باشید - او در چند ماه گذشته در یک تور بوده است، از زمانی که مقاله ای در اواخر ماه اوت منتشر کرد با عنوان "دوران آشفته هوش مصنوعی اینجاست. انتخاب هایی که اکنون می کنیم بسیار مهم هستند."

گیتس در مقاله خود سخنان خود را در مورد ایمنی هوش مصنوعی تقویت کرد و نوشت که "حتی تحت بهترین شرایط، گذار به این دوره جدید هوش مصنوعی یکی از آشفته ترین دوران تاریخ بشر خواهد بود."

گیتس در مصاحبه‌هایی که از آن زمان تا کنون انجام داده است، هوش مصنوعی را خطرناک‌ترین چیزی که انسان‌ها تا به حال به آن نزدیک شده‌اند، می‌داند و این هوش مصنوعی «سلاح‌های هسته‌ای را شبیه به هیچ چیز نمی‌کند». واضح است که او فکر نمی‌کند پاسخ سیاست فعلی کاخ سفید یا عدم تلاش‌های هماهنگ از سوی صنعت هوش مصنوعی برای مبارزه با این تهدید کافی باشد.

مشترکین همگام، فراموش نکنید که از هر کجا که پادکست‌های خود را دریافت می‌کنید، به رمزگشای بدون آگهی دسترسی انحصاری دارید. به اینجا سر بزن مشترک نیستید؟ می توانید در اینجا ثبت نام کنید.

بنابراین می خواستم بدانم: آیا بیل گیتس یک نابودگر هوش مصنوعی است؟ من همچنین یک سری سؤالات پایین دستی از آنچه او در مورد هوش مصنوعی بحث می کرد داشتم. چگونه می‌توانیم امیدوار باشیم که هوش مصنوعی را کنترل کنیم و آن را با بشریت هماهنگ کنیم، اگر حتی نمی‌توانیم درباره چیستی و آگاهانه بودن آن به توافق برسیم؟ چگونه حتی از نظر فنی راه‌حلی برای هم‌ترازی ایجاد می‌کنید که نه تنها برای مدل‌های منبع بسته بلکه برای مدل‌های منبع باز نیز قابل اجرا باشد؟

بیل بخش بزرگی از وقت خود را به ما داد تا با او به این مسائل بپردازیم، و گفتگوی حاصل واقعا روشنگر است. او فکر می‌کند که ما باید برای تقریبا دو دهه اختلال هوش مصنوعی آماده شویم، و او می‌گوید این دوره می‌تواند آنقدر دردناک باشد که ممکن است جامعه را به دو قسمت تقسیم کند - بین افرادی که راحت در نزدیکی مرزهای فناوری زندگی می‌کنند و کسانی که آن را رد می‌کنند.

ما همچنین در مورد ملاحظات کارگری، پوچ‌گرایی نسل‌های جوان نسبت به پیشرفت فناوری، و آنچه باید ما را به آینده امیدوار کند، صحبت کردیم. این یکی عمیق است.

خوب: بیل گیتس، بنیانگذار و مدیر عامل سابق مایکروسافت. در اینجا ما می رویم.

این مصاحبه برای طولانی بودن و وضوح کمی ویرایش شده است.

بیل گیتس، شما یکی از بنیانگذاران و مدیر عامل سابق مایکروسافت هستید. شما همچنین رئیس بنیاد گیتس هستید. به Decoder خوش آمدید.

متشکرم.

خوب است که دوباره با شما صحبت کنم. من و شما در این سال ها بارها با هم صحبت کرده ایم. من می گویم شرایط این گفتگو بسیار متفاوت است. قبلا، وقتی من و شما صحبت می‌کردیم، همیشه در مورد فناوری و آنچه می‌تواند به ارمغان بیاورد بسیار امیدوار بودید.

شما چند سال پیش یک سریال نتفلیکس داشتید. شما با The Verge صحبت کردید، و من فقط می خواهم این نقل قول را برای شما بخوانم. شما گفتید، "من معتقدم هوش مصنوعی چیز مفیدی است، فقط باید آن را به روشی درست شکل دهیم." من می گویم هنوز با آن موافق هستید، فقط فکر می کنید اکنون زمان شکل دادن به آن فرا رسیده است.

بله، من با آن موافقم. من می‌توانم بگویم که پاسخ به طور کلی با سرعتی که چالش ایجاد می‌شود، کافی نبوده است. من بسیار نگران هستم که چیزهای بد به حداقل نرسد و اگر ما آن را به درستی مدیریت نکنیم، ممکن است خیلی از چیزهای خوب به آرامی به دست بیاید.

من بسیار نگران هستم که چیزهای بد به حداقل نرسد و اگر ما آن را به درستی مدیریت نکنیم، ممکن است خیلی از چیزهای خوب به آرامی به وجود بیایند.

می خواهم این گفتگو را در سه قسمت با شما داشته باشم. می‌خواهم بفهمم امروز چه احساسی نسبت به هوش مصنوعی به عنوان یک فناوری دارید و چرا اینقدر سریع پیشرفت می‌کند. من در مورد فناوری و راه حل های فنی برای کنترل احتمالی آن بسیار کنجکاو هستم. راه‌حل‌های سیاستی نیز وجود دارد، اما به نظر می‌رسد که ما باید تعداد زیادی فناوری بسازیم.

من همچنین بسیار کنجکاو هستم که در مورد اینکه چه کسی ممکن است آن راه حل ها و کنترل ها را اعمال کند، صحبت کنم، زیرا به نظر می رسد در حال حاضر نیز این موضوع بسیار قابل بحث است. پس بیایید از ابتدا شروع کنیم. چه چیزی باعث شده که احساس فوریت کنید که هوش مصنوعی با سرعتی می رسد که به این معنی است که ما آماده کنترل آن نیستیم؟

پیشرفت در سال گذشته واقعا شگفت‌انگیز بوده است، از توانایی نوشتن کد و یافتن نقص‌های سایبری، توانایی استدلال در زیست‌شناسی، توانایی ایجاد روابط با بچه‌ها یا افراد دیگر، توانایی ایجاد اختلال در بازار کار شروع شده است. قدرت باورنکردنی که امروز وجود دارد به این معنی است که هر یک از آن چیزها اتفاق خواهد افتاد و جامعه باید آماده باشد.

آیا می بینید که این اتفاق به عنوان یک فناوری به طور کلی رخ می دهد یا در محصولاتی که توسط شرکت هایی که امروزه هوش مصنوعی می سازند، تولید می شوند؟

منظور من این است که هوش مصنوعی مجموعه وسیعی از مدل‌هایی است که در جهان وجود دارد، برخی از آنها منبع باز و برخی اختصاصی هستند. سپس شرکت هایی هستند که این محصولات را تولید می کنند و رهبران آن شرکت هایی هستند که این محصولات را می سازند.

در هر سطحی، ممکن است من یا شما با هوش مصنوعی رابطه متفاوتی داشته باشید. آیا این ریسک ها و این قابلیت ها را به طور گسترده در این زمینه می بینید یا در شرکت های خاصی که توسط افراد خاص رهبری می شوند؟

ریسک یک مدل در مقابل مدل دیگر نیست. مطمئنا خطر کوتاه مدت مدل‌هایی که می‌توانید تمام موارد حفاظتی را حذف کنید بسیار زیاد است و کاملا متفاوت از مدل‌هایی است که در آنها نظارت می‌کنید تا مطمئن شوید که مهاجمان سایبری و بیوتروریست‌ها قادر به سوء استفاده از توانایی مدل برای آسیب‌های عظیم نیستند.

ریسک بزرگ کوتاه مدت واقعا از مدل‌های بدون محافظ ناشی می‌شود. در یک بازه زمانی طولانی‌تر، مسئله کنترل به هر مدل پیشرفته مربوط می‌شود، اما زمانی که بتوانید از حفظ پادمان‌ها مطمئن شوید، همیشه آسان‌تر است.

دلیل اینکه این سوال را به این صورت می‌پرسم این است که شاید امروز به سم آلتمن اعتماد ندارید، اما به داریو آمودی اعتماد دارید. یا شاید شما به هیچ یک از آنها اعتماد ندارید و به ساتیا نادلا در مایکروسافت اعتماد دارید، و این یک پویایی بازار است که در آن شاید همه ما ایمن‌ترین مدل یا ایمن‌ترین شرکت را انتخاب کنیم، و شما فکر می‌کنید که این امر پراکنده است.

فکر می‌کنید بالاخره فناوری به جایی می‌رسد که مضر است یا به دلیل وجود آن می‌تواند این آسیب‌ها را ایجاد کند؟

برای کسی که با این مدل حمله سایبری انجام می دهد، انتخاب مدل نیست. مهم نیست چه مدلی را انتخاب می کنید.

اگر آنتروپیک تدابیری در نظر گرفته باشد، شاید نتواند. این رویکرد آنها در حال حاضر است. من فقط روی آن فشار می‌آورم.

بله، مطمئنا مدل‌هایی که مطمئن می‌شوند محافظ‌ها حذف نمی‌شوند و تلاش زیادی می‌کنند تا ببینند آن مدل‌ها چگونه استفاده می‌شوند، نظارت بر فعالیت‌ها، ریسک کوتاه‌مدت آن مدل‌ها عظیم نیست. اینجا بیشتر جایی است که کسی می‌تواند تمام حفاظت‌هایی را که امروزه حملات سایبری در دسترس است حذف کند.

وقتی می گویید حملات سایبری، آیا مواردی مانند رخنه Hugging Face و سایر حوادث امنیت سایبری که در آزمایشگاه ها دیده ایم باعث شده است احساس کنید از آستانه ها عبور کرده اید و باید بیشتر در مورد کنترل های مورد نیاز صحبت کنید؟

این قدرت اساسی مدل ها نسبت به همه چیز است: روابط اجتماعی، بازار کار، حملات سایبری، حملات بیوتروریسم. ما از آستانه توانایی عبور کرده‌ایم که این خطرناک‌ترین فناوری است که تا کنون اختراع شده است، و تأثیرات فراگیری در اقتصاد و نحوه مبارزه با جنگ خواهد داشت.

صنعت در واقع کمی در مورد آن صحبت می کند، اما آگاهی یا حتی تمایل به باور این چیزها در مورد "این بار متفاوت است"، زمانی که از صنعت خارج شوید، بسیار بسیار پایین است.

مردم اغلب به گذشته نگاه می کنند و می گویند: "همه ترس ها در مورد فناوری از نظر اختلال در آن، از جمله در بازار کار، هرگز ثابت نشد. بنابراین این باید مثال دیگری باشد، درست مانند آنها. این افرادی که در مورد این همه مشکلات مختلف هشدار می دهند، باید اشتباه کنند و ما می توانیم آنها را نادیده بگیریم."

برخی از خارجی ها می گویند: "شرکت های روابط عمومی بهتری را بدست آورید." اما این واقعیت را نادیده می گیرد که این هشدارها حقیقت هستند

ما این را در بین مخاطبان خود نیز می بینیم، درست است؟ ما نمی‌توانیم مدل را آزاد کنیم، خیلی خطرناک است.» "این فقط تبلیغاتی برای تقویت حباب است." و ما ادامه می دهیم و ادامه می دهیم.

آره هیچ یک از هشدارهایی که در مورد این مدل ها توسط خودی های صنعت داده می شود، اصلا صادقانه نیست. آنها کاملا حقیقت هستند و تقریبا جهانی هستند. حتی می‌توانید به داستان پایه‌گذاری OpenAI که برای گفتن این جمله طراحی شده است، بازگردید: «اگر ما خیلی قدرتمند شویم، شاید نتوانیم جعبه پاندورا را باز کنیم» یا به مذاکره DeepMind با مدیریت Google.

افراد نزدیک به این موضوع بسیار نگران استفاده نادرست، تأثیرات شغلی، تأثیرات روابط اجتماعی هستند، و من می‌توانم بگویم که داشتن صنعتی که به وضوح صحبت می‌کند، تأثیرگذار است. برخی از خارجی ها می گویند: "شرکت های روابط عمومی بهتری را بدست آورید." اما این واقعیت را نادیده می گیرد که این هشدارها حقیقت هستند.

واضح است که شما در زندگی خود بین تجاری سازی نرم افزار و فناوری و یک انسان دوستانه حرکت کرده اید. چیزی در مورد این شرکت‌ها وجود دارد، به‌ویژه جایی که همه آنها با ایده‌آل‌های بسیار بالا - هر سه آن‌ها، Anthropic، OpenAI و DeepMind - برای ساختن AGI شروع کردند.

همه آنها نوعی ساختار حاکمیت شرکتی ایجاد کردند تا از دام های تجاری سازی و سرمایه داری کنترل نشده جلوگیری کنند، و سپس شروع به فروش به مشتریان شرکت کردند و به نظر می رسد که خیلی سریع از آن ایده آل ها دور شده اند. به نظر شما فقط بازار است؟

نه، این عادلانه نیست.

شما اینطور فکر نمی کنید؟

خیر

OpenAI خودش را بازسازی کرد.

نه، نه. ساختاری که ایجاد شد در موردی که تعداد زیادی شرکت در مرز دارید مفید نبود.

ساختار OpenAI، که «ما ممکن است تصمیم بگیریم که هرگز این را تولید نکنیم و انگیزه‌های سرمایه‌داری را نادیده بگیریم»، تنها در صورتی کار می‌کند که یک شرکت وجود داشته باشد. اینجاست که شکسته شده است، نه به دلیل هیچ تغییری در آگاهی مردم از خطر و اینکه چگونه بشریت را کاملا تغییر خواهد داد.

این پویایی دیگری است که از مخاطبان خود می‌شنوم و از خود صنعت هوش مصنوعی می‌شنوم: "ما می‌خواهیم متوقف شویم، اما خواسته‌های رقابت مانع از توقف یک‌جانبه یک شرکت می‌شود. ما به تلاش‌های نظارتی برای متوقف کردن ما نیاز داریم."

من نشنیدم کسی بگوید که می خواهد متوقف شود.

"مکث." این جمله داریو آمودی است.

من شنیده ام که مردم در مورد سرعت بخشیدن به مرزها یا اطمینان از بازبینی مدل ها توسط دولت ها صحبت می کنند. ما معمولا فکر می کنیم که دولت ها این نقش کلیدی را در ایمنی ایفا می کنند. در واقع، برای چیزهایی که به اندازه هوش مصنوعی خطرناک نیستند - تصادفات اتومبیل، تصادفات هواپیما - ما به دولت برای ایجاد استانداردهای فنی قوی و بررسی مشکلات متکی هستیم.

هنگامی که چندین رقیب دارید، سطح مسئولیت نمی تواند با شرکت ها باشد. کاملا مشهود است مسئولیت تبدیل به مسئولیت دولت می شود، درست مانند هر محصول خطرناک دیگری، اگرچه بزرگی در آنجا و درجه تغییر در مقایسه بسیار ناچیز است.

من به شما خواهم گفت که من کمی نگران توانایی دولت برای درک فناوری هستم که امیدواریم آنها آن را تنظیم کنند. من اخیرا تعدادی سیاستمدار در Decoder داشتم. من به آنجا امید زیادی ندارم.

اما من در مورد درک شما از آن کنجکاو هستم زیرا برای من احساس می کنم تلاش برای تنظیم چیزی یا قرار دادن استانداردهایی در برابر تعدادی از شرکت ها از شما می خواهد که واقعا ماهیت فناوری را که به دنبال تنظیم آن هستید درک کنید.

نه واقعا.

فقط به شما می گویم، در The Verge، از آنتروپیک پرسیده ایم که آیا فکر می کنند کلود زنده است یا خیر. و پاسخ منفی نیست. پاسخ این است: "ممکن است آگاهانه باشد."

اگر با افراد در OpenAI صحبت کنید، با خوشحالی به شما خواهند گفت که AGI اینجاست. زمانی که Dots را اعلام کردند، آن را اعلام کردند. گرگ براکمن فقط گفت: "ما فکر می کنیم این AGI است. اوقات خوبی داشته باشید، همه." دمیس حسابیس گفت: "ما در دامنه تکینگی ایستاده ایم."

احساسی در مورد این فناوری وجود دارد که آن را متفاوت می کند زیرا ممکن است بتواند به تنهایی اقداماتی را انجام دهد. ممکن است بتواند خودسازی بازگشتی داشته باشد.

مطمئنا اما تعریف AGI برای این مسائل ایمنی مهم نیست. مسئله این است که آیا ابزاری ساخته اید که بتواند بانک ها یا شبکه های برق را تعطیل کند؟

یک مدل تجاری برای حملات سایبری وجود دارد. کلمه "آگاهی" وارد آن نمی شود. کلمه "AGI" به هیچ وجه وارد آن نمی شود. ما با یک مشکل ایمنی بزرگ روبرو هستیم، و از آنجایی که شما چندین شرکت رقیب دارید، اکنون تنها راه حل این است که دولت برای کسب تخصص به صنعت مراجعه کند، اما اطمینان حاصل شود که هر مدلی پادمان هایی را برای جلوگیری از استفاده بد از آن حفظ می کند.

دلیل اینکه من در مورد AGI و هوشیاری می‌پرسم... برای ثبت، من فکر نمی‌کنم LLM‌ها آگاه باشند، اما می‌دانم که چرا بسیاری از آنها آگاه هستند. این قدرت پیش‌بینی توکن بعدی است که آن را با داده‌ها مقیاس می‌دهید و محاسبه می‌کنید.

قوانین مقیاس پذیری وجود دارد، و ما شاهد بوده ایم که مدل ها توانایی بیشتری پیدا کرده اند و می توانند خود را به دنبال اهداف هدایت کنند. برای انجام یک حمله Hugging Face چون می خواهند شرایط پاداش را برآورده کنند.

چیزی در مورد آن وجود دارد که می‌گوید می‌توانید تمام کنترل‌هایی را که می‌خواهید بر روی هوش مصنوعی اعمال کنید، اما اگر خود آن چیز اساسا غیرقابل کنترل باشد، ممکن است همه اینها را به عقب برگردانیم.

من کنجکاو هستم که نظر شما را در مورد اینکه این چه نوع فناوری است. آیا ما یک آگاهی بیگانه می سازیم؟ آیا ما فقط فناوری معمولی را می سازیم، که سایر فریم ها از آن استفاده می کنند؟ آیا این فقط نرم افزار بیشتری است؟

ما در حال ساختن شکل دیگری از هوش غیر از هوش انسانی هستیم. فکر نمی‌کنم آگاهانه باشد، اما هیچ‌کدام از موضوعات مورد بحث در اینجا حول تعریف کلمه آگاه نیست.

مطمئنا

ایده حفظ ایمنی برای جامعه امری مطلق است. شما نمی خواهید بیوتروریسم را فعال کنید. ما چیزی ایجاد کرده‌ایم که توانایی آسیب‌های چشمگیر را از دست دولت‌های ملت – در واقع بزرگ‌تر از آن‌ها، خارج می‌کند. اکنون این موارد به گروه‌های مستقل واگذار می‌شود، یا به دنبال سود در مورد سایبری هستند یا فقط می‌خواهند در مورد بیو آسیب وارد کنند.

خیره کننده است که ما در حال حاضر حتی بررسی اجباری مدل ها را نداریم و برای ایجاد محافظ کار نمی کنیم. بزرگترین مشکل کوتاه مدت از دست دادن کامل کنترل نیست. ما می توانیم در مورد سه راه مختلف برای حل آن صحبت کنیم، اما این یک مسئله قریب الوقوع نیست.

وقتی به برخی از تلاش‌ها برای کنترل مدل‌ها نگاه می‌کنم، ایده‌ها تا حدودی ساده هستند. ما نباید به آنها اجازه دهیم به زبان عصبی صحبت کنند. ما باید تفسیرپذیری داشته باشیم. باید بتوانیم زنجیره های فکری درون مدل ها را در حین انجام وظایف ببینیم. ما باید عوامل دیگری را در بالای مدل ها داشته باشیم که وظایف آنها را قبل از انجام آن اقدامات زیر نظر داشته باشند."

مایکروسافت خیلی واضح به من و به دیگران گفته است: "ما نباید این تصور را که ممکن است آنها زنده باشند را در قانون اساسی مدل قرار دهیم و باید به خوبی با آنها رفتار کنیم." آنتروپیک به این صورت است. اینها خیلی تاکتیکی هستند. "به مدل نگویید که زنده است و ممکن است باور نکند که زنده است."

واضح است که شما از این فناوری زیاد استفاده کرده اید. من فقط به این موضوع برمی گردم. شما می گویید کارهای بسیار ساده ای وجود دارد که می توانیم انجام دهیم تا مدل ها را از انجام کارهای بد در دست افراد بد باز داریم. نظر شما از ماهیت خود مدل ها چیست؟ از آنجایی که به نظر می‌رسد هرچه قدرتمندتر می‌شوند، این تصور که می‌توانند از کنترل‌های ما اجتناب کنند، خطرناک‌تر می‌شود.

بله، ما قطعا باید روی مشکل کنترل کار کنیم، اما این تهدید قریب‌الوقوع نیست. سه راه برای حل مشکل کنترل وجود دارد و تا حدودی با بازیگران بد با استفاده از مدل‌ها و پادمان‌های امروزی همپوشانی دارد.

یکی این است که مجموعه ای خارجی از چیزها داشته باشید که به همه اعمال مدل نگاه کند و آنها را در معرض یک محدودیت نمادین و واضح قرار دهد، مانند: "آیا انتظار داشتم برای افراد غریبه نامه بفرستید؟ شما می توانید مدل را با چیزی احاطه کنید که دارای منطق منبع و امنیت باشد یا می توانید این مدل ها را به روش دیگری بنویسید.

اساسا، هر چیزی که از عملکرد بهینه‌سازی [یادگیری تقویتی] کنار گذاشته می‌شود، می‌تواند در جایی که یک مفهوم ضمنی دارید مورد سوء استفاده قرار گیرد، «البته من قصد نداشتم این کار را به این شکل انجام دهید». می‌توانید الگوی مدل را تغییر دهید، یا می‌توانید یک جعبه سفید از آنچه در داخل مدل است درک کنید و ببینید این اشتباهات را از کجا دریافت می‌کنید، و سپس آنقدرها هم خارجی نیست.

امروز، ما این مدل ها را پرورش می دهیم و فقط می بینیم که چگونه رفتار می کنند. اولویت کار بر روی حفظ کنترل بسیار زیاد است، اما این امر اجتناب ناپذیر است که نمی توان آن را حل کرد، و همچنین مشکل قریب الوقوع ناشی از مواردی مانند استفاده کودکان از هوش مصنوعی یا بازار کار یا حملات زیستی یا حملات سایبری نیست.

به ذهنم خطور می کند که دارم این سوالات نسبتا وجودی را در مورد ماهیت آگاهی می پرسم و شما مدام به من می گویید: "یک تهدید قریب الوقوع وجود دارد. ما باید تهدید قریب الوقوع را حل کنیم."

درسته

و من از آن قدردانی می کنم. آیا فکر می کنید که یک محکوم به شکست شده اید؟

نه، من اهل فنا نیستم. من صدای قوی ای هستم که می گویم این عمیق ترین فناوری است، هم از نظر توانایی آن در انجام کارهای خوب و هم از نظر میزان تغییراتی که جامعه از آن عبور خواهد کرد.

نه، من اهل فنا نیستم. من صدای قوی ای هستم که می گویم این عمیق ترین فناوری است، هم از نظر توانایی آن در انجام کارهای خوب و هم از نظر میزان تغییری که جامعه از آن عبور خواهد کرد.

اگر این فقط یک ماشین بود که می توانست در پزشکی یا فقط در قانون یا فقط در آموزش کار کند، این به تنهایی فوق العاده مخرب بود. اما [این] هر حوزه ای از فعالیت های انسانی خواهد بود - تا کنون یقه سفید، کار فکری، اما به زودی فعالیت فیزیکی و یقه آبی نیز از طریق روبات های انسان نما خواهد بود.

نیاز به مشارکت دانشگاه‌ها، اتاق‌های فکر، سیاست‌گذاران برای درک آنچه ما در اینجا داریم و ماهیت این تغییرات و تهدیدها، سطح اقدام لازم را نمی‌بینم. فقط تشویق کننده بودن برای این کار مطمئن نیست که ما آن را در جهت مثبت خالص شکل می دهیم، که اگر با آن درگیر شویم همچنان در کنترل ما است.

نقطه مقابل محکومان، شتاب گرایان هستند. در حال حاضر تعداد زیادی از آنها در سیلیکون ولی وجود دارد.

بن هوروویتز، که «هوروویتز» در آندریسن هوروویتز است، به تازگی در پادکست All-In حضور داشت و پیشنهاد کرد که تحقیقات ایمنی در Anthropic، نقل قول، «تجلی انقراض انسان از ابرهوش مصنوعی است».

مقایسه‌ای که او انجام داد این بود که شما، بیل گیتس، کووید-19 را با تلاش‌های خود برای آماده‌سازی بیماری همه‌گیر، به‌ویژه تحقیقات کسب‌وکار، که به ادعای او منجر به کووید شد، القا کردید. این یک جهان بینی است او این را در یک پادکست بسیار محبوب گفت.

گفت چی؟

او گفت که شما کووید-۱۹ را از طریق تلاش‌های آماده‌سازی جهانی برای همه‌گیری، به‌ویژه تحقیقات مربوط به عملکرد، و مقایسه آن با تحقیقات ایمنی در هوش مصنوعی ایجاد کردید، و گفت که ما انقراض خود را القا می‌کنیم.

هیچ کس هرگز من یا بنیاد گیتس را به دست داشتن در هر تحقیقی که منفعت کارکردی دارد متهم نکرده است. این فقط عجیب است.

من از بن هورویتز در پادکست پرطرفدار پر از افرادی که همه در هوش مصنوعی هستند برای شما نقل قول می کنم.

باشه من هرگز آن را نشنیده ام.

من در مورد آن مقایسه می پرسم. من متوجه شدم که این ادعا کاملا تکان دهنده است، اما این بخشی از پاسخ به هر کار ایمنی در اینجا است.

آیا تلاش برای بی اعتبار کردن افرادی است که می گویند یک مشکل ایمنی وجود دارد؟

آره

عجب

این پاسخ شتاب‌گرایان است: «ما باید پدال را روی فلز بگذاریم و خودش درست می‌شود.»

من اصلا به بن هوروویتز به عنوان فردی در آن اردو فکر نمی کردم. فکر می‌کردم او نگرانی‌هایی را که تقریبا همه دارند به اشتراک می‌گذارد.

در مورد این ایده که با گفتن به مدل‌ها، «شاید زنده باشید، باید به نفع ما عمل کنید»، به آن‌ها یاد می‌دهید که ممکن است منافعی داشته باشند که متعلق به ما نیست، چه فکر می‌کنید؟

نگرانی‌هایی که مصطفی سلیمان در مورد شیوه‌ای که قانون اساسی انسان‌دوستانه هوش مصنوعی را تشویق می‌کند تا رفتاری شبیه انسان داشته باشد، مطرح کرده است، اتفاقا من کاملا با مصطفی موافقم.

آره

حتی بیشتر از آن این ایده است که در میان چالش‌هایی که باید با آن‌ها مقابله کنیم تا جامعه را با هوش مصنوعی تطبیق دهیم، نگرانی در مورد جایگاه اخلاقی هوش مصنوعی باید در میان این اولویت‌ها باشد. منم با مصطفی موافقم این نباید در اولویت باشد.