مدیر عامل هوش مصنوعی مایکروسافت می گوید تهدیدات هوش مصنوعی واقعی هستند و Anthropic آن را بدتر می کند

امروز، من با مصطفی سلیمان، مدیر عامل مایکروسافت AI صحبت می کنم. همانطور که بدون شک می دانید، بزرگترین داستان در فناوری در حال حاضر بحث های مارپیچ در مورد ایمنی و مقررات هوش مصنوعی است.

جای تعجب نیست که مصطفی نظرات محکمی در مورد چگونگی ساخت و تنظیم هوش مصنوعی دارد. مایکروسافت به تازگی بیانیه‌ای 37 صفحه‌ای به نام «مشخصات رفتاری هوش مصنوعی انسان‌گرا» منتشر کرده است که اصول این شرکت را در مورد توسعه هوش مصنوعی و حتی فلسفه آن در مورد مسائل واقعا پیچیده‌ای مانند آگاهی هوش مصنوعی بیان می‌کند.

اگر از آخرین حضورش در برنامه به یاد بیاورید، مصطفی فکر می‌کند شرکت‌هایی مانند آنتروپیک واقعا در مورد مفهوم به اصطلاح رفاه مدل به روش‌های نسبتا خطرناکی سردرگم شده‌اند. او در واقع این هفته یک مقاله همراه منتشر کرد که به طور خاص از فلسفه آنتروپیک در مورد هوشیاری هوش مصنوعی انتقاد می کرد، و اینکه چگونه آن را در بحث همسویی گسترده تر می بیند.

بنابراین من واقعا می‌خواستم با مصطفی در مورد آنچه که او فکر می‌کند واقعی است و در مورد ایمنی هوش مصنوعی صحبت نمی‌کنم، اینکه آیا مفهوم همسویی به خودی خود می‌تواند کار را انجام دهد، و آیا این صنعت باید قبل از اینکه همه ما را بکشد، سرعت خود را کاهش دهد. همچنین: چرا صنعت هوش مصنوعی از قبل همه این کارها را انجام نمی دهد؟ من همیشه از وارد شدن به علف هرز با مصطفی لذت می بردم و او در اینجا خیلی بازی با من داشت.

باشه مصطفی سلیمان، مدیر عامل مایکروسافت هوش مصنوعی، در مورد آینده مقررات هوش مصنوعی. در اینجا ما می رویم.

این مصاحبه برای طولانی بودن و وضوح کمی ویرایش شده است.

مصطفی سلیمان، شما مدیر عامل هوش مصنوعی مایکروسافت هستید. به رمزگشا خوش آمدید.

از دیدنت خوشحالم، نیلای. ممنون که به من برگشتی

دیدنت عالیه من بسیار هیجان زده هستم که با شما در مورد آنچه روی زمین در بحث ایمنی و مقررات هوش مصنوعی می گذرد صحبت کنم. شما به تازگی یک سند بسیار طولانی و بسیار مفصل منتشر کرده اید که در آن اصول شما، اصول مایکروسافت، پیرامون چیزی که شما آن را «هوش مصنوعی انسانی» می نامید، ترسیم می کند.

ایده های زیادی در آنجا وجود دارد که می خواهم بسته بندی کنم. هر چه بیشتر به این گفتگو فکر کرده ام، بیشتر می خواهم با یک سوال واقعا اساسی شروع کنم. این چیزی است که به آرامی دیده بودم، اما ممکن است ریشه همه اینها باشد.

روش اساسی که ما در مورد ایمنی هوش مصنوعی صحبت می کنیم چیزی به نام همسویی است - ما قصد داریم مدل ها را به نحوی ذاتا کار درست را انجام دهند. مکانیزمی برای انجام آن وجود دارد. صحبت های زیادی در مورد هم ترازی و ناهماهنگی و حملات صورت در آغوش گرفته و اتفاقی که برای مدل ها افتاد وجود دارد. اما آیا تراز شکسته است؟ آیا امکان موفقیت آن وجود دارد؟ آیا این فقط رویکرد اشتباهی است؟

آره منظورم این است که فکر می‌کنم این یک عنصر مهم است، اما تنها یکی نیست. من در مورد ایده مهار سه یا چهار سال پیش در کتابم نوشتم. و در واقع فصل آغازین درباره این ایده است که مهار امکان پذیر نیست، که تکثیر اجتناب ناپذیر است. در 99 درصد موارد، این یک چیز واقعا خوب است. ما می‌خواهیم فناوری‌ها هر چه سریع‌تر در سراسر جهان گسترش یابند تا همه بتوانند از مزایای آن بهره ببرند.

من فکر می کنم در عین حال، اگر شما فقط پنج سال به جلو بروید، ما همیشه در سه ماهه بعدی یا سال آینده گرفتار می شویم و همه کمی سردرگم می شوند و اختلاف نظر بزرگی دارند. اما اگر فقط تفاوت بین GPT-3 سه سال پیش و GPT-6 امروز را تصور کنید و سپس تفاوت بین GPT-6 و GPT-9 را تصور کنید. این سه مرتبه محاسبات بزرگتر است، 1000 برابر FLOPS بیشتر برای قبل از تمرین با [یادگیری تقویتی] برای این دویدن ها اعمال می شود، و ما چیزی خیره کننده خواهیم داشت. در خیلی چیزها کاملا باورنکردنی خواهد بود.

من فکر نمی کنم که این یک هیاهو باشد. من فکر می کنم که این فقط یک بیانیه تجربی بسیار واضح است که بر اساس پیشرفتی است که در پنج سال گذشته انجام شده است. اگر قرار است این روند ادامه پیدا کند، پس این سوال واقعا در مورد مهار و همسویی خواهد بود. البته، ما می‌خواهیم این چیزها را با ارزش‌هایمان هماهنگ کنیم، اما اولین چیز این است که باید مطمئن شویم که آنها محدود هستند، نمایندگی آنها محدود است، آنها از جعبه فرار نمی‌کنند، هک پاداش نمی‌دهند، قابل کنترل هستند و دستورالعمل‌های ما را دنبال می‌کنند.

سپس می‌خواهیم مطمئن شویم که آنها با اهداف ما به عنوان انسان هماهنگ هستند. این هدف کد رفتاری هوش مصنوعی انسانی است که این هفته منتشر کردیم. موضع مایکروسافت بسیار ساده است. فناوری اینجاست تا به بشریت خدمت کند. این باید یک نیروی تابع، قابل کنترل و همسو باشد که در جهان کار خوبی می کند. اگر به آن نرسید، پس باید آن را رد کنیم. به نظر من با آن نقطه فاصله داریم.

امروز این اتفاق نیفتاده است، اما اکنون است، فکر می‌کنم با توجه به اتفاقاتی که در تابستان با Hugging Face و OpenAI رخ داد، کاملا واضح است که این سیستم‌ها بدون حفاظ ایمنی قادر به قابلیت‌های هک واقعا چشمگیر و کاملا ترسناک هستند.

من می‌خواهم تا جایی که می‌توانم این موضوع را به استعاره‌ای متکی برم بکشم، زیرا این سؤال اصلی است که فکر می‌کنم دارم. اگر من یک ماشین طراحی می کردم و 10 درصد از مواقع پدال ترمز تصمیم می گرفت به خانه همسایه ام حمله کند، می گفتم: "این ماشین کار نمی کند. فناوری ترمز خراب است. من به یک ایده جدید نیاز دارم."

فکر می کنم این سوال را در مورد همسویی می پرسم. به نظر می رسد این رویکرد برای ایمن سازی مدل از بین رفته است. اگر چنین است، پس فکر می‌کنم کل این بحث را یک‌طرفه درک می‌کنم. اگر این امکان وجود دارد که همسویی و تکنیک های همسویی موفقیت آمیز یا مفید یا سازگار باشد، پس شاید من بحث را به گونه ای دیگر درک کنم. بنابراین آیا به نظر شما هم ترازی پتانسیل 100 درصد ایمن بودن را دارد؟

منظورم این است که نگاه کنید، بیایید قاب گاو و قاب خرس را بسازیم. اگر به سه سال گذشته نگاه کنید، به نظر من، تغییر اصلی که باعث پیشرفت شده این است که مدل‌ها هدایت پذیرتر شده‌اند. آنها دستورالعمل‌ها را دنبال می‌کنند و شما می‌توانید اهداف پیچیده‌تر و پیچیده‌تری را برای آن‌ها تعیین کنید که به آن‌ها نیاز دارد تا با استفاده از انواع ابزارها در چند مرحله زمانی به دقت عمل کنند.

این شواهدی است که نشان می‌دهد ما در سه یا چهار سال گذشته همسویی بیشتری داشته‌ایم، نه کمتر. ما در مورد توهمات یا سوگیری یا همه این موارد دیگر که در نسل های قبل داشتیم زیاد صحبت نمی کنیم.

از طرف دیگر، آنچه در حادثه «Huging Face» دیدیم، لحظه‌ای بود. انبوهی از ماموران با یکدیگر تبانی کردند. آنها به صورت سلسله مراتبی خود سازماندهی شدند. آنها یک تقسیم کار ایجاد کردند به طوری که برخی روی هک دشمن متمرکز شدند، برخی در حال تحقیق و برخی هماهنگی بودند. آنها حتی زمانی از خود گذشتگی می کردند که برخی از عوامل در حال تمام شدن نشانه ها بودند.

آنها سعی کردند ردپای خود را بپوشانند و با هم ارتباط برقرار کنند تا زنجیره افکار یا گزارش های تعاملات خود را پنهان یا ویرایش کنند. به نوعی، آنها هیچ کد اخلاقی نداشتند. منصفانه با OpenAI، این طراحی آنها بود. آنها در تلاش برای ایجاد قابلیت های سایبری متخاصم بودند. در نتیجه، آن‌ها به همه در جهان نشان دادند که می‌تواند به عملکردی در سطح انسانی دست یابد، آسیب‌پذیری‌های روز صفر را کشف کند، و چندین روز، اگر نگوییم هفته‌ها، در موقعیت‌هایی قرار گیرد.

بنابراین چیزی که به ما می گوید این نیست که ما فی نفسه مشکل هم ترازی داریم. این در واقع این است که مدل‌ها در پیروی از دستورالعمل‌ها فوق‌العاده خوب هستند، اما شما باید بسیار بسیار مراقب دستورالعمل‌هایی باشید که به آن‌ها می‌دهید و باید با دقت آن را رعایت کنید. بنابراین هیچ یک از این رفتارهای هک به این معنا نبودند که راهی برای خروج از اینترنت پیدا کردند، که اصلا هدف OpenAI نبود، بلکه فرآیند مهار در اطراف آن چیزی است که به نظر من، همه باید علاوه بر همسویی، روی آن نیز تمرکز کنند.

بنابراین اجازه دهید این را در چارچوب شما قرار دهم، که پیشرفت‌های بزرگ در قابلیت‌های هوش مصنوعی در مورد کنترل، مهارها برای کدنویسی و برنامه‌های کاربردی عاملی است که می‌بینید. اکنون، ما باید یک لایه مهار اضافه کنیم که کنترل بیشتری را اعمال می کند، که می گوید شما در واقع می توانید این کاری را که می خواهید انجام دهید، علاوه بر تراز کردن، انجام دهید، به این ترتیب مدل را آموزش می دهید تا به روش های خاصی رفتار کند.

آره منظورم این است که شما اساسا باید هر دو را داشته باشید، اما کارهای بسیار خاصی وجود دارد که می توانیم برای رفع آن انجام دهیم. بنابراین به عنوان مثال، ما نمی توانیم به مدل ها اجازه دهیم که بردار را به بردار، ماتریس ها را به ماتریس ها ارتباط دهند. آنها نمی توانند به صورت عصبی ارتباط برقرار کنند. ما باید آنها را مجبور کنیم که به زبان انسانی ارتباط برقرار کنند. حتی آن نیز بسیار طاقت‌فرسا خواهد بود زیرا تعداد زیادی از آن وجود خواهد داشت.

اما این چیزی است که یک حسابرس یا یک ارزیاب واقعا می تواند تأیید کند و قطعا شانس ایمنی را افزایش می دهد. بنابراین گام‌های عملی زیادی وجود دارد که می‌توانیم به جای اینکه به طور انتزاعی بگوییم که زمان تنظیم یا زمان کاهش سرعت است، روی آنها تمرکز کنیم.

این در آیین‌نامه رفتاری هوش مصنوعی انسان‌گرای شماست که هیچ فرد عصبی نباید وجود داشته باشد – اگر انسان‌ها نتوانند آن را درک کنند، نمی‌توانند بر آن نظارت کنند. در آنجا که آنها اساسا در ریاضیات با هم ارتباط برقرار می کنند، فقط عصبی نیست، بلکه این کلمات رمزی مبهم است که برخی از مدل ها استفاده می کنند. فکر می‌کنم OpenAI به مدل‌هایش اجازه می‌دهد اساسا با کلمات کد ارتباط برقرار کنند تا بتوانند سریع‌تر پیش روند.

به نظر من این یکی از آن چیزهایی است که مایکروسافت می تواند بگوید... من می دانم که شما نظرات بسیار قوی در مورد این موضوع دارید، اما موافقت همه آزمایشگاه ها با این یک عملکرد نظارتی است. من مطمئن نیستم که چگونه می‌توانید همه را وادار به موافقت با این موضوع کنید یا مدل‌های وزن باز را مجبور به موافقت با آن کنید، مگر اینکه بگویید برای شرکت نکردن در یک طرح نظارتی مانند این مجازات وجود دارد. چگونه این را به دیگران تحمیل می کنید؟

فکر می کنم در مورد تحمیل چیزها به دیگران کمی مراقب هستم. من فکر می‌کنم آنچه در حال حاضر خوب است این است که یک بحث عمومی آزاد با محوریت آزادی وجود دارد. در کشورهای دیگر اینطور نیست، مطمئنا مکان هایی که من از آنها هستم یا خانواده من از آنها.

من فکر می کنم که باید فقط یک نفس بکشیم تا از این واقعیت که می توانیم در مورد چیزهای واقعا مهم اختلاف نظر عمومی گسترده داشته باشیم سپاسگزار باشیم. این روند طبق برنامه کار می کند و مشخص نیست چه باید کرد.

من فکر نمی‌کنم کسی که در مورد «الان باید کاملا متوقف شود» یا «ما فقط می‌توانیم تسریع کنیم» یا «فقط با مقررات می‌توانیم این کار را انجام دهیم» یا «این فقط با خود تنظیمی صنعت اتفاق می‌افتد» قاطعانه باشد. هیچ کدام از این موارد درست نیست. نیاز به دقت و حوصله زیادی برای فکر کردن به جزئیات دارد. در عین حال، ما نیاز فوری به استانداردهای صنعتی داریم. من فکر می کنم برخی چیزها باید از روی میز حذف شوند.

ارتباط در افراد عصبی یکی از آنهاست. عدم مهار یکی دیگر از موارد است. مقیاس اجرای تمرینی که انجام می دهید را می توان با FLOPS اندازه گیری کرد. زمانی که مدل‌ها از آستانه فلاپ معینی فراتر می‌روند، قبلا یک الزام گزارش به مؤسسات ایمنی داریم. ما می‌توانیم آن را گسترش دهیم، می‌توانیم آن را ظریف‌تر کنیم، می‌توان آن را روی انواع خاصی از قابلیت‌ها متمرکز کرد. کاملا واضح است که باید تأیید شخص ثالث مستقلی برای برخی از این موارد بزرگ وجود داشته باشد.

صادقانه بگویم، پس از صحبت با تعدادی از رهبران آزمایشگاه در چند هفته و ماه گذشته، همه اساسا در یک صفحه هستند. جزئیات باید کار شود. بنابراین اینطور نیست که در مورد چگونگی یا دقیقا چه اتفاقی وجود داشته باشد، اما در کل فکر می‌کنم که ما باید کمتر نگران و بدبین باشیم و بیشتر به این فکر کنیم که با توجه به نگرانی‌هایی که در اینجا مطرح می‌شود در مسیر درستی حرکت می‌کنیم.

دلیل اینکه من با همترازی شروع کردم این است که اگر به من بگویید تراز کار نمی‌کند و ما به یک رویکرد تکنولوژیکی جدید نیاز داریم، فکر می‌کنم که "خوب، ترمز را فشار دهید و تمام پیشرفت‌ها را متوقف کنید تا زمانی که مکانیزم ایمنی کارآمد را پیدا کنید." شما می گویید که همسویی نشان داده شده است که در طول پیشرفتی که دیده ایم کار می کند. با اضافه شدن کنترل و مهار، شاید بتوانید به جایی که نیاز دارید برسید.

چیزی که این صنعت در حال حاضر به آن نیاز دارد، استانداردهایی در مورد نحوه ساخت این مدل ها و اعمال محدودیت در توانایی آنها است. شما مشخصا در این صنعت هستید و همه این افراد را می شناسید. تنور آن مکالمه قبل از این هفته چگونه بوده است و چرا این هفته اینقدر بلند شده است؟

خب، من فکر می‌کنم که نقطه عطف حداقل برای صنعت بیشتر شبیه حادثه Hagging Face بود و قبل از آن چند حادثه وجود داشت. آن لحظه ای بود که فکر می کنم همه بیشتر با یکدیگر صحبت کردند زیرا واقعا نفس گیر است. بدیهی است که به دلیل هفته گذشته که همه درگیر آن بودند، این اکنون به یک موضوع مهم ملی و بین المللی تبدیل شده است.

اما من همچنین فکر می‌کنم مهم است که بگوییم ما در مورد هماهنگی جمعی و قابلیت‌هایی صحبت کرده‌ایم که خطرناک‌تر هستند مانند خودمختاری یا خود-بهبودی بازگشتی یا RSI. ما شش، هفت، هشت سال است که درباره آن چیزها صحبت می کنیم. ما در سال‌های 2017، 2018 و 2019 بارها دور هم جمع شده‌ایم.

ما در طول کووید با تعدادی از رهبران آزمایشگاه جلسات منظمی داشتیم که در آن درباره این نوع قابلیت ها و انواع مکانیسم های نظارتی که در این لحظه مورد نیاز است صحبت می کردیم. بنابراین، در حالی که یک لحظه آستانه است، برای همه کسانی که درگیر هستند کاملا جدید نیست.

چه چیزی باعث شد این هفته مقاله خود را در مورد رفاه مدل منتشر کنید؟ چه چیزی باعث شد که ساتیا نادلا، مدیر عامل مایکروسافت، بیانیه ای را در مورد X ارائه دهد و گفت که او عمدتا با فراخوان ها برای سرعت بخشیدن به مرز موافق است و از "ارزش دهندگان جاسازی شده" استقبال می کند؟ چه چیزی شما را در تمام این هفته وادار کرد تا در این فراخوان برای کاهش سرعت یا مقررات یا هر چیز دیگری شرکت کنید؟

ما در حال نوشتن کد رفتاری هوش مصنوعی انسانگرایانه خود برای بهترین بخش سال جاری بوده ایم. ما فقط 11 ماه پیش تلاش های ابراطلاعاتی خود را آغاز کردیم. به محض این که این کار را انجام دادیم، شروع کردیم به کشف کردن، "خوب، سند حاکم، مجموعه سیاست ها، که انواع هوش مصنوعی را که می خواهیم بسازیم را شکل می دهد چیست؟" ما این کار را با مشورت با تعداد زیادی از ذینفعان خارجی، دانشگاهیان، حقوقدانان، فیلسوفان، اعضای عمومی، گروه های متمرکز و موارد دیگر انجام داده ایم. بنابراین مدتی طول کشید تا آن را جمع کنیم.

ما در واقع قصد داشتیم آن را هفته آینده یا هفته بعد از هفته آینده منتشر کنیم، فکر می کنم همینطور بود. اما پس از آن با توجه به همه چیزهایی که در حال رخ دادن بود، فکر کردیم، "خوب، اکنون زمان آن است که آن را کنار بگذاریم و بازخورد دریافت کنیم." ما آن را به عنوان یک مشاوره عمومی منتشر کردیم. بنابراین ما اساسا آن را به مدت شش هفته باز نگه خواهیم داشت و در حال جمع‌آوری بازخوردهای زیادی در مورد چگونگی بهبود آن هستیم. اما فکر می‌کنم همه اکنون متوجه شده‌اند که اگر قبلا این کار را نکرده‌اند، باید قوانین اساسی یا آیین‌نامه‌های رفتاری را وضع کنند که رفتار را تحریک می‌کند.

یکی از پویایی‌های جالب اینجا این است که می‌دانم مفهوم رفاه مدل را احمقانه می‌دانید. آخرین باری که در برنامه حضور داشتید، گفتید آنتروپیک به این فکر افتاد که کلود هوشیار است و این مضحک بود. در آیین رفتار جدید شما آمده است که مدل‌ها هوشیار نیستند و ما نباید با آنها چنین رفتار کنیم.

باید قانون اساسی بنویسد، باید اسنادی از این قبیل بنویسد، به نوعی برای خود مدل هاست. این بخشی از آموزش مدل خواهد بود. در مورد آن مخاطب چگونه فکر می کنید؟ آیا فقط برای تیم شماست یا این را برای مدل نوشته اید؟

این مطمئنا برای مدل نوشته شده است، اما روش فکر کردن در مورد آن این است که سند اصلی حاکم است تا مردم بفهمند که وقتی ما در حال آموزش مدل هستیم، اهداف ما چیست. این سند حاکم است که ما از آن برای ایجاد نرده های ایمنی، تولید داده های آموزشی و به طور کلی ارزیابی عملکرد مدل خود در دنیای واقعی استفاده می کنیم. بنابراین می توانید آن را به عنوان یک تابع مسئولیت پذیری در نظر بگیرید.

ما کد رفتاری هوش مصنوعی انسان‌گرا را به‌عنوان سند آموزشی به مدل ارائه نمی‌دهیم. ما از آن برای استخراج تمام داده های آموزشی استفاده می کنیم که سپس مدل را شکل می دهد. بنابراین برای تمام اهداف عملی، این ستاره شمالی ما برای سازمان، فرهنگ ما، تیم ما، و به طور کلی هر کاری است که ما در مایکروسافت انجام می دهیم. من فکر می کنم به طور فزاینده ای، همه آنها را کنار می گذارند. فکر می کنم سایر تیم ها نیز اسناد مشابهی را منتشر کرده اند.

من فکر می‌کنم این نقطه اصلی بحث است. اگر می‌توانید این کار را انجام دهید و فکر می‌کنید بقیه صنعت می‌خواهند این کار را انجام دهند، چرا همه آزمایشگاه‌های مرزی نمی‌توانند سرعتشان را کاهش دهند؟ چرا آنها نمی توانند از انجام کاری که ممکن است همه ما را بکشد دست بردارند؟ چرا این فشار برای یک چارچوب نظارتی؟

خوب، من فکر می کنم که همه در صنعت می گویند که اکنون زمان کاهش سرعت و هماهنگی در مورد این سوال و عملی کردن آن است. منظورم این است که بدیهی است که نگرانی هایی وجود دارد که یک اتهام کارتل ضد انحصار وجود دارد. من فکر می کنم مردم باید در این مورد بسیار مشکوک باشند.

من فکر می‌کنم مهم است که سؤالات سخت پرسیده شوند، زیرا هیچ یک از ما به هیچ وجه نمی‌خواهیم تلاش کنیم و قدرت را از چیزی شبیه به این متمرکز کنیم. بنابراین مهم است که شک و انتقاد داشته باشید. ما واقعا مکانیسم خوبی نداریم که همه ما دور هم جمع شویم و بگوییم: "بچه ها، احتمالا همه ما باید سرعت خود را کم کنیم."

منظورم این است که تصور کنید اگر تعدادی از بانک‌ها همه دور هم جمع شوند و بگویند: «بچه‌ها، ما نگران این هستیم که اگر این نوع دارایی را معامله کنید، یک ریسک سیستماتیک وجود دارد، بنابراین همه ما به‌طور یک‌جانبه معامله این نوع دارایی‌ها را بدون هیچ نظارت عمومی یا دخالت دولت متوقف می‌کنیم.» منظورم این است که به نظر خیلی بد است، درست است؟ بنابراین من فکر می کنم منطقی است که این فقط یک موضوع خود تنظیمی صنعت نیست. این یک سوال است که چگونه با دولت در این زمینه تعامل کنیم.

یک پویایی جذاب در اینجا این است که شاید برای اولین بار در تاریخ آمریکا، دولت ایالات متحده به درخواستی برای ارائه مقررات نگاه کرده و عملا نه گفته است. دونالد ترامپ همه این ترس ها را فریبکاری خوانده است. مایک جانسون، رئیس مجلس نمایندگان آمریکا گفته است که فکر نمی‌کند این اتفاق بیفتد. جی دی ونس گفت که فکر می کند این یک اسب تروا است. آنها عملا فراخوان شرکت در یک تلاش نظارتی را رد کرده اند. واکنش صنعت به آن چگونه بوده است؟

من فکر می کنم همه فقط سرشان را می خارند و متوجه می شوند و فقط کمی زمان می برد تا بفهمیم مکانیسم درست چیست. منظورم این است که مطمئنا ایلان ماسک نیز مستقیما پشت آن است. مارک زاکربرگ هم همینطور. همه به این فکر می کنند که احتمالا رها شدن کامل زنجیر برای چند سال آینده منطقی نخواهد بود. من فکر می کنم کمی زمان می برد تا بفهمیم مکانیسم درست چیست.

من چند پیشنهاد بسیار عملی در مورد مهار قابل تأیید، در مورد بهبود خود، در اطراف آستانه های FLOPS، در مورد عدم برقراری ارتباط در عصبی ارائه کردم. بنابراین به جای اینکه آن را خیلی انتزاعی نگه داریم، می‌توانیم فقط روی چیزهای خاصی تمرکز کنیم که بتوانیم در آن پیشرفت کنیم. من مطمئن هستم که تعداد دیگری نیز وجود دارد.

گزارشی در The Information وجود دارد مبنی بر اینکه قبلا صحبت هایی در مورد یک نهاد خود تنظیم کننده صنعت انجام شده است. آیا در آن صحبت ها شرکت داشته اید؟

آره منظورم این است که همانطور که گفتم ما در طول کووید زیاد صحبت کردیم. ما در اواخر دهه 2010 در مورد آن صحبت کردیم. منظورم این است که قطعا در چند هفته و چند ماه گذشته گفتگوهای زیادی بین همه رهبران آزمایشگاه وجود داشته است.

من می‌دانم که چرا Anthropic و OpenAI ممکن است یک روز از خواب بیدار شوند و بگویند، "صبر کنید، آیا ما مرتکب نقض ضد انحصار هستیم؟ آیا در صورت هماهنگی، از ما شکایت می‌شود؟" مایکروسافت واقعا در دولت خوب است، درست است؟ شما یک پیمانکار قدیمی دولتی هستید. برد اسمیت، رئیس مایکروسافت، در سیاست گذاری بسیار خوب عمل می کند.

لینا خان، که شاید تهاجمی‌ترین مجری ضد انحصار ما در طول زندگی‌مان باشد، علنا می‌گوید: "شما به این معافیت ضد تراست نیاز ندارید." من همین الان با جاناتان کانتر، که در وزارت دادگستری بایدن مدیریت می کرد، برای قسمت بعدی این سریال صحبت کردم. او گفت: "شما به معافیت ضد تراست نیاز ندارید."

در داخل مایکروسافت، آیا فکر می کنید به معافیت ضد تراست نیاز دارید؟

منظورم این است که وکلا باید پاسخ دهند. من فکر می کنم که مردم در حال حاضر به دنبال آن هستند و آن را بسیار جدی می گیرند. بنابراین آن‌ها فقط باید کار کنند که آیا ما انجام می‌دهیم یا نه. ببینید، درست است که مراقب آن چیزها باشید. من همه چیز را بدبینانه نمی خوانم، اما خواهیم دید. ما باید به سرعت در آن پیشرفت کنیم. ما نمی‌توانیم فقط از آن به‌عنوان مسدودکننده استفاده کنیم.

گذر از AD 1: