لحظه آشوب دره سیلیکون

اشتراک در اینجا: پادکست های اپل | Spotify | یوتیوب

از آنجایی که جنسن هوانگ، مدیرعامل انویدیا در این هفته سقوط کرده است - اقتصاد آمریکا را متزلزل کرده است، که هوش مصنوعی به حفظ آن کمک می کند - آنتروپیک خود را برای عرضه اولیه سهام با ارزشی تا 1.4 تریلیون دلار آماده می کند. در این قسمت، چارلی وارزل، مجری برنامه Galaxy Brain در مورد استعفای هوانگ و خطر تحمل چنین رقمی بر وزن اقتصاد صحبت می کند. سپس با سیگال ساموئل خبرنگار Vox در مورد IPO Anthropic صحبت می کند، اینکه چگونه مسابقه هوش مصنوعی بر ایدئولوژی شرکت تأثیر گذاشته است، و چرا آن و سایر شرکت ها از کاهش سرعت یا توقف آن خودداری می کنند.

متن زیر متنی از این قسمت است:

چارلی وارزل: من چارلی وارزل هستم و این کهکشان برین است. امروز یک قسمت عالی برای شما داریم که در آن با سیگال ساموئل، خبرنگار Vox در مورد مسابقه هوش مصنوعی و عرضه اولیه اولیه سهام آنتروپیک صحبت می کنیم.

اما اول، خبر بسیار مهمی وجود دارد که باید به آن بپردازم. صبح روز پنج شنبه، جنسن هوانگ، مدیرعامل انویدیا و می توان گفت مهم ترین چهره در دنیای هوش مصنوعی است، از این شرکت استعفا داد. این یک تحول تکان دهنده است که فقط یک هفته پیش کاملا غیرممکن به نظر می رسید.

استعفای هوانگ پس از گزارش هایی مبنی بر اینکه او درگیر یک رابطه خارج از ازدواج با یک تاجر بود که معلوم شد، دارایی برای اطلاعات چین بوده است. هوانگ به این رابطه اعتراف کرد، دره سیلیکون برای دفاع از او دور واگن ها چرخید، در حالی که بسیاری در کنگره خواستار تحقیقات در مورد هوانگ، انویدیا و رابطه آن با چین شدند.

و منطق نگه داشتن او در جای خود بسیار ساده بود. هوانگ به عنوان رؤیای رونق هوش مصنوعی در نظر گرفته می شود - مردی که بیش از یک دهه قبل از هوش مصنوعی مولد، شرط بندی کرد که شرکت پردازشگر گرافیکی او می تواند برای آموزش شبکه های عصبی و هوش مصنوعی استفاده شود. این یک تصمیم نامطلوب بود، اما هوانگ دوره خود را حفظ کرد. او صبور بود و به مرور زمان این شرط نتیجه داد.

انویدیا به شرکتی تبدیل شد که تراشه هایی را ساخت که مراکز داده و مدل های هوش مصنوعی را آموزش داده و به آنها کمک می کند. همانطور که استفان ویت از نیویورکر در پروفایل هوانگ در سال 2023 نوشت: «افشاگری که ChatGPT … بر روی یک ابررایانه Nvidia آموزش دیده بود، یکی از بزرگترین سودهای یک روزه در تاریخ بازار سهام را به همراه داشت.»

و انویدیا به این غول پیکر تبدیل شد: یکی از با ارزش ترین شرکت های تمام دوران. فقط در ماه گذشته، ارزش انویدیا به 5.7 تریلیون دلار رسید که از هر اقتصاد به جز ایالات متحده و چین بزرگتر است. و برخی تخمین ها حاکی از آن است که انویدیا 90 درصد تراشه های پیشرفته مورد استفاده در صنعت هوش مصنوعی را ارائه کرده است. و هوانگ از سودهای بی پایان انویدیا برای تبدیل شدن به سرمایه گذار اصلی در رونق هوش مصنوعی استفاده کرد. او صنعت را به‌عنوان کیک پنج لایه‌ای از اجزا می‌دید و متعهد شد که پول و فناوری انویدیا را در تمام لایه‌های آن توزیع کند.

این شرکت تا جولای ۹۹ میلیارد دلار در شرکت‌های هوش مصنوعی از جمله OpenAI، Anthropic، SpaceX و ارائه‌دهندگان مراکز داده مانند CoreWeave سرمایه‌گذاری کرده بود. او پیشگام این سبک دایره ای سرمایه گذاری بود، جایی که شرکت ها برای تراشه ها به انویدیا می پردازند و سپس انویدیا آن پول را به شرکت ها پس می دهد تا آن ها بتوانند به خرید تراشه ها ادامه دهند. حالا، برخی این را نابغه می‌دانستند، درست است؟ بانک انویدیا و دیگران این را سرآغاز چیزی می دانستند که می تواند به یک حباب فاجعه بار تبدیل شود.

اما صرف نظر از این، هوانگ - که خود واسطه بسیاری از این معاملات بود - و انویدیا، هر دو خود را به عنوان این پرتو باربر از رونق هوش مصنوعی قرار دادند. هوانگ شکست ناپذیر به نظر می رسید. و موفقیت انویدیا فقط تضمین شده نبود. لازم بود مطمئن شویم که موسیقی متوقف نمی شود و باعث می شود که کل صنعت با آن سقوط کند.

و بنابراین همه اینها زمینه بسیار مهمی است برای اینکه چرا رابطه هوانگ با یک دارایی چینی، فردی که ممکن است از رابطه او با هوانگ برای کمک به ورود تراشه ها به چین از طریق حفره های صادراتی استفاده کرده باشد، چرا این رابطه فورا هوآنگ را از بین نبرد. بسیاری مانند اکونومیست خواستار استعفای او شدند. این فقط یک مسئله امنیت ملی نبود؛ این یک رابطه با مشتری Nvidia بود. اما در برخی موارد، انویدیا به عنوان بزرگ‌تر از آن بود که شکست بخورد.

و هوانگ، که رهبر است و جانشین مشخصی ندارد، برای اطمینان از اینکه رونق هوش مصنوعی می‌تواند به پیش برود، مورد نیاز بود تا اعداد همچنان بالا برود.

روز چهارشنبه، خبری در تایمز منتشر شد مبنی بر اینکه هوانگ رابطه دومی داشته است، این بار با یکی از کارمندان انویدیا که یک گزارش مستقیم بود. و آنچه قبلا توسط برخی از مدافعان فقط به عنوان یک لغزش یا این لغزش انسانی در نظر گرفته شد، به یک الگو تبدیل شد. نمایشی از بی پروایی واقعی و نشانه ای از تحمل بی احتیاطی های رهبر شرکت. بنابراین روز پنجشنبه، هوانگ استعفا داد.

کولت کرس که مدیر مالی انویدیا است، به عنوان مدیرعامل موقت فعالیت خواهد کرد. اما این - اشتباه نکنید - سرزمینی بی سابقه است. اوایل این هفته در یکی از اپیزودهای رادیو آتلانتیک، از من پرسیده شد که سناریوی کابوس چیست: نه فقط برای Nvidia، بلکه برای اقتصاد به طور کلی. و من گفتم که جنسن هوانگ دیگر مدیر عامل انویدیا نیست.

زیرا جنسن هوانگ تنها کسی نیست که بخش بزرگی از این شرکت است یا به تأسیس آن کمک کرده است. او گره مرکزی است. او کسی است که تمام تراشه ها را به کجا اختصاص می دهد. او مشاور دونالد ترامپ، برای انواع افراد در صنعت هوش مصنوعی شده است. او اساسا شخصی است که اگر بخواهید صنعت را بدون او تصور کنید، واقعا نمی دانید که هیچ کدام از آنها چگونه به نظر می رسد. دن ایوز که یک تحلیلگر مالی است، این هفته گفت که انویدیا بدون جنسن هوانگ 25 تا 30 درصد ارزش کمتری خواهد داشت، که این رقم دیوانه کننده ای است که باید به آن فکر کرد.

اگر سهام انویدیا سقوط کند چه اتفاقی می‌افتد؟ اگر انویدیا نتواند سرمایه گذاری های خود را که قبلا به افراد مختلف وعده داده است انجام دهد؟ اگر افرادی که از طریق انویدیا سرمایه گذاری می کنند و تراشه هایی از انویدیا می خرند، ناگهان تصمیم بگیرند که نمی خواهند این کار را انجام دهند، چه؟ چرا که هوانگ شخصی است که آنها به او اعتماد داشتند و انتظار داشتند رهبری او طی 10 تا 15 سال آینده شرکت را مدیریت کند؟

فکر می کنم یک سوال واضح در اینجا این است: چرا جنسن هوانگ اینقدر مهم است؟ چرا انویدیا نمی توانست بدون او ادامه دهد؟ و به نوعی، آنها خواهند شد. آنها به ساختن تراشه ها ادامه خواهند داد. مردم به خرید آن تراشه ها ادامه خواهند داد. اما هوانگ فقط فردی نبود که در مقطعی دید خوبی داشت. هوانگ همچنین شخصی بود که خود واسطه بسیاری از این معاملات بود. او فردی بود که اعتماد صنعت را پیش بینی کرد.

و از بسیاری جهات، هوانگ به نوعی بزرگسال در اتاق صنعت هوش مصنوعی است. هوانگ یک نابودگر هوش مصنوعی نیست. او کسی است که به زور بیرون می‌آید و می‌گوید: اینها مشکلات تکنولوژیکی هستند و ما آنها را مانند بزرگسالان حل خواهیم کرد. او نه تنها از نظر روابطی که با همه افراد از دونالد ترامپ گرفته تا تک تک مدیران عامل هوش مصنوعی در صنعت دارد، یک لنگر است. او همچنین فردی است که اعتماد ناپذیرش برای ادامه سرمایه گذاری و احساس خوبی نسبت به مسیر صنعت هوش مصنوعی بسیار کلیدی بود.

در چند ساعت گذشته پس از استعفای هوانگ به این موضوع فکر کردم، چند فکر کلی داشتم. من فکر می‌کنم، اول: این احتمالا چیزی است که زمانی اتفاق می‌افتد که شما فردی دارید که به تازگی بزرگتر از زندگی شده است. رونق هوش مصنوعی، و به طور کلی سیلیکون ولی، دوست دارد مدیران عامل خود را به عنوان شخصیتی بزرگ، عظیم و باربر تبدیل کند. و در برخی موارد، این خوب است، درست است؟ برای داستان شرکت خوب است؛ برای سهام خوب است برای خود آن چهره ها خوب است، در حالی که همه چیز خوب پیش می رود.

اما به لحظاتی از این دست منجر می‌شود، جایی که - وقتی آن شخص دیگر در راس شرکت نیست، یا زمانی که باید کناره‌گیری کند، یا اگر اتفاقی برای او می‌افتد - خودتان را در برابر همه این خطرات باز می‌کنید. و بازار و اقتصاد جهانی را در برابر همه این خطرات باز می کنید. و به نظر می رسد در این لحظه، شاید این ایده خوبی نباشد که این تاجران، این افراد معیوب را به چهره های باربر اقتصاد تبدیل کنیم. و صادقانه بگویم، این ممکن است بزرگترین خطر و آسیب پذیری در این مورد باشد.

من فکر می کنم که جنسن هوانگ ثابت کرده است که یک مرد عملگرا است، درست است؟ او یک نابودگر هوش مصنوعی نیست. اما با این حال، این گسست واقعا بزرگ وجود دارد که من اینجا می بینم، بین رهبران هوش مصنوعی و مدیران عامل فناوری که در مورد مسئولیت تاریخی هوش مصنوعی، این پول بی سابقه صحبت می کنند. این فناوری که قرار است جهان را از نو بسازد، از شر انواع شغل ها خلاص شود، به طور بالقوه باعث پایان تمدن بشری می شود. آنها در حال ساختن خدا و آگاهی انسان هستند.

و با این حال، به نظر نمی رسد این افراد همیشه مانند افراد جدی رفتار کنند. مثل افرادی که این کار را بر عهده دارند. آنها ریسک های بسیار بزرگی می کنند. و مشخص نیست که آنها منطق خودشان را درک کنند، که مسئول امر مهمی هستند. زیرا اگر آنها بودند، شاید کارهایی مانند داشتن این امور را انجام نمی دادند.

من به هوانگ به‌عنوان کسی فکر می‌کردم که این شرط بزرگ، طولانی و صبورانه را روی چرخش به هوش مصنوعی انجام داده است. مسلما این بزرگترین شرط در تاریخ فناوری است. و او ادامه داد در حالی که انجام این کار به شدت نامحبوب بود. و وقتی نتیجه داد، او به این ستاره راک تبدیل شد: این شخصیت شگفت انگیز و حیاتی. او یکی از ثروتمندترین افراد جهان شد. شرکت او که کارت های گرافیک کامپیوتری می ساخت، به چیزی تبدیل شد که قرار بود انقلاب صنعتی بعدی را آغاز کند.

و بنابراین او عادت کرده است که این میزان غیرقابل باور ریسک را به دوش بکشد. او عادت دارد کاری را که می‌خواهد انجام دهد، حتی اگر این کار خطرناک باشد، و به نتیجه برسد. و من فکر می‌کنم که نمی‌توانیم این طرز فکر را از رفتاری که دیده‌ایم که باعث شد او مجبور به کناره‌گیری شود، جدا کنیم. شاید اکنون این اولین باری است که او در موقعیتی خطرناک قرار می گیرد. او کاری را که می خواست انجام داد، اما این بار نتیجه معکوس داشت.

با این حال، چیزی که در این لحظه واقعا جالب است این است که چند نفر هنوز در سیلیکون ولی در دفاع از هوانگ هستند. چه کسانی می گویند که این فقط یک بی احتیاطی بود، که هوانگ هنوز هم همان چیزی است که بود، که اقتصاد آمریکا و صنعت هوش مصنوعی و انویدیا همگی به او نیاز دارند، و اینکه او نباید به دلیل برخی تصمیمات ناقصی که گرفته است مجبور به کناره گیری شود.

این بخشی از چیزی است که من در طول این رسوایی به عنوان منطق معیوب رونق هوش مصنوعی به آن فکر می کردم، درست است؟

این رسوایی طنز بسیار مناسبی برای لحظه هوش مصنوعی داشت، جایی که هوانگ ظاهرا با دشمن شماره 1 صنعت خود در چین آشنا شد - که همان مردی است که باعث شده مدیران سیلیکون ولی بگویند که باید این فناوری را بسازند که از آن می ترسند، درست است؟ برای اینکه به چین نباختیم. اما دره سیلیکون به جای محکوم کردن او، انگیزه دارد تا دور واگن ها بچرخد. زیرا انجام این کار سیستم را در حرکت نگه می دارد، پیشرفت را ادامه می دهد، جریان پول را حفظ می کند. تا صنعت هوش مصنوعی بتواند چین را شکست دهد، درست است؟

این یک سبک پرتزل از منطق است. و من فکر می‌کنم این نوع انگیزه‌ای است که مسابقه هوش مصنوعی ایجاد می‌کند. انجام این بازی به این معنی است که شما باید این میزان مسخره ریسک را به دوش بکشید. و باید مصالحه کنید یا از منطق استفاده کنید. این همیشه معنا ندارد. و آنچه در نهایت اتفاق می‌افتد این است: شما شروع می‌کنید به گونه‌ای رفتار کنید که برای افرادی که در مسابقه شرکت نمی‌کنند، که در رونق نیستند، منطقی نیست.

و بنابراین فکر می‌کنم آنچه اکنون می‌بینیم، گروهی از مردم هستند که سعی می‌کنند با این منطق منحرف کنار بیایند. تلاش برای درک اینکه اکنون چه باید کرد که آنها نه تنها خود را به این شرکت، بلکه به این مرد وابسته کرده اند - و اینکه آینده صنعت آنها اکنون با برکناری او بسیار نامشخص به نظر می رسد.

بعد از وقفه، می‌خواهیم با مهمانم، سیگال ساموئل، بیشتر از منطق معیوب سیلیکون ولی را بررسی کنیم.

[شکستن]

وارزل: در یک سال گذشته، اما به خصوص در چند ماه گذشته، من در منطق رونق هوش مصنوعی گیر کرده ام.

این صنعتی است که اغلب به زبان عذاب وجودی استناد می کند. و به نظر می‌رسد که از آنچه که می‌سازد انرژی می‌گیرد، بلکه عمیقا نگران است. این صنعتی است که برخی از طرفداران ایمنی خود را دارد که می‌گویند، اگر کسی آن را بسازد، همه می‌میرند.

و با این حال، آنها در حال ساختن هستند. با وجود رفتارهای نگران کننده و غیرمنتظره از مدل ها. علیرغم تعداد بی‌شمار هک‌هایی که با کمک عامل هوش مصنوعی وجود دارد، علی‌رغم ترس از توسعه سلاح‌های زیستی توسط هوش مصنوعی یا از بین بردن مشاغل یا منجر به از دست دادن نمایندگی و ناتوانی تدریجی. و نه تنها در حال ساختن هستند. این شرکت ها در حال جمع آوری مقادیر تاریخی پول هستند. انتظار می رود در اواخر این ماه، Anthropic با ارزشی در حدود 1.4 تریلیون دلار عرضه اولیه شود. OpenAI ممکن است به زودی IPO شود. اینها شرکت هایی نیستند که نشانه هایی از کند شدن را نشان دهند. البته دلایل زیادی برای ادامه ساختن وجود دارد.

سرمایه گذارانی وجود دارند، اقتصادی که به پیشرفت هوش مصنوعی وابسته است، پتانسیل ساخت یک فناوری که نشانه هایی از هوش فوق العاده را نشان می دهد.

و با این حال، هنوز قطع ارتباط وجود دارد. با بهتر شدن مدل ها، ترس ها از بین نمی روند. در واقع، آنها در حال رشد هستند. و همانطور که انتخابات میان دوره ای هفته گذشته نشان داد، کشور نسبت به این فناوری و افرادی که در حال ساخت آن هستند محتاط است. و بنابراین سوال واضحی که در اینجا وجود دارد، سوالی که هر روز در گوش من زنگ می زند این است: چرا این شرکت ها متوقف نمی شوند؟

سیگال ساموئل نویسنده و گزارشگر Vox است که مدتی است مسائل مربوط به هوش مصنوعی را پوشش می دهد. و اخیرا او قطعه ای نوشت که این سؤال را مطرح می کند: چرا مردمی که نگران ماشین عذاب هستند ماشین عذاب را می سازند؟ این سؤالی است که در داخل صنعت، ممکن است تقریبا به طرز خنده‌داری ساده به نظر برسد. اما برای پاسخ به آن، درک بهتر استدلال پیچیده ای است که زیربنای رونق هوش مصنوعی است و اینکه چگونه به این لحظه پر هرج و مرج در سیلیکون ولی رسیده ایم، و از اینجا به کجا می توانیم برویم. او اکنون به من می پیوندد.

سیگال ساموئل، به Galaxy Brain خوش آمدید.

سیگال ساموئل: واقعا خوب است که با شما هستم.

وارزل: پس من می‌خواهم شروع کنم، و می‌خواهم در مورد تکامل آنتروپیک صحبت کنم، که احتمالا در این ماه عمومی خواهد شد. خواهیم دید. شما مدتی است که در مورد آنها می نویسید. و می‌دانید، حتی در روزهای سال ۲۰۲۴، زمانی که فکر می‌کنم اکثر مردم جهان هیچ ایده‌ای نداشتند، آنتروپیک چیست. شما نوشته اید که آنها قرار است شرکت پسر خوب باشند. بنابراین کمی در مورد ایده آل های Anthropic و معنای "مرد خوب" بودن در تجارت هوش مصنوعی به من بگویید.

ساموئل: حتما. منظورم این است که بله، یک سوال واقعی در مورد اینکه آیا این روزها واقعا ممکن است یک مرد خوب در تجارت باشید وجود دارد. اما از نظر تئوری، حداقل، می دانید، بنیانگذاران Anthropic راه خود را با OpenAI جدا کردند. آنجا را ترک کردند زیرا می خواستند بیشتر روی ایمنی تمرکز کنند. و کل فرضیه شرکت این بود که، ما افراد ایمنی خواهیم بود. و، ما وعده های محکمی خواهیم داد که هرگز کاری که واقعا بشریت را به خطر می اندازد، انجام ندهیم.

و داریو آمودی، مدیرعامل، همانطور که اخیرا به مردم یادآوری کرد، شرط او در این مورد - شرط بزرگ او که شرکت را بر اساس آن ساخته است - این بود که آنتروپیک می تواند یک مسابقه را به اوج برساند. و تئوری وجود داشت که اگر آنتروپیک بتواند مدل‌های هوش مصنوعی بسازد که هم فوق‌قدرتمند و هم بسیار ایمن هستند، خوب، بازار چنین انتظاری را خواهد داشت.

این یک نوع محاسبات حیله‌آمیز است، زیرا سال‌ها و احتمالا از زمان تأسیس، آنتروپیک فرض کرده است که - برای استفاده از یک عبارت بحث‌برانگیز - شما نمی‌توانید ایمنی را از درجه دوم انجام دهید. اگر می‌خواهید واقعا بتوانید سطح کل صنعت را بالا ببرید و حرکت‌های بزرگی انجام دهید، به یک صندلی پشت میز نیاز دارید. شما به قدرت نیاز دارید. و چگونه در این اکوسیستم جدی گرفته می شوید؟ شما باید در حال ساخت برخی از قدرتمندترین مدل ها باشید. شما همچنین به مقدار زیادی پول نیاز دارید، زیرا به همه این محاسبات نیاز دارید.

و بنابراین مجبور می شوید در رختخواب با همسفرانی که گاهی غیرمحتمل هستند، بخوابید، درست است؟ در مورد OpenAI، مایکروسافت بود. در مورد Anthropic، گاهی اوقات، می دانید، معاملاتی با شرکت هایی مانند آمازون انجام شده است. اما شما باید مردم را بفروشید. و برای اینکه بتوانید آن مدل های بسیار قدرتمند را بسازید، فقط باید پول زیادی به دست آورید تا بتوانید روی میز قدرت بنشینید.

وارزل: می دانید، کدام یک چیز بسیار راحت است، درست است؟ اگر یک شرکت هستید ما فقط باید عالی باشیم. ما باید تا حد امکان بی رحمانه سرمایه دار باشیم. و این به من منجر می شود: رفتار آنتروپیک را در چند سال گذشته چگونه توصیف می کنید؟ همانطور که کلود شروع به کار کرد، و آنتروپیک به عنوان یکی از دو آزمایشگاه برتر هوش مصنوعی جهش کرد.

ساموئل: این واقعا به نوعی غم انگیز است. زیرا خود کارکنان آنتروپیک چند سال پیش در مقاله ای در این مورد هشدار داده بودند. آنها گفتند، خطر واقعا قوی ساختار انگیزشی در دنیای هوش مصنوعی وجود دارد، مانند تحریف کاری که ما انجام می‌دهیم و همه بازیکنان در اکوسیستم انجام می‌دهند. و در واقع، من فکر می کنم ما آن را دیده ایم.

می دانید، در ابتدا، Anthropic شروع به ادعاهای قوی در مورد ایمنی کرد. آن‌ها این سیاست مقیاس‌پذیری مسئولیت‌پذیر را داشتند، که نسخه اصلی آن واقعا قوی بود و به نوعی به ما قول می‌داد که، می‌دانید، اگر به نظر می‌رسید چیزی واقعا ناامن وجود خواهد داشت، آنها اجازه آن را نمی‌دادند. دیدید که آنها سیاست مقیاس مسئولیت را تغییر دادند و نسخه‌های نرم‌تر و نرم‌تری از آن ارائه کردند.

می دانید، آنها را دیده اید که برخی مواضع اصولی را اتخاذ می کنند - مانند چیزی که احتمالا شنوندگان بیشتر با آن آشنا هستند زمانی که در مقابل پنتاگون ایستادند. اما در کل، من فکر می‌کنم که ساختار مشوق‌ها را به نوعی تغییر شکل داده است. نه فقط با سیاست مقیاس مسئولیت پذیری، بلکه با توجه به اینکه چگونه آنها به گسترش فناوری ادامه داده اند.

وارزل: برای من توضیح دهید که مقیاس بندی مسئولیت پذیر چیست.

ساموئل: بنابراین هرچه بیشتر این مدل‌های هوش مصنوعی را افزایش دهید، قدرتمندتر و توانمندتر می‌شوند، اما همچنین به طور بالقوه خطرناک‌تر می‌شوند. و بنابراین، می دانید، شما هرگز نمی خواهید امنیت را با توانایی معامله کنید. و بنابراین در روزهای قبل، صحبت های زیادی در مورد، می دانید، وجود داشت، اگر ما متوجه می شدیم که مدل های ما کارهای واقعا دیوانه کننده ای انجام می دهند، متوقف می شدیم. ما آن خط کار را رها می کنیم. شاید ما حتی از کاهش سرعت یا مکث حمایت کنیم. ما با شرکت های دیگر متحد می شویم. حتی در صورت نیاز ادغام و کمک کنید.

درسته؟ به عنوان مثال، ما هر کاری که لازم است انجام دهیم تا ایمنی را در اولویت شماره 1 قرار دهیم. زیرا می دانیم که با افزایش مقیاس این مدل ها و توانمندی آنها، به طور بالقوه ایمن نیز کاهش می یابد.

بنابراین واقعا سخت و ناامیدکننده است وقتی می‌بینید همان شرکت نسخه دو خط‌مشی، نسخه سه خط‌مشی را منتشر می‌کند – و به نوعی شاهد کم‌رنگ شدن و کم‌رنگ شدن وعده‌ها هستید.

وارزل: یک قطعه کوچک جالب در S-1 وجود دارد که آنتروپیک ثبت کرده است - این سندی است که وقتی عمومی می‌شوید، همه عوامل خطر برای کسب و کار شما را دارد، اما دقیقا مانند توضیحاتی در مورد کاری که ما انجام می‌دهیم. و قطعه‌ای در مورد قدم زدن در مرز وجود دارد که می‌گوید، می‌دانید: ما طرفدار گام برداشتن در مرز هستیم. این بدان معنا نیست که ما قصد داریم سرعت را تغییر دهیم یا لزوما جدول زمانی نحوه عرضه مدل ها را تغییر دهیم.

که به نظر من گفتن آن بسیار جالب است. این واقعا از دو طرف دهان شما صحبت می کند، درست است؟

ساموئل: صد در صد - این خط واقعا به من وارد شد که می خواستم کیک شما را هم بخورم و آن را هم بخورم.

وارزل: درست است. و بنابراین، باشه. بنابراین ما این شرکت را داریم که در تلاش است تا بهترین مدل‌ها را بسازد، که یا عقب نشینی کرده یا روشی را که در مورد نحوه ساختش صحبت می‌کند تغییر داده است. و جدول‌های زمانی، و، می‌دانید، نقطه اتصال آن از نظر «ما باید همه پیشرفت‌ها را در اینجا متوقف کنیم» کجاست. ما همچنین ایده مسابقه به قله را داریم. آیا در حال حاضر می گویید که مسابقه به سمت اوج کار می کند؟

ساموئل: قطعا نه. من دوست دارم در این مورد اشتباه کنم، و دوست دارم شواهدی ببینم که اشتباه می کنم. و اگر آنتروپیک فکر می کند این اشتباه است، لطفا رسیدها را به ما نشان دهید. همه ما شب ها بهتر می خوابیم. اما تا اینجا، فکر می‌کنم شواهد موجود حاکی از آن است که آنتروپیک بیشتر برای کاتالیز کردن نژاد به پایین تلاش کرده است.

شما این را درست از همان لحظه ای که ChatGPT توسط OpenAI راه اندازی شد، دیدید، درست است؟ این گزارش نشان می دهد که ChatGPT قرار نیست چگونه و چه زمانی منتشر شود. اما سام آلتمن، مدیر عامل OpenAI، شایعاتی را می شنود که آنتروپیک در حال توسعه این نوع ربات چت هوش مصنوعی است. و بنابراین سم آلتمن به سرعت به افراد OpenAI می گوید: سریع یک ربات چت بسازید. حالا عجله کن ارسال کنید.