درون بزرگترین دشمنی در هوش مصنوعی

حضور در سانفرانسیسکو در اواسط دهه 2020، گاهی شبیه چیزی است که تصور می‌کنم زندگی در لوس آلاموس در سال 1943، زمانی که پروژه منهتن وارد شهر شد، بود. هوا سنگین از هیجان و ترس است. مهندسان روز و شب بر روی سیستم هایی با پیامدهای عمیق تلاش می کنند. پیامبران با چشم وحشی تصورات دنیایی دگرگون شده را می فروشند و سیاستمداران برای بررسی پیشرفت پروژه به آنجا می روند. همه می‌دانند که سرنوشت ملت‌ها و تریلیون‌ها دلار سرمایه بر آنچه در اینجا اتفاق می‌افتد متکی است، اما هیچ‌کس نمی‌تواند به طور کامل درک کند که در صورت موفقیت پروژه چه معنایی خواهد داشت.

یکی از افرادی که این سوال را به خود مشغول کرده، داریو آمودی، فیزیکدان تحصیل کرده پرینستون است که در سال 2016 گوگل را ترک کرد و به OpenAI، که در آن زمان یک آزمایشگاه تحقیقاتی غیرانتفاعی نوپای هوش مصنوعی بود، پیوست. با عینک‌های گرد و حلقه‌های قهوه‌ای کوتاه که هر زمان که عصبی می‌شد یا به سختی به چیزی فکر می‌کرد، در انگشتانش می‌پیچاند، مانند یک دانشمند دیوانه به نظر می‌رسید. او در میان همکارانش به عنوان یک محقق باهوش و سرسخت با اعتقادات عمیق در مورد هوش مصنوعی شناخته می‌شد، که اغلب با نوشتن مقالات طولانی که در داخل شرکت پخش می‌کرد بیان می‌کرد.

مشهورترین این مقالات در میان کارکنان OpenAI یک سند 26 صفحه ای با عنوان "لکه بزرگ محاسبه" بود. Amodei آن را در سال 2017، مدت کوتاهی پس از ورود به OpenAI نوشت، و نظریه بزرگ هوش خود را بیان کرد - اینکه چگونه در طبیعت ظاهر شد، چگونه می‌توان آن را در سیستم‌های هوش مصنوعی تعبیه کرد و چگونه می‌توان آن را ایمن توسعه داد.

فرضیه آمودی مبنی بر اینکه هوش ماشینی اساسا تابعی از مقیاس است – اینکه سیستم‌های هوش مصنوعی با بزرگ‌تر شدن باهوش‌تر می‌شوند – دستور کار تحقیقاتی OpenAI را به سمت مدل‌های زبانی بزرگ هدایت می‌کند، که آمودی آن را راهی امیدوارکننده برای هوش مصنوعی عمومی یا AGI، هوشی در سطح انسانی می‌داند که قادر به انجام هر کاری است که مغز می‌تواند انجام دهد.

تا اواسط سال 2020، سه تیم به سمت AGI رقابت کردند: OpenAI، DeepMind و Google Brain. اما تیم چهارم بی سر و صدا زیر نظر Amodei که در آن زمان معاون تحقیقات OpenAI بود، جمع می شد. آمودی و تیمش توسعه GPT-2 و سپس GPT-3 را رهبری کرده بودند، و او بیش از پیش مطمئن بود که قرار نیست برای GPT-4 ادامه دهد.

از نظر شغلی، همه چیز برای آمودی عالی پیش می رفت. GPT-3 در بین برنامه نویسان محبوب شد و تحقیقات او در مورد مدل های زبان بزرگ شروع به ثمربخشی کرد. یک سال پیش از آن، دو محقق در تیم Amodei، جرد کاپلان و سام مک‌کندلیش، به چیزی دست یافتند که آن‌ها «قوانین مقیاس‌بندی» نامیدند - معادلاتی که افزایش قابل پیش‌بینی در عملکرد LLM را با ریختن داده‌ها، محاسبات و پارامترهای بیشتر در آنها توصیف می‌کردند.

یکی دیگر از محققین تیمش، پل کریستیانو، تکنیکی به نام «یادگیری تقویتی از بازخورد انسانی» یا RLHF را پیشگام کرد که به OpenAI اجازه داد مدل‌های خود را از خروجی‌های مضر دور کند. تیم سوم تحت امر آمودی از قبل برنامه‌هایی برای GPT-4 طراحی می‌کرد که می‌توانست مرتبه‌ای بزرگتر از GPT-3 باشد.

اما در طول مسیر، آمودی اعتماد خود را به رهبری شرکت از دست داد. او به این باور رسیده بود که سام آلتمن یک دستکاری دو چهره است و بنیانگذار و رئیس OpenAI، گرگ براکمن، تشنه قدرت و بی پروا است. آمودی در مورد تصمیم خود برای تبدیل OpenAI به یک شرکت تجاری تردید داشت و فکر می‌کرد که آنها از مأموریت اصلی سازمان غیرانتفاعی برای "نفع بشریت به عنوان یک کل، بدون محدودیت نیاز به ایجاد بازده مالی" دور می‌شوند.

بیشتر از همه، او از جنگ قبیله‌ای که تمام مکان را به لانه افعی تبدیل کرده بود و او را مجبور به جنگیدن برای ایده‌هایی که فکر می‌کرد باید آشکار باشد، خسته شده بود. یکی از افرادی که در این مدت با Amodei صحبت کرد، گفت که Amodei OpenAI را "یک شوی مزخرف" می‌دانست که "توسط افراد با صداقت پایین اداره می‌شد." اگر او هنوز به نقطه شکست خود نرسیده بود، به نظر می رسید که به زودی به آن برسد. آن شخص گفت: "هر روز یک بحران جدید وجود داشت، یک کار دیوانه کننده جدید که اگر داریو یک عصبانیت مطلق به او نمی داد، سم در 24 ساعت انجام می داد."

در آن سال، آمودی شروع به کنار کشیدن اعضای تیمش کرد تا درباره همه چیزهای ناپسندی که دیده بود به آنها بگوید. به نظر او بدترین طرح جمع آوری کمک مالی بود که گرگ براکمن و ایلیا ساتسکور، دو تن از بنیانگذاران OpenAI، در سال 2017، زمانی که ایلان ماسک در حال کناره گیری از OpenAI بود و شرکت به منبع جدید بودجه نیاز داشت، تهیه کرده بودند.

به گفته پنج نفر از آشنایان این طرح، ایده آنها که به "طرح کشورها" معروف شد، این بود که یک مزایده بین دولت‌ها، از جمله ایالات متحده، چین و روسیه، برای حقوق فناوری AGI آینده OpenAI برپا کنند.

این طرح از ماه ها قبل آغاز شده بود، به عنوان یک پیشنهاد خوش خیم تر برای بررسی ایده ایجاد یک ائتلاف بین المللی برای ترویج منافع و مدیریت خطرات AGI. اما زمانی که Brockman و Sutskever این طرح را برای کارمندان OpenAI در یک سخنرانی داخلی در آن زمستان ارائه کردند، به یک استراتژی جمع آوری کمک مالی تبدیل شد.

بروکمن و ساتسکور این طرح را با این ادعا که AGI – اگر و زمانی که وارد شود – چنان پیامدهای قدرتمندی در امنیت ملی خواهد داشت، منطقی ساختند، به گفته دو نفر از افراد آشنا با تفکر آنها، دولت ها آن را از شرکت های خصوصی که آن را توسعه داده اند، مصادره خواهند کرد. و اگر OpenAI ممکن است در نهایت مجبور شود AGI را به شی جین پینگ از چین و ولادیمیر پوتین از روسیه تحویل دهد، چرا اکنون که شرکت به پول نیاز داشت، آن را به آنها نفروشیم؟

یکی از افرادی که این ارائه را شنید، به من گفت: «به نظر می‌رسید که افراد فناوری یک استارت‌آپ دیوانه راه‌اندازی می‌کنند، جایی که آنها این طرح حواس پرت را دارند و سپس در پایان طرح، مانند این است که ما دولت را مجبور می‌کنیم هزینه آن را بپردازد.» (سخنگوی OpenAI به من اصرار کرد که اگرچه شرکت "به طور خلاصه فکر کرد که آیا OpenAI را به یک تلاش مشترک بین المللی تبدیل کند یا خیر"، "به فروش AGI به چین یا روسیه فکر نکرد.")

آمودی وقتی در مورد طرح کشورها شنید وحشت کرد. آیا آنها دیوانه بودند؟ او معتقد بود که فروش AGI به دیکتاتورها دقیقا برعکس ماموریت OpenAI است و این یک سیلی به صورت افراد از جمله اعضای تیم ایمنی او بود که به OpenAI پیوستند زیرا معتقد بودند که این یک هدف شریف است.

در دسامبر 2017، او به همراه برخی دیگر از مدیران ارشد OpenAI، ایمیلی به Brockman و Sutskever نوشت و مخالفت خود را با طرح کشورها بیان کرد. او نوشت که ایده اولیه یک ائتلاف بین‌المللی AGI «به نظر می‌رسد در طی چند هفته به چیزی تبدیل شده است که من قویا معتقدم ایده بدی است: طرحی برای فروش AGI به دولت‌ها، مانند روسیه، چین و ایالات متحده؛ یا جمع‌آوری پول از آن کشورها با وعده انجام این کار؛ یا شاید حتی بازی دادن کشورها در برابر یکدیگر در تلاش برای دریافت بودجه».

او ادامه داد: «به نظر من این طرح به جای کاهش رقابت‌های تسلیحاتی تشدید می‌کند، به طور بالقوه جنایات حقوق بشری را ممکن می‌سازد (دادن به کسی مانند دولت روسیه «یک AGI که ​​ارزش‌های آن‌ها را اجرا می‌کند» به آن‌ها اجازه می‌دهد تا کارهای وحشتناکی را برای مردم خود انجام دهند) و مشروعیت اخلاقی OpenAI را تضعیف خواهد کرد.» در عوض، آمودی گفت، OpenAI باید برای آنچه که برای بشریت خوب است بهینه شود.

اعتراضات او بی اساس بود. پس از خروج ماسک، این شرکت بودجه جدیدی از مایکروسافت پیدا کرد و طرح کشورها را رها کرد. اما آمودی هرگز فراموش نکرد که براکمن و سوتسکور تا چه حد ایده‌ای را که از نظر اخلاقی زشت می‌دانست، جدی می‌دانستند.

در سال‌های 2018 و 2019، Amodei به تعدادی دیگر از تصمیمات تجاری OpenAI مانند فروش دسترسی به GPT-3 از طریق API اعتراض کرد. اما بزرگترین نگرانی او در مورد شخصیت آلتمن بود. او نمونه هایی از مواقعی را ثبت کرد که احساس می کرد آلتمن او را گمراه کرده است. به عنوان مثال، در طول آزمایش بتا خصوصی برای GPT-3، او از آلتمن فهرستی از مشتریانی که برای استفاده از GPT-3 تأیید شده بودند، درخواست کرد. آلتمن یکی را برای او فرستاد. اما آمودی ادعا کرد که فهرست طولانی‌تری از مشتریان تایید شده را کشف کرده است که آلتمن در مورد آن چیزی به او نگفته بود.

آمودی همچنین فکر می‌کرد که آلتمن را در حال ارائه نادرست از مذاکرات خود با مایکروسافت برای سرمایه‌گذاری یک میلیارد دلاری دستگیر کرده است. آلتمن به Amodei گفت که مایکروسافت برخی مفاد مربوط به ایمنی این قرارداد را که Amodei می خواست در آن گنجانده شود رد کرده است. یکی از این مقررات مربوط به بند ادغام و کمک OpenAI بود - خطی در منشور OpenAI، که آمودی نوشته بود، که OpenAI را متعهد می‌کرد که از رقابت با هر پروژه «همسو با ارزش و ایمنی آگاهانه» که «قبل از ما به ساختن AGI نزدیک می‌شود» دست بردارد و شروع به کمک به آن کند. در طول مذاکرات مایکروسافت، Amodei insi داشت

اظهار داشت که مایکروسافت نباید بتواند خرید OpenAI را وتو کند - محتمل‌ترین روشی که ادغام و کمک به تصویب می‌رسد - اما آلتمن به او گفته بود که مایکروسافت با این شرایط موافقت نمی‌کند. آمودی بر این باور بود که آلتمن آنقدر مشتاق انجام معامله بوده است که این ماده را پذیرفته است (یا از ابتدا آن را نخواسته است)، سپس در مورد آن به او دروغ گفته است.

برخی از اختلافات آنها به تصمیمات تجاری و استراتژی مربوط می شد، اما برخی دیگر از نظر آمودی بیشتر شبیه خطاهای اخلاقی به نظر می رسید. به‌عنوان مثال، آلتمن با کانیه وست ملاقات کرده بود و به او پیشنهاد داده بود که در سال 2020 به نسخه بتای خصوصی GPT-3 در سال 2020 وارد شود. جک کلارک، مدیر سیاست OpenAI، این ایده را رد کرد و اشاره کرد که وست اخیرا ویدئویی را منتشر کرده است که به نظر می‌رسد خود را در حال ادرار کردن در جایزه گرمی نشان می‌دهد و به نظر می‌رسد از نظر روانی ناپایدار است. (این قبل از دوره ای بود که غرب شروع به ابراز تحسین عمومی از هیتلر کرد.)

نمونه‌های بسیار بیشتری در فهرست آمودی وجود داشت - مواقعی که او فکر می‌کرد آلتمن بی‌ملاحظه عمل کرده یا به نظر می‌رسید که در یک دروغ گیر کرده است. تعداد کمی از آنها به تنهایی ارزش ترک کردن را داشتند. اما آنها تصویر فردی را اضافه کردند که در ذهن آمودی نمی‌توان به فناوری قدرتمندی مانند AGI اعتماد کرد. خواهر او، دانیلا آمودی، نیز از OpenAI خسته شده بود. او و براکمن زمانی صمیمی بودند. (براکمن حتی در مراسم عروسی خود در سال 2017 با هولدن کارنوفسکی، که در آن سال به هیئت غیرانتفاعی OpenAI پیوست، نان تست داد.) اما سال ها کار با هم روابط آنها را تیره کرده بود.

او همچنین شروع به درگیری با میرا موراتی، معاون آن زمان OpenAI در بخش هوش مصنوعی و مشارکت‌های کاربردی، بر سر اینکه چه کسی مسئول تصمیم‌گیری در مورد ایمنی است، کرده بود.

در داخل OpenAI، برخی از کارمندان دانیلا را همتای برادرش با EQ بالا می‌دانستند. او یک مدیر ماهر بود که در رشته ادبیات انگلیسی در کالج تحصیل کرده بود و قبل از حرفه خود در فناوری در سیاست کار می کرد. اما زمانی که نقش او به مدیریت بیشتر تیم‌های فنی OpenAI گسترش یافت، با براکمن و دیگر رهبران برخورد کرد، که او را به عنوان سومین عضو یک گروه سه‌گانه انعطاف‌ناپذیر که شامل داریو و کارنوفسکی می‌شد دیدند.

دانیلا فرآیندی غیرعادی برای کار از طریق درگیری داشت. او و کارنوفسکی مجموعه بزرگی از حیوانات عروسکی داشتند که آنها را به عنوان شورای مشورتی شخصی خود برای ایفای نقش های مدیریتی در نظر می گرفتند. هر حیوان دارای مشخصات شخصیتی بود. جینجی گربه تنبلی بود که دانیلا را تشویق می کرد تا جلسات را لغو کند و از انجام کار زیاد خودداری کند. مائورا، یک خرس صورتی، یک مدیر جزئیات گرا و نوع A بود. پاندایی به نام بیری باندز "خرس حامی سخاوت و همدلی" بود. او با این تمرینات به عنوان چیزی بین یک شوخی درونی و یک تکنیک مدیریت جدی برخورد کرد.

(در سال 2023، او به من گفت که حیوانات «در تجزیه و تحلیل تیپ‌های شخصیتی مختلف بسیار مفید هستند.») و اگرچه افراد زیادی در OpenAI در مورد حیوانات نمی‌دانستند، آن‌هایی که می‌دانستند مطمئن نبودند که او چقدر توصیه‌های آنها را جدی گرفته است.

در آن سال، آمودی ها شروع به ساختن هسته خود در داخل هوش مصنوعی باز کردند. همانطور که برخی از مردم آن را «مجموعه داریو» نامیدند - اگرچه واقعا هم متعلق به او بود و هم دانیلا - کانال های خصوصی اسلک راه اندازی کردند و جلسات خود را برگزار کردند. آنها دائما در مورد ایمنی صحبت می کردند و از اصطلاحاتی استفاده می کردند که برای مهندسان فنی تر ناآشنا بود. و برای افرادی که دعوت نشده بودند، احساس بی‌قراری می‌کردند - یک سلول انشعابی ایمنی که از همکاری با دیگران امتناع می‌کرد.

یکی از همکاران سابق به من گفت: "داریو در آن زمان یک عادت داشت که فقط می گفت، ما باید X را انجام دهیم؛ این کار از نظر اخلاقی درستی است. این کار مانند یک میانبر برای پیروزی در هر بحثی بود - "به دلیل ایمنی". و این واقعا تیم های غیرایمنی را عصبانی کرد." آمودی قبلا به ترک فکر می کرد، اما همیشه از آن حرف می زد. او استدلال کرد که ماندن و جنگیدن برای مأموریت OpenAI بهتر از اجازه دادن به سایر افراد با فکر ایمنی کمتر این کار است.

او می‌دانست که OpenAI با استعدادترین محققان در صنعت و بهترین شانس برای رسیدن به AGI را دارد، و فکر می‌کرد که می‌تواند شرکت را از درون تغییر دهد. اما یک روز در سال 2019، او به هم خانه هایش و چند همکار نزدیکش در تیم ایمنی ایمیل زد و به آنها گفت که از اجرای OpenAI منصرف شده است. او گفت که هر پیشرفتی که تیم ایمنی به دست آورد، موقتی بود و همیشه اولویت‌های تجاری آلتمن و براکمن نادیده گرفته می‌شد.

او به فکر رفتن برای DeepMind بود که به کار ایمنی آن احترام می گذاشت. اما جارد کاپلان، پروفسور فیزیک که تحقیقات قوانین مقیاس‌پذیری را در OpenAI رهبری می‌کرد، ایده متفاوتی را پیشنهاد کرد: چه می‌شد اگر آمودی تمام افرادی را که در مورد ایمنی نظرات او را به اشتراک می‌گذاشتند، جمع کند و آنها شرکت خود را با هم راه‌اندازی کنند؟

آمودی در ابتدا شک داشت. آیا جهان به یک شرکت دیگر نیاز داشت که به سمت AGI مسابقه دهد؟ آیا مهاجرت دسته جمعی کارمندان OpenAI که به امنیت فکر می کنند، شرکت را خطرناک تر نمی کند؟ اما هر چه بیشتر در مورد ایده کاپلان فکر می کرد، بیشتر از آن خوشش می آمد. در سال 2020، سالی که GPT-3 منتشر شد، آمودی به چند نفر از اعضای گروه خود نزدیک شد و آنها را در مورد ترک OpenAI برای راه اندازی یک شرکت جدید مطرح کرد. مانند OpenAI، شرکت جدید تحقیقات هوش مصنوعی پیشرفته‌ای را با تمرکز بر مقیاس‌پذیری مدل‌های زبان بزرگ انجام خواهد داد.

اما آنها توسط افراد دیگری که عمیقا به ایمنی اهمیت می‌دهند احاطه می‌شوند و از درام و دعوای دائمی OpenAI آزاد می‌شوند.

در عرض چند هفته، آمودی هفت موسس را جمع آوری کرد: خودش، دانیلا، جک کلارک، سم مک کندلیش، تام براون، کریس اولا و جرد کاپلان. (هشتمین یکی از بنیانگذاران، بن مان، بعدا اضافه شد.) همین برای شروع کافی بود. و هنگامی که آنها به بقیه OpenAI گفتند که آنها را ترک می کنند، مطمئنا موارد بیشتری دنبال خواهند شد.

آمودی نمی خواست فورا آنجا را ترک کند. ابتدا تصمیم گرفت به آلتمن در مورد برنامه‌هایش بگوید و فهرستی از شرایطی را به او پیشنهاد کند که تحت آن‌ها با ماندن موافقت کند. او مشکوک بود که این شرایط - که شامل اعطای حق وتو به تیم ایمنی برای عرضه محصولات جدید می شود - احتمالا پرواز نمی کند. اما آمودی امیدوار بود که تهدید به ترک، و همراه کردن برخی از باهوش‌ترین ذهن‌های OpenAI، آلتمن را مجبور کند که آنها را جدی بگیرد.

در حالی که آمودی با آلتمن مذاکره می‌کرد، گروه هفت نفره یک کانال خصوصی اسلک تشکیل دادند و آن را BATNA نامیدند که مخفف «بهترین جایگزین برای توافق مذاکره‌شده» بود، یک اصطلاح مدرسه‌ای بی‌تجربه که به گزینه خروج آنها اشاره می‌کرد. و آنها شروع به برنامه ریزی برای فرار خود کردند. هنگامی که مشخص شد آلتمن قصد ندارد به آمودی آنچه را که می‌خواهد بدهد، گروه BATNA یک وکیل استخدام کرد و شروع به مذاکره در مورد شرایطی کرد که آن را «طلاق» نامیدند.

آلتمن موافقت کرد که گروه BATNA می‌تواند هر کارمند دیگری را که OpenAI می‌خواهد به مدت چند هفته شکار کند، در ازای موافقت با عدم شکار غیرقانونی تا یک سال بعد. دانیلا آمودی که مذاکرات را از طرف گروه BATNA رهبری می کرد، خواست تا برخی از اسناد تحقیقاتی داخلی خود را با خود به شرکت جدید ببرند. آنها موافقت کردند که یک توافقنامه متقابل عدم تحقیر را امضا کنند، و هر گروه متعهد شد که در ملاء عام به دیگران بدگویی نخواهد کرد.

سپس، در دسامبر 2020، کارمندان OpenAI دعوت نامه ای برای یک جلسه مجازی تمام کارکنان دریافت کردند. آلتمن جلسه را طوری آغاز کرد که گویی یک به روز رسانی عادی هفتگی است. او به‌روزرسانی‌های تحقیقات OpenAI را انجام داد و چند استخدام جدید را اعلام کرد. سپس او صحبت را به Amodei داد و او اعلام کرد که او و شش نفر دیگر از رهبران OpenAI برای راه‌اندازی یک سازمان هوش مصنوعی متمرکز بر ایمنی خود کنار می‌روند.

اموجی، علامت تعجب و پیام‌های شوکه‌کننده در پنجره چت جلسه پر شد، زیرا آمودی چرخشی مثبت در اخبار ایجاد کرد. او گفت که OpenAI به دنبال ماموریت خود برای ایجاد AGI به نفع بشریت ادامه خواهد داد، و او فقط مبهم ترین جزئیات را در مورد اینکه چرا هفت کارمند تصمیم به ترک آن گرفته اند، ارائه کرد. آخرین پیام جک کلارک در چت ظاهر شد: "من همه شما را دوست دارم." سپس ناگهان صفحه نمایش آنها تاریک شد. OpenAI آنها را از تماس حذف کرده، ایمیل و دسترسی Slack آنها را لغو کرده و لپ تاپ های آنها را از راه دور بریک کرده است.

آلتمن در تماس باقی ماند و سعی کرد به کارمندان وحشت زده اطمینان دهد که OpenAI به کار عادی خود ادامه خواهد داد. اما کارمندان قبلا به یکدیگر پیامک ارسال می کردند و سعی می کردند بفهمند چه اتفاقی افتاده است. برخی تعجب کردند که آیا کسی برای آموزش GPT-4 باقی خواهد ماند. دیگران سعی کردند بفهمند که مدیران جدیدشان چه کسانی خواهند بود، یا کدام یک از همکارانشان به سرمایه گذاری جدید می پیوندند.

چند ساعت بعد، بنیانگذاران تازه بیکار تماس ویدیویی خود را برگزار کردند - اولین جلسه BATNA. کارهای زیادی برای رسیدگی وجود داشت و سوالات بی پاسخ زیادی برای نگرانی وجود داشت. چگونه هفت نفر می توانند امیدوار باشند که با OpenAI و گوگل رقابت کنند؟ آنها پردازنده‌های گرافیکی و داده‌ها و پول را از کجا می‌آورند؟ چه کسی می‌تواند کارهای خسته‌کننده شرکت‌ها، مانند تشکیل پرونده‌های قانونی و خرید لپ‌تاپ‌های جدید را برای همه انجام دهد؟ آنها خود را چه می نامند؟ ("Anthropic" معلوم شد، اگرچه شرکت در ابتدا قصد داشت پس از تمثیلی از Ni خود را "Sparrow Systems" بنامد.

کتاب Superintelligence از ck Bostrom در سال 2014، تا زمانی که بنیانگذاران متوجه شدند نام دامنه در دسترس نیست.)

اما زمانی برای پاسخ به این سؤالات بعدا وجود خواهد داشت. در حال حاضر، آن‌ها جشن گرفتند، در جعبه‌های ملاقات مجازی‌شان لیوان‌هایی را برای یکدیگر بالا می‌بردند، بیش از هر یک از آنها در ماه‌ها لبخند می‌زدند و می‌خندیدند. آنها دقیقا نمی دانستند که در آینده چه کاری انجام دهند، یا اینکه در آینده چه چیزی در انتظارشان است. اما آنها آزاد بودند. پنج سال بعد، آنتروپیک - که اکنون هزاران کارمند دارد، دشمنی پررنگ با پنتاگون، و یک تریلیون دلار عرضه اولیه عمومی سهام در افق - به سختی شبیه شرکتی است که داریو آمودی و همکارانش قصد ایجاد آن را داشتند.

در ابتدا، آنها خود را به عنوان یک آزمایشگاه کوچک تحقیقاتی ایمنی هوش مصنوعی تصور می کردند، نه یک شرکت تولیدکننده. سند تأسیسی Anthropic، یک مقاله Amodei در سال 2021 با عنوان "Vision for a NewCo"، شرکتی با تقریبا 50 کارمند را پیش بینی کرد (برای اطمینان از "تراکم استعدادهای فوق العاده") و پیش بینی کرد که ساخت AGI تنها حدود 10 میلیارد دلار هزینه خواهد داشت.

وقتی برای اولین بار از دفتر مرکزی آنتروپیک بازدید کردم، در تابستان 2023، کل شرکت متشکل از حدود 160 متخصص وسواس ایمنی هوش مصنوعی بود که در یک ساختمان اداری میدان جکسون، یک طبقه بالاتر از یک سازمان مراقبت از سالمندان، با هم همکاری داشتند. در داخل، مهندسان قبل از بازگشت به میزهای خود برای هک نسخه بعدی کلود، ربات چت آنتروپیک، بازی های تخته ای انجام دادند و ساندویچ های گیاهی خوردند. در همه جا گیاهان وجود داشت و صدها قوطی خالی از Liquid Death، یک برند مد روز آب گازدار، که یک مهندس آن را به یک تاج و تخت بلند ساخته بود.

به نظر می رسید یک آزمایشگاه گیاه شناسی کالج، یا شاید مقر یک فرقه مرفه.

اما وقتی در زمستان 2025 برگشتم، فرقه به یک مرکز فرماندهی تبدیل شده بود. نیروی کار آنتروپیک به هزاران کارمند افزایش یافته بود و دفتر مرکزی سابق اسلک را در یک ساختمان بلند شیک و صنعتی در خیابان هوارد تصرف کرده بود. دوجین نگهبان امنیتی تنومند در ورودی ایستاده بودند. در طبقه بالا، از کنار نگهبانان، شرکت بیشتر فضای اداری خود را به یک منطقه حفاظتی با امنیت بالا تبدیل کرده بود.

بازدیدکنندگان فقط اجازه ورود به طبقات خاصی را داشتند و ورود به برخی از طبقات دیگر - از جمله طبقه ای که در آن نسخه های جدید کلود در حال آموزش بود - حتی برای کارمندان نیز نیاز به مجوز ویژه داشت.