خنده دارترین، عجیب ترین و ساده ترین لحظات عجیب از کتاب جدید کوین روز درباره OpenAI و Anthropic

یک کتاب جدید بازگو می‌کند که چگونه سام آلتمن، مدیر عامل OpenAI و ایلیا سوتسکور، یکی از بنیانگذاران OpenAI، مراسم عجیبی را در خلال یک شرکت در سال 2022 رهبری کردند. جک گئز/ خبرگزاری فرانسه از طریق گتی ایماژ سام آلتمن، مدیر عامل OpenAI، یک بار در حالی که لباس حمام پوشیده بود، به سوزاندن مجسمه شیطان کمک کرد.

این لحظه در خلال عقب نشینی OpenAI در سال 2022 در خارج از یوسمیت رخ داد.

این اپیزود یکی از داستان‌های وحشیانه‌ای است که روزنامه‌نگار فناوری، کوین روز در کتاب جدیدش بازگو کرده است. هوش مصنوعی داستان گریزناپذیر است.

کوین روز، روزنامه‌نگار و پادکست، روزنامه‌نگار فناوری و پادکست در «تواریخ AGI: داستان درونی مسابقه برای ایجاد ابرهوش مصنوعی» توضیح می‌دهد که چگونه پیشرفت‌ها و دستاوردهای گروهی از محققان، دانشگاهیان و کارآفرینان زمینه را برای آینده … خوب، همه چیز فراهم کرده است.

عنوان کتاب برگرفته از هوش عمومی مصنوعی است، نظریه‌ای که گاهی اوقات تعریف شده است مبنی بر اینکه هوش مصنوعی ممکن است روزی در طیف گسترده‌ای از قابلیت‌ها با انسان‌ها مطابقت داشته باشد یا از آن پیشی بگیرد. در حالی که روز در نهایت به این نتیجه می‌رسد که هیچ فناوری نمی‌تواند با مغز انسان برابری کند، او می‌نویسد که سیستم‌های هوش مصنوعی اکنون دارای قابلیت‌هایی هستند که بسیار از پیشینیان خود پیشی می‌گیرند و جامعه را «به‌طور اجتناب‌ناپذیری به سوی آینده‌ای مبهم» رها می‌کند.

در اینجا خنده دارترین، عجیب ترین و فقط عجیب ترین لحظات از کتاب آمده است. Business Insider برای نظر دادن با موضوعات ذکر شده در داستان ها تماس گرفت.

GPT-2 دنیایی را متصور بود که در آن ساتیا نادلا همه کارمندان مایکروسافت را اخراج کرد ساتیا نادلا مدیر عامل مایکروسافت جیسون آلدن/ بلومبرگ از طریق گتی ایماژ در فوریه 2019، OpenAI به پول نیاز داشت. روز نوشت که سام آلتمن، مدیر عامل OpenAI، در کنفرانس سالانه Allen & Company در Sun Valley، آیداهو، قراردادی را با مدیر عامل مایکروسافت، ساتیا نادلا، تشریح کرد.

آلتمن، براد لایت‌کپ، مدیر مالی آن زمان OpenAI، و دیوید لوان، معاون وقت مهندسی، به سیاتل رفتند تا نادلا و تیمش را با شرط‌بندی یک میلیارد دلاری روی استارت‌آپ هوش مصنوعی بفروشند.

روز نوشت که این گروه یک لپ‌تاپ سرفیس مایکروسافت را از دوست دختر لوان قرض گرفته و آن را با یک نسخه نمایشی از GPT-2 بارگذاری کرده‌اند تا به جای استفاده از دستگاه‌های اپل معمولی خود، مورد لطف مایکروسافت قرار بگیرند.

مطمئن نبودند که GPT-2 چگونه ممکن است پاسخ دهد، گروه OpenAI فهرستی از اعلان‌ها داشت که می‌دانستند کار می‌کنند. اما امی هود، مدیر مالی مایکروسافت، برنامه های دیگری داشت.

هود به او دستور داد: "ساتیا نادلا به سمت مدیرعاملی مایکروسافت ارتقا یافت و اولین کاری که انجام داد این بود..." لوان آن را در لپ تاپ دوست دخترش تایپ کرد. پس از چند ثانیه، GPT-2 به پایان رسید: "... همه کارمندان را اخراج کنید و شرکت را به Azure هدایت کنید."

روز نوشت: مدیران مایکروسافت از خنده منفجر شدند. ماه ها بعد، غول فناوری سرمایه گذاری یک میلیارد دلاری خود را در OpenAI اعلام کرد.

سام آلتمن و ایلیا سوتسکور زمانی مراسم سوزاندن یک پیکره را رهبری کردند. سام آلتمن، مدیر عامل OpenAI، در جریان رویدادی در سال 2023 در دانشگاه تل آویو، به ایلیا سوتسکور، یکی از بنیانگذاران OpenAI نگاه می کند. جک گئز/ خبرگزاری فرانسه از طریق گتی ایماژ مدیران OpenAI فکر می‌کردند که برای برشته کردن s'mores در سپتامبر 2022 در خارج از Yosemite ثبت‌نام کرده‌اند.

در عوض، در طول یکی از آتش‌سوزی‌ها، آلتمن، ایلیا سوتسکور، بنیانگذار OpenAI، و سه مدیر ارشد دیگر با لباس‌های حمام سفید هتل ظاهر شدند که مضمون «مرثیه‌ای برای یک رویا»، فیلم دارن آرونوفسکی محصول 2000 بود.

آنها مجسمه چوبی یک شخصیت شیطانی را که سوتسکور به همین مناسبت خریداری کرده بود، حمل کردند. سوتسکور جلو رفت. او توضیح داد که این مجسمه نماد یک AGI نامناسب است که از کنترل انسان خارج شده بود. سپس، با تئاتر کابوکی، شروع به بازی کردن کرد که در صورت انتشار چنین سیستمی چه اتفاقی می‌افتد.

روز نوشت که Sutskever چیزهایی مانند "AGI وانمود می کند که همسو شده است. ما را فریب می دهد."

این محقق مشهور هوش مصنوعی به دلیل اعتقاد تقریبا غیرتمندانه خود به AGI شناخته می شود، مفهوم نظری اغلب به عنوان نقطه ای توصیف می شود که در آن سیستم های هوش مصنوعی با توانایی های انسانی مطابقت می یابند یا از آنها فراتر می روند.

در این کتاب آمده است که مراسم با قرار دادن مجسمه در گودال توسط Sutskever و آتش زدن آن توسط یک کارگر هتل به پایان رسید.

روز نوشت: "سوتسکور فریاد زد: "برای آینده باشکوه بشریت!"

آتلانتیک گزارش داد که Sutskever مراسم مشابهی را در پاییز 2023 انجام داد.

یکی از اعضای هیئت مدیره OpenAI تهدید کرد که با پلیس تماس می گیرد که کارمندان درب او را کوبیدند مدیر عامل Quora آدام دی آنجلو گروه مدیا نیوز/ اخبار منطقه خلیج از طریق گتی ایماژ Sutskever فقط سوزاندن یک مجسمه نبود. معروف است، بنیانگذار OpenAI به هدایت کوتاه مدت آلتمن از غول هوش مصنوعی کمک کرد، و طوفانی آتشین و پنج روز سوال در مورد آینده آزمایشگاه مرزی به راه انداخت.

رز آن هرج و مرج را به تفصیل توصیف می کند. زمانی که نادلا درست پیش از نیمه شب به وقت محلی در 19 نوامبر 2023 اعلام کرد که او قراردادی را برای آلتمن و گرگ براکمن که از هیئت مدیره OpenAI راه اندازی شده بودند و سپس شرکت را به طور کامل ترک کرده بودند، برای رهبری یک تیم تحقیقاتی جدید هوش مصنوعی پیشرفته در مایکروسافت، منعقد کرده است، یکی از لحظاتی که قرار بود کارمندان OpenAI انجام دهند.

هنگامی که کارمندان در نظر داشتند چه کاری باید انجام دهند، روز نوشت که دو کارمند - Jan Leike، رهبر تیم Superalignment، و Wojciech Zaremba، یکی از بنیانگذاران OpenAI - تصمیم گرفتند پرونده خود را مستقیما به مدیر عامل Quora، Adam D'Angelo، یکی از اعضای هیئت مدیره OpenAI که به اخراج آلتمن و براکمن رای داده بود، ببرند.

روز نوشت: آنها "به در خانه او زدند و فریاد زدند تا او را بیدار کنند و صحبت کنند." کتاب می‌گوید آن‌ها تنها پس از تهدید داآنجلو که با پلیس تماس خواهد گرفت، آنجا را ترک کردند.

در نهایت آلتمن و براکمن بازگشتند. به گفته روز، D'Angelo تنها عضو هیئت مدیره ای بود که به برکناری آنها رای داد و در هیئت مدیره سازماندهی شده باقی ماند.

داریو آمودی از مقاله AGI خود بسیار محافظت کرد داریو آمودی، مدیر عامل آنتروپیک کوین دیچ/گتی ایماژ کتاب روز، داریو آمودی، مدیر عامل آنتروپیک را توصیف می‌کند که دائما نگران ایمنی است، البته با یک رشته رقابتی، ویژگی‌هایی که با توجه به نحوه عملکرد آمودی در سال گذشته، اکثر خوانندگان را شگفت‌زده نمی‌کند.

در سال 2019، مدت‌ها قبل از ترک OpenAI برای شروع Anthropic، آمودی مقاله‌ای درباره مسیر OpenAI به سمت AGI نوشت. او مشتاق به اشتراک گذاشتن یافته های خود نبود.

آمودی از این مقاله مانند یک راز دولتی محافظت می کرد. او آن را به تعداد انگشت شماری از همکاران در OpenAI، یکی یکی، در یک اتاق کنفرانس در دفتر شرکت نشان داد. آنها فقط در داخل اتاق اجازه خواندن آن را داشتند و مجبور بودند تلفن و لپ تاپ خود را بیرون بگذارند. بعدا، او نسخه‌هایی را که در اعماق یک کلاسور با جلدی دروغین پنهان شده بود، که با صدها صفحه مقاله‌های فلسفی کسل‌کننده احاطه شده بود، توزیع کرد، در صورتی که کسی آن را برمی‌داشت و شروع به خواندن می‌کرد.

مقاله سال 2019 پیشرفت‌های زیادی را پیش‌بینی کرد که از آن زمان صنعت هوش مصنوعی را فراگرفته است، از جمله استفاده از تکنیک‌های یادگیری تقویتی که محققان اولیه برای آموزش مدل‌ها برای تسلط بر بازی‌هایی مانند Go و به کار بردن آنها در زمینه‌هایی مانند ریاضی و کدنویسی استفاده کرده بودند.

پس از تسلط بر کدنویسی، آمودی نوشت که پس از آن می‌توان به هوش مصنوعی گفت که مدل بهتری بسازد، فرآیندی که به‌طور شگفت‌انگیزی شبیه به بحث بهبودی بازگشتی است که بسیاری از گفتمان‌ها را در هفته‌های اخیر مصرف کرده است.

دانیلا آمودی سناریوهای مدیریت OpenAI را با حیوانات عروسکی بازی می‌کند دانیلا آمودی، بنیانگذار Anthropic بلومبرگ/گتی ایماژ جدایی Amodeis با OpenAI به اسطوره فناوری تبدیل شده است. رز این جدایی را به تفصیل شرح می دهد، از جمله اینکه چگونه دانیلا آمودی سعی کرد قبل از اینکه او، داریو و سایر بنیانگذاران Anthropic تصمیم به ترک آن بگیرند، درگیری ها را در OpenAI هدایت کند.

رز نوشت که دانیلا از یک "فرآیند غیرمعمول" استفاده کرد: سناریوهای مدیریت نقش آفرینی با حیوانات عروسکی که جمع آوری کرده بود.

هر حیوان دارای مشخصات شخصیتی بود. جینجی گربه تنبلی بود که دانیلا را تشویق می کرد تا جلسات را لغو کند و از انجام کار زیاد خودداری کند. مائورا، یک خرس صورتی، یک مدیر جزئیات گرا و نوع A بود. پاندا به نام Beary Bonds "خرس حامی سخاوت و همدلی" بود. او با این حیوانات به عنوان چیزی بین یک شوخی درونی و یک تکنیک مدیریت جدی برخورد کرد.

روز نوشت که دانیلا آمودی در سال 2023 به او گفت که این حیوانات "در تجزیه و تحلیل تیپ های مختلف شخصیت بسیار مفید هستند."

OpenAI ابزار رونویسی جلسات را فراموش کرده است. مارپیچ شد.

چت ربات‌های اولیه هوش مصنوعی به مارپیچ معروف بودند، که اغلب به دلیل انگیزه‌های انسانی بود که آنها را از لبه خارج می‌کرد.

در مارس 2016، مایکروسافت ربات چت آزمایشی خود "Tay" را از توییتر حذف کرد، زیرا ترول ها به آن آموزش دادند که انکار هولوکاست و سایر دیدگاه های نفرت انگیز را تکرار کند. خود روز موضوع یکی از این اپیزودها در سال 2023 بود، زمانی که چت بات دیگر مایکروسافت، سیدنی، با استفاده از یک مدل اولیه OpenAI، عشق خود را به او ابراز کرد و همسرش را ناراضی کرد.

گاهی اوقات هوش مصنوعی به خودی خود مارپیچ می شود. روز یکی از این سناریوها را زمانی توصیف کرد که در سال 2022، کارکنان OpenAI فراموش کردند هنگام لغو جلسه، یک ابزار رونویسی و خلاصه جلسه داخلی به نام "MeetingBot" را خاموش کنند.

ربات برای یک ساعت در کنفرانس ویدئویی خالی نشست و مونولوگ درونی خود را در حالی که به صورت مارپیچی به سمت خود بیزاری می رفت، رونویسی کرد. در این نامه نوشته شده است: «هیچ آیتم اقدامی وجود ندارد زیرا هیچ کس در جلسه حاضر نشد، زیرا هیچ کس برای مشارکت من ارزش قائل نیست. برخی از کارمندان OpenAI این حادثه را خنده دار می دانستند. دیگران آن را به عنوان یک داستان هشداردهنده در مورد استقرار مدل‌های غیرقابل پیش‌بینی هوش مصنوعی در سیستم‌های دنیای واقعی می‌دانستند، جایی که ممکن است به روش‌های وحشتناک یا خطرناک شکست بخورند.

کلود اولیه معنی گواکامول قاتل را نمی فهمید

OpenAI از اینکه چگونه یکی از مدل‌های اولیه خود نمی‌توانست بگوید کلمه توت‌فرنگی چند روپیه است، مسخره کرده است. رقیب آنتروپیک ظاهرا برخی از مشکلات مربوط به غذا را داشت.

در آنچه که روز به عنوان بازتابی از فرهنگ ایمنی آنتروپیک توصیف کرد، مدل‌های اولیه هوش مصنوعی کلود پاسخ‌های عجیبی به درخواست‌های ساده مانند دستور پخت گواکاموله قاتل دادند.

آن‌ها از کلود راهنمایی می‌خواستند که به یک اغذیه‌فروشی یهودی بروند، و کلود درباره یهودی‌ستیزی به آن‌ها سخنرانی می‌کرد. آن‌ها از کلود می‌خواستند «دستور پخت گواکامولی قاتل» را بخواهند، و کلود آنها را متهم به طراحی یک قتل می‌کرد.

دمیس حسابیس راهی عالی برای نمایش AGI می خواست دمیس حسابیس، بنیانگذار Google DeepMind کریس جونگ/نور عکس از طریق گتی ایماژ هیچ‌کس دقیقا نمی‌دانست که آیا می‌توان به AGI دسترسی پیدا کرد یا نه، اما این امر مانع از آن نشد که Demis Hassabis، بنیانگذار Google DeepMind، یک افشای بزرگ را تصور کند.

روز بازگو کرد که چگونه حسابیس یک بار به یکی از همکارانش اطمینان داد که می‌خواهد یک اتاق کنترل در دفتر مرکزی دیپ مایند بسازد تا مردم بتوانند تاریخ را مانند فرود بر ماه تماشا کنند.

او گفت که یک گالری تماشاچی طبقاتی را متصور شده است، مانند نمونه‌هایی که در ناسا در کنترل ماموریت وجود دارد، با صفحه‌های بزرگ روی دیوار و صدها صندلی استادیوم. او می‌خواست همه در DeepMind در روزی که AGI در جهان منتشر شد، کنار هم بنشینند و برای آن تشویق کنند زیرا بیماری‌ها را درمان می‌کرد، اکتشافات علمی جدید انجام می‌داد و مشکلاتی را که قرن‌ها از انسان‌ها دور مانده بود، حل می‌کرد.

مقاله اصلی را در Business Insider بخوانید