عضو هیئت مدیره OpenAI که سام آلتمن را برکنار کرد، می‌گوید ما هنوز نمی‌توانیم به مدیران عامل هوش مصنوعی اعتماد کنیم

امروز، من با هلن تونر، مدیر اجرایی مرکز امنیت و فناوری های نوظهور در دانشگاه جورج تاون صحبت می کنم. این قسمت قسمت دوم از مجموعه ما در مورد هوش مصنوعی در زندگی واقعی است.

هلن یک چهره شناخته شده در جامعه سیاست گذاری و ایمنی هوش مصنوعی است، اگرچه او شاید بیشتر به دلیل حضور در هیئت مدیره OpenAI شناخته می شود، زمانی که او یکی از چهار عضو هیئت مدیره بود که به اخراج سم آلتمن رای دادند. آن حادثه، که اکنون گاهی اوقات به آن "سرخ" می گویند، با بازگشت سام به عنوان مدیرعامل، استعفای هلن و هیئت مدیره جدید به پایان رسید. OpenAI از آن زمان به طور کامل بازسازی شده است.

اما شایان ذکر است که هلن و هیئت مدیره قرار بود چه کاری انجام دهند: هیئت غیرانتفاعی OpenAI به طور خاص وجود داشت تا مطمئن شود که این شرکت به ماموریت خود برای ایجاد هوش مصنوعی ایمن با اولویت دادن به سود و رشد بر ایمنی خیانت نکرده است. هنگامی که هیئت مدیره در واقع سعی کرد اهرم را بکشد، مکانیسم پاسخگویی شکست، و ما اینجا هستیم.

مشترکین همگام، فراموش نکنید که از هر کجا که پادکست‌های خود را دریافت می‌کنید، به رمزگشای بدون آگهی دسترسی انحصاری دارید. به اینجا سر بزن مشترک نیستید؟ می توانید در اینجا ثبت نام کنید.

اکنون، سوال ایمنی هوش مصنوعی همه جا مطرح است. تابستان امسال، مدل‌های هوش مصنوعی OpenAI و Anthropic از محیط‌های آزمایشی خود خارج شدند و شرکت‌های واقعی را هک کردند. مدیران عامل این آزمایشگاه‌های مرزی از آن زمان خواستار کاهش سرعت شدند و از واشنگتن کمک خواستند، اما پاسخ کاخ سفید یک توافق داوطلبانه بود - توافقی که تا حدی متکی بر آن نوع مسئولیت‌پذیری هیئت مدیره است که در OpenAI شکست خورد. Anthropic همچنین در شرف عرضه عمومی است که مجموعه جدیدی از فشارهای بازار را بر بزرگترین رقیب OpenAI وارد می کند.

هلن از نزدیک دیده است که چه اتفاقی می افتد زمانی که تعهدات ایمنی به شدت به مشوق های تجاری تبدیل می شود. و همانطور که او به من گفت، اگر امیدهای ما برای آینده به یک فرد قابل اعتماد بستگی دارد، ما در مشکل بزرگی هستیم.

بنابراین ما در مورد آنچه که می‌توانیم بجای آن انجام دهیم، صحبت کردیم: آزمایشگاه‌ها واقعا در تلاش برای ساختن چه چیزی هستند، آیا هم‌ترازی هوش مصنوعی مشکلی است که می‌توان آن را حل کرد، و رویکرد هوشمندانه‌تری برای مقررات هوش مصنوعی ممکن است به نظر برسد. این شامل نحوه اندیشیدن به چین می‌شود، موضوعی که در حال حاضر در هر گفت‌وگوی سیاسی درباره هوش مصنوعی - به‌ویژه اکنون پس از ماجرای جنسن هوانگ - به چشم می‌خورد. فقط برای وضوح، من و هلن قبل از اینکه انویدیا تحقیقات خود را آغاز کند و جنسن در نهایت استعفا داد، صحبت کردیم، بنابراین شما نمی‌شنوید که مستقیما در مورد آن صحبت کنیم.

قبل از شروع، به من لطف کنید و مشترک Decoder در YouTube شوید، جایی که ما هر دوشنبه و پنجشنبه قسمت‌های جدیدی را منتشر می‌کنیم.

خوب: هلن تونر، مدیر اجرایی CSET، در مورد آینده ایمنی هوش مصنوعی. در اینجا ما می رویم.

این مصاحبه برای طولانی بودن و وضوح کمی ویرایش شده است.

هلن تونر، شما مدیر اجرایی مرکز امنیت و فناوری های نوظهور در دانشگاه جورج تاون هستید. به Decoder خوش آمدید.

خیلی ممنون اینجا بودن عالیه

10 میلیون سال است که می خواهم با شما صحبت کنم. من خیلی هیجان زده هستم که اینجا هستید. شما برای مدت طولانی درگیر ایده های اخلاقی و ایمنی هوش مصنوعی زیادی بوده اید. شما مشخصا در هیئت مدیره OpenAI در جریان چیزی که همه آن را «بیشتر» می نامند، بودید.

اکنون، شما در مورد ایمنی هوش مصنوعی صحبت می کنید، که من 10 میلیون سوال در مورد آن دارم. اما بیایید از ابتدا شروع کنیم. شما مرکز امنیت و فناوری های نوظهور را اداره می کنید، مردم آن را CSET می نامند. CSET چیست؟

اینجا بودن عالی است من هم واقعا هیجان زده هستم که با شما صحبت کنم. CSET یک تیم در جورج تاون است، اما ما واقعا آکادمیک نیستیم. ما حدود 50 نفر هستیم و از سال 2019 می رویم.

اساسا در سال 2019، گروهی از ما به این نتیجه رسیدیم که اتفاقات زیادی در حال رخ دادن است و بسیاری از فناوری‌های نوظهور که در فضای امنیت ملی و به طور گسترده‌تر فضای امنیتی بسیار مرتبط هستند، وجود دارد. و برخی از سیاستگذارانی که مشاغل بسیار مهمی داشتند، زمان یا تخصص کافی برای اطلاع از آنچه در آن فناوری های نوظهور در حال وقوع است را نداشتند. در سال 2019 در صدر فهرست ما هوش مصنوعی قرار داشت.

اساسا مأموریت ما انجام تجزیه و تحلیلی است که واقعا دقیق و در عین حال قابل اجرا باشد، برای سیاست گذاران و تحلیل هایی که هم مبتنی بر فناوری باشد و هم مبتنی بر تخصص و درک و مسائل امنیت ملی واقعی باشد. ما گزارش های طولانی تولید می کنیم. ما می‌رویم در مورد آن گزارش‌های طولانی برای سیاست‌گذاران پرمشغله، جلسات توجیهی کوتاهی انجام می‌دهیم. ما یک تیم کلان داده داریم که به ما در انجام تحقیقات کمک می کند. ما انواع کارهای جالب را انجام می دهیم.

آیا می توانم فقط یک دقیقه در مورد پویایی آن بپرسم؟ من و شما فردای انتخابات میان دوره ای در ایالات متحده آمریکا با هم صحبت می کنیم و موج آبی بزرگی به راه افتاد. نظرسنجی های زیادی وجود دارد که می گوید موضوع شماره یک فساد است. ما ادم ها را بیرون می اندازیم. ما از نو شروع می کنیم و از شر این افراد فاسد خلاص می شویم.

صنعت هوش مصنوعی و صنعت فناوری، پول زیادی را وارد سیاست کرده است. و سپس جایی در کنار آن این است: "اوه، یک دسته از محققان خوش نیت هستند که قرار است ظاهر شوند و به شما بگویند که واقعا چگونه کار می کند و خطرات واقعی چیست."

فقط به ذهنم خطور می کند که شاید مردم دیگر باور نمی کنند که این کار موثر است، که پول و فساد و مدیر عامل هوش مصنوعی که در کنار ترامپ ایستاده است کاملا بیشتر از تحقیقات خوب و صادقانه "در اینجا مشکلات واقعی" است که شما انجام می دهید. آن پویایی در واقع چگونه است؟

داشتن این یک نگرانی منطقی است و قطعا فضاهایی وجود دارد که پول کاملا بر همه چیز غلبه می کند. من استرالیایی هستم من در ایالات متحده بزرگ نشدم، و بنابراین مقدار پول در انتخابات ایالات متحده برای من بسیار آزاردهنده است، اما محدودیت هایی برای کارهایی که پول می تواند انجام دهد وجود دارد.

هوش مصنوعی یک مثال عالی است. در این انتخابات، پول های غیرقابل باوری به سمت نامزدها، پیام ها و تحقیقات مخالفان پرتاب شد. در توییتر انواع و اقسام نجومی وجود داشت، و چیزهای بسیار عجیبی وجود داشت که سعی می‌کرد هر کسی که در مورد حکمرانی، مقررات، ایمنی هوش مصنوعی صحبت می‌کرد، کنار گذاشته شود یا انتخاب نشود. معلوم است که واقعا خیلی خوب کار نکرده است.

من فکر می‌کنم دلیل اینکه خیلی خوب کار نکرد یکی است، این موضوعی است که رای‌دهندگان به طور فزاینده‌ای به آن اهمیت می‌دهند. و دو، همچنین جالب است که این موضوعی است که در این مرحله کاملا دو حزبی است. آنچه در کار خود می بینیم این است که عطش واقعی در میان سیاست گذاران برای اطلاعات با کیفیت بالا وجود دارد. مطمئنا اعضای کنگره هستند، اما آنها همچنین در شاخه اجرایی هستند، فقط افراد زیادی که این مشاغل بسیار شلوغ را دارند و می بینند که هوش مصنوعی نقش بزرگتر و بزرگتری در کار و دنیای آنها بازی می کند.

در دی سی، اگر اینجا زندگی می کنید و کار می کنید، می دانید که لابی ها در دی سی فقط افرادی نیستند که وارد کار شوند و موقعیت شرکت خود را تقویت کنند، هرچند که این کار را انجام می دهند. آنها همچنین مربی هستند. دلیل بزرگی که کارکنان کنگره و دیگران می‌خواهند لابی‌ها با آنها صحبت کنند این است که آنها واقعا به آنها کمک می‌کنند تا علف‌های هرز یک قانون معین را درک کنند - چه معنایی برای آن صنعت و غیره و غیره دارد.

چیزی که بارها و بارها پیدا می‌کنیم این است که می‌توانیم وارد شویم و بگوییم: "هی، ما مستقل هستیم. ما غیرحزبی هستیم. ما واقعا کار سختی انجام می‌دهیم. ما فقط برای کمک به اینجا آمده‌ایم و می‌توانیم با شما نیز به علف‌های هرز برویم." علاقه زیادی به آن و اشتها برای آن وجود دارد. در طول هفت تا هشت سال گذشته واقعا دلگرم کننده بوده است.

آیا این کار را با مدیران، اعضای کنگره انجام می دهید یا با کارکنان این کار را انجام می دهید؟

هر کس و هر کسی. باز هم، ما مقدار زیادی کار با کنگره در کاپیتول هیل، با برخی از اعضای کنگره، با تعداد زیادی کارمند انجام می دهیم. ما جلسات استماع و جلسات توجیهی انجام می دهیم. همچنین، ما در شاخه اجرایی، با آژانس‌های مختلف - کاخ سفید، وزارت جنگ، وزارت امور خارجه، وزارت بازرگانی، در سطوح مختلف، بسته به موضوع و آنچه در هر لحظه اتفاق می‌افتد، کارهای زیادی انجام می‌دهیم.

دلیل اینکه من اینجا را شروع کردم این است که می‌خواهم یک مکالمه هولناک با شما داشته باشم، اما می‌دانم مخاطبان ما چه فکری می‌کنند و فقط دولت آن را نمی‌فهمد. هیچ راهی وجود ندارد که دولت هرگز به صنعت فناوری برسد. هیچ راهی وجود ندارد که آنها هرگز مقرراتی بنویسند. آنها فقط باید از سر راه بروند.

در این چرخه انتخابات، من تعدادی از ویدئوهای انجمن نامزدها را دیدم که در آن‌ها شخصی می‌گوید: «یک بار کلود را امتحان کردم». یک شکاف بزرگ، واقعی یا درک شده وجود دارد. من فقط سعی می کنم بفهمم شما این شکاف را چگونه می بینید، فکر می کنید این شکاف چقدر بزرگ است، زیرا با ورود به ایمنی و مقررات هوش مصنوعی، این شکاف است که باید بسته شود.

قطعا یک شکاف وجود دارد. این قطعا یک شکاف بزرگ است. همچنین ممکن است شکاف را از بیرون بیش از حد برآورد کنید، یا اگر فقط به کالیفرنیا نگاه می کنید. من سه سال در منطقه خلیج زندگی کردم، بنابراین قطعا با این دیدگاه آشنا هستم.

من افراد زیادی را از صنعت فناوری می شناسم که می آیند و شروع به صحبت با کارمندان کنگره یا کارکنان دفاتر اجرایی می کنند. هنگامی که آنها واقعا این مکالمات را شروع می کنند، می گویند: "وای، این افراد واقعا باهوش هستند. کارکنان واقعا می دانند در مورد چه چیزی صحبت می کنند."

در مورد اصول، موضوع متفاوت است. برخی از آنها در نسل های قدیمی هستند، اما در عین حال باهوش می شوند. زمان می‌برد و تلاش می‌خواهد، و این افراد خواسته‌های زیادی از زمان خود دارند. نکته بدبینانه ای که باید گفت این است که آنها فقط مشغول تلاش برای انتخاب شدن هستند، اما بسیاری از افراد در این نقش ها فقط موضوعات بسیار بزرگ دیگری دارند که باید به آنها فکر کنند. آنها باید به جنگ و مراقبت های بهداشتی و هزینه های زندگی فکر کنند و روز به روز به چیزهای دیگر نگاه می کنند.

من بعد از ChatGPT دیدم که در سال 2023 موجی به وجود آمد که "اوه، شاید کنگره در هوش مصنوعی فعال شود، شاید آنها واقعا کاری انجام دهند." واقعا به هیچ اتفاقی تبدیل نشد، اما به لحظه ای واقعی تبدیل شد که بسیاری از اعضای کنگره و سایر سیاست گذاران شروع به هوشمند شدن در مورد هوش مصنوعی کردند. مدتی طول می کشد تا یاد بگیرید که مدل زبان چیست. حتی هوش مصنوعی چیست؟ یادگیری ماشینی چیست؟

آنها بخشی از این کار را در سال 2023 انجام دادند. من فکر می‌کنم امسال شاهد موج بزرگ دیگری از علاقه‌مندی‌ها و افرادی هستیم که وقت می‌گذارند و فضا را برای هوشمندتر کردن آن ایجاد می‌کنند. من قطعا نمی‌خواهم بگویم که هیچ شکافی وجود ندارد یا دولت در زمینه هوش مصنوعی در سراسر جهان بسیار باهوش است، اما قهرمانانی وجود دارند که واقعا باهوش هستند. من فکر می‌کنم که کارکنان عموما باهوش‌تر از آن چیزی هستند که مردم به آنها اعتبار می‌دهند.

در ذهن من، این سوال بسیار بیشتر این است که «آیا مؤسسات، در وضعیت عملکردی که در آن قرار دارند، می‌توانند چیز مهمی را فراتر از خط تولید کنند؟» بیشتر از اینکه «آیا این افراد خیلی پشت توپ هشت هستند؟»

میریم ببینیم یک دسته کلی از افراد جدید وجود دارد. تصور می‌کنم شما یک گروه شخصیت جدید دارید که باید بروید و در مورد فناوری و توانایی‌های آن توضیح دهید. خواهیم دید که آیا آنها نهادها را احیا کرده اند یا خیر.

[می خندد] من مطمئن هستم که همه چیز یک شبه درست می شود.

آنها امروز بسیار هیجان زده هستند، اما خواهیم دید که چگونه پیش خواهد رفت. مورد دیگری که می خواهم در مورد آن از شما بپرسم، خود فناوری است، ماهیت خود فناوری، و اینکه شما در مورد آن چگونه فکر می کنید، و ماهیت شرکت هایی که این فناوری را می سازند.

دلیلی که می‌پرسم این است که احساس می‌کنم شکاف بزرگی در ابزارها و سیستم‌های هوش مصنوعی که اکثر مردم تجربه می‌کنند و طرز فکر این صنعت در مورد آن وجود دارد. مثال مورد علاقه من در این مورد این است که ما مستقیما از آنتروپیک پرسیده ایم که آیا فکر می کند کلود زنده است و پاسخ منفی نبود. پاسخ، بحثی طولانی در مورد ماهیت کلمه "زنده" بود.

خوب، برای شروع بستگی به این دارد که منظور شما از "زنده" چیست.

این کار را انجام می دهد. و پاسخ آنها این بود: "شما به خون نیاز دارید." و من به آن نگاه کردم و گفتم: "چه کسی در مورد خون صحبت می کرد؟ این ما نبودیم. چرا ما از نیاز گوشت و خون برای زنده بودن صحبت می کنیم؟" و سپس برخی گفتگوهای بیشتر در مورد وضعیت اخلاقی کلود هنوز مشخص نشده است.

در اینجا بین مرورهای هوش مصنوعی که اکثر مردم در جستجوی گوگل تجربه می‌کنند و «وضعیت اخلاقی کلود نامشخص است» تفاوت زیادی وجود دارد. کجایی؟ موقعیت شما در آن بحث چگونه است؟

بخش بزرگی از نحوه نگرش من به نقش خود در CSET به عنوان یک سازمان، و سپس نقش من به عنوان کسی که بین این دنیاها رد شده است، تلاش برای ترجمه و سفر به کالیفرنیا و سپس بازگرداندن مصنوعات و بازگویی های سفرم است.

من قطعا فکر می‌کنم که افراد زیادی هستند که از لایه رایگان ChatGPT استفاده کرده‌اند، یا از مدل‌های مبتنی بر صدا استفاده کرده‌اند، که عموما عملکرد بدتری دارند، یا فقط از مرورهای اجمالی هوش مصنوعی Google استفاده کرده‌اند و از احمقانه بودن مرورهای هوش مصنوعی Google خندیده‌اند. آنها از عوامل استفاده نکرده اند و نمی دانند مدل های مرزی چه کاری می توانند انجام دهند. بنابراین فقط یک قطعه اساسی در مورد آنچه که نسل فعلی مدل ها می توانند انجام دهند وجود دارد.

یک قطعه تاریخی نیز وجود دارد که به نظر من به طور فزاینده ای مرتبط است زیرا اکنون 10 سال است که روی هوش مصنوعی و مسائل امنیت ملی کار می کنم. اگر به این لحظه کنونی در زمان نگاه می‌کنید، این عکس فوری، و می‌گویید: «خب، هوش مصنوعی به‌نظر می‌رسد خوب است، اما نمی‌تواند X را انجام دهد»، باید این را در نظر بگیرید که در تاریخ طولانی افرادی که برای بسیاری از ارزش‌های X که از آن زمان کاملا توسط رویدادها غلبه شده‌اند، می‌گویند: «خب، هوش مصنوعی به نظر جالب می‌رسد، اما نمی‌تواند X را انجام دهد».

می‌توانید به عقب برگردید و بگویید: «خوب، خب، مثلا پنج یا 10 سال پیش، در اینجا چگونه در مورد خلاقیت صحبت می‌کردیم.» یا قبل از اینکه شما این مدل‌های جدید را ارائه کنید، در مورد استدلال به عنوان این چیز غیرقابل حل صحبت می‌کردیم. موضوع بزرگی که من این روزها روی آن وقت می گذارم فقط گذشته و حال هوش مصنوعی نیست، بلکه این است که چگونه شرکت ها به کاری که انجام می دهند فکر می کنند، به ویژه دو شرکت پیشرو OpenAI و Anthropic، و این در گوگل، متا، اسپیس ایکس نیز تا حدودی صادق است.

این ایده در منطقه خلیج که فقط در آب است، بسیار عادی شده است، «خب، ابتدا می‌خواهیم بفهمیم که چگونه خود-بهبودی بازگشتی (RSI) انجام دهیم و سپس این کار را تا زمانی که به هوش فوق‌العاده‌ای دست یابیم که هوش مصنوعی است که بسیار از انسان‌ها پیشی می‌گیرد.» این امر در بسیاری از محافل در این مرحله بدیهی تلقی می شود. من فکر می‌کنم هنوز مقدار زیادی آلفا وجود دارد که فقط این حقیقت را بپذیریم که این همان چیزی است که آنها سعی دارند انجام دهند و فقط توضیح دهند که معنی آن چیست.

چیدمان کمی طول می کشد. "RSI چیست؟ چرا می خواهید این کار را انجام دهید؟ ابرهوش چیست؟ این به چه معناست؟ آیا این واقع بینانه است؟" همه اینها اما این چیزی است که من این روزها زمان زیادی را صرف آن می‌کنم و تمایل بیشتری برای جدی گرفتن و گوش دادن به آن در DC وجود دارد.

آن را برای من تعریف کن فکر می‌کنم احتمالا بسیاری از افرادی که به این برنامه گوش می‌کنند متوجه می‌شوند که در مورد چه چیزی صحبت می‌کنید، اما ما مخاطبان زیادی داریم. منظور شما از "ما قرار است RSI را انجام دهیم و این منجر به ابرهوشی می شود" چیست؟

نقطه شروع اینجا این است که این شرکت ها، به ویژه OpenAI و Anthropic، به عنوان شرکت های اینترنتی مصرف کننده راه اندازی نشده اند. بسیاری از مردم پس از راه اندازی ChatGPT با این فضا مواجه شدند. بنابراین شکاف طبیعی در مغز آنها که آنها شرکتی مانند OpenAI یا Anthropic را در آن قرار می دهند، یک شرکت فناوری مصرف کننده است، جایی که آنها یک برنامه دارند و من با برنامه آنها بازی می کنم.

نمی توانم اغراق کنم که چقدر با چشم انداز هر دو شرکت در زمان شروع کارشان فاصله دارد و همچنین چشم اندازی که در قلب برخی از افراد برتر هر دو شرکت وجود دارد. چشم‌اندازی که در اعماق قلب آنها وجود دارد این است که ما ماشین‌هایی می‌سازیم که به اندازه مردم یا باهوش‌تر باشند. این شگفت‌انگیز خواهد بود و یک دستاورد علمی بزرگ خواهد بود و جهان را متحول می‌کند و ما در خط مقدم این امر خواهیم بود و هر کاری که ممکن است انجام می‌دهیم تا به سمت آن حرکت کنیم.

این یک چیز کاملا جدید نیست. ما مجبور نیستیم کل تاریخ هوش مصنوعی را انجام دهیم، اما تقریبا در دهه 1950 به عنوان یک حوزه با این ایده شروع شد که آیا می توان هوش انسانی را در یک ماشین بازسازی کرد یا خیر. این نوعی نقطه شروع است. اگر ما در مورد افرادی مانند سم آلتمن و داریو آمودی صحبت می کنیم، اما همچنین در مورد افراد اصلی داخل، محققان داخل آزمایشگاه آنها، یعنی الک رادفورد یا جان شولمن یا افرادی مانند آن صحبت می کنیم، این بینشی است که آنها را وارد این فضا کرده است که انگیزه دهنده هر کاری است که انجام می دهند.

این از ابتدا صادق است، از زمانی که OpenAI در سال 2015 و Anthropic در سال 2021 تأسیس شد. این روزها، نکته ای که آنها به آن می رسند ایده RSI است، خود-بهبودی بازگشتی، که دوباره، یک ایده بسیار قدیمی است. در دهه 1960، این مرد به نام I. J. Good، که با آلن تورینگ کار می کرد، در مورد این امکان صحبت می کند که شما می توانید یک ماشین فوق هوشمند بسازید، یعنی ماشینی که از هر انسانی باهوش تر است، و سپس می تواند ماشینی حتی هوشمندتر بسازد و می تواند ماشینی حتی باهوش تر بسازد، که می تواند باعث ایجاد یک دستگاه هوشمند شود.

osion، به این معنی که سطح هوش سیستم ها در حال انفجار است.

برای دهه‌ها و دهه‌ها و دهه‌ها، این ایده تئوریک بود: «خب، اگر هوش مصنوعی به اندازه کافی هوشمند شود، شاید بتواند ساخت نسل بعدی هوش مصنوعی یا مستقیما خود را بهبود بخشد.» من فکر می‌کنم در سال‌های 2025 و 2026، شاهد این بودیم که شرکت‌های هوش مصنوعی می‌گویند: "خوب، بله، این ایده نظری... ما در واقع شروع به انجام یک نسخه حداقلی از آن در عمل کرده‌ایم."

تمام توسعه‌های هوش مصنوعی را به هوش مصنوعی واگذار نمی‌کند، و مطمئنا به GPT-6 نمی‌گوید، مانند «خوب، GPT-6، خودت را بهتر کن». این کاری نیست که آنها انجام می دهند. اما آنها به تدریج از هوش مصنوعی برای بخش‌های بیشتری از خط لوله تحقیق و توسعه کلی خود استفاده می‌کنند و به طور فزاینده‌ای می‌گویند که شتابی را از آن می‌بینند. آنها می بینند که تحقیق و توسعه خودشان سریعتر و سریعتر می شود.

بسیاری از افراد در جاهای دیگر به این موضوع شک دارند، اما بسیاری از افراد داخل شرکت ها واقعا به آن فکر می کنند. وقتی دمیس حسابیس می‌گوید «ما در دامنه‌ی تکینگی هستیم»، این همان چیزی است که او می‌گوید: ممکن است آن بخش اولیه منحنی نمایی را ببینیم که در آن سیستم‌های هوش مصنوعی در حال ساختن نسل بعدی سیستم‌های هوشمندتر و هوشمندتر هستند به طوری که چوب هاکی سپس بالا می‌رود.

در این مرحله، این بخشی از فرهنگ و بخشی از اهداف برای مدت طولانی است که فکر می‌کنم افراد در این شرکت‌ها می‌توانند این موضوع را از دست بدهند که برای بسیاری از افراد چقدر دیوانه‌کننده به نظر می‌رسد. بنابراین من احساس می‌کنم که صرفا تلاش برای بیان «این چیزی است که آنها می‌خواهند انجام دهند. ممکن است نتوانند آن را انجام دهند، اما ممکن است انجام دهند» و ارائه آن به طیفی از افراد مختلف ارزش زیادی دارد.

چگونه آن را مدیریت می کنید؟ دمیس حسابیس که می‌گوید «پایه‌های تکینگی» نقل قولی است که همه زمان‌ها را می‌گوید. من 100 درصد مطمئن نیستم که مردم گوگل می‌دانستند که او می‌خواهد آن را روی صحنه برای پایان کنفرانس بگوید.

گرگ براکمن، رئیس OpenAI، چند ماه پیش نسخه جدیدی از این مدل را اعلام کرد و گفت: "اینجاست. Astra است. اکنون AGI است. اوقات خوبی داشته باشید." و تماس را تمام کرد.

آیا شما آنجا هستید؟ آیا ما در AGI هستیم؟ آیا این قبلا اینجاست و ما متوجه نشده ایم؟

من در واقع چیزی در این مورد نوشتم. نمی خواهم بگویم AGI داریم. می‌خواهم بگویم به نقطه‌ای رسیده‌ایم که فکر می‌کنم استفاده از AGI به‌عنوان نقطه عطف کاملا بی‌فایده است. مفهوم AGI نوعی ابر فازی است که می‌توانید آن را به عنوان بخش‌های مختلف ابر یا چیزهای متفاوتی در نظر بگیرید که منظور افراد از AGI است.

افرادی هستند که برای مدت طولانی از اصطلاح AGI شکایت دارند. ده سال پیش بسیار مفید بود که بتوانیم بگوییم، «ببینید، سیستم‌های هوش مصنوعی که امروز در سال 2016 داریم، همه آنها فقط می‌توانند یک کار را انجام دهند و می‌توانند گفتار را تشخیص دهند یا می‌توانند Go یا هر چیز دیگری را اجرا کنند، اما ما در تلاش هستیم تا این چیز بزرگ‌تری را بسازیم که آن را AGI بنامیم، که در سطح انسانی است و هدف کلی آن بسیار عالی خواهد بود.»