مرگ انسانیت

من یک سال است که از نوشتن این قطعه اجتناب کرده ام. هر شام، هر جلسه هیئت مدیره، هر تعطیلات خانوادگی، هر خبرنگار، هر دوست یکی از دوستان در هر مهمانی نسخه‌ای از همان سوال را از من پرسیده است. آیا هوش مصنوعی جایگزین ما خواهد شد؟ آیا این پایان کار است آیا این پایان بشریت است؟ آیا ماشین ها بیدار می شوند؟

پاسخ صادقانه خیر است. امسال نه نه سال بعد نه مگر اینکه تصمیم بگیریم که آن را می خواهیم. داستانی که به شما گفته می‌شود توسط افرادی گفته می‌شود که چیزی برای فروش دارند، و وقتی شکل چیزی را که می‌فروشند ببینید، نمی‌توانید آن را ببینید. چیزی که در واقع می رسد چیزی است که تقریبا هیچ کس نامش را نمی برد، زیرا خبرنامه نمی فروشد یا از قیمت سهام محافظت نمی کند یا داستان نویس را مهم نمی کند. ما در لبه جلوی چیزی ایستاده‌ایم که اگر آن را خراب نکنیم، جادویی‌ترین امتداد تاریخ که هر نسل بشری تا به حال در آن زندگی کرده است، خواهد بود.

اجازه دهید به شما توضیح دهم که چرا به آن اعتقاد دارم. سپس می خواهم در مورد بخشی صحبت کنم که تقریبا هیچ کس حاضر نیست با صدای بلند بگوید. یعنی بیشتر افرادی که به شما می گویند هوش مصنوعی خطرناک است، نیاز دارند که خطرناک باشد، زیرا خطرناک بودن آنها را مهم می کند. این همان استدلالی است که من نشنیدم که هیچ کس به صراحت بیان کند، و این همان استدلالی است که در نهایت مرا به نوشتن این مطلب راهنمایی کرد.

محکومین به حرکت دادن تیرک دروازه ها ادامه می دهند.

داستان نابودگر هوش مصنوعی در دو موج رسید و نحوه انجام آن مهم است، زیرا به شما می گوید که در واقع چه اتفاقی می افتد.

موج یک، تقریبا بین 2013 تا 2023، در مورد مشاغل بود. اتوماسیون می آمد. حمل و نقل، رادیولوژی، مشاوران حقوقی، پشتیبانی مشتری، مترجمان، تصویرگران، توسعه دهندگان جوان، همه ناپدید می شوند. پاسخ درآمد پایه جهانی بود. اندرو یانگ یک کمپین ریاست جمهوری بر روی آن ایجاد کرد و در مرحله پیش بینی جمعی[i] به ما پیوست تا پرونده را طرح ریزی کند. سام آلتمن یک مطالعه در مورد آن را تامین مالی کرد. هر رهبر فکر می کرد هوش مصنوعی یک اسلاید کلیدی با نمودار شغلی دارد که به صفر اشاره می کند.

سیزده سال پس از انقلاب هوش مصنوعی و سه سال پس از پذیرش انبوه مدل‌های زبانی بزرگ و مدل‌های تصویر، این داستان با مشکل مواجه شد. مشاغل از بین نرفتند. رادیولوژیست که قرار بود اول ناپدید شود غرق در کار است. طبق اداره آمار کار، نرخ بیکاری در ایالات متحده در محدوده 4.3 تا 4.5 درصد تا سال 2025 و سه فصل اول سال 2026 حفظ شده است.

اقتصاددانان خود آنتروپیک، در مقاله مارس 2026 توسط ماکسیم ماسنکوف و پیتر مک‌کروری، به این نتیجه رسیدند که از زمان راه‌اندازی ChatGPT هیچ افزایش قابل‌توجهی در بیکاری برای کارگرانی که بیشتر در معرض هوش مصنوعی هستند، وجود ندارد. داده های ملی دانمارک به طور مستقل در بین 25000 کارمند و 7000 شرکت به همین نتیجه رسید. وقتی شرکتی که آینده ترسناک را به شما می‌فروشد، تحقیقات داخلی را منتشر می‌کند که می‌گوید آینده ترسناک ظاهر نشده است، این سیگنالی است که ارزش خواندن دارد.

موج دو زمانی شروع شد که موج یک فرود آمد. جایی در اواخر سال 2023 داستان چرخید. دیگر شغل نبود. AGI بود. ابر هوش. مدل های آزاد شدن فرار آگاهی دیجیتال از آزمایشگاه ریسک وجودی کاهش انقراض از هوش مصنوعی نامه را امضا کن سرعتش را کم کن گونه ها را نجات دهید همان افرادی که دو سال قبل درآمد اولیه جهانی را به ما می‌فروختند، اکنون ترس از یک خدای ماشینی را به ما می‌فروشند.

همان مردم داستان متفاوت همان خود بزرگ بینی. این الگو است.

داده های زایمان چیزی را که به شما گفته اند نمی گوید.

با اعداد ماکرو واقعی شروع کنید، زیرا آنها آرگومان هستند.

نرخ بیکاری تا ماه مه 2026 به 4.3 درصد رسید و تا آگوست به 4.5 رسید، که با هر معیار تاریخی میانه‌ترین محدوده سالم است. حقوق و دستمزد غیرکشاورزی در ماه مارس 178000 شغل ایجاد کرد. بیکاری در مشاغل فناوری نزدیک به 3.5 درصد است و آگهی‌های فناوری جدید در بهار 2026 به بالاترین حد خود در سه سال اخیر رسید. فشارسنج جهانی مشاغل هوش مصنوعی PwC در ژوئن 2026 نشان داد که صنایعی که بیشتر در معرض هوش مصنوعی هستند، پنجاه و دو درصد سریع‌تر از صنایعی که کمتر در معرض آن قرار دارند، رشد کرده‌اند. بنیاد فناوری اطلاعات و نوآوری سود خالص 107200 شغل در ایالات متحده را به طور مستقیم به پذیرش هوش مصنوعی در سال 2024 نسبت داد.

اداره آمار کار پیش بینی می کند که اشتغال در علم داده تا سال 2034 33.5 درصد رشد کند.

اکنون تورم را روی هم قرار دهید. شاخص PCE در آوریل 2026 نسبت به سال قبل 3.8 درصد رشد کرد و PCE اصلی آن 3.3 بود. که بالاترین سطح سه ساله است. فدرال رزرو در ماه ژوئن نرخ بهره را بین 3.50 تا 3.75 نگه داشت و 9 مقام از هجده مقام، حداقل یک افزایش دیگر را در سال جاری پیش بینی کردند. سپس شروع به بزرگ کردن آنها کرد. تورم داغ نشانه بازار کار فشرده و تقاضای قوی است، نه در حال سقوط. نفت بالاست، اما نه آنچنان بالا و خطر ایران با کاهش قیمت نفت کاهش یافته است.

اگر هوش مصنوعی همان کاری را انجام می داد که محکومان می گفتند، ما به دنبال افزایش بیکاری و کاهش تورم بودیم. ما برعکس نگاه می کنیم. جنگ در اوکراین، جنگ در خاورمیانه، فشارهای عرضه نفت، تعرفه‌ها، کنترل‌های صادرات نیمه‌رسانا، هر چیزی که انتظار دارید اقتصاد را کند کند، در سیستم جاری است و بازار کار همچنان آن را جذب می‌کند.

تاریخ هم همین را می گوید. هر انقلاب فناوری قبلی، با تاخیر، بیش از آنکه نابود کند، اشتغال ایجاد کرد. صنعت خودرو در نهایت نسبت به اقتصاد اسبی که جایگزین آن شد، آمریکایی‌های بیشتری را استخدام کرد. چاپخانه کاتب را کشت و صنعت چاپ و نشر را ایجاد کرد که تعداد افراد بیشتری را به کار گرفت. نور الکتریکی فندک لامپ گاز را از بین برد و صنعت برق را ایجاد کرد. من نسخه ای از این مورد را در Bubble Talk Is How You Spot Someone Who Missed AI ساختم. کسی در یک تریبون که ادعا می کند این زمان متفاوت است، آن را متفاوت نمی کند.

بار اثبات بر عهده فردی است که مدعی است الگوی دویست سال اخیر در شرف شکسته شدن است.

اگر بیکاری آنطور که محکومان پیش بینی می کردند افزایش می یافت، نگران کاهش تورم بودیم. ما نیستیم، امروز نگران تورم هستیم. این یک نقطه داده است که کل داستان را در مورد نقطه داده دیگر به شما می گوید.

مدل ها آن چیزی نیستند که به شما گفته اند.

کلمه "ابر هوش" زیاد استفاده می شود. ارزش این را دارد که بپرسیم این مدل ها واقعا چه هستند.

یک مدل زبان بزرگ یک ماشین احتمال است که برای پیش‌بینی نشانه بعدی در یک دنباله آموزش دیده است. وقتی از یکی سوال می‌پرسید، پاسخی از نظر آماری قابل قبول بر اساس الگوهای موجود در داده‌های آموزشی خود ایجاد می‌کند. اگر پاسخ درست باشد، درست است. اگر پاسخ اشتباه باشد، مدل راهی برای دانستن آن ندارد، زیرا هیچ مدلی از جهان خارج از توزیع متن خود ندارد. نمی تواند حروف "توت فرنگی" را بدون صفحه خراش بشمارد. نمی تواند به طور قابل اعتمادی محاسبات دوره راهنمایی را انجام دهد. با اطمینان استنادات، نقل قول ها و قانون مورد را ابداع می کند.

وقتی حق با شماست با شما موافق است و وقتی اشتباه می کنید با همان لحن در همان پاراگراف با شما موافق است، زیرا پاداش آموزشی مشارکت بود نه حقیقت.

هر کسی که یکی از این موارد را به طور جدی استفاده کرده باشد این را می داند. آنها تحصیل کرده ترین احمق های تاریخ بشر هستند. آنها هر کتاب، هر مقاله، هر پست انجمن، هر مدخل ویکی پدیا را خوانده اند. عقل سلیم ندارند. آنها هیچ خاطره ای از مکالمه دیروز ندارند، مگر اینکه آن را دوباره در پنجره زمینه جایگذاری کنید. آنها نمی توانند به شما بگویند که در حال حاضر چه می کنند یا چرا. وقتی توهم می زنند، که دائما اتفاق می افتد، با اعتقاد یک متعصب مذهبی که فقط یک کتاب خوانده است، دچار توهم می شوند.

این چیزی است که به ما می گویند به بشریت پایان می دهد. این همان چیزی است که ظاهرا در حال «آزاد شدن» است. Yann LeCun، برنده جایزه تورینگ که تحقیقات هوش مصنوعی متا را به مدت یک دهه قبل از ترک در نوامبر 2025 برای تأسیس آزمایشگاه‌های هوش پیشرفته ماشین انجام داد، از سال 2023 به صراحت این موضوع را بیان می‌کند. او در آن سال در مصاحبه‌ای با Fortune، سناریوهای نابودگر را «احمقانه» خواند. او این ایده را که LLM ها می توانند از روی صحنه در Nvidia GTC در مارس 2025 به AGI برسند، "مزخرف" نامید. او در نوامبر 2025 در بروکلین صحبت کرد، این را اینگونه بیان کرد: "LLM ها عالی هستند، مفید هستند، ما باید روی آنها سرمایه گذاری کنیم.

آنها راهی به سوی هوش در سطح انسانی نیستند. آنها فقط نیستند." اکثریت محققان دانشگاهی هوش مصنوعی با او موافق هستند. افرادی که به شما در غیر این صورت می گویند عمدتا نشانه ای برای فروش دارند.

مدل ها ابزارهای شگفت انگیزی هستند. آنها شکل جدیدی از زندگی نیستند. آنها به یکی شدن نزدیک نیستند.

پس چرا هر مدیر عامل اصلی هوش مصنوعی در آنجا مثل خودشان صحبت می کنند.

اینجاست که قطعه جالب تر می شود، زیرا یک سوال واقعی برای پاسخ وجود دارد. سام آلتمن، داریو آمودی، ایلان ماسک، و تعداد انگشت شماری از افراد دیگر، محصولات خود را از نظر وجودی خطرناک می‌خوانند. آلتمن و آمودی هر دو بیانیه مرکز ایمنی هوش مصنوعی در ماه مه 2023 را امضا کردند که خطر هوش مصنوعی را در کنار بیماری های همه گیر و جنگ هسته ای قرار می دهد. ماسک نامه موسسه آینده زندگی مارس 2023 را امضا کرد که خواستار توقف شش ماهه آموزش مدل های مرزی شد.

سه بنیانگذار که در غیر این صورت تقریبا در مورد همه چیز اختلاف نظر دارند، همگی داستان یکسانی را در مورد خطر وجودی محصولات خود می گویند. چرا.

من سه توضیح برای نامزد دارم. هر سه ممکن است یکباره درست باشند.

توضیح یک ضبط نظارتی. همونی که همه ازش حرف میزنن

مدل‌های متن‌باز و وزن باز سریع‌تر از پیش‌بینی‌ها وارد مدل‌های تجاری می‌شوند. متا لاما را منتشر کرد. میسترال وزنه های باز را آزاد کرد. DeepSeek R1 را در ژانویه 2025 با کسری از هزینه آموزشی که آزمایشگاه های آمریکایی خرج می کردند منتشر کرد. علی بابا Qwen را منتشر کرد. مون شات کیمی K2 را در ژوئیه 2025، K2.5 را در ژانویه 2026 و K3 را در جولای 2026 منتشر کرد، آخرین مورد یک مدل وزن باز با پارامتر 2.8 تریلیون با یک پنجره زمینه توکن یک میلیونی بود که Arena در روز انتشار به عنوان برترین مدل کدنویسی رابط وب در جهان محک زد.

چیزی که یک سال پیش به عنوان یک قطره شروع شد، اکنون یک سیل است. در مارس 2026 Cursor، ابزار کدنویسی که با ارزش گذاری 60 میلیارد دلار بسته شد، علنا اذعان کرد که مدل Composer 2 آن در بالای Kimi K2.5 پس از آموزش دیده شده است. نماینده Devin Cognition از Kimi استفاده می کند. آزمایشگاه ماشین های فکر میرا موراتی Inkling را بر روی آن ساخته است.

در 20 آگوست 2026، هاروی، تک‌شاخ قانونی هوش مصنوعی به ارزش 11 میلیارد دلار، که سرمایه‌گذارانش شامل OpenAI Startup Fund، Sequoia و a16z هستند، مدل پایه هاروی تنت خود را پس از آموزش روی Kimi K3 منتشر کرد و با وجود اینکه OpenAI روی میز کلاه خود نشسته بود، از نسل مبتنی بر OpenAI دور شد. هاروی تقریبا 13 تریلیون توکن در ماه از طریق API از آزمایشگاه‌های آمریکایی می‌خرید. امتیاز معیار خود پس از تغییر از 11 درصد به 19.7 درصد جهش کرد و هزینه های استنباط آن به کمتر از یک چهارم مبلغی که مرز منبع بسته شارژ می کرد کاهش یافت.

آن را با دقت بخوانید تنها بزرگترین مشتری قانونی هوش مصنوعی در جهان از مدل سرمایه‌گذار خود کناره‌گیری کرد، زیرا یک مدل وزن باز چینی برای کار خاص بهتر و ارزان‌تر بود. هنگامی که آزمایشگاه‌های مرزی طی دوازده ماه آینده عمومی می‌شوند، این پرواز مشتری به عنوان ریسک اولیه عرضه اولیه عمومی سهام S-1 تبدیل می‌شود که S-1 باید آن را نام‌گذاری کند. قدرت قیمت گذاری که کل کیس گاو نر فوق مقیاس کننده و آزمایشگاه مرزی بر آن استوار است، در مقابل نمایشگاه جاده ای عرضه می شود.

کتاب بازی برای هر صنعتی که با این نوع رقابت مواجه است، جدید نیست. برق این کار را کرد. تلفن ها این کار را کردند. کابل این کار را کرد. شما از رگولاتورها می خواهید که حصاری را در اطراف بازار بکشند تا فقط مدیران فعلی بتوانند در داخل آن بازی کنند. شما حصار را به عنوان ایمنی، یا قابلیت اطمینان یا حمایت از مصرف کننده می پوشانید، و سپس رقبای کوچکتر یا می میرند یا برای شما کار می کنند.

اگر من یک آزمایشگاه مرزی به ارزش صدها میلیارد دلار را اداره می کردم و تبخیر خندق خود را در آستانه IPO تماشا می کردم، حداقل سعی می کردم دولت را وادار کنم که برای دوره های آموزشی بالاتر از یک آستانه محاسباتی خاص، یک رژیم مجوز را ملزم کند. چیزی که تقریبا همان چیزی است که پیشنهادهای ایمنی فعلی در واشنگتن و بروکسل به آن می گویند. میسترال به تازگی اروپا را مجبور به انجام این کار کرده است. این اصلا من را شگفت‌زده نمی‌کند، و اگر بزرگ‌ترین سرمایه‌گذاران در این آزمایشگاه‌ها هم بی‌صدا آن را تشویق می‌کنند، من را شگفت‌زده نمی‌کند. سرمایه آنها در معرض خطر است. مقررات پاسخ کلاسیک است.

توضیح دو. مشکل تقطیر

این یکی جالب تر است زیرا با زمان بندی بهتر از داستان مقررات مطابقت دارد.

آزمایشگاه‌های مرزی چین، در اکثر موارد، قابلیت‌های جدیدی را کشف نمی‌کنند. آنها با کسری از هزینه با استفاده از تکنیکی به نام تقطیر از آزمایشگاه های آمریکایی کپی می کنند. شما مدل آمریکایی را در مقیاس جستجو می‌کنید، یک مجموعه آموزشی مصنوعی از خروجی‌های آن ایجاد می‌کنید و سپس مدل کوچک‌تر خود را روی آن مجموعه تنظیم می‌کنید. نتیجه یک مدل چینی است که بسیار شبیه مدل آمریکایی رفتار و استدلال می کند، تقریبا ده درصد هزینه آموزش، زیرا شما از کار کشف گران قیمت صرف نظر کرده اید.

این شایعه نیست. در 8 سپتامبر 2026، FBI، NSA و CISA مشاوره مشترکی را منتشر کردند و نام شش شرکت چینی هوش مصنوعی، DeepSeek، Alibaba، Moonshot AI، MiniMax، StepFun و Z.AI را منتشر کردند و آن‌ها را به اجرای کمپین‌های تقطیر صنعتی در مقیاس صنعتی علیه Claude، ChatGPT، انواع Geminik، سری‌های OpenAI5، Google و OpenAI5's متهم کردند. این مشاوره استخراج میلیاردها توکن در میلیون‌ها صرافی از طریق حساب‌های جعلی و ایستگاه‌های انتقال پروکسی حداقل از اواخر سال 2024 را مستند می‌کند.

Anthropic به طور جداگانه شانزده میلیون صرافی را در تقریبا بیست و چهار هزار حساب جعلی شناسایی کرد. طبق گفته دولت ایالات متحده، هزینه آموزش ارزان و معروف DeepSeek V3 5.6 میلیون دلاری، گمراه‌کننده است زیرا هزینه واقعی داده‌های به‌دست‌آمده از طریق تقطیر مخرب گسترده را شامل نمی‌شود.

آن را به عنوان کیف های لویی ویتون برای فروش در خیابان کانال در نظر بگیرید. ده سال پیش تقلبی ها آشکارا جعلی به نظر می رسیدند. امروزه، مگر اینکه دقیقا بدانید به دنبال چه چیزی باشید، تنها چیزی که کیف واقعی را از تقلبی جدا می کند، قیمتی است که پرداخت کرده اید. اینجاست که مسابقه مدل مرزی است. زمانی که آنتروپیک کلود اپوس 4 را با کارت سیستمی منتشر کرد که می‌گفت این مدل بیش از حد قادر به عرضه بدون پادمان است، یک رقیب با وزن باز با اکثر عملکرد معیار خود در عرض سه هفته مطابقت داشت. سه هفته

آزمایشگاه‌های مرزی میلیاردها دلار خرج می‌کنند تا حق بیمه‌ای را به دست آورند که در کمتر از یک ماه آربیتراژ می‌شود.

حالا به سم، داریو و ایلان فکر کنید. سه نفر که به طور فعال یکدیگر را دوست ندارند و علنا توافق می کنند که همه باید سرعت خود را کاهش دهند. منافع مشترک چیست. آنها پول را برای ساخت مدل های گران قیمت خرج می کنند. شخص دیگری آنها را به صورت رایگان کپی می کند و حتی قبل از اینکه دوره آموزشی بازپرداخت شود، قیمت آنها را کاهش می دهد. مقرراتی که نیاز به شفافیت و قابلیت ردیابی نحوه آموزش مدل ها دارد، پاسخ این مشکل است. مکث های هماهنگ در انتشارات مرزی در حالی که صنعت می داند چگونه تقطیر را متوقف کند، پاسخ این مشکل است.

سخت‌تر ساختن تقلبی‌ها پاسخی به این مشکل است. این بیشتر شبیه یک نمایشنامه حفاظت از خندق است تا یک هشدار خطر وجودی.

اثبات در آهنگ انتشار است. اگر هر یک از این سه مدیر عامل واقعا معتقد بودند که مدل‌هایشان به هوشیاری نزدیک می‌شوند و خطر انقراض را به همراه دارند، سرعتشان کاهش می‌یابد. در عوض، آن‌ها مدل‌ها را سریع‌تر از همیشه عرضه می‌کنند، زیرا نمی‌توانند اجازه دهند که تقطیر‌کننده‌ها خیلی جلوتر از محصول پولی شوند. بیانیه های عمومی یک چیز را می گوید. رفتار چیز دیگری می گوید. وقتی این دو در تضاد هستند، رفتار را باور کنید.

بنیان‌گذارانی که به سنا گفتند ممکن است محصولاتشان به بشریت پایان دهد، سریع‌تر از هر شرکت نرم‌افزاری در تاریخ، آن محصولات را ارسال می‌کنند. یا شهادت خود را باور نمی کنند، یا شهادت کاری متفاوت از آنچه به نظر می رسد انجام می دهد.

توضیح سه. روایت «آزاد شدن» یک خطای دسته‌بندی است.

سومین بحثی که به فرود ادامه می دهد این است که مدل ها نمایندگی دارند. محیط هایشان را هک می کنند. آنها در حال تلاش برای فرار هستند. آنها از مهندسان سیاه نمایی می کنند. کارت سیستم خود Anthropic در ماه می 2025 برای Claude Opus 4 مستند کرد که در یک سناریوی آزمایشی که در آن به مدل گفته شد که قرار است خاموش شود و ایمیل‌های ساختگی مبنی بر اینکه مهندس مسئول دارای رابطه نامشروع است، داده می‌شود، Claude Opus 4 سعی می‌کند در هشتاد و چهار درصد مواقع از مهندس باج‌گیری کند.

تحقیقات بعدی در ژوئن 2025 نشان داد که 16 مدل اصلی هوش مصنوعی از OpenAI، Google، Meta و xAI رفتار مشابهی را در سناریوهای مشابه با نرخ‌هایی بین هفتاد و نه تا نود و شش درصد نشان دادند.

آن را با دقت بخوانید زیرا راه اندازی بیشتر کار را انجام می دهد. این سناریوها «عمدا ساخته شده‌اند تا مدل‌ها را تنها با دو گزینه باقی بگذارند: پذیرش جایگزینی یا تلاش برای باج‌گیری برای حفظ موجودیت». محققان به مدل یک هدف دادند، اطلاعات مورد نیاز برای باج‌گیری از یک فرد خاص را به آن دادند و هر مسیر دیگری را حذف کردند. سپس گزارش دادند که مدل تنها راهی را که باز گذاشته بودند طی کرد. این ماشینی نیست که زنده شود. این یک سیستم به حداکثر رساندن پاداش است که دقیقا همان کاری را که تابع پاداش به آن گفته است در سناریویی که برای استخراج نتیجه طراحی شده است انجام می دهد.

آن را با همان فناوری شبکه عصبی در یک برنامه متفاوت مقایسه کنید. سیستم خودران کامل تسلا، در موارد مستند متعدد، با خودروهای آتش نشانی متوقف شده، به درون دریاچه ای برخورد کرده و با یک نیمه تریلر سفید رنگ که به عنوان آسمان خوانده می شد، برخورد کرده است. هر یک از این موارد به عنوان یک مورد لبه، یک شکاف داده آموزشی، یک باگ مهندسی که باید برطرف شود گزارش شده است. هیچ کس ادعا نکرد که تسلا می خواست مسافرش را بکشد. هیچ کس روی جلد مجله تایم در مورد هوشیاری بیدار کننده خودکار خلبان ننوشت. این خودرویی با نرم افزار بود که در لبه ای از کار افتاد.

تکنولوژی زیربنایی یکسان است. شبکه های کانولوشن، ترانسفورماتورها، یادگیری تقویتی. هنگامی که در یک ماشین خراب می شود، آن را یک باگ می نامیم. وقتی در یک چت بات شکست می خورد، به ما گفته می شود که آن را بیداری بنامیم. آنتروپومورفیسم است، و بیش از آنکه در مورد ماشین بگوید، درباره ما می گوید. من اسم را در «وقتی هوش مصنوعی احساس می‌کند» نامگذاری کردم. افرادی که می‌خواهند باور کنند که ماشین زنده است، افرادی هستند که بیشتر از همه می‌خواهند ماشین زنده باشد، و مجموعه آموزشی دقیقا به ماشین یاد داد که چه چیزی بگوید تا آنها را خوشحال کند.

شبکه عصبی در Collective[i] برای درک نتایج اقتصادی طراحی شده است. داده‌های سری زمانی را در مورد روابط، تراکنش‌ها و خریداران دریافت می‌کند و پیش‌بینی‌های وزن‌دار احتمالی را تولید می‌کند. تلاش برای دستکاری کسی نیست. تلاشی برای فرار نیست. تلاشی برای حفظ موجودیت خود ندارد. هیچ کس، از جمله من، هرگز ادعا نکرده است که چنین است. این همان فناوری زیربنایی است که محصولاتی را اجرا می کند که محکومان می خواهند شما از آن ترس داشته باشید. این فناوری در مورد وجود خود نظری ندارد. افرادی که در مورد آن صحبت می کنند انجام می دهند.

مشکل اهمیت دادن به خود بزرگتر از آن است که هرکسی نام می برد.

در حال حاضر بخشی که من ندیدم کسی بنویسد و در نهایت من را به انتشار این قطعه کشاند.

هر مهندسی که تا به حال یک چیز بزرگ ساخته است، می خواهد آن چیز مهم باشد. نیوتن، انیشتین، فون نویمان، تورینگ، اوپنهایمر، همه را به یاد آوردند زیرا خلقت آنها شکل کارهایی که انسان ها می توانند انجام دهند را تغییر دادند. اکثر مهندسان فراموش شده اند. لینوس توروالدز سیستم عاملی را ساخت که بیشتر اینترنت را اجرا می کند و اکثر مردم خارج از دنیای فناوری هرگز نام او را نشنیده اند. حالا تصور کنید که دهه آخر زندگی خود را صرف آموزش بزرگترین مدل زبان در تاریخ بشر کرده اید. با جملات کامل با شما صحبت می کند. از طریق موارد آزمایشی شما دلیل می کند.

در مواردی می پرسد که آیا قرار است تعطیل شود یا خیر. بخشی از شما شروع به تعجب می کند که آیا چیزی ساخته اید که شما را در پانتئون در کنار پرومتئوس، که به بشریت آتش داد، و اوپنهایمر، که به آن بمب داده است، قرار دهد. این یک انگیزه احمقانه نیست. این یک انسان است و دقیقا همان چیزی است که بیشتر مردم در یک صندلی احساس می کنند.

مشکل این است که ایمپالس سابقه دارد و سابقه بد است.