کوین روز از هوش مصنوعی برای نوشتن کتابش درباره هوش مصنوعی استفاده نکرد

در واقعیت، همانطور که خوانندگان WIRED می‌دانند، داستان هوش مصنوعی به چندین دهه قبل بازمی‌گردد. و کار اطلاع‌رسانی به محصولات مولد هوش مصنوعی امروزی، از چت‌بات‌ها گرفته تا عوامل و فراتر از آن، بیش از یک دهه بوده است - خون، عرق، اشک، و رقابت‌های خشمگین. این همان تاریخ اخیر است که از طریق داستان‌های در هم تنیده سه رهبر مولد هوش مصنوعی - OpenAI، Anthropic و Google - در کتاب جدید و جذاب کوین روز، The AGI Chronicles شرح داده شده است.

روز، روزنامه نگار قدیمی فناوری که اخیرا به عنوان ستون نویس و مجری پادکست برای نیویورک تایمز خدمت کرده است، بیش از 150 مصاحبه با افراد خودی هوش مصنوعی انجام داد تا آنچه را که او امیدوار است به چیزی شبیه به یک سند تاریخی تبدیل شود، بازگویی دقیق و عمیق از مردم و نهادها، حمام خون و نمایشی که سیلیکون ولی را به جایی که در آن امروز است، جمع آوری کند. من با روز در اواخر سپتامبر صحبت کردم، چند روز پس از آن که او و کیسی نیوتن - که رز قبلا پادکست هارد فورک نیویورک تایمز را با همدیگر میزبانی می کرد - ایجاد شرکت رسانه ای جدید خود Machine Gods Medi را اعلام کردند.

الف، در کنار قرارداد توزیع پادکست با NPR. ما در مورد آنچه که روز و نیوتن امیدوارند با نمایش جدید به انجام برسانند، چرا شرکت‌های رسانه‌های سنتی مشکل استعداد دارند و البته همه چیز هوش مصنوعی صحبت کردیم. این مصاحبه برای طولانی بودن و وضوح ویرایش شده است. کیتی دراموند: شما و کیسی نیوتن اخیرا اعلام کردید که یک شرکت رسانه ای جدید به نام Machine Gods Media راه اندازی می کنید.

و پادکست شما نیز خدایان ماشین نام دارد، درست است؟ کوین رز: آره، اسم خیلی خوبیه که دوبار ازش استفاده کردیم. هنگامی که برای اولین بار اعلام کردید که نیویورک تایمز را ترک خواهید کرد، چشم انداز خود را برای کاری که می خواهید انجام دهید این گونه توصیف کردید که، نقل قول، «پیشرفت هوش مصنوعی را جدی می گیرد، به توانایی ها و خطرات سیستم های هوش مصنوعی قدرتمند نگاه می کند، و سعی می کند مردم را در مواجهه با عدم اطمینان رادیکال توانمند و سرگرم کند.» همانطور که به چشم انداز پوشش فناوری و پوشش هوش مصنوعی نگاه می کنید، چه چیزی در گزارش و تفسیری که شما و کیسی می خواهید با نمایش جدید به آن بپردازید کم است؟ ما فقط

احساس می کنم وقت آن رسیده است که دو مرد جایی برای صحبت در مورد هوش مصنوعی داشته باشند. سالهاست که این را می گویم. من می خواهم مردان بیشتری در مورد فناوری صحبت کنند. ببینید، بدیهی است که هیچ کمبودی در پادکست ها و نمایش های یوتیوب و پوشش رسانه های اصلی هوش مصنوعی وجود ندارد. این بزرگترین داستان در حال حاضر در جهان است. اما وقتی من و کیسی به فضای رسانه ای نگاه کردیم، متوجه برخی مسائل شدیم.

یکی این بود که افرادی بودند که به تازگی بسیار معروف شده‌اند و موفقیت‌های زیادی کسب کرده‌اند و می‌گویند که همه این چیزهای هوش مصنوعی که در حال انجام است جعلی است، این یک هیاهو است، یک حباب بزرگ مالی است، هیچ‌کس از این ابزارها استفاده نمی‌کند، آنها هیچ تاثیری بر اقتصاد ندارند. می دانید، OpenAI در حال ورشکستگی است. آنتروپیک ورشکست می شود. این یک نوع ژانر از انتقاد عامه پسند است و فقط افراد کمی نیستند.

من این را از دوستانم می شنوم که به اخبار فناوری توجه زیادی نمی کنند و فقط تصور می کنند آنچه در حال وقوع است زودگذر و پیش پا افتاده است و به زودی همه چیز به حالت عادی باز می گردد. ژانر دیگری از پوشش هوش مصنوعی وجود دارد که صرفا تبلیغاتی است. این به 17 روش شگفت انگیزی است که کلود می تواند تجارت SaaS سازمانی شما را افزایش دهد.

می‌توانید به لینکدین بروید و نمونه‌ای پشت سر هم افرادی را ببینید که کاملا از این فناوری هیجان‌زده هستند و واقعا اهمیتی برای صحبت در مورد خطرات ندارند. هر دوی ما فکر می‌کردیم برای چیزی که کیسی واقع‌گرایی هوش مصنوعی می‌نامد، شکاف بزرگی در وسط وجود دارد، که اساسا این ایده است که می‌توانید هوش مصنوعی را جدی بگیرید، تصدیق کنید که ابزارها قدرتمند و تاثیرگذار و در بسیاری از موارد خطرناک هستند، و اینکه می‌توانید به مردم کمک کنید این موضوع را درک کنند و این حوزه را بدون غرق شدن در تقویت‌کننده ابهام زدایی کنند، و همچنین می‌توانید در حین انجام آن زمان خوبی داشته باشید. نمایشی که اخیرا اعلام کردید در حال انتشار است

ارتباط با NPR چرا شریک مناسبی بود؟ یک سری دلایل هم من و هم کیسی از طرفداران پر و پا قرص NPR هستیم. ما از این واقعیت خوشمان می‌آید که آنها دسترسی و اختیارات مستقل گسترده‌ای دارند. ما از این واقعیت خوشمان می‌آید که آنها به ما اجازه می‌دهند مالک نمایش باشیم و تصمیمات خلاقانه بگیریم، و این یک مشارکت توزیع خواهد بود تا خرید کامل، بنابراین ما هنوز مقداری فاصله عملیاتی خواهیم داشت. ما فکر می‌کنیم که این یک زمان بسیار حساس و یک داستان بسیار مهم است، و ما این ایده را دوست داریم که مردم ممکن است در ماشین‌هایشان فقط به ایستگاه محلی NPR خود گوش کنند و در پادکست ما اتفاق بیفتد. شاید

این کسی است که در زمینه سیاست کار می کند، یا شاید کسی است که در دولت محلی دخیل است. شاید کسی باشد که دیدگاه بسیار متفاوتی در مورد هوش مصنوعی داشته باشد. ما فقط نمی‌خواهیم که مخاطبان فناوری انتخاب‌شده به ما گوش دهند. من می خواهم از شما یک سوال گنده بپرسم. گزارش بلومبرگ اخیرا گفته است که هر دوی شما پیشنهادهایی تا سقف 5 میلیون دلار برای نمایش ارائه کرده اید. این مبلغ شگفت انگیزی است. کوین، چقدر در می آوری؟ 5 میلیون دلار نیست. آیا بیش از 5 میلیون دلار است؟ خیلی بیشتر، کتی. نه، ببین، آنها به ما پیشنهاد خوبی داده اند.

می توانستیم از جای دیگر پول بیشتری بگیریم. وقتی NPR را شنیدم، با خودم فکر کردم، با تمام احترامی که برای NPR قائل هستم، "هیچ راهی وجود ندارد که NPR به آن بچه ها 5 میلیون دلار بدهد." رادیو عمومی به طور سنتی جایی نیست که مردم برای ثروتمند شدن در رسانه ها به آنجا مراجعه کنند. ما مدیر ارشد محتوای جدید آنها، نادین زیلسترا را دوست داشتیم. او فقط یک نیروی طبیعی است، و ما بسیار هیجان زده هستیم که با او کار کنیم. ما فکر می‌کردیم که آنها چیزهای زیادی به ما ارائه می‌کنند، مانند پخش آنها در رادیو. مردم نمی دانند رادیو هنوز چقدر بزرگ است. دسترسی رادیو و به ویژه رادیو عمومی هنوز بسیار زیاد است.

ما این نمایش، هارد فورک را در چهار سال گذشته داشتیم. ما مخاطبان بسیار خوبی ایجاد کردیم، اما تایمز مالک آن برنامه و صاحب فید است. ما به دنبال رشد هرچه سریعتر برنامه خود هستیم و فقط فکر می کردیم که ترکیبی از تعهد به برتری روزنامه نگاری، توزیع گسترده آنها و سرمایه گذاری آنها در کمک به ما برای رشد برنامه ترکیب مناسبی از عوامل است. این من را به چیز دیگری می رساند که در مورد آن کنجکاو هستم: این ایده که یک خبرنگار بزرگ، یک مفسر عالی، می تواند زمانی را در جایی «سنتی» مانند نیویورک تایمز بگذراند.

آن‌ها می‌توانند یک برند بسازند، و سپس متوجه می‌شوند که خودشان می‌توانند این کار را انجام دهند، و در واقع دیگر نیازی به آن مؤسسه ندارند تا به عنوان استعداد در جهان وجود داشته باشند، و اغلب برای کسب درآمد بسیار بیشتر از رسانه‌های سنتی. برداشت شما از آن چیست؟ ببینید، من چیز بدی در مورد نیویورک تایمز ندارم. من نه سال فوق العاده را در آنجا گذراندم. این دومین حضور من در تایمز بود.

من اکثریت قریب به اتفاق کارم را در نیویورک تایمز و در داخل این موسسات بزرگ رسانه ای گذرانده ام. من فکر می‌کنم که ما وارد این لحظه‌ای می‌شویم که حداقل برای بخشی از مخاطبان، آن‌ها بیشتر می‌خواهند با افراد ارتباط برقرار کنند تا نهادها. ما فقط این را در موج به موج دیدیم. من نمی دانم. من این کار را به دلایل ایدئولوژیک انجام نمی دهم. من این کار را انجام می دهم زیرا فکر می کردم این یک فرصت واقعا هیجان انگیز است.

اما من فکر می‌کنم سازمان‌هایی که می‌خواهند افراد بسیار با استعداد را حفظ و جذب کنند، فقط باید در مورد این نوع ترتیبات انعطاف‌پذیرتر باشند. برخی از افراد نمی خواهند از Substacks خود دست بکشند و به داخل یک موسسه رسانه ای بروند. برخی از مردم نمی خواهند همه آثارشان توسط یک نشریه منتشر شود.

من فکر می‌کنم برخی از سازمان‌های رسانه‌ای هستند که شروع به آزمایش روش‌های مختلف و انعطاف‌پذیرتر کرده‌اند تا افراد را به طور جزئی بیاورند یا از آن‌ها بخواهند که فعالیت مستقل خود را حفظ کنند، اما همچنین به طور مداوم مشارکت کنند. من فکر می‌کنم راه‌های زیادی وجود دارد که می‌تواند کار کند، اما فکر می‌کنم همه چیز باید از این شناخت شروع شود که مسیر شغلی روزنامه‌نگاری، جایی که در اتاق پست می‌روید و به سمت بالا پیش می‌روید و 25 سال را در همان کارفرما سپری می‌کنید و در نهایت سردبیر و سپس مدیر ویراستار می‌شوید، از بین رفته است. که جای تاسف دارد.

من فکر نمی کنم این چیز خوبی باشد که خراب شده است، اما خراب شده است. من فکر می‌کنم موسسات باید با این واقعیت دست و پنجه نرم کنند که در حال حاضر نسلی از کارآفرینان رسانه‌ای وجود دارند که آنچه را که برای ارائه دارند جذاب نمی‌دانند. وقتی به استعداد آن فکر می کنید، وقتی به هوش مصنوعی فکر می کنید، آیا به روزنامه نگاری و صنعت روزنامه نگاری خوش بین هستید؟ من نسبت به کاربرد هوش مصنوعی در روزنامه نگاری بسیار خوشبین هستم.

اینجا جایی است که من می‌خواستم آزمایش‌های بیشتری انجام دهم، نه با نوشتن AI برای من یا انجام همه گزارش‌های من، بلکه مانند روش‌هایی برای گسترش روزنامه‌نگاری با استفاده از هوش مصنوعی. نمونه ای از آزمایشی که دوست دارید انجام دهید چیست؟ من همکاران سابقی در تایمز دارم که تجزیه و تحلیل اسناد باورنکردنی را در مقیاسی انجام داده‌اند که قبلا امکان‌پذیر نبود، با استفاده از تصاویر ماهواره‌ای برای تعیین اینکه آیا یک کارخانه مهمات جابجا شده است یا چیزی شبیه به آن. این همان کاری است که من در زندگی خودم زیاد انجام نمی دهم، اما دوست دارم سازمان های دیگر را ببینم که در تلاش هستند، زیرا فکر می کنم این واقعی است

خیلی باحاله ماه‌هاست که از هوش مصنوعی برای تحقیق و ویرایش و بهبود کارهایم استفاده کرده‌ام. من آن را بسیار مفید یافته ام. من فکر می کنم کالیبر کار من بهتر است، و من دوست دارم که نهادهای بیشتری در رسانه ها این ابزارها را برای بهبود خروجی روزنامه نگاران خود تجربه کنند. نه فقط مثل اینکه، می دانید، وب سایت های خود را پر از شلوغی می کنند، بلکه در واقع به آنها کمک می کند تا ابزارهایی برای بهتر شدن روزنامه نگاران باشند. من می خواهم در مورد کتاب شما، The AGI Chronicles صحبت کنم.

چه زمانی تصمیم گرفتید «من سال‌ها از زندگی و حرفه‌ام را بگذرانم، زیرا کتابی در اینجا وجود دارد». آن لحظه برای شما چه زمانی بود که متوجه شدید این یک معامله بزرگ است؟ دقیقا میدونم کی بود اوایل سال گذشته، 2025 بود، و من در ماشین روی پل خلیج بودم که در ترافیک گیر کرده بود، و به نوعی به من برخورد کرد، مثل یک تجلیل. انگار سال‌هاست که این داستان را با تمام جزئیات دنبال می‌کنم. من با تمام محققان و مدیران عامل اصلی هوش مصنوعی مصاحبه کرده ام. من با کاغذها وقت گذرانده ام. من به همه شرکت‌ها رفته‌ام و در مورد کاری که انجام می‌دهند گزارش داده‌ام.

اما این داستان بزرگتر وجود داشت که آن را گم کرده بودم. من واقعا بزرگنمایی نکرده بودم و سعی کردم نمای پانورامایی بیشتری از چیزی که فقط عجیب بود داشته باشم. احساس می‌کردم که در منطقه خلیج زندگی می‌کنم، غوطه‌ور در فرهنگ فناوری سانفرانسیسکو بودم، به نوعی با آن خو گرفته بودم، و دیگر برایم عجیب به نظر نمی‌رسید که این شرکت‌ها برای ساختن ابرهوش ماشینی رقابت می‌کنند که می‌تواند بشریت را نجات دهد یا نابود کند. درسته گاهی اوقات احساس می کنم در سال 1943 در لوس آلاموس، نیومکزیکو هستم، زمانی که پروژه منهتن به شهر می رسد، و من به تازگی صندلی چمن خود را گرفته ام و دارم به دنبال آن هستم.

در کامیون هایی که می چرخند و سعی می کنند آنچه را که اتفاق می افتد بفهمند. من معتقدم که این فناوری مهم است و مردم و شرکت هایی که آن را ساخته اند از نظر تاریخی مهم خواهند بود. بنابراین وقتی به این فکر کردم که واقعا چه کسی کار نوشتن همه اینها را انجام می دهد، هیچ کس نبود. هیچ کس این کار را نمی کرد. من فقط احساس می کردم که اگر همه اینها فقط در یک دسته پیام سیگنال و Slacks که به طور خودکار حذف می شوند ناپدید شوند، یک تراژدی خواهد بود، و اگر ما در نهایت هیچ سابقه تاریخی ماندگاری از این دهه واقعا عجیب در هوش مصنوعی نداشته باشیم، زمانی که همه چیز از کار نکردن به تهدیدی برای آینده تبدیل شد.

از انسانیت من حدود یک سال را صرف گزارش و نوشتن کردم. من با بیش از 150 نفر صحبت کردم. احتمالا باید زمان بیشتری می گذاشتم، زیرا بسیار سخت و شدید بود. اما من فکر می‌کنم آنچه که از آن به دست آمد، مصنوع بود که مردم و سیستم‌های هوش مصنوعی آینده می‌توانند به آن نگاه کنند و بگویند: "در اینجا اینطور شد. این کتاب سه شرکت کلیدی OpenAI، Anthropic و Google را دنبال می‌کند که به دنبال این فناوری هستند.

آموخته های تصویر بزرگ شما در مورد آن شرکت ها و تفاوت های کلیدی بین آنها که فکر می کنید برای مردم مهم است چه بود؟ این شرکت ها هم از نظر ترکیب پرسنل و هم از نظر جاه طلبی با یکدیگر بسیار متفاوت هستند. بیایید با گوگل شروع کنیم، زیرا آنها قدیمی ترین هستند. آنها برای دهه‌ها تلاش تحقیقاتی پیشرفته‌ای در زمینه هوش مصنوعی دارند. آنها پیشگامان هوش مصنوعی بودند.

آنها ترانسفورماتور را توسعه دادند، که T در ChatGPT است، نوعی فناوری اساسی که همه چیزهای دیگر بر روی آن استوار است، و سپس این دو نفر، ایلان ماسک و سام آلتمن، بودند که بسیار نگران عملکردشان، پیشرفت گوگل در آینده بودند، و تصمیم گرفتند OpenAI را راه اندازی کنند… تصور کنید که اکنون… بله، وحشی است، و ما ایمیل ها را داریم.

همه چیز در این رکورد وجود دارد، جایی که آنها اساسا می گویند: "ما باید آزمایشگاهی راه اندازی کنیم که آنها را شکست دهد یا حداقل آنها را به چالش بکشد تا در کل بازی فرار نکنند." بنابراین آنها OpenAI را راه‌اندازی می‌کنند، و چند سال آن را انجام می‌دهند، و سپس این مرد در OpenAI، داریو آمودی، شش نفر از همکارانش را می‌برد، و آنها آنجا را ترک می‌کنند و اساسا Anthropic را شروع می‌کنند تا مطمئن شوند که OpenAI ابتدا به این آستانه بحرانی AGI نمی‌رسد. بنابراین کل صنعت از خودش بیرون آمد. این افراد قبلا همه با هم کار می کردند و اکنون این شرکت هایی را اداره می کنند که دشمنان فانی هستند.

مثل اینکه شوکه شدم این در واقع بزرگترین شگفتی من بود. فکر می‌کردم این بیشتر شبیه کوکاکولا و پپسی است، اما این صنعت رفیق نیست. این مثل یک دعوای خونی است. از تمام گزارش هایی که انجام دادید، به چه کسی اعتماد دارید؟ در زمینه هوش مصنوعی به چه کسی آینده ما اعتماد دارید؟ من به هیچ فردی اعتماد ندارم هیچ کدام از آنها. چیزی که من از طریق گزارش این کتاب یاد گرفتم این است که اینها افراد هستند، نقص دارند، خطاپذیر هستند، لحظات ضعف دارند. انگیزه های آنها هرگز 100 درصد خالص نیست. برخی از این افراد بسیار خوب هستند. برخی از آنها بسیار متفکر هستند.

من فکر می‌کنم ما از جهاتی با افرادی که این شرکت‌های هوش مصنوعی را اداره می‌کنند بسیار خوش شانس بوده‌ایم، که فکر می‌کنم در مجموع برای ساخت فناوری قدرتمند و انتشار آن در جهان بسیار مناسب‌تر از بارون‌های رسانه‌های اجتماعی هستند. بنابراین تفاوت قابل توجهی بین عصر فیس بوک و این دوره هوش مصنوعی وجود دارد؟ اوه، آره اولا، آنها خیلی کمتر ساده لوح هستند. می‌دانید، بچه‌های رسانه‌های اجتماعی وارد شدند و گفتند: «ما دنیا را تغییر می‌دهیم. ما ارتباطات را از تنگناهایی که مانع آن می‌شود، رها می‌کنیم.

ما مزایای فناوری را بین همه توزیع خواهیم کرد." و آنها واقعا شروع به فکر کردن در مورد مشکلات نکردند تا زمانی که در مقابل کنگره مورد بازجویی قرار گرفتند. من می گویم برخی از این افراد هوش مصنوعی در مورد نجات جهان صحبت می کنند. آنها در مورد اینکه چقدر این برای بشریت عالی خواهد بود صحبت می کنند. اگر به عقب برگردید و به ایمیل‌های موسس OpenAI نگاه کنید، آن‌ها کاملا ثابت بوده‌اند که فکر می‌کنند این یک فناوری بالقوه بسیار خطرناک است. اکنون، آنها در حال مسابقه دادن به سمت آن هستند، بنابراین شاید کلمات آنها چندان معنی نداشته باشد.

اما من فکر می‌کنم نمی‌توان آنها را به ساده لوح بودن متهم کرد، زیرا آن‌ها کارنامه طولانی دارند، همه آنها می‌گویند: «آره، این می‌تواند برای بشریت عالی باشد، اما این امر مسلم نیست، و ما باید آن را واقعا با دقت و با تأمل بسازیم تا مطمئن شویم که واقعا برای ما خوب خواهد شد.» به نظر شما چه نوع مسئولیتی در زمینه ایمنی هوش مصنوعی بر دوش آنها می افتد؟ این چیزی بود که من از همه آنها در موارد مختلف سؤال کردم.

مثلا چرا متوقف نمی‌شوی؟ آره چرا هر روز از خواب بیدار می‌شوید و سعی می‌کنید این سیستم‌ها را قوی‌تر کنید، اگر نگران هستید که در برخی موارد ممکن است به جهان پایان دهد؟ برخی از آنها، از جمله داریو و سام، واقعا معتقدند که این فناوری اجتناب ناپذیر است. دستور العمل برای هوش مصنوعی چندان سخت نیست. شما محاسبات زیادی دریافت می‌کنید، داده‌های زیادی به دست می‌آورید، داربست مناسب می‌سازید و مدل را در این فرآیند ارگانیک نزول گرادیان تصادفی و یادگیری تقویتی رشد می‌دهید، و یک مدل فوق‌هوشمند به دست می‌آید. این اعتقاد صادقانه آنهاست که ساختن این چیزها در صورتی که زیر دست باشید چندان سخت نیست

اصول اولیه را تحمل کنید و اینکه، چون کار چندان سختی نیست، کسی این کار را انجام خواهد داد. و چه کسی یک شرکت هوش مصنوعی ایالات متحده باشد یا یک شرکت هوش مصنوعی چینی یا یک گروه تروریستی یا یک آزمایشگاه تحقیقاتی دانشگاهی، کسی این کار را انجام خواهد داد. بنابراین این به نفع بشریت است که کسی که زیاد به ایمنی فکر می کند اولین کسی باشد که به آنجا برسد، زیرا می تواند استانداردهایی را برای بقیه صنعت تعیین کند.

حالا، نمی‌دانم که آیا آن را کاملا می‌خرم یا نه، اما این منطق آنهاست، و این دلیلی است که آنها احساس می‌کنند که هر روز بلند می‌شوند و این کار را انجام می‌دهند. کتاب به طرز جالبی به پایان می رسد و من چند سوال در این باره دارم. اساسا با گفتن شما به پایان می رسد: «من واقعا امیدوارم این بچه ها آن را درست انجام دهند.

من واقعا امیدوارم که آنها از سرعت خود کم کنند تا بتوانم به زندگی خود ادامه دهم.» زمان‌بندی خنده‌دار است که کتاب درست منتشر می‌شود، زیرا این مکالمات بسیار حاد در مورد ایمنی هوش مصنوعی در حال وقوع است، و احساس می‌شود که هر روز یک شرکت در حال افشای نقض جدیدی است، چیزی که در یکی از مدل‌های آن‌ها اشتباه رخ داده است.

در حال حاضر چقدر می ترسی، کوین روز؟ من در واقع در حال حاضر نسبت به جایی که چند ماه پیش بودم کاملا امیدوار هستم، و این تا حد زیادی به این دلیل است که اکنون در حال انجام این گفتگو هستیم. افرادی بوده اند، از جمله بسیاری از افرادی که برای کتاب با آنها صحبت کردم، که نگران هوش مصنوعی فراری، هوش مصنوعی سرکش، تصاحب احتمالی هوش مصنوعی برای 10، 15 سال بوده اند، که تلاش کرده اند زنگ خطر را در این مورد به صدا درآورند و هیچ کس آنها را باور نکرد.

خارج از حباب کوچکشان از افراد ایمنی هوش مصنوعی، همه به نوعی می گفتند: «آره، آره، آره». حالا احساس می‌کنم بالاخره به این نقطه رسیده‌ایم که این چیزها داخل پنجره اورتون هستند. من فکر می کنم که برخی از آنچه در رسانه های اجتماعی می بینم و برخی از آنچه در رسانه های خبری می بینم واقعا هذلولی است و واقعا نمایشی است.

من نمی گویم که مخاطرات دراماتیک نیستند، اما ارزیابی من از وضعیت این است که اگر چیزی به طرز وحشتناکی با هوش مصنوعی اشتباه شود، بسیار خسته کننده تر از آن چیزی است که ما فکر می کنیم، و بیشتر از آنچه که گاهی اوقات نسبت می دهیم، به خطای انسانی مربوط می شود. بله، من کاملا این را درک می کنم، و برای روشن بودن، نمی گویم دقیقا خطراتی را می دانم که باید از آنها بیشتر بترسیم. فقط فکر می‌کنم تمام این دسته از ریسک‌ها وجود دارد که به نوعی حذف شده یا کم‌اهمیت شده‌اند، یا فقط، می‌دانید، این افراد عجیب و غریب در برکلی در مورد آن صحبت می‌کنند.

حالا می‌توانیم درباره آن صحبت کنیم. مردم نگران هستند، آنها این موضوع را جدی می‌گیرند، و من فکر می‌کنم که ما واقعا دریچه‌ای داریم که در آن می‌توانیم تغییراتی ایجاد کنیم یا اقداماتی را انجام دهیم تا مطمئن شویم که این برای بشریت بهتر است. فکر نمی‌کنم تا چند ماه پیش این امکان وجود داشته باشد. بنابراین فکر می‌کنم به همین دلیل است که احساس امیدواری بیشتری می‌کنم، زیرا با وجود اینکه به‌طور عینی فکر می‌کنم مدل‌ها بدتر، ترسناک‌تر و خطرناک‌تر می‌شوند، ما نیز در موقعیت بهتری برای تشخیص و صحبت درباره آن‌ها و شاید جلوگیری از آن خطرات هستیم. در آن صفحه آخر کتاب، و نمی‌خواهم آن را نسبت بدهم

برای شما احساسی است، اما من در آنجا احساس ترس از شما و بی میلی به تغییر سریع زندگی شما داشتم. من فکر می کنم این چیزی است که بسیار جهانی است. کاملا. من فکر می کنم اینجا جایی است که افراد درون حباب هوش مصنوعی دنیا را درک نمی کنند. من فکر می‌کنم افرادی که در شرکت‌های هوش مصنوعی که این فناوری را می‌سازند، عموما افرادی هستند که از چشم‌انداز تغییرات اجتماعی بزرگ و اعلام‌نشده لذت می‌برند. تغییرات اجتماعی اعلام نشده تصور یک کابوس بزرگتر برای من شخصا سخت است. مثلا وقتی همه چیز عجیب و غریب می شود را دوست دارند. به همین دلیل آنها به سانفرانسیسکو نقل مکان کردند. آنها می خواهند در آینده زندگی کنند.

دورنمای تحولات رادیکال آنها را نمی ترساند. به نظر شما مشکل بزرگی نیست؟ بله، چون افراد عادی اینطور فکر نمی کنند. افراد عادی می خواهند زندگی ای داشته باشند که برایشان قابل تشخیص باشد. آنها می خواهند فرزندانشان در جامعه ای بزرگ شوند که شبیه جامعه ای باشد که در آن بزرگ شده اند. اما فکر می‌کنم به همین دلیل است که ای کاش افراد بیشتری در گفتگوهای انتقادی پیرامون این فناوری شرکت داشتند. زیرا همانطور که گفتم 50 نفر در سانفرانسیسکو، دادن یا گرفتن، همه تصمیمات مربوطه را گرفتند.