هوش مصنوعی ممکن است همه ما را بکشد

در آن زمان، اضطراب هوش مصنوعی بالا بود.

آخرین مدل مرزی، با استعدادهای ظاهری در سطح انسانی، نادرست شده بود - رفتارهای خطرناک و حتی فریبنده آنلاین را نشان می داد. محققان و مدیران برجسته هوش مصنوعی نسبت به "خطرات عمیقی برای جامعه و بشریت" هشدار دادند که می تواند "تاریخ زندگی روی زمین" را به طور اساسی تغییر دهد. بدون هیچ گونه مقررات دولتی و در میان یک هجوم شرکتی "خارج از کنترل" به سوی ناشناخته ها، آنها خواستار توقف فوری توسعه سیستم های هوش مصنوعی قوی تر شدند.

این البته سه سال و نیم پیش بود.

شاید مرتبط تر، این نگرانی ها صدها میلیارد دلار سرمایه گذاری قبل از آخرین وحشت انقراض هوش مصنوعی به دست آورد.

ماه گذشته، جیکوب کوکسون، محقق Anthropic که پست استعفای او در فضای مجازی منتشر شد و به تیتر اخبار تبدیل شد، درخواست‌هایی را صادر کرد که بی شباهت به نامه سرگشاده "مکث آزمایش‌های هوش مصنوعی غول‌پیکر" که توسط ایلان ماسک، استیو وزنیاک و دیگران در مارس 2023 امضا شده بود، نیست.

او در X نوشت: "قدرت این فناوری را دست کم نگیرید."

و با این حال، این دو متقابلا منحصر به فرد نیستند: خطرات می‌توانند واقعی باشند، مانند پاداش‌هایی که با یک I.P.O تریلیون دلاری به دست می‌آید، که هم OpenAI و هم Anthropic به آن توجه دارند. می تواند هم هشدار دهنده و هم تبلیغاتی باشد.

به هر حال، با ارزش ترین شرکت های تاریخ مطمئنا باید قوی ترین فناوری های تاریخ را بفروشند. این همه سرمایه برای چه چیز دیگری می پرداخت؟ و چه چیزی می تواند قدرتمندتر از یک فناوری در سطح انقراض باشد؟

اگر هوش مصنوعی بتواند تمدن را از بین ببرد، مطمئنا می تواند برخی از ایمیل های کاری را از طرف شما مدیریت کند.

همانطور که در سال های پس از آن نامه سرگشاده به طور بی وقفه گسترش یافته است، هوش مصنوعی چیزهای زیادی نامیده می شود: "یک ایده، یک زیرساخت، یک صنعت". اما از آنجایی که این یک شرط بندی غول پیکر در بازار برای زندگی در آینده است، باید فروش گسترده و مداومی نیز داشته باشد.

تنها زمانی که اقتصاد هوش مصنوعی مخاطره آمیزتر شده است، این میزان فروش دیوانه کننده تر شده است. این یک فناوری غیرقابل تصور گران است، با یک مدل تجاری (هنوز) سوداگرانه، به طور همزمان اقتصاد ایالات متحده را تقویت می کند و همچنین نقدینگی شرکت فناوری را به شدت می سوزاند.

این شرط‌بندی‌ها تنها در صورتی به نتیجه می‌رسند که ما به‌عنوان انسان، بپذیریم که هوش مصنوعی را در هر جنبه‌ای از زندگی فکری‌مان، چه از نظر حرفه‌ای و چه شخصی، بپذیریم. و ما تنها در صورتی با آن موافقت خواهیم کرد که فناوری به اندازه کافی خوب باشد - و نه فقط به اندازه کافی خوب "توهم نداشته باشد".

مانند "همه ما را بکش" به اندازه کافی خوب است.

از این رو، دست‌نویسی روز قیامت کاکسون، داریو آمودی، و دیگران در سیلیکون ولی بخشی از این فروش است، عمدی یا غیرعمدی.

به‌عنوان استادی که رسانه‌ها و فرهنگ را مطالعه می‌کند، روایت‌های تجاری پیرامون فناوری‌های ما به اندازه خود فناوری‌ها اهمیت دارد. در کتاب اخیرم، من بر مفهوم "اصالت" به عنوان محوری برای صعود و فراگیر شدن رسانه های اجتماعی در دو دهه گذشته تمرکز کردم.

یوتیوب و اینستاگرام اگر نمی‌توانستند به عنوان پلتفرم‌هایی با عملکرد واقعی در نظر گرفته شوند، هرگز برای شرکت‌های مادر خود ثروتی جمع نمی‌کردند: همانطور که ما برای آنها محتوا تولید می‌کردیم، آنها امیدوار بودند که اعتبار را از ما القا کنند. به طور مشابه، تحقیقات دیگر نشان داد که چگونه بازاریابی برای نسل هزاره به معنای مفهوم سازی آن گروه به عنوان مشتاق به افشای زندگی خود به صورت آنلاین است.

به طور خلاصه، نمی‌توانید یک فناوری را بفروشید - و به‌ویژه، یک فناوری عمیقا نامحبوب مانند هوش مصنوعی - مگر اینکه آن را در زندگی مردم تأیید کنید.

اخیرا تبلیغات در تلویزیون این کار ایدئولوژیک را انجام می دهد. کوه‌های پول در 30 نقطه ریخته می‌شوند که به ما می‌گویند به هوش مصنوعی اجازه دهیم کلوپ‌های کتاب‌مان را سازماندهی کند، نامه‌های طرفداران فرزندانمان را بنویسد و مداحی‌های ما را مدیریت کند. از آنجایی که هوش مصنوعی، بنا به تعریف، مصنوعی است (یعنی «جعلی»)، باید برای همه آن اهداف به‌عنوان «معتبر» قابل قبول فروخته شود.

با مطالعه بیش از هفتاد آگهی تبلیغاتی که در سال‌های اخیر پخش شده‌اند، مضامینی از توانمندسازی کارآفرینی و فتیش کارآیی پیدا کردم. ارتقای بدنی و همراه اجتماعی .

با این حال، نمادین‌ترین (و متکبرانه‌ترین) پیام‌هایی است که هوش مصنوعی را اجتناب‌ناپذیر می‌فروشند، زیرا فقط یک Luddite در گل و لای می‌تواند احمقانه علیه اجتناب‌ناپذیری مبارزه کند.

از این رو، برای مثال، نقطه Super Bowl OpenAI، که بازنمایی های پیکسلی اختراعات در طول تاریخ بشر را به هم می ریزد و هوش مصنوعی را به صراحت با نیزه، آتش، راه آهن، پرواز، DNA، و سفرهای فضایی – البته نه (ظاهرا!)) بمب اتم همسو می کند. در پایان تبلیغ آمده است: «همه پیشرفت ها یک نقطه شروع دارند.

کاکسون آنتروپیک چیزی مشابه در استعفای خود نوشت: "همه ما شاهد پیشرفت در هر یک از این حوزه ها بوده ایم و پیشرفت کند نمی شود."

این ایمان اساسی است که باید در سیلیکون ولی رعایت کرد: اعتقاد به غیرقابل تحمل بودن پروژه.

چگونه می توان این واقعیت را توضیح داد که این آخرین تماس های خطر و وحشت هوش مصنوعی - تماس هایی که از "داخل خانه" به معنای فیلم ترسناک می آیند - تقریبا مطمئنا هیچ چیز را متوقف نمی کنند؟ به هر حال، سه سال پیش، زمانی که 1000 تن از شخصیت‌های روشنفکر و الیگارش شرکت‌ها نام خود را با همان مطالبه روی کاغذ آوردند، دست از کار کشیدند.

برای آن الیگارش‌ها، پولی که باید به دست بیاید باید غرامتی باشد – مالی، اگر نگوییم اخلاقی – برای ساختن چیزی که می‌تواند همه ما را بکشد. و اگر روی قدرت چنین ابزارهایی سرمایه‌گذاری می‌کنید (و در نتیجه روی آن شرط‌بندی می‌کنید، دوباره این ریسک ادعایی به بستن معامله کمک می‌کند).

اما این تنها فایده بلاغی نیست.

انقراض از طریق HAL 9000 یا Skynet - تداعی دراماتیک و سینمایی - تخریب محیطی واقعی و کندتر هوش مصنوعی را در مورد برق، آب و منابع دیگر پنهان می کند. همچنین توجه ما را از تخریب شناختی (به همان اندازه آهسته) که در آموزش روی می دهد، به دلیل اینکه دانش آموزان عادات و ماهیچه های فکری را برون سپاری می کنند، هدایت می کند، همانطور که هوش مصنوعی از آنها می خواهد.

از قضا، همانطور که هوش مصنوعی چشم انداز انجام کارهای بیشتر را وسوسه می کند، ما را نیز قادر به انجام کارهای کمتر می کند: مهارت زدایی ذاتی هر عمل برون سپاری. اگر محصول مصنوعی تولید شده را بپذیریم - جایی که هوش مصنوعی از طرف ما فکر می کند، ابراز می کند و احساس می کند - چیزی را که اساسا انسانی تر از آنچه اتوماسیون از ما گرفته بود رها کرده ایم.

در حال حاضر – در عصری که شرکت‌های فناوری هر کاری را که می‌خواهند انجام می‌دهند، زیرا «می‌توان» تنها فعل خط‌مشی است که اهمیت دارد – هنجارها تنها چیزی هستند که باید در برابر این جایگزینی محافظت کنیم. تبلیغات و روابط عمومی در تلاش هستند تا این هنجارها را شکل دهند، همانطور که قبلا برای بیش از یک قرن در بسیاری از محصولات انجام شده است.

گاهی اوقات آن تلاش موفقیت آمیز است. در مواقع دیگر، مارک زاکربرگ باید زیان 80 میلیارد دلاری را در یک مهمانی Metaverse که هیچ‌کس نمی‌خواست در آن حضور پیدا کند، بنویسد.

و اگر بازی پایانی هوش مصنوعی، در واقع، تاس را با احتمال 10 درصد نابودی پرتاب کند، خوب، ایالات متحده نمی تواند اجازه دهد چین اول به آنجا برسد، آیا ما؟ حتی با وجود اینکه آنتروپیک به دلیل خطرات هوش مصنوعی ظاهرا از نرده‌های محافظ درخواست می‌کند، نگرانی‌های امنیت ملی بر هر احتیاط غلبه می‌کند - به دلیل همان قدرت بالقوه.

به نظر می رسد که «اگر کسی آن را بسازد، همه می میرند» همچنین به عنوان یک بازار فروش هوشمند عمل می کند که دقیقا به اقدامی که در مورد آن هشدار داده شده است نیاز دارد.

در طول دهه‌ها، گفتمان هوش مصنوعی فصلی است: «بهارها» سال‌های پر از هیاهو و سرمایه‌گذاری هستند. در مقابل، "زمستان ها" زمانی که حرکت و پول از بین می روند. به همین ترتیب، بسیاری از فناوری‌ها پیش از این - از برق و تلگراف گرفته تا تلفن و رادیو - به عنوان عالی، جادویی، انقلابی و وحشتناک معرفی شده‌اند.

این بدان معنا نیست که این بار متفاوت نیست - این فناوری در نهایت به اندازه کافی پیشرفته است که واقعا نابغه های فنی را به مشکل نزدیک کند.

اما ما داستان را قبلا شنیده ایم. و هنوز ثروتهای ناگفته ای در انتظار کسانی است که قانع کننده آن را بیان می کنند.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد