تله اجتناب ناپذیری هوش مصنوعی

طبقه دوم مقر قدیمی OpenAI یک موضوع داشت. نام هر اتاق از یکی از مهمترین اختراعات تاریخ بشر گرفته شده است: «ساعت»، «آتش» و البته «AGI» یا هوش عمومی مصنوعی. من این را در بهار 2024 دیدم، زمانی که با برخی از محققان شرکت در مورد پیشرفت های فنی اخیر مصاحبه می کردم. در آن زمان، ChatGPT هنوز اشتباهات حسابی شرم آور داشت و این تصور که این ربات همیشه با هوش انسانی رقابت خواهد کرد مشکوک بود.

اما اینجا، در پوسته بازسازی شده یک کارخانه سس مایونز سابق در سانفرانسیسکو، ورود AGI از پیش مقدر شده بود.

این باور به AGI - یک برنامه کامپیوتری با قابلیت‌هایی که رقیب یا حتی فراتر از توانایی‌های ذهن انسان است - برای مأموریت Google DeepMind، OpenAI و Anthropic، سه تا از تاثیرگذارترین شرکت‌های هوش مصنوعی در جهان، بنیادی است. و پیگیری این نقطه عطف موضوع کتاب AGI Chronicles است، کتاب جدیدی از گزارشگر فناوری و نویسنده مشارکت کننده آتلانتیک، کوین روز، که او آن را تلاش خود برای مستندسازی دهه «وقتی انحصار بشر بر هوش پیشرفته پایان یافت و دنیای جدیدی متولد شد» توصیف می‌کند. Roose، یک نظر دهنده برجسته و با ارتباط خوب در مورد رونق هوش مصنوعی، دنبال می کند

دنیای درونی شرکت‌های هوش مصنوعی مرزی با جزئیات قابل توجه و گاه تقریبا جزیره‌ای. بر اساس مصاحبه با بیش از 150 محقق، مدیر اجرایی، سرمایه گذار و سیاست گذار نزدیک به توسعه فناوری، The AGI Chronicles لحظات مهمی را در DeepMind، OpenAI و Anthropic از سال 2015 تا اوایل سال 2026 دنبال می کند تا بفهمد چگونه به این لحظه بسیار آشفته در هوش مصنوعی رسیدیم، و چه کسی مسئول بعدی است.

[ بخوانید: تکینگی آن چیزی نیست که به نظر می رسد]

اگر اظهارات مدیران اجرایی مانند داریو آمودی، مدیر عامل آنتروپیک و سام آلتمن، مدیر عامل OpenAI را بررسی کنید، احساس سرنوشت‌سازی در مورد ظهور هوش مصنوعی وجود دارد. در گفتگوی من با آمودی در سال گذشته، او توسعه هوش مصنوعی را به کارکردن یک اتوبوس خارج از کنترل تشبیه کرد: نمی توان آن را متوقف کرد یا حتی سرعت آن را کاهش داد، اما شاید بتوان آن را هدایت کرد. آلتمن در مصاحبه ای در ماه گذشته، هوش مصنوعی را یک امر اجتناب ناپذیر خواند. بر اساس این چارچوب، مدیران هوش مصنوعی صرفا هادی هستند و تمام تلاش خود را می‌کنند تا نرده‌های محافظی را برای عصری که در مسیر ما قرار دارد فراهم کنند، چه کسی آن را دوست داشته باشد یا نه.

کتاب روز من را بر آن داشت تا به سؤالی فکر کنم که اغلب در چرخه اخبار مایل در دقیقه نادیده گرفته می‌شود: آیا شرکت‌های پیشرو هوش مصنوعی، همانطور که بسیاری از آنها ادعا می‌کنند، به سادگی از یک تحول اجتناب‌ناپذیر این فناوری خبر می‌دهند یا این پیشرفت را هدایت می‌کنند؟ پاسخ تأثیر بسیار زیادی بر چگونگی تعیین مسئولیت برای جهان در حال شکل گیری پیرامون ما خواهد داشت.

AGI Chronicles از هر دو نظر در مورد این موضوع است. از یک طرف، روز بسیار صریح است که تصمیمات گروه کوچکی از مردم را بایگانی می کند. او می‌نویسد: «AGI اجتناب‌ناپذیر نبود، بلکه توسط چند صد نفر اختراع، توسعه و تجاری‌سازی شد.» از سوی دیگر، گاهی اوقات کتاب مانند یک تاریخ طبیعی خوانده می‌شود و مجموعه‌ای از وقایع را توصیف می‌کند که خارج از کنترل هر گروه خاصی از مردم هستند، یک نیروی تقریبا زمین‌شناختی که سیاره زمین را به‌عنوان «دنیای جدیدی متولد شد» در نوردیده است. او خاطرنشان می کند که چگونه، در طول سال ها، شرکت ها و مقامات مختلف هنوز «بیدار نشده بودند». تا سال 2024، او می نویسد:

ایده بازگشت به دنیای قدیم، به زمانی قبل از همه اینها، بیش از آنکه انتظار ادامه نمایی را داشته باشیم، توهم آمیز به نظر می رسید.

گاهی اوقات، کتاب روز بازتاب از دست دادن آژانسی است که توسط مدیران هوش مصنوعی اعلام شده است. البته، اجتناب ناپذیر بودن هر یک از نتایج یک ساختگی خودخواهانه است. هیچ پیشگویی وجود ندارد که تعداد انگشت شماری از شرکت های دره سیلیکون قوانین خود را دیکته کنند، قوانین کپی رایت و مقررات زیست محیطی را به سختی اجرا کنند و در عین حال سرویس های اینترنتی که زمانی قابل اعتماد بودند با ویژگی های هوش مصنوعی که هیچ کس از آنها درخواست نکرده بود را مخدوش کنند، تا حد زیادی بدون محدودیت عمل کنند. صنایع از طریق تصمیماتی که توسط بازیگران و سرمایه گذاران فردی گرفته می شود، تمایل جمعی مردم و اقدام یا عدم اقدام تنظیم کننده ها شکل می گیرد.

به عنوان مثال، اگر به اواخر دهه 1800 نگاه کنید، به نظر می رسید که خودروهای الکتریکی در قرن بعد بر بازار تسلط داشته باشند. پرفروش‌ترین خودروی آمریکا در سال 1897 الکتریکی بود و در دهه 1910، هنری فورد در تلاش بود تا با توماس ادیسون یک خودروی الکتریکی تولید کند. اما مجموعه‌ای از محدودیت‌های تکنولوژیکی و تصمیم‌گیری‌های انسانی - از جمله اشتباهات مالی مختلف و انتقادات تند طرفداران خودروهای بنزینی - مسیر تاریخ را تغییر داد و میراثی را به جای گذاشت که بیش از یک قرن بعد با آن حساب می‌کنیم.

در دهه 1950، به نظر می رسید که رآکتورهای هسته ای قرار است ملت را پر کنند و آینده را تامین کنند. اما مجموعه‌ای از مبارزات سیاسی و خطاهای دیدنی - جنبش ضد هسته‌ای، جزیره سه مایلی، چرنوبیل - عصر هسته‌ای را قبل از شروع واقعی درهم شکست. پس از آن عصر فضا و پرواز مافوق صوت وجود داشت - دوره‌های تکنولوژیکی به ظاهر اجتناب‌ناپذیر بسیاری وجود دارد که هرگز به پایان نرسیدند، نه به دلیل خود فناوری که به دلیل انتخاب‌های سیاسی و اقتصادی.

به همین ترتیب، غول‌های شرکتی بسیار زیادی وجود دارند - استاندارد اویل، کداک، بیر استرنز - که به دلیل مقررات، رضایت یا تقلب، از بین رفتند. برعکس برای بسیاری از فناوری‌ها و شرکت‌هایی که امروزه اجتناب‌ناپذیر تلقی می‌شوند صدق می‌کند: محیط‌های نظارتی مختلف، توافق‌نامه‌های بین‌المللی یا اولویت‌های آزمایشگاه‌های پنتاگون می‌توانند توسعه اینترنت باز و جهانی، تلفن‌های هوشمند، رسانه‌های اجتماعی را متوقف کنند.

وقتی اخیرا با رز تماس گرفتم تا درباره کتابش صحبت کنم و بپرسم که از لحن غالبا پیشگویانه این صنعت چه می‌گوید، او در ابتدا به من گفت که معتقد است "هیچ چیز در این مورد اجتناب‌ناپذیر نیست. این تصمیمات توسط مردم گرفته شده است." اما او سپس گفت که می‌خواهد این موضوع را «پیچیده» کند: «وقتی مقیاس‌گذاری ترانسفورماتور کار کرد، و زمانی که قوانین مقیاس‌بندی مستند شد،» روز گفت: «فکر می‌کنم این امر اجتناب‌ناپذیر بود که شرکت‌هایی که این مواد را می‌سازند، آن را تا جایی که ممکن است پیش ببرند.»

من می خواهم این دیدگاه را بیشتر پیچیده کنم. فراتر از میل به آزمایش مرزهای هر فناوری و کسب سودهای هنگفت، این صنعت با تصمیمات انسانی شکل گرفته است. محققان هوش مصنوعی ترجیح دادند مدل‌های خود را بر روی مجموعه‌ای از آثار دارای حق چاپ بدون کسب مجوز آموزش دهند، که منجر به این شد که خالقان بی‌شماری ناگهان از معادله اقتصادی کنار گذاشته شوند. OpenAI تصمیم گرفت یک ChatGPT رایگان برای استفاده را در اواخر سال 2022 وارد بازار کند و یک چرخه تبلیغاتی و متعاقب آن سرمایه‌گذاری خوبی را آغاز کرد.

شرکت‌های سرمایه‌گذاری مخاطره‌آمیز، سهام خصوصی و شرکت‌های فناوری تصمیم گرفتند میلیاردها دلار را در یک فناوری هنوز بی‌سود غرق کنند. توسعه‌دهندگان مراکز داده تصمیم گرفتند از پنل‌های خورشیدی اجتناب کنند و توربین‌های احتراق را سریع‌تر و قابل اطمینان‌تر بدانند. در سمت دولت، دونالد ترامپ تصمیم گرفته است که هر گونه مقررات فدرال اساسی در مورد هوش مصنوعی را نادیده بگیرد یا حذف کند. صنعتی که در مورد پرداخت های حق امتیاز مذاکره می کرد، انرژی پاک را اولویت بندی می کرد، چرخه های توسعه طولانی تری به خود اختصاص می داد یا با مقررات جدی فدرال مواجه می شد، ممکن است کاملا متفاوت به نظر برسد.

مسئله اجتناب ناپذیری و مسئولیت ممکن است محرمانه به نظر برسد، اما پیامدهای واقعی دارد. آلتمن این هفته در X نوشت: در منطقه خلیج، گره خورده با افسانه اجتناب ناپذیر بودن هوش مصنوعی، نوعی از خودگذشتگی معنوی است: «از ماشین‌ها و ساختار واقعیت تشکر می‌کنیم که به ما اجازه دادند کمی بیشتر بفهمیم. هرچه بیشتر هوش مصنوعی را اجتناب ناپذیر بدانید، بیشتر شبیه یک نیروی کیهانی به نظر می رسد تا محصولی که از انتخاب های طراحی صنعتی و تجاری ناشی می شود. هرچه بیشتر با هوش مصنوعی به عنوان امری اجتناب ناپذیر برخورد کنید، کمتر می توانید هر شرکت یا فردی را مسئول اشتباهات پیش رو بدانید.

در این دیدگاه، مدیران اجرایی تنها تا حدودی از ما در تصمیم گیری در مورد اینکه چه اتفاقی می افتد، توانمندتر هستند. مهمتر از همه، بقیه باید بیدار شوند. همانطور که آلتمن در اوایل این ماه در Politico گفت: "جهان باید برخی اتفاقات بد را برای مزایای این فناوری بپذیرد."

در ماه‌هایی که روز گزارش‌های خود را به پایان رساند، صنعت هوش مصنوعی و محصولات آن همچنان به شهرت جهانی بیشتری دست یافته‌اند و ترس‌های بیشتری را برانگیخته‌اند. وقتی از او پرسیدم که اگر هنوز مشغول نوشتن باشد چه فصل‌های جدیدی می‌تواند اضافه کند، روز گفت که کتاب را با کنفرانس مطبوعاتی اخیر کاخ سفید که در آن ترامپ، آمودی، گرگ براکمن، رئیس OpenAI، ایلان ماسک و چندین مدیر فنی دیگر به نگرانی‌های ایمنی هوش مصنوعی پرداختند، پایان خواهد داد.

او سخنرانی آمودی در روزهای اولیه Anthropic را به یاد آورد که چگونه بخش‌های مختلف جامعه به تدریج با تأثیرات دگرگون‌کننده این فناوری هماهنگ می‌شوند، که از شرکت‌های هوش مصنوعی شروع می‌شود و به دولت ختم می‌شود. روز به من گفت، احساس می‌کرد: «انگار پیش‌گویی برآورده شده است».