چرا بچه های هوش مصنوعی فناوری ساختند که آنها را وحشتناک می کند

الکس براندون / تصاویر AP; گتی ایماژ; BI رهبران هوش مصنوعی می گویند که هوش مصنوعی می تواند جهان را نابود کند.

پس چرا رهبران هوش مصنوعی برای برنده شدن در مسابقه هوش مصنوعی مسابقه می دهند؟

نویسنده کوین روز می گوید که درگیری از ابتدا بخش اصلی حوزه هوش مصنوعی بوده است. در اینجا پویایی اصلی لحظه هوش مصنوعی ما وجود دارد: بسیاری از افرادی که بیش از همه نگران قدرت هوش مصنوعی هستند، افرادی هستند که قدرتمندترین شرکت های هوش مصنوعی را اداره می کنند.

کوین روز استدلال می کند که همیشه همینطور بوده است. این روزنامه‌نگار کهنه‌کار فناوری می‌گوید که بسیاری از مردانی که رونق هوش مصنوعی را رهبری می‌کنند - برجسته‌ترین آنها Dario Amodei از Anthropic و Sam Altman از OpenAI - حداقل تا حدودی برای ساختن هوش مصنوعی عجله کرده‌اند زیرا نگران بودند که شخصی کمتر مسئول آن‌ها را شکست دهد.

برخی از منتقدان هوش مصنوعی آمودی‌ها و آلتمن‌های جهان را متهم می‌کنند که نگرانی‌های آخرالزمانی هوش مصنوعی را افزایش می‌دهند تا کسب‌وکار خود را تبلیغ کنند. روز می گوید، اما این نوع نگرانی در محافل هوش مصنوعی کاملا رایج است. او خاطرنشان می کند که در سانفرانسیسکو، یافتن افرادی در صحنه فناوری که فکر می کنند احتمال وقوع قیامت 50 درصد یا بیشتر از هوش مصنوعی وجود دارد، غیرمعمول نیست.

رز به تازگی نیویورک تایمز را ترک کرد تا یک پادکست را برای NPR میزبانی کند. او همچنین با تاریخچه ای جدید در صنعت هوش مصنوعی آشنا شده است: "تواریخ AGI: داستان درونی مسابقه برای ایجاد یک ابرهوش مصنوعی." این مملو از داستان‌های پس‌زمینه و بیوگرافی فن‌آورانی است که ما را به این لحظه رساندند.

من با روز درباره انگیزه ساخت این فناوری صحبت کردم، لحظه‌ای که بسیاری از رهبران هوش مصنوعی فکر می‌کنند ما اکنون در آن هستیم و اگر راهی برای کاهش سرعت کار در پادکست کانال‌های من وجود دارد. در زیر می توانید گزیده ای ویرایش شده را بخوانید. یک نکته: یک روز قبل از اینکه دونالد ترامپ میزبان نشست هوش مصنوعی با آلتمن، آمودی، ایلان ماسک و دیگر روسای فناوری باشد، این گفتگو را ضبط کردیم - و سپس اعلام کردیم که مقررات فدرال ضروری نیست، زیرا صنعت خودش را تنظیم می کند.

پیتر کافکا: یک تنش بزرگ در کتاب شما این است که افرادی که برای ساختن هوش مصنوعی مسابقه دادند، بسیار نگران بودند که هوش مصنوعی یک خطر وجودی باشد. پس چرا می خواستند آن را بسازند؟

کوین روز: من فکر می کنم چیزی که آنها دیدند این بود که فناوری به سرعت در حال پیشرفت بود. این مقاله عالی Dario Amodei از سال 2017 به نام "The Big Blob of Compute Hypothesis" وجود دارد، جایی که او در مورد این صحبت می کند که اساسا اگر می خواهید این سیستم ها را هوشمندتر کنید، بهترین راه برای انجام این کار فقط بزرگتر کردن آنها است.

و من فکر می‌کنم که آنها متوجه شدند که اگر این فقط یک دستور العمل ساده باشد - محاسبات بیشتری وارد کنید و داده‌های بیشتری وارد کنید، و مدل را برای مدت طولانی‌تری آموزش دهید، و هوش بیشتری به دست بیاورید - در نهایت کسی آن را کشف خواهد کرد.

و وقتی مردم این را بفهمند، این مسابقه وجود خواهد داشت، و این فناوری از نظر استراتژیک بسیار مهم خواهد بود و برای هر کسی که آن را ایجاد می کند، مزایای اقتصادی، نظامی و سیاسی زیادی خواهد داشت، که همه به مسابقه می پیوندند.

بنابراین، اگر می‌خواهیم دنیا خوب باشد، ما - «بچه‌های خوب» - باید در مسابقه برنده شویم، زیرا در غیر این صورت فقط زمان برنده شدن در مسابقه است و این به دلایل مختلف بد خواهد بود.

من نمی گویم این توجیه درستی برای مسابقه دادن است، اما این داستان آنهاست که به دلیل شرکت در کاری که می دانستند خطرناک است به خود گفته اند.

وقتی مردم تصور می‌کنند که هوش مصنوعی اشتباه می‌کند، ممکن است به این معنی باشد که شغل خود را از دست می‌دهند، یا کسی که یک سلاح زیستی می‌سازد، یا ماشین‌هایی که کلا جایگزین ما می‌شوند. رهبران هوش مصنوعی نگران چه چیزی هستند؟

آنها مجموعه ای کامل از نتایج بالقوه را متصور هستند. مردم اغلب در مورد P(doom) صحبت می کنند - نوعی از آمار ویروسی که مردم دوست دارند به اشتراک بگذارند - که فقط احتمال مرگ همه ما را در بر می گیرد.

اما P های دیگری وجود دارد، درست است؟ ناتوانی P وجود دارد. همه گیری P وجود دارد. P وجود دارد که همه شغل خود را از دست می دهند. این افراد طبیعتا نگران و از نظر خلق و خوی نگران هستند.

اگر فرض برای بچه های خوب این باشد که "ما باید قبل از هر کس دیگری به آنجا برسیم، تا بتوانیم مسئولانه از عهده آن برآییم" - آنها چگونه آن را مدیریت می کنند؟ مردم این را با تلاش برای مهار سلاح های هسته ای مقایسه می کنند. اما آن تسلیحات به منابعی نیاز داشت که فقط چند کشور در اختیار داشتند. به نظر می رسد که در اینجا قابل اجرا نیست.

می تواند قابل اجرا باشد. ما فقط باید این کار را خیلی سریعتر انجام دهیم، زیرا این فناوری بسیار سریعتر از هسته ای در حال گسترش است.

شما می توانید یک رژیم بازرسی کامل را تصور کنید که در آن چیزی شبیه سازمان ملل داشته باشید - نوعی سازمان استاندارد با بازرسان که به آزمایشگاه ها می روند و دوره های آموزشی آنها را بررسی می کنند و می بینند که آیا مدل ها کارهای خطرناکی انجام می دهند یا خیر.

قبلا پیشنهادهایی در این راستا برای این ارزیابی‌کنندگان به اصطلاح تعبیه‌شده ارائه شده است که در OpenAI و Anthropic می‌نشینند و برای آنها کار نمی‌کنند، اما در سطح کارمند به همه سیستم‌هایشان دسترسی خواهند داشت.

این مرحله یک خواهد بود. اما برای روشن بودن، فکر می‌کنم کارهای زیادی می‌توان انجام داد جدای از آن. در حال حاضر اساسا هیچ مقرراتی در مورد این شرکت ها وجود ندارد. افرادی که در کافه تریا OpenAI غذا سرو می کنند، باید بازرسی ها و کاغذبازی های بیشتری را پشت سر بگذارند تا افرادی که مدل هایی را آموزش می دهند که می توانند خود را تکرار کنند و چیزهای زیادی را از بین ببرند.

این یک وضعیت دیوانه کننده و غیرقابل تحمل است.

به نظر می رسد که ما برای مدتی در چنین شرایطی خواهیم بود. رئیس جمهور به افرادی گوش می دهد که می گویند اساسا نباید مقرراتی داشته باشیم. کنگره قوانینی را تصویب نمی کند و حتی اگر تصویب می کرد، ترامپ آنها را وتو می کرد. آیا ما حداقل دو سال و نیم با مقررات فدرال معنادار فاصله نداریم؟

من می‌خواهم پیش فرض را پس بزنم. همه چیز می تواند به سرعت تغییر کند. فقط در چند هفته گذشته، احساسات عمومی واقعا به سرعت در حال تغییر در این مورد است. برجستگی هوش مصنوعی در حال افزایش است. مردم خیلی به آن اهمیت می دهند، بیشتر از چند هفته پیش.

آنها بیشتر نگران این موضوع هستند. رای دهندگان بیشتر نگران آن هستند. سیاستمداران نسبت به نگرانی های رای دهندگان حساس هستند. بنابراین بله، گروهی از افراد در اطراف ترامپ هستند که فکر نمی کنند هیچ یک از این موارد شایسته مقررات باشد.

اما گروه‌های دیگری نیز وجود دارند که بخشی از جامعه امنیت ملی هستند که نسبت به چین تندروتر هستند و نمی‌خواهند ببینند که همه چیز با هوش مصنوعی پیش می‌رود. و من فکر می کنم که این افراد ممکن است خرید بیشتری پیدا کنند زیرا رای دهندگان در مورد این موضوع بیشتر نگران می شوند. این کاملا به من داده نشده است که اساسا هیچ مقرراتی از بقیه این دولت نخواهیم داشت.

اگر همه چیز ثابت بماند چه؟ اگر داریو آمودی یا سام آلتمن هستید و قرار نیست دولت را وادار به انجام این کار کنید، خودتان چه کاری می توانید انجام دهید؟

من فکر می‌کنم می‌تواند نوعی پیمان در سطح صنعت برای سرعت بخشیدن به مرزها وجود داشته باشد: کاهش سرعت تحقیقات، به‌ویژه در مورد مدل‌های مرزی، تواناترین مدل‌هایی که می‌توانند ساعت‌ها یا روزها در یک زمان با حداقل یا بدون نظارت انسانی کار کنند.

من فکر می کنم احتمالا نوعی توافق بین آزمایشگاه ها در راس بسته وجود خواهد داشت. با توجه به اینکه این افراد از یکدیگر متنفرند، جای تعجب دارد.

دلیل وجود آنتروپیک این است که داریو آنقدر از سم آلتمن متنفر بود که شرکت خودش را ساخت.

و دلیل وجود OpenAI این است که سم آلتمن و ایلان ماسک از دمیس حسابیس در DeepMind [گوگل] آنقدر متنفر بودند که می خواستند شرکت خود را بسازند. تمام مرز پر از افرادی است که از یکدیگر بدشان می آید و به یکدیگر بی اعتماد هستند.

اما من فکر می کنم که آنها در غیاب نوعی مقررات دولتی وارد عمل می شوند. آنها متوجه شده‌اند که احتمالا نمی‌خواهند نوعی سازوکار هماهنگ و متمرکز از این دولت بیرون بیاورند، بنابراین فکر می‌کنم که خودشان کاری انجام دهند.

حتی اگر شرکت‌های بزرگ هوش مصنوعی ایالات متحده واقعا سرعت خود را کاهش دهند، در مورد همه کسانی که شرکت نمی‌کنند چطور؟ مدل‌های چینی از مدل‌های موجود کپی می‌کنند و این چیزها به سرعت کالایی می‌شوند. آیا جن در حال حاضر بیرون نیست؟

این امکان پذیر است و به همین دلیل است که آنها در مورد درخواست کاهش سرعت بسیار محتاط هستند، زیرا نمی خواهند به طور یکجانبه خلع سلاح شوند. زیرا این امر می‌تواند چین یا متا را، شرکتی که آمریکایی است، اما نگران سرعت پیشروی همه چیز نیست، دعوت کند تا پیشروی کنند.

من فکر می‌کنم موضع چین در زمینه هوش مصنوعی گاهی اوقات تا حدودی اغراق‌آمیز است. من فکر می‌کنم که آنها هنوز کاملا به شرکت‌های هوش مصنوعی آمریکایی وابسته هستند که مرزها را پیش می‌برند تا بتوانند از آن مدل‌ها برای ایجاد مدل‌های خود استفاده کنند. آنها نیز مقداری از ظرفیت خود را دارند و شروع به دریافت سخت افزار بیشتری می کنند.

اما من فکر می‌کنم در حال حاضر، جهش‌های بزرگ در قابلیت‌ها از آزمایشگاه‌های آمریکایی که همه محاسبات، همه محققان و همه پیشرفت‌ها را دارند، رخ می‌دهد.

P(عذاب) شخصی شما چیست؟

من معمولا می گویم حدود 10 درصد هستم.

آیا 10 درصد احتمال دارد که همه چیز فوق العاده بد شود؟

آره که برای مردم در اکثر نقاط جهان دیوانه به نظر می رسد. اما در سانفرانسیسکو، این شما را خوش بین می کند. من افرادی را می شناسم که با 50٪، 60٪، 70٪ P (عذاب) راه می روند. من کسی را می شناسم که 99.9% P(doom) دارد.

آیا آن شخص در 401(k) خود پول می گذارد؟ چرا آنها حتی در سانفرانسیسکو هستند؟ چرا آنها به نیوزلند یا هر جایی که فکر می کنند می توانند زنده بمانند نمی روند؟

من افراد افراطی را می شناسم که در حال انحلال 401(k) خود هستند. من فردی را می شناسم که سیگار کشیدن را شروع کرد زیرا فکر می کرد "هوش مصنوعی همه ما را می کشد، بنابراین ممکن است در هنگام خروج کمی خوش بگذرانیم." من کسی را می شناسم که دیگر در ساحل از کرم ضد آفتاب استفاده نمی کند، زیرا چرا زحمت می کشد؟

من این را به شما می گویم زیرا در سانفرانسیسکو، P(doom) 10٪ مانند این است: "اوه، فکر می کنید همه چیز خوب پیش می رود؟" شنیدن افرادی که P(doom) آنقدر پایین دارند، خسته کننده است. بنابراین من این را می گویم زیرا فکر می کنم ما هنوز برخی آژانس ها و کنترل هایی روی این موضوع داریم.

ما هنوز هم می‌توانیم سرعت کارها را کم کنیم، مقرراتی را تصویب کنیم، هماهنگ کنیم تا مرز را پیش ببریم. ما می توانستیم به روشی معقول از این وضعیت خارج شویم.

ما راه باریکی برای رسیدن به مدینه فاضله در دسترس داریم و من نسبت به یکی دو ماه پیش امیدوارتر هستم. زیرا به طور متناقض، همه اکنون در مورد عذاب صحبت می کنند - که باعث می شود کمتر نگران عذاب باشم.

مقاله اصلی را در Business Insider بخوانید