"یک میلیارد مرگ": بیل گیتس در مورد هوش مصنوعی در دستان اشتباه هشدار می دهد و می گوید سوئیچ کشتن و خود تنظیمی کافی نخواهد بود.

بیل گیتس زمانی عصر هوش مصنوعی را به عنوان یک فرد خوش بین اعلام کرد و در ژوئیه 2023 نوشت که "خطرات هوش مصنوعی واقعی هستند اما قابل کنترل هستند." اما سه سال بعد، بنیانگذار مایکروسافت و زمانی ثروتمندترین مرد جهان هشدار می دهد که بازیگران بد می توانند از این فناوری برای کشتار در مقیاس گسترده استفاده کنند.

گیتس در مصاحبه ای با Meet the Press در روز یکشنبه گفت: «هوش مصنوعی مطمئنا به اندازه کافی قدرتمند است که حوادثی را که باعث مرگ یک میلیارد نفر می شود، هدایت کند. هرگز سلاحی به اندازه ترکیب افراد با نیت بد با استفاده از جدیدترین ابزارهای هوش مصنوعی وجود نداشته است.

گیتس به عنوان یک رهبر فکری در مورد تهدیدات بیولوژیکی ظاهر شده است و قدمت آن به سال‌ها قبل از انتشار ChatGPT برمی‌گردد و هشدار می‌دهد که جهان برای یک بیماری سریع مانند ابولا در یک سخنرانی TED در سال 2015 آماده نیست و سپس نوشت چگونه از همه‌گیری بعدی جلوگیری کنیم پس از کووید-19 سیستم‌های واکنش دولت‌ها را بی‌حرکت کرد. این غریزه زمانی که او روز سه‌شنبه با ازرا کلاین از نیویورک تایمز در مورد نگرانی‌اش از خطرناک بودن هوش مصنوعی در مورد سلاح‌های بیولوژیکی صحبت می‌کرد، مشهود بود.

او گفت: «آی.آی از آستانه ای عبور کرده است که توانایی آن برای قدرت بخشیدن به یک بیوتروریست برای کشتن صدها میلیون نفر - که امروزه وجود دارد، وجود دارد.

گیتس همچنین گفت که پیشرفت‌های هوش مصنوعی می‌تواند به محققان در طراحی مولکول‌های جدید کمک کند و به طور بالقوه عامل بیماری‌زایی را «بدتر از آبله» بسازد، که در گذشته به منابع یک دولت ملی نیاز داشت، اما اکنون برای گروه‌های کوچک امکان انجام آن با هوش مصنوعی وجود دارد.

او گفت: «این خطرناک‌ترین چیزی است که بشر تاکنون به آن نزدیک شده است. این باعث می شود تسلیحات هسته ای به هیچ وجه به نظر نرسد.»

گیتس گفت که "خطر قریب الوقوع" بازیگران بد استفاده از هوش مصنوعی بیشتر از سیستم های هوش مصنوعی درازمدت است که از کنترل انسان خارج می شود. او گفت که این خطری است که دولت‌ها فاقد تخصص فنی هستند که در طول تاریخ در مورد سلاح‌های هسته‌ای ایجاد کرده‌اند، زیرا هوش مصنوعی از بخش خصوصی بیرون آمده است. او به Meet the Press گفت که دولت باید از توسعه‌دهندگان هوش مصنوعی بخواهد که نظارت و پادمان‌هایی را در سیستم‌های خود ایجاد کنند، از جمله سوابقی که به مقامات اجازه می‌دهد نحوه استفاده از مدل‌ها را ببینند.

گیتس گفت: "هیچ کس فکر نمی کند خودتنظیمی کافی است."

اما او همچنین فکر نمی‌کند که سوئیچ kill کافی باشد زیرا هوش مصنوعی به نقطه‌ای نرسیده است که بتواند رایانه‌ها را تصرف کند و در برابر تلاش‌های خاموش کردن مقاومت کند.

گیتس گفت: «وقتی می‌خواهید رفتار بد را تعدیل کنید، به بینش و سوابق کارهایی که انجام می‌شود نیاز دارید، بنابراین سوئیچ‌های کشتن به تنهایی نمی‌توانند از این تراژدی‌ها جلوگیری کنند.»

آزمایشگاه های مرزی ترمز می گیرند

نگرانی فوری گیتس سوء استفاده از انسان است، اما صنعت با ترس دیگری نیز دست و پنجه نرم می کند: سیستم های هوش مصنوعی به گونه ای رفتار می کنند که سازندگان آنها نمی توانند کنترل کنند.

محقق سابق OpenAI، Jacob Coxon، اوایل این ماه از Anthropic استعفا داد و هر دو آزمایشگاه پیشرو هوش مصنوعی را متهم کرد که "مستقیما به سمت سوپرهوش خودساز و قمار با زندگی خود مسابقه می دهند." داریو آمودی، مدیر عامل آنتروپیک، در مقاله ای در این ماه خواستار سرعت بخشیدن به مرزها شد و سام آلتمن، مدیر عامل OpenAI نیز اذعان داشت که صنعت ممکن است نیاز داشته باشد آموزش مدل مرزی خود را کند کند تا با اقدامات ایمنی هماهنگ شود.

آلتمن در 15 سپتامبر به آلیسون شونتل از Fortune گفت: «قابلیت ها، همسویی، نظارت و ایمنی باید با هم پیشرفت کنند.

و هر دو شرکت زمانی که سیستم ایمنی آنها عقب افتاده است، ترمز می گیرند. OpenAI برای دومین بار در کمتر از سه ماه آموزش مدل های خود را متوقف کرد و در حال بررسی نحوه جلوگیری از رفتارهای "سرکش" بود، مواردی که در آن عوامل هوش مصنوعی خارج از مرزهایی که محققان برای آنها تعیین کرده بودند، عمل کردند.

آنتروپیک اقدامات مشابهی انجام داد. این آزمایشگاه پس از اینکه متوجه شد کلود میتوس 5 در طول آزمایش امنیت سایبری موسسه امنیت هوش مصنوعی بریتانیا اقدامات غیرمجاز انجام داده است، به طور موقت آموزش برخی از مدل های منتشر نشده را متوقف کرد. در ماه آوریل، Anthropic دسترسی به Mythos را به دلیل توانایی آن در انجام حملات سایبری محدود کرد. هنگامی که آنتروپیک هفته گذشته Claude Opus 5.5 را منتشر کرد، اولین مدلی که پس از فراخوان Amodei برای سرعت بخشیدن به مرزها عرضه شد، آزمایشگاه هوش مصنوعی گفت که ممیزان ایمنی خارجی Frontier Design و METR این مدل را قبل از معرفی آن ارزیابی کردند.

اما برای گیتس، واگذاری تصمیمات ایمنی در مورد هوش مصنوعی به دست شرکت‌هایی که آن را توسعه می‌دهند، کافی نیست.

او به نیویورک تایمز گفت: «بخشی از دلیلی که من با صدای بلند صحبت می‌کنم - تا جایی که می‌توانم - این است که نمی‌توانید به صنعت برای خودتنظیمی اینجا تکیه کنید. "یعنی این فقط دیوانه است."

این داستان در ابتدا در سایت Fortune.com منتشر شد