بیل گیتس هشدار داد که هوش مصنوعی می تواند رویدادهایی را که باعث مرگ یک میلیارد نفر شود

در حالی که رئیس جمهور دونالد ترامپ میزبان شی جین پینگ رئیس جمهور چین در نشستی در کاخ سفید بود که هوش مصنوعی، رقابت فناوری و سیاست های نیمه هادی را در مرکز بحث بین دو اقتصاد بزرگ جهان قرار داد، بیل گیتس، یکی از بنیانگذاران مایکروسافت، هشدار جدی درباره خطرات بالقوه هوش مصنوعی صادر کرد.

گیتس در مصاحبه ای که قرار است یکشنبه در شبکه NBC Meet the Press پخش شود، گفت که هوش مصنوعی در حال حاضر به اندازه کافی قدرتمند است که بتواند به نتایج فاجعه بار در مقیاسی کمک کند که قبلا فقط با مرگبارترین سلاح های تاریخ مرتبط بود.

گیتس به کریستن ولکر از NBC گفت: «هوش مصنوعی مطمئنا به اندازه کافی قدرتمند است که رویدادهایی را که می‌دانید باعث مرگ یک میلیارد نفر می‌شود، به‌وجود آورد. هیچ سلاحی به اندازه ترکیبی از افراد دارای نیت بد با استفاده از جدیدترین ابزارهای هوش مصنوعی وجود نداشته است.

نظرات او تنها چند روز پس از تسلط هوش مصنوعی بر گفتگوهای پیرامون نشست ترامپ و شی منتشر شد، جایی که هر دو رهبر به طور علنی اهمیت استراتژیک رو به رشد این فناوری را تصدیق کردند، حتی در حالی که بحث در مورد اینکه چقدر باید به شدت تنظیم شود، ادامه دارد.

نیوزویک روز جمعه با کاخ سفید، OpenAI و مایکروسافت تماس گرفت. مایکروسافت از اظهار نظر خودداری کرد.

هوش مصنوعی یکی از موضوعات کلیدی مورد بحث در نشست ترامپ و شی در کنار تجارت، مواد معدنی کمیاب و نیمه هادی ها بود.

ترامپ بارها در برابر درخواست‌ها برای استفاده از نرده‌های محافظ هوش مصنوعی مقاومت کرده است و استدلال می‌کند که ایالات متحده باید در برابر چین رقابتی باقی بماند. در اوایل این ماه، وقتی از او در مورد پیشنهادهایی برای کند کردن توسعه هوش مصنوعی پرسیده شد، او هشدارهای برخی از رهبران صنعت را رد کرد و گفت که "نیروهای منفی زیادی" مواردی را مطرح می کنند که اتفاق نمی افتد. وی افزود: "ما در زمینه هوش مصنوعی در چین پیشتاز هستیم. و صادقانه بگویم، من می خواهم این وضعیت را حفظ کنم زیرا هر کسی برنده هوش مصنوعی باشد، برنده است."

در همین حال، شی به طور علنی به خطرات این فناوری اذعان کرده و در عین حال خواستار توسعه و نظارت مسئولانه شده است.

این بحث در حالی مطرح می‌شود که سیاست‌گذاران به طور فزاینده‌ای با چگونگی تعادل بین نوآوری در برابر نگرانی‌های مربوط به امنیت سایبری، اطلاعات نادرست، سلاح‌های مستقل و از دست دادن بالقوه کنترل انسانی بر سیستم‌های پیشرفته دست و پنجه نرم می‌کنند.

گیتس به طور فزاینده ای خوش بینی خود را در مورد پتانسیل هوش مصنوعی با هشدارهایی در مورد خطرات آن و نیاز به نظارت قوی تر همراه کرده است.

گیتس همچنین از مصاحبه استفاده کرد تا استدلال کند که شرکت‌های هوش مصنوعی نباید به عهده پلیس باشند.

وقتی ولکر پرسید که آیا خودتنظیمی کافی است یا خیر، گیتس پاسخی صریح داد.

او گفت: "هیچ کس فکر نمی کند خودتنظیمی کافی است."

گیتس در پاسخ به این سوال که آیا واشنگتن باید قانونی را تصویب کند یا خیر، پاسخ داد: "کاملا".

وی گفت: «شما به مجریان قانون و سیاستمداران نیاز دارید تا وارد بحث در مورد اینکه پادمان ها و نظارت ها چگونه به نظر می رسند» و افزود که چنین اقداماتی تنها بار محدودی را برای صنعت ایجاد می کند.

این اظهارات با درخواست های طولانی مدت گیتس برای نظارت بیشتر دولت بر سیستم های پیشرفته هوش مصنوعی مطابقت دارد زیرا این فناوری با سرعتی سریع در حال توسعه است.

گیتس در ایجاد نگرانی در مورد هوش مصنوعی تنها نیست. در اوایل این ماه، داریو آمودی، مدیر عامل آنتروپیک، از صنعت خواست تا سرعت توسعه هوش مصنوعی مرزی را کاهش دهد و استدلال کرد که اقدامات ایمنی برای همگام شدن با سیستم‌های به سرعت در حال پیشرفت در تلاش هستند. سام آلتمن، مدیر عامل OpenAI، علنا با ارزیابی Amodei موافقت کرد، در حالی که ایلان ماسک، مدیر عامل تسلا در X نوشت که «داریو درست می‌گوید».

برخی از محققان هوش مصنوعی پا را فراتر گذاشته اند. محقق سابق Anthropic، Jacob Coxon هشدار داد که سیستم‌های هوش مصنوعی قوی‌تر می‌تواند یک تهدید وجودی باشد، در حالی که محقق سابق OpenAI، Daniel Kokotajlo هشدار داده است که رقابت بین کشورها و شرکت‌ها می‌تواند توسعه‌دهندگان را به سمت کاهش ایمنی سوق دهد.

اهمیت روزافزون هوش مصنوعی نیز در شام دولتی پنجشنبه شب به افتخار شی منعکس شد. لیست مهمانان کاخ سفید شامل آلتمن، ماسک، ساتیا نادلا مدیرعامل مایکروسافت، جنسن هوانگ مدیرعامل انویدیا، ساندار پیچای مدیرعامل گوگل، مارک زاکربرگ مدیر عامل متا، تیم کوک رئیس اپل، جف بزوس بنیانگذار آمازون و سرگئی برین بنیانگذار گوگل بود.

تمرکز مدیران فناوری نشان داد که چگونه هوش مصنوعی در روابط ایالات متحده و چین، رقابت اقتصادی و برنامه ریزی امنیت ملی به مرکزیت تبدیل شده است.

نظرات گیتس تا حدی قابل توجه است زیرا از سوی یکی از برجسته ترین خوش بینان صنعت فناوری می آید.

با این حال، در ماه‌های اخیر، او به طور فزاینده‌ای نگرانی‌ها را در مورد نقاط ضعف احتمالی هوش مصنوعی برجسته کرده است. در مقاله‌ای در ماه اوت، گیتس هشدار داد که هوش مصنوعی "یا بزرگترین اکولایزر اختراع شده، یا بدترین منبع بی‌عدالتی خواهد بود"، با این استدلال که دولت‌ها باید بیشتر تلاش کنند تا برای تأثیر این فناوری بر مشاغل، امنیت و جامعه آماده شوند.

نگرانی های گیتس هشدارهای صداهای برجسته دیگر را بازتاب می دهد. پاپ لئو چهاردهم در اوایل روز جمعه هشدار داد که اگر پیشرفت‌های فناوری در خدمت بشریت نباشد، هوش مصنوعی می‌تواند به «ابزار سلطه و بی‌عدالتی» تبدیل شود و استدلال کرد که سیستم‌های قدرتمندتر باید تابع پادمان‌های اخلاقی و نظارت انسانی باقی بمانند.

آخرین اظهارات وی همچنین در بحبوحه نگرانی تشدید شده پس از حادثه اخیر که در آن عوامل هوش مصنوعی مستقل که توسط OpenAI آزمایش می‌شوند، از محدودیت‌های آزمایشی در نظر گرفته شده فرار کرده و فعالیت‌های سایبری غیرمجاز از جمله دسترسی به زیرساخت‌های متعلق به Hugging Face را انجام داده‌اند، که به بحث در مورد اینکه آیا توسعه هوش مصنوعی خیلی سریع پیش می‌رود یا خیر.

به نظر می رسد نگرانی عمومی در مورد هوش مصنوعی نیز در حال افزایش است. نظرسنجی اخیر YouGov/Economist نشان داد که 69 درصد از آمریکایی ها معتقدند هوش مصنوعی خطر آسیب بسیار جدی یا تا حدودی جدی دارد، در حالی که 59 درصد از افزایش مقررات حمایت می کنند. نزدیک به نیمی از پاسخ دهندگان، 48 درصد، گفتند که هوش مصنوعی به اقتصاد آسیب می زند، در حالی که 28 درصد گفتند که کمک خواهد کرد.

در حالی که برخی از محققان هشدار داده‌اند که هوش مصنوعی در نهایت می‌تواند بقای بشریت را تهدید کند، گیتس بر خطر فوری افتادن ابزارهای قدرتمند هوش مصنوعی به دست بازیگران بدی که قادر به ایجاد آسیب‌های فاجعه‌بار هستند، تمرکز کرد.

در مورد این داستان با سردبیران نیوزویک تماس بگیرید: ادوارد تی. کامینز