بیل گیتس می گوید بحث هوش مصنوعی «Kill Switch» نشان می دهد که افراد چقدر «غیر فنی» هستند

بیل گیتس، یکی از بنیانگذاران مایکروسافت، یکی از برجسته‌ترین ایده‌ها در بحث ایمنی هوش مصنوعی را در روز یکشنبه عقب نشینی کرد و استدلال کرد که بحث‌هایی که بر روی به اصطلاح «سوئیچ کشتن» هوش مصنوعی متمرکز شده است، خطرات فوری‌تر ناشی از این فناوری را نادیده می‌گیرد.

گیتس در طی مصاحبه‌ای در NBC News Meet the Press گفت: نگرانی‌ها مبنی بر اینکه سیستم‌های هوش مصنوعی ممکن است غیرممکن شود، از تهدیدات فوری مانند حملات سایبری، کلاهبرداری و توسعه سلاح‌های بیولوژیکی توسط بازیگران بد منحرف می‌شود.

او استدلال کرد که سیاست گذاران باید به جای تکیه بر یک مکانیسم خاموش کردن ساده، بر نظارت و پادمان های اجباری تمرکز کنند.

گیتس به مجری کریستن ولکر گفت: "سوئیچ کشتن... این یک چیز عجیب است. داشتن سوئیچ کشتن کافی نیست." ما هنوز به نقطه‌ای نرسیده‌ایم که آن‌ها به‌طور مستقل رایانه‌ها را بگیرند و نتوان آنها را خاموش کرد. بنابراین این بحث به نوعی نشان می‌دهد که افراد مختلف چقدر غیر فنی هستند.»

گیتس به عنوان یکی از برجسته‌ترین صداهایی که هشدار می‌دهد هوش مصنوعی می‌تواند خطراتی در مقیاسی مشابه یا حتی فراتر از انقلاب‌های فناوری قبلی ایجاد کند، ظاهر شده است. اظهارات او همچنین در بحبوحه بحث سیاستی رو به رشد در واشنگتن درباره نحوه تهاجمی دولت ها باید مدل های پیشرفته هوش مصنوعی را تنظیم کنند.

این موضوع در هفته‌های اخیر پس از هشدارهای رهبران صنعت هوش مصنوعی، از جمله مدیر عامل آنتروپیک، داریو آمودی، که خواستار کاهش سرعت در سراسر صنعت شده بود، فوریت پیدا کرده است. او در مقاله ای با عنوان "ما باید در مرز قدم برداریم" هشدار داد که اگر نرده های محافظ به سرعت ایجاد نشوند، سیستم های پیشرفته می توانند خطرات امنیتی و اجتماعی قابل توجهی ایجاد کنند. سام آلتمن، مدیر عامل OpenAI، علنا با این ارزیابی موافقت کرد، در حالی که ایلان ماسک، مدیر عامل تسلا در X نوشت که «داریو درست می‌گوید».

Newsweek یکشنبه با ایمیل Anthropic و OpenAI برای نظر دادن تماس گرفت.

در حالی که گیتس از تایید توقف توسعه هوش مصنوعی خودداری کرد، او استدلال کرد که قانونگذاران باید در زمینه پادمان سریعتر حرکت کنند. او گفت که هوش مصنوعی در حال حاضر قادر است بازیگران را قادر به انجام حملات سایبری پیچیده کند و به طور بالقوه می تواند برای کمک به بیوتروریسم استفاده شود.

گیتس هشدار داد: «هوش مصنوعی مطمئنا به اندازه کافی قدرتمند است که رویدادهایی را که باعث مرگ یک میلیارد نفر می شود، هدایت کند. هیچ سلاحی به اندازه ترکیبی از افراد دارای نیت بد با استفاده از جدیدترین ابزارهای هوش مصنوعی وجود نداشته است.

این بشردوست میلیاردر همچنین در پاسخ به ادعاهای اخیر مبنی بر اینکه ترس از فاجعه ناشی از هوش مصنوعی یک "فریب" است، پیشنهادات مبنی بر اینکه نگرانی ها در مورد هوش مصنوعی بیش از حد است را رد کرد.

تمرکز اصلی این مصاحبه این بود که آیا سیستم‌های هوش مصنوعی به مکانیسم‌های خاموش کردن اضطراری نیاز دارند، که معمولا به آن سوئیچ‌های کشتن می‌گویند.

گیتس گفت که این مفهوم به چیزی که او به عنوان چالش واقعی می‌داند منحرف شده است: اطمینان از اینکه دولت‌ها و شرکت‌ها می‌توانند نحوه استفاده از سیستم‌های پیشرفته را نظارت کنند. به گفته گیتس، یک سوئیچ kill به تنهایی نمی تواند آسیب هایی را که متخصصان بیشتر از آنها می ترسند متوقف کند.

او گفت: «وقتی می‌خواهید رفتار بد را تعدیل کنید، نیاز به بینش و سوابق کاری دارید که انجام می‌شود. کلید کشتن به تنهایی نمی تواند از این تراژدی ها جلوگیری کند.

در عوض، گیتس خواستار اقدامات نظارتی اجباری برای ردیابی مدل‌های پیشرفته هوش مصنوعی و ایجاد سوابق فعالیت‌های بالقوه خطرناک شد. او گفت که تمایز بین کاربردهای مفید مانند طراحی داروهای جدید و تلاش های مخرب مانند ایجاد سلاح های بیولوژیکی، به جای ابزارهای خاموش کردن اضطراری، نیازمند نظارت مستمر است.

تد لیو، نماینده دموکرات کالیفرنیا، و ناتانیل موران، جمهوری‌خواه تگزاس، «قانون سوئیچ کشتن هوش مصنوعی» را در ماه ژوئیه معرفی کردند که توسعه‌دهندگان هوش مصنوعی را ملزم به حفظ ظرفیت فنی برای «گسست، تعلیق یا خاموش کردن» می‌کند.

همچنین به وزیر امنیت داخلی این کشور اجازه می‌دهد تا در صورتی که یک سیستم هوش مصنوعی منجر به «آسیب فاجعه‌بار» شود، دستور کاهش یا خاموش کردن آن بدهد.

دفتر لیو در بیانیه‌ای نوشت: «شرکت‌های هوش مصنوعی در حال استقرار مدل‌های مرزی پیشرفته و سیستم‌های «عاملی» مستقل هستند که قادر به انجام اقدامات مستقل هستند.

روز یکشنبه، بنیانگذار مایکروسافت همچنین هشدار داد که جامعه سرعت توسعه هوش مصنوعی را دست کم می گیرد. گیتس با توصیف این فناوری به عنوان یک "رویداد تکاملی" گفت بشریت به طور موثر شکل جدیدی از هوش را ایجاد کرده است.

گیتس گفت: «ما گونه‌ای باهوش ایجاد کرده‌ایم که از بسیاری جهات، در حال حاضر باهوش‌تر از ما است.

در همان زمان، گیتس تاکید کرد که انسان ها همچنان کنترل سیستم های فعلی هوش مصنوعی را در دست دارند.

او در پاسخ به این سوال که آیا مردم همچنان کنترل هوش مصنوعی را حفظ می کنند، گفت: ما این کار را انجام می دهیم. او گفت که تهدید فوری این نیست که هوش مصنوعی خودگردان جهان را تحت کنترل خود درآورد، بلکه انسان ها از ابزارهای قدرتمندتر برای اهداف مضر استفاده می کنند.

گیتس با اشاره به حملات احتمالی به شبکه‌های برق، بیمارستان‌ها و سیستم‌های مالی گفت: «گروه‌های کوچک با هوش مصنوعی می‌توانند کاری را انجام دهند که تنها بزرگترین کشورها می‌توانند انجام دهند».

گیتس همچنین این ایده را رد کرد که شرکت ها می توانند خود را تنظیم کنند و گفت: "هیچکس فکر نمی کند خود تنظیمی کافی است."

دولت ترامپ در حال بررسی این موضوع است که واشنگتن چقدر باید هوش مصنوعی را به شدت تنظیم کند و چه کسی باید این تلاش را رهبری کند.

گیتس در جریان سخنرانی خود در Meet the Press گفت که امیدوار است دونالد ترامپ، رئیس جمهور آمریکا، مقامات دولتی، رهبران صنعت و کارشناسان امنیتی را گرد هم بیاورد تا محافظی برای سیستم های هوش مصنوعی پیشرفته ایجاد کنند.

"تنها کنترل یا "حفاظ‌هایی" که هوش مصنوعی به آن نیاز دارد، یک رئیس‌جمهور قوی و باهوش (ضریب هوشی بالا!) است، و ایالات متحده به‌طور کلی از آن برخوردار است! دولت ترامپ "افراد" هوش مصنوعی را از انجام "کارهای بد" یا بالقوه بد، مانند داریو (انتروپیک!) منع کرده است، که اکنون بسیار کم کم وانمود می‌کنیم که یک فرشته است! ترامپ هفته گذشته در یک پست اجتماعی حقیقت نوشت.

"ما در حال حاضر قدرت کیفری و نظارتی فوق العاده ای بر این شرکت ها داریم!" او ادامه داد. "یک توطئه بیمار علیه هوش مصنوعی و مراکز داده در حال انجام است، و تنها کسی که از آن خوشحال است چین است. هر کسی که هوش مصنوعی را برد، برنده است!"

در حالی که ترامپ قبلا ترس از فاجعه ناشی از هوش مصنوعی را یک "فریب" رد می کرد، گیتس پیشنهاد کرد که رئیس جمهور می تواند پس از شنیدن مستقیم از کارشناسان، موضع خود را تغییر دهد.

گیتس گفت: «او گوش خواهد داد. او می خواهد از مردم ایالات متحده محافظت کند.»

ترامپ همچنین هفته گذشته اعلام کرد که قصد دارد یک تزار هوش مصنوعی یا موقعیت عالی مشابه را برای هماهنگ کردن سیاست فدرال در مورد این فناوری استخدام کند. او درخواست ها برای کاهش سرعت توسعه را رد کرد و اشاره کرد که سایر کشورها این کار را نمی کنند.

او گفت که دولت او "به هیچ وجه مانع یا سرکوب رشد این صنعت باورنکردنی نخواهد بود" و در عوض "آن را گرامی می‌دارد، به آن کمک می‌کند و در حین رشد از آن مراقبت می‌کند."

رئیس جمهور آمریکا اعلام کرد: برای این منظور، من در حال تشکیل نیروی هوش مصنوعی هستم، درست مانند نیروی فضایی که در دوره اول ریاست جمهوری من یک موفقیت فوق العاده بود. "برای این منظور، در آینده نزدیک، "تزار" هوش مصنوعی را اعلام خواهم کرد - فقط افراد با ضریب هوشی بالا باید درخواست دهند! هوش مصنوعی انقلاب صنعتی یا اینترنت بعدی است، اما حتی بزرگتر و تاثیرگذارتر خواهد بود، احتمالا به اندازه 25٪ از تولید ناخالص داخلی کشورمان.

گیتس گفت پیام او به ترامپ این نیست که نوآوری را کند کند، بلکه نیاز به نظارت و استانداردهای نظارتی برای مدل‌های پیشرفته هوش مصنوعی است. گیتس با تشریح نقشی که امیدوار است ترامپ ایفا کند، گفت: «یکی از کارهای بزرگی که می‌توانم انجام دهم این است که مردم را دعوت کنم تا درباره ظاهر این پادمان‌ها صحبت کنند.

او استدلال کرد که ایالات متحده به طور تاریخی تلاش های بین المللی را برای مقابله با تهدیدات جهانی، از کنترل تسلیحات هسته ای گرفته تا ایمنی هوانوردی، رهبری کرده است و گفت که هوش مصنوعی نیازمند رویکردی مشابه است. گیتس هشدار داد که پنجره ایجاد نرده های محافظ قبل از یک بحران بزرگ مبتنی بر هوش مصنوعی ممکن است در حال باریک شدن باشد.

او گفت: "من نمی گویم که ما باید یک مکث یا کندی کلی داشته باشیم." من می گویم که ما باید یک الزام را برای همه هوش مصنوعی ها در ایالات متحده اعمال کنیم."

خطراتی که گیتس بر آن تاکید کرد به سناریوهای آینده محدود نمی شود. کارشناسان امنیت سایبری می گویند که هوش مصنوعی در حال حاضر تهدیدات علیه زیرساخت های حیاتی آمریکا از جمله تاسیسات تصفیه آب را تسریع کرده است.

جان والش، مدیر ارشد فناوری دولتی و زیرساخت‌های حیاتی در شرکت امنیت سایبری IGEL، قبلا به نیوزویک گفته بود که مهاجمان از هوش مصنوعی برای شناسایی آسیب‌پذیری‌ها و سوء استفاده از نقاط ضعف سریع‌تر از اینکه مدافعان بتوانند پاسخ دهند، استفاده می‌کنند.

والش ماه گذشته گفت: "ما یک موقعیت ژئوپلیتیکی داریم که به نظر می‌رسد زیرساخت‌ها را هدف قرار می‌دهد. ما هوش مصنوعی داریم که وارد تصویر می‌شود، که سرعت را تسریع می‌کند، اتفاقات با چه سرعتی در حال وقوع هستند." آنچه واقعا اتفاق می‌افتد این است که وضعیت ژئوپلیتیک و استفاده از هوش مصنوعی بر فوریت آن افزوده می‌شود.»

والش هشدار داد که سیستم های آب و فاضلاب به ویژه آسیب پذیر هستند زیرا بسیاری از آنها توسط دولت های محلی با منابع امنیتی سایبری محدود و زیرساخت های قدیمی اداره می شوند. اظهارات وی پس از آن بیان شد که آژانس امنیت سایبری و امنیت زیرساخت (CISA) و شرکای بین‌المللی هشداری درباره عوامل تهدید کننده در حال انجام شناسایی کنترل‌کننده‌های منطقی قابل برنامه‌ریزی زیمنس S7، که به طور گسترده در تصفیه‌خانه‌های آب و سایر زیرساخت‌های حیاتی استفاده می‌شوند، صادر کردند.

والش با تکرار نگرانی های گیتس در مورد تقویت هوش مصنوعی بازیگران بد، گفت که حملات به سیستم های کنترل صنعتی می تواند بسیار فراتر از تاسیسات آب باشد.

والش گفت: «وقتی راکول، اشنایدر، زیمنس را هدف قرار می‌دهید، 70 درصد از کنترل‌کننده‌هایی را هدف قرار می‌دهید که فقط آب و فاضلاب را اجرا نمی‌کنند. این دستگاه تأسیسات شیمیایی، تأسیسات انرژی ما، اساسا تمام فرآیندها و اتوماسیون گسسته ما را اجرا می کند».

گیتس گفت که قصد دارد به فشار دادن دولت ها برای اتخاذ پادمان های اجباری هوش مصنوعی ادامه دهد و از مقامات آمریکایی خواست تا نقش رهبری در شکل دادن به استانداردهای بین المللی را بر عهده بگیرند.

به گفته گیتس، تنظیم هوش مصنوعی پیشرفته می‌تواند حتی دشوارتر از تلاش‌های دوران جنگ سرد برای کنترل سلاح‌های هسته‌ای باشد، زیرا این فناوری به طور گسترده در دسترس است و عمدتا توسط شرکت‌های خصوصی به جای دولت هدایت می‌شود.

او گفت: "هوش مصنوعی یکی از مواردی است که ما باید به این موضوع برگردیم، "هی، انسانیت همه در این است."

رو خانا، نماینده دموکرات کالیفرنیا، روز یکشنبه به Meet Press گفت که در حال کار بر روی قانونی برای رسیدگی به این موضوع است.

او گفت که قصد دارد با گروهی متشکل از 10 تا 15 مهندس و محقق از OpenAI و Anthropic ملاقات کند، که بسیاری از آنها از پیشنهاد او برای ممنوعیت "هوش مصنوعی خود-بهبود بازگشتی" یا سیستم هایی که قادر به آموزش خود بدون نظارت مستقیم انسان هستند، حمایت می کنند. خانا استدلال کرد که چنین فناوری "خطر واقعی از دست دادن کنترل انسان" را به همراه دارد و افزود: "تا زمانی که نرده های محافظ نداشته باشیم، نمی توانیم اجازه دهیم هوش مصنوعی خودش را آموزش دهد و کنترل خود را از دست بدهد"، حتی اگر این قابلیت هنوز وجود نداشته باشد.

برای گیتس، سوال کلیدی دیگر این نیست که آیا پادمان ها مورد نیاز است یا خیر، بلکه این است که آیا دولت ها آنها را قبل یا بعد از وقوع یک فاجعه بزرگ مبتنی بر هوش مصنوعی اجرا می کنند یا خیر.

او گفت: «همانطور که می‌گویم، برخی رویدادهای هولناک باعث افزایش فوریت می‌شود. "اما بحث در مورد پادمان ها به صورت موازی به ما کمک می کند تا آنها را زودتر وارد کنیم."

خبرنگاران و سردبیران نیوزویک از مارتین، دستیار هوش مصنوعی ما، برای تهیه این داستان استفاده کردند. در اینجا درباره مارتین بیشتر بدانید.

برای این داستان با سردبیران نیوزویک تماس بگیرید: استیو مولمن و آنتونی موری.