رئیس مایکروسافت می گوید شیر و ماشین لباسشویی با مقررات ایمنی بیشتری نسبت به هوش مصنوعی روبرو هستند

به گفته برد اسمیت، رئیس مایکروسافت، گالن شیر در فروشگاه محلی شما به شدت نسبت به هوش مصنوعی تنظیم شده است.

اسمیت در مصاحبه ای با بی بی سی که روز دوشنبه منتشر شد، خواستار قوانین ایمنی جهانی قوی تر برای هوش مصنوعی شد. به طور خاص، او گفت که شرکت ها باید قانونا ملزم شوند که در صورت نقض سیستم های آنها توسط عوامل سرکش هوش مصنوعی به قربانیان اطلاع دهند و حوادث ایمنی را گزارش کنند. او همچنین خواستار قوانینی شد که تعیین کنند ارزیاب‌های مستقل چه زمانی باید مدل‌های هوش مصنوعی جدید را قبل از عرضه، به همراه «ترمزهای اضطراری» بررسی کنند یا سوئیچ‌ها را بکشند تا سیستم‌های فریبنده را متوقف کنند.

آخرین نکته توسط ساتیا نادلا، مدیر عامل مایکروسافت نیز تکرار شد، که در پستی در روز شنبه در X نوشت که مدل‌های هوش مصنوعی باید ترمزهای اضطراری داشته باشند که به انسان اجازه می‌دهد در وسط کار، آنها را متوقف یا خاموش کند.

اسمیت به بی بی سی گفت: «ما می دانیم که چگونه این کار را برای محصولات دیگر انجام دهیم. ما باید بر اساس آن دانش بسازیم و به نحوه اعمال آن در هوش مصنوعی فکر کنیم.

او حتی فقدان قوانین ایمنی ویژه هوش مصنوعی را با مواردی مقایسه کرد که محصولات روزمره را پوشش می دهد که تقریبا تهدید کننده به نظر نمی رسند.

اسمیت گفت: "در حال حاضر، ماشین لباسشویی شما تابع قوانین ایمنی بیشتری نسبت به هوش مصنوعی است. هر کارتن شیری که در فروشگاه مواد غذایی می بینید مشمول قوانین ایمنی و بازرسی است."

بر اساس گزارش اکسیوس، درخواست اسمیت برای مقررات سخت‌تر در حالی مطرح می‌شود که برخی از خودی‌های صنعت هوش مصنوعی بر این باورند که یک فاجعه بزرگ مرتبط با هوش مصنوعی ممکن است ظرف شش تا ۱۲ ماه آینده رخ دهد.

چه هوش مصنوعی سرکش باشد و چه هکرهایی که از این فناوری برای انجام حمله استفاده می کنند، شرکت های پشت این فناوری انتظار دارند که اگر مشکلی پیش بیاید، بیشتر تقصیرها را به دوش می کشند و طبق گزارش ها در حال برنامه ریزی برای مقابله با پیامدها در صورت وجود چنین اتفاقی هستند.

همین هفته گذشته، سام آلتمن، مدیر عامل OpenAI به پولیتیکو گفت که «جهان باید اتفاقات بدی را در ازای مزایای هوش مصنوعی بپذیرد».

در همین حال، فشار اسمیت برای قوانین جهانی در تضاد با رویکرد رئیس جمهور دونالد ترامپ در ایالات متحده است، جایی که او تا حد زیادی از این صنعت حمایت کرده است تا خودش را تنظیم کند. ترامپ استدلال کرده است که مقررات بیش از حد می تواند ایالات متحده را در رقابت هوش مصنوعی علیه چین در وضعیت نامناسبی قرار دهد.

به عنوان مثال، در جلسه ای در کاخ سفید در 29 سپتامبر، مدیران گوگل، متا، آنتروپیک، OpenAI، xAI و انویدیا توافق نامه ای داوطلبانه امضا کردند که برخی از استانداردهای ایمنی محدود هوش مصنوعی را مشخص می کند. ترامپ این استانداردها را که هیچ مکانیسم اجرایی قانونی ندارند، "اخلاقی الزام آور" خواند.

بحث در مورد ایمنی هوش مصنوعی همچنین باعث درخواست برخی از رهبران صنعت برای کاهش سرعت توسعه مدل‌های هوش مصنوعی قوی‌تر شده است. این تماس ها در بحبوحه موجی از هشدارهای محققان در شرکت های هوش مصنوعی در مورد خطرات توسعه کنترل نشده هوش مصنوعی، از جمله احتمال اینکه این فناوری روزی به انقراض انسان منجر شود، انجام شد.

با این حال، اسمیت با اشاره به مؤسسه امنیت هوش مصنوعی خود، پیشنهاد کرد که بریتانیا می تواند مکان خوبی برای شروع توسعه استانداردهای ایمنی جهانی باشد. او همچنین پیشنهاد کرد که مقامات واشنگتن ممکن است تمایل بیشتری نسبت به سایر دولت‌ها از جمله اتحادیه اروپا برای همکاری با بریتانیا داشته باشند.

اسمیت گفت: "وقتی به عوامل هوش مصنوعی که از کنترل انسان فرار کرده اند نگاه می کنید، وقتی به مدل هایی نگاه می کنید که آنقدر قدرتمند هستند که امنیت سایبری جهان را به خطر می اندازند. من می گویم: لحظه فرا رسیده است."

مایکروسافت بلافاصله به درخواست اظهار نظر پاسخ نداد.