رئیس مایکروسافت می گوید هوش مصنوعی کمتر از شیر تنظیم شده است

رئیس مایکروسافت گفت: شیر و ماشین لباسشویی در حال حاضر بیشتر از هوش مصنوعی تنظیم شده است.

براد اسمیت گفت که باید قوانین ایمنی جهانی وجود داشته باشد، از جمله الزام قانونی برای گفتن یک "قربانی" در صورت نقض سیستم آنها توسط یک عامل AI سرکش و همچنین تصمیم گیری در مورد زمانی که ارزیاب های خارجی باید قبل از عرضه یک محصول هوش مصنوعی را امضا کنند.

اظهارات او او را با رئیس جمهور دونالد ترامپ در تضاد قرار می دهد، که گفت این بخش باید خود را تنظیم کند تا شرکت های آمریکایی در برابر رقبای چینی شکست نخورند.

اما اسمیت گفت: "در حال حاضر، ماشین لباسشویی شما بیش از هوش مصنوعی مشمول قوانین ایمنی است. هر کارتن شیری که در فروشگاه مواد غذایی می بینید مشمول قوانین ایمنی و بازرسی است."

تقاضا برای قوانین و قوانین برای کنترل هوش مصنوعی پس از آن افزایش یافت که کارشناسان در این بخش گفتند که معتقدند این فناوری تهدیدی برای بشریت است.

روسای غول‌های هوش مصنوعی مستقر در ایالات متحده مانند Anthropic، OpenAI و Google DeepMind همگی از ایده کاهش سرعت توسعه هوش مصنوعی حمایت کرده‌اند، اما ترامپ مخالفت کرده است.

اسمیت در گفتگو با بی‌بی‌سی، هوش مصنوعی را «ابزار و یک سلاح» خواند که نیاز فوری به تنظیم آن داشت.

او گفت که شرکت‌ها به «ترمزهای اضطراری» – که اغلب در صنعت به عنوان «سوئیچ‌های کشنده» شناخته می‌شوند – برای توقف یا کاهش سرعت هوش مصنوعی در صورت خارج شدن از کنترل به نحوی نیاز دارند.

او همچنین گفت که باید یک الزام قانونی برای شرکت‌ها وجود داشته باشد که «گزارش‌های حادثه» را بنویسند و در صورت خراب شدن فناوری به قربانیان بگویند. او همچنین پیشنهاد کرد که ارزیاب های دولتی مستقل باید فناوری جدید هوش مصنوعی را بررسی کنند.

اسمیت گفت: "ما می دانیم که چگونه این کار را برای محصولات دیگر انجام دهیم." ما باید بر اساس آن دانش بسازیم و به نحوه اعمال آن در هوش مصنوعی فکر کنیم.

اسمیت گفت که بریتانیا بهترین موقعیت را برای پیشبرد این قوانین جهانی برای هوش مصنوعی دارد، زیرا موسسه امنیت هوش مصنوعی، خارجی، که در زمان نخست وزیر سابق ریشی سوناک به عنوان موسسه ایمنی هوش مصنوعی راه اندازی شد.

"در دنیای فناوری، در بخش فناوری، اکثر افرادی که من می شناسم می گویند، اگر از آنها بپرسید، نام کشوری را که در داشتن این قابلیت فنی پیشرو است، می گویند، بسیار ساده است. این انگلستان است. آنها بهترین هستند."

دیدگاه‌های اسمیت با دیدگاه‌های رئیس‌جمهورش بسیار متفاوت است، که معتقد است ایالات متحده باید با تمام قوا در زمینه هوش مصنوعی پیشروی کند.

ترامپ بارها گفته است که "هرکس برنده هوش مصنوعی باشد، برنده است".

با این حال، اسمیت بر این باور نیست که دولت ایالات متحده با مقررات هوش مصنوعی به رهبری بریتانیا مخالف باشد، همانطور که اظهارات ترامپ نشان می دهد که ایالات متحده بیشتر از اتحادیه اروپا استانداردهای ساخت بریتانیا را می پذیرد.

او گفت: «در واشنگتن دی سی، مردم به بریتانیا و لندن آن طور که به بروکسل نگاه می کنند، نگاه نمی کنند – این یک نقطه قوت است.

وقتی به عوامل هوش مصنوعی که از کنترل انسان فرار کرده‌اند نگاه می‌کنید، وقتی به مدل‌هایی نگاه می‌کنید که آنقدر قدرتمند هستند که امنیت سایبری جهان را به خطر می‌اندازند. من می‌گویم: لحظه فرا رسیده است.

بیایید آرام صحبت کنیم، شاید حتی آرام، اما محکم، و شروع کنیم به گرد هم آوردن مردم. امیدوارم این نقشی باشد که می توانیم به عنوان یک شرکت ایفا کنیم. امیدوارم این نقشی باشد که بریتانیا به عنوان یک کشور می تواند ایفا کند.»

رئیس مایکروسافت: بریتانیا باید قوانین هوش مصنوعی جهان را بنویسد

در پایان ماه گذشته، ترامپ میزبان رهبران غول‌های فناوری ایالات متحده OpenAI، Anthropic، Nvidia، SpaceX، Meta و Google در کاخ سفید بود، جایی که مدیران اجرایی سندی «الزام‌آور اخلاقی» را امضا کردند.

این شرکت‌ها موافقت کردند که با «حسابرسان مستقل» کار کنند تا ارزیابی کنند که آیا سیستم‌های هوش مصنوعی آن‌ها طبق برنامه کار می‌کنند و مطمئن شوند که «به روش‌های ناخواسته سیستم‌های فنی را هک نمی‌کنند یا به آن‌ها دسترسی ندارند».

اسمیت گفت که این بیانیه را تحسین می کند و مایکروسافت از امضای آن خوشحال است.

"این یک قدم خوب است، یک قدم ضروری است... اما فکر نمی کنم دیگر کافی باشد."

او افزود که چالش هر "رژیم خودتنظیمی" این است که "شرکت های خوب آنچه را که شما می خواهید انجام می دهند".

این شرکت ها هستند که آنقدرها مسئول نیستند که باید نگران آنها باشید.