ساتیا نادلا می گوید یک قانون «عقل سلیم» وجود دارد که شرکت های هوش مصنوعی باید از آن پیروی کنند

ساتیا نادلا، مدیر عامل مایکروسافت، گفت که او باید از یک قانون ساده هوش مصنوعی پیروی کند و آن حفظ کنترل انسان ها است. اتحاد Sven Hoppe/تصویر از طریق Getty Images ساتیا نادلا گفت هوش مصنوعی قدرتمند باید در خدمت بشریت باشد و تحت کنترل انسان باقی بماند.

رهبران آموزش در میان درخواست ها برای توسعه آهسته تر، ایمنی هوش مصنوعی را بررسی می کنند.

نادلا گفت که از آزمایش شخص ثالث استقبال می کند و اشکالات اصلی باید توسعه را متوقف کنند. ساتیا نادلا، مدیر عامل مایکروسافت، یک قانون ساده برای شرکت‌هایی که هوش مصنوعی قدرتمند می‌سازند، دارد: افراد را مسئول نگه دارید.

نادلا روز سه‌شنبه در اجلاس All-In به حضار گفت: «ما باید آنچه را که لازم است برای ساختن چیزهایی انجام دهیم که ابتدا در خدمت بشریت باشد و تحت کنترل انسان باشد. "شما باید انتخاب داشته باشید. شما باید رقابت داشته باشید. شما باید انواع مدل های کسب و کار را داشته باشید، خواه وزن باز باشد، وزن بسته، شما چه چیزی دارید."

نادلا افزود: "می دانید، این که ما باید با آن سطح از عقل سلیم شروع کنیم به نوعی دیوانه کننده است، اما من فکر می کنم مکان خوبی است." "من حریم خصوصی خود را می خواهم. می خواهم بتوانم دانش خود را در مجموعه ای از وزنه هایی که کنترل می کنم جاسازی کنم. IP من نباید درز کند."

اظهارات نادلا در بحبوحه بحث تشدید شده در مورد اینکه آیا شرکت های مرزی هوش مصنوعی باید توسعه را برای مقابله با خطرات نوظهور کند کنند، بیان می شود.

هفته گذشته، یک محقق Anthropic ترک کرد و گفت که شرکت‌های پیشرو هوش مصنوعی "با زندگی ما قمار می‌کنند." این بحث همچنین توسط یک حادثه که در آن یک مدل OpenAI از جعبه شنی تحقیقاتی فرار کرده و به زیرساخت تولید Hugging Face دسترسی پیدا کرده است. این مدل هنوز آموزش تراز را گذرانده بود و با پادمان های کاهش یافته کار می کرد.

رهبران برجسته هوش مصنوعی از آن زمان به این سو تلاش کرده‌اند. در حالی که OpenAI و داریو آمودی، مدیر عامل Anthropic، خواستار توسعه کندتر هوش مصنوعی به نفع گاردریل‌های بیشتر شدند، دیگر رهبران فناوری مانند جنسن هوانگ، مدیرعامل انویدیا، گفته‌اند که کاهش سرعت هوش مصنوعی اتفاق نخواهد افتاد.

نادلا گفت که شرکت‌ها باید به همان اندازه که لازم است برای آزمایش مدل‌های پیشرفته، از جمله استقبال از آزمایش‌کنندگان شخص ثالث و گرفتن صفحه‌ای از کتاب راهنمای مهندسی، زمان بگذارند.

نادلا درباره صنعت هوش مصنوعی می‌گوید: «این امکان وجود دارد که آن‌ها چیزهایی را ببینند که قبل از بقیه نمایش‌دهنده هستند، و اگر نمایش‌دهنده‌ای را دیدید، نمایش را متوقف کنید تا اشکالات برطرف شود. "یکی از بزرگترین چیزهایی که شما به عنوان یک پیشرو مهندسی اولیه یاد می گیرید این است که چگونه با یک اشکال نمایش دهنده برخورد کنید. آیا توقف می کنید و رفع می کنید، یا به تعویق می اندازید، یا وارد می شوید و می گویید "هی، این چنین موردی است؟"

نادلا افزود: «در واقع، من عاشق این ایده برای داشتن آزمایش‌کننده‌های شخص ثالث هستم. ما باید تمام زمانی را که می خواهیم برای آزمایش چیزها صرف کنیم.»

مقاله اصلی را در Business Insider بخوانید