ساتیا نادلا می‌گوید نظرش را در مورد اینکه آیا تقویت هوش مصنوعی باعث ایمن‌تر شدن آن می‌شود تغییر کرده است

ساتیا نادلا گفت که نظر خود را در مورد تراز هوش مصنوعی تغییر داده است و این یک چالش جداگانه است. دیوید پل موریس / بلومبرگ / گتی ایماژ ساتیا نادلا می گوید که نظر خود را در مورد همسویی هوش مصنوعی یا اطمینان از همسویی هوش مصنوعی با ارزش های انسانی تغییر داده است.

نادلا گفت که قبلا فکر می‌کرده است که با بهبود قابلیت‌های هوش مصنوعی، همسویی اتفاق می‌افتد.

نادلا در پادکست 20VC گفت: "من دیگر این را باور ندارم." ساتیا نادلا، مدیر عامل مایکروسافت، می‌گوید که نظر خود را در مورد این ایده تغییر داده است که با توانمندتر شدن سیستم‌های هوش مصنوعی، همسویی به طور طبیعی ظاهر می‌شود.

در یک قسمت جدید از پادکست 20VC، میزبان هری استبینگز از نادلا پرسید که در طول یک سال گذشته نظرش را در مورد چه چیزی تغییر داده است. مدیر عامل شرکت گفت که قبلا تصور می‌کرده است که با توانمندتر شدن هوش مصنوعی، همسویی - حصول اطمینان از اینکه هوش مصنوعی مطابق با ارزش‌ها و اهداف انسانی رفتار می‌کند - به طور خودکار دنبال می‌شود.

در عوض، او گفت، در حالی که مقیاس بندی همانطور که او انتظار داشت انجام می شود و قابلیت های مدل ها همچنان در حال بهبود است، هم ترازی یک چالش باقی می ماند.

نادلا می‌گوید: «من همیشه فکر می‌کردم که این هم‌ترازی به سادگی از بین می‌رود. من دیگر این را باور ندارم. فکر می‌کنم این همسویی ممکن است مشکل سخت‌تر و متفاوتی باشد.»

مدیر عامل مایکروسافت قبلا در مورد خطرات هوش مصنوعی هشدار داده بود و در پستی در تاریخ 10 اکتبر در مورد کنترل‌های خارجی بیشتر بحث کرد. نادلا گفت که شرکت‌ها باید مدل‌های هوش مصنوعی را به عنوان تهدیدهای خودی در نظر بگیرند و فرض کنند که آنها "به خطر افتاده" هستند.

نادلا نوشت: «ما باید مدل‌های غیر قطعی را با طراحی سیستم قوی و قطعی، کنترل‌های انسانی و رویه‌های عملیاتی قابل اعتماد احاطه کنیم و استانداردهای صنعتی را در جایی که استانداردهای موجود ناکافی هستند، ایجاد کنیم.

اعتقاد او مبنی بر اینکه افزایش قابلیت‌های هوش مصنوعی به طور خودکار تضمین نمی‌کند که کنترل انسان مطابق با هشدارهای سایر رهبران فناوری باشد. سم آلتمن، مدیر عامل OpenAI و داریو آمودی، مدیر عامل آنتروپیک، در مورد تهدیدات هوش مصنوعی هشدار داده اند. نامه‌ای که در ماه جولای توسط بیش از 1000 کارمند هوش مصنوعی امضا شد، هشدار داد که قابلیت‌های هوش مصنوعی می‌تواند سریع‌تر از توانایی افراد برای درک یا کنترل سیستم‌ها پیشرفت کند.

مقاله اصلی را در Business Insider بخوانید