مدیر عامل OpenAI هشدار داد که دادن "نیروی مذهبی" هوش مصنوعی "مسئله ایمنی واقعی" ایجاد می کند

سام آلتمن، مدیر عامل OpenAI روز شنبه نسبت به اعطای اقتدار مذهبی به مدل های هوش مصنوعی یا تسلیم قضاوت انسانی به آنها هشدار داد و این عمل را یک "مسئله ایمنی واقعی" خواند.

آلتمن در پلتفرم رسانه‌های اجتماعی ایالات متحده X نوشت: «من از افرادی که سعی می‌کنند نیروی مذهبی یا تسلیم قضاوت انسانی را به مدل‌های هوش مصنوعی نسبت دهند، بسیار ناراحتم و فکر می‌کنند که این یک مسئله ایمنی واقعی است.

اظهارات او چند روز پس از گزارش هایی منتشر شد مبنی بر اینکه شرکت رقیب هوش مصنوعی Anthropic جلسات خصوصی با متفکران مذهبی و فلسفی در مورد آگاهی و اخلاق هوش مصنوعی برگزار کرده است.

روزنامه نیویورک تایمز گزارش داد که این بحث ها شامل این است که آیا سیستم های هوش مصنوعی مانند کلود می توانند به طور بالقوه آگاه باشند و چگونه تفکر مذهبی می تواند به شکل گیری رفتار آنها کمک کند.

آنتروپیک همچنین در حال مطالعه چیزی است که آن را «رفاه مدل» می‌نامد، از جمله اینکه آیا سیستم‌های هوش مصنوعی پیشرفته می‌توانند تجربیاتی داشته باشند که ملاحظات اخلاقی را تضمین کند.

این موضوع باعث نگرانی سایر مدیران فناوری نیز شده است.

مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت، نسبت به توسعه سیستم‌های هوش مصنوعی که آگاهانه به نظر می‌رسند هشدار داده و استدلال می‌کند که تشویق مردم به این باور که هوش مصنوعی تجربیات ذهنی دارد، می‌تواند خطرات جدیدی ایجاد کند.

سلیمان از یک رویکرد "هوش مصنوعی انسانی" حمایت کرده است که در آن سیستم‌های هوش مصنوعی ابزارهایی هستند که برای خدمت به مردم طراحی شده‌اند و نه نهادهایی که به عنوان منافع خودشان رفتار می‌کنند.