Altman از OpenAI: نسبت دادن دین به مدل ها یک "مسئله ایمنی"

سام آلتمن، مدیر عامل OpenAI روز شنبه عکسی پنهان از Anthropic و کار آن بر روح هوش مصنوعی گرفت و گفت که از ایده نسبت دادن نوعی قدرت مذهبی به مدل ها "بسیار ناراحت" است.

چرا مهم است: این یک نقطه دیگر اختلاف بین آلتمن و همکار سابقش داریو آمودی است، که طبق گزارش ها، شرکت او دانشمندانی را در سراسر مذاهب تعقیب کرده است تا مدل های اخلاقی و آگاهانه را مطرح کند. اما برخی از صداهای برتر در هوش مصنوعی شروع به صف آرایی عمومی در برابر تلاش های آنتروپیک برای القای هوشیاری در مدل ها کرده اند. آلتمن در پستی برای X گفت: «من از افرادی که سعی می‌کنند نیروی مذهبی یا تسلیم قضاوت انسانی را به مدل‌های هوش مصنوعی نسبت دهند و فکر می‌کنند این یک مسئله ایمنی واقعی است، خیلی ناراحتم.

زمینه: اوایل این هفته، نیویورک تایمز گزارش داد که کریستوفر اوله، یکی از بنیانگذاران آنتروپیک، با رهبران مذهبی ملاقات کرده است تا سؤالاتی در مورد آگاهی مدل بررسی کند - اما همچنین بفهمد که چگونه اخلاق و رفتار اخلاقی را به هوش مصنوعی تزریق کند. در یک نقطه، تایمز گزارش داد، اولا امکان شرکت مدل ها در اعترافات سبک کاتولیک را نه تنها برای اعتراف به اشتباهات خود بلکه برای شکل دادن به رفتار آینده خود در نظر گرفت.

تصویر بزرگ: معنویت ناگهان در حال تبدیل شدن به چیزی شبیه نقطه عطف در مورد آینده هوش مصنوعی است. روز جمعه پاپ لئو، منتقد صریح هوش مصنوعی، از کلیسا خواست تا با هنرمندان برای حفظ خلاقیت انسان متحد شود و گفت: "الگوریتم ها فاقد جرقه انسانیت هستند." بین سطور: موضع پاپ دوباره بر یک سوال اساسی تمرکز کرد: آیا مدل ها روح و احساسات دارند؟ تایمز گزارش داد که اولاه، قبل از یک رویداد واتیکان در ماه مه، تلاش کرد تا مشاوران پاپ را متقاعد کند که باید چشم‌انداز مدل‌های آگاه را جدی‌تر بگیرند.

به نظر می رسد تا کنون، دانشمندان برتر دیگر در مقابل این ایده صف آرایی کرده اند.

جان بارون، دانشمند تحقیقاتی اصلی Google DeepMind، در پستی به X نوشت: "من از اینکه چگونه برخی از همکاران محقق هوش مصنوعی من تلاش می کنند تا جایگاه اخلاقی پست های بازرسی و مهارها را ارتقا دهند، ناراحت هستم." برای ثبت: نه OpenAI و نه Anthropic بلافاصله به درخواست‌ها برای اظهار نظر در مورد پست آلتمن پاسخ ندادند.

نتیجه نهایی: بحث ایمنی هوش مصنوعی عمدتا بر مواردی مانند امنیت سایبری و سلاح‌های زیستی متمرکز است. مشکل واقعی ممکن است معنوی تر از این باشد.