کارشناسان هوش مصنوعی سازمان ملل نسبت به لفاظی های «آخرالزمانی» در مورد خطرات هشدار می دهند

یکی از کارمندان سابق آنتروپیک گفته بود که هوش مصنوعی «تا پایان دهه می تواند همه ما را بکشد».

نیویورک – چندین کارشناس کمیته هوش مصنوعی سازمان ملل متحد در 21 سپتامبر نسبت به لفاظی های آخرالزمانی که توسط برخی متخصصان این بخش در مورد خطرات هوش مصنوعی استفاده می شود، هشدار دادند.

جوئل بارال، مدیر اجرایی Google DeepMind و یکی از اعضای پانل علمی بین‌المللی هوش مصنوعی، یک نهاد مستقل، می‌گوید: به‌عنوان دانشمندان، سرمایه‌گذاری در علم بسیار مهم است، تا واقعا آنچه را که نمی‌دانیم (از) چیزهایی که نمی‌دانیم، درک کنیم و سرمایه‌گذاری در ترس چندان مفید نیست.

او در پاسخ به سوالی از خبرگزاری فرانسه در مورد اظهارات عمومی اخیر در مورد خطرات احتمالی هوش مصنوعی، به ویژه از سوی جیکوب کاکسون، پاسخ می داد.

کارمند سابق آنتروپیک، که قبلا در OpenAI کار می کرد، در اوایل سپتامبر گفت که توسعه دهندگان هوش مصنوعی معتقدند این فناوری "می تواند تا پایان دهه همه ما را بکشد".

یک مهندس محقق که در ماه ژوئیه گوگل دیپ‌مایند را ترک کرد، اظهارات مشابهی کرد و گفت که ممکن است برای جلوگیری از ریشه‌کنی بشر توسط هوش مصنوعی «خیلی دیر باشد».

ماریا رسا، برنده جایزه صلح نوبل، خبرنگار تحقیقی، در 21 سپتامبر در همان رویدادی که در نیویورک در حاشیه مجمع عمومی سازمان ملل برگزار شد، گفت: "ما باید نحوه صحبت درباره خطر هوش مصنوعی را تغییر دهیم، زیرا برای مدت طولانی، یا وجودی است و همه چیز در حال مرگ است و روبات های قاتل در حال آمدن هستند، یا واقعا مهم نیست."

او ادامه داد: "هر چند حقیقت بسیار ظریف تر و پیچیده تر است."

شما نمی توانید آن را به ایدئولوژی تبدیل کنید، که به نظر من (بحث) به کجا کشیده شده است.»

پنل علمی بین المللی در زمینه هوش مصنوعی در سال 2025 ایجاد شد و اعضای آن در فوریه 2026 انتخاب شدند.

وظیفه آن ارتقاء درک علمی هوش مصنوعی و اطلاع رسانی در مورد مذاکرات سازمان ملل است.

یوشوا بنجیو، که یکی از پدران هوش مصنوعی و همچنین یکی از رئیس‌های این پنل به حساب می‌آید، می‌گوید که تمایز بین آنچه که دانشمندان واقعا در مورد خطرات هوش مصنوعی می‌دانند و آنچه که تنها می‌توان از این شواهد «به‌طور منطقی» استنباط کرد، مهم است – حوزه‌ای که کارشناسان هنوز با آن موافق نیستند.

او گفت: «مشکل با فریاد زدن بسیار بلند این است که شخص دیگری نیز می تواند بسیار بلند فریاد بزند.

آنچه در عوض مورد نیاز است «یک بحث عقلانی جهانی درباره آنچه در حال وقوع است، از جمله درباره عدم قطعیت، از جمله در مورد شدت خطرات» است. خبرگزاری فرانسه