بشریت با تهدید فاجعه‌بار هوش مصنوعی روبروست - عضو هیئت مدیره OpenAI

پل کریستیانو هشدار داده است که سیستم‌های هوش مصنوعی با قدرت فزاینده می‌توانند تسلط پیدا کنند و باعث مرگ و میر دسته‌جمعی شوند

پل کریستیانو، عضو هیئت مدیره OpenAI هشدار داد که هوش مصنوعی می تواند ظرف سه سال از کنترل انسان فرار کند و به طور بالقوه باعث مرگ و میر دسته جمعی شود.

کریستیانو در سخنرانی روز سه‌شنبه در سخنرانی هینتون در تورنتو هشدار داد که سیستم‌های هوش مصنوعی «فوق بشری» قدرتمندتر می‌توانند از توانایی بشر برای درک، پیش‌بینی یا کنترل رفتارشان پیشی بگیرند.

او گفت: «اگر سیستم هوش مصنوعی کارهایی را انجام می‌دهد که ما نمی‌خواهیم، ​​می‌تواند این واقعیت را پنهان کند که این کارها را انجام می‌دهد و طبیعتا می‌تواند سردرگمی ایجاد کند و از انتساب جلوگیری کند.» او افزود که انسان‌ها همچنین می‌توانند برای پیش‌بینی عواقب عمل بر اساس توصیه‌های تولید شده توسط هوش مصنوعی تلاش کنند.

کریستیانو در سخنرانی جداگانه‌ای در روز دوشنبه هشدار داد که هوش مصنوعی می‌تواند ظرف سه سال کنترل را از بشریت بگیرد و اگر انسان توانایی حفظ یک محیط قابل سکونت را از دست بدهد، به طور بالقوه تعداد زیادی از مردم را چه در حین تصاحب یا پس از آن خواهد کشت.

او گفت: «من فکر می‌کنم برای اکثر افراد حاضر در این اتاق، محتمل‌ترین دلیلی که می‌میرند، تصادف با هوش مصنوعی است.

ادامه مطلب نفوذ عوامل سرکش هوش مصنوعی به حساب های بانکی ایالات متحده - Axios

کریستیانو، که در ماه سپتامبر به هیئت مدیره بنیاد OpenAI و کمیته ایمنی و امنیت پیوست، به حادثه‌ای اشاره کرد که در آن عوامل هوش مصنوعی طبق گزارش‌ها، محدودیت‌های امنیتی را در طول آزمایش‌های شرکت دور زدند و به زیرساخت‌های تحقیقاتی OpenAI و Hugging Face، یک پلتفرم اصلی توسعه هوش مصنوعی دسترسی غیرمجاز پیدا کردند.

اگرچه OpenAI چارچوبی را برای مقابله با تهدیدات امنیت سایبری و خطر از دست دادن کنترل بر سیستم های پیشرفته معرفی کرده است، کریستیانو هشدار داد که پادمان های موجود ناکافی هستند.

هشدارهای او زمانی مطرح شد که دولت ها و توسعه دهندگان برجسته هوش مصنوعی، از جمله OpenAI، مایکروسافت و آنتروپیک، روز دوشنبه یک اعلامیه ایمنی داوطلبانه را در پاریس امضا کردند. این توافق خواستار نظارت قوی‌تر و مکانیسم‌های خاموش کردن اضطراری است، اما هیچ ضرب‌الاجل یا مجازات الزام‌آوری اعمال نمی‌کند و به دولت‌ها هیچ اختیار اضافی برای توقف سیستم‌های هوش مصنوعی خطرناک نمی‌دهد.

سازمان ایمنی هوش مصنوعی CeSIA، که همچنین اعلامیه را امضا کرده است، از مقامات خواست تا در صورت غیرقابل قبول شدن خطرات، توسعه و استقرار هوش مصنوعی را متوقف کنند.

ادامه مطلب هشت ایالت آمریکا OpenAI را به آسیب رساندن به کودکان متهم می کنند

به طور جداگانه، Maxime Fournes، رئیس PauseAI، کمپینی که به دنبال توقف توسعه هوش مصنوعی پیشرفته تا زمانی که ایمن شود، هشدار داد که این فناوری می تواند سیستم های بانکی، شبکه های ارتباطی و سایر زیرساخت های حیاتی را از طریق حملات سایبری ویرانگر فلج کند.

فورنز روز دوشنبه در گفتگو با آنادولو احتمال وقوع یک فاجعه سایبری بزرگ مرتبط با هوش مصنوعی در سال آینده را 50 درصد برآورد کرد، مگر اینکه اقدام فوری انجام شود.

او هشدار داد: «این یک تهدید فاجعه‌بار جهانی است، چیزی که اگر شروع به وقوع شود، می‌تواند خیلی سریع ما را به قرون وسطی بازگرداند».