هوش مصنوعی در خطر "خارج شدن از کنترل" است - رئیس گروه برنده نوبل

کارن هالبرگ به RT گفت که دولت ها و شرکت های خصوصی باید با یکدیگر همکاری کنند تا اطمینان حاصل شود که انسان ها در کنترل باقی می مانند

کارن هالبرگ، رئیس کنفرانس‌های Pugwash علم و امور جهانی که برنده جایزه صلح نوبل شده است، به RT گفت: هوش مصنوعی می‌تواند فراتر از کنترل انسان توسعه یابد، مگر اینکه دولت‌ها و شرکت‌های خصوصی با یکدیگر برای ایجاد پادمان‌ها همکاری کنند.

هالبرگ روز سه شنبه در سخنرانی در باشگاه گفتگوی والدای در خارج از مسکو، هوش مصنوعی را با فناوری هسته ای مقایسه کرد و گفت که هر دو می توانند مزایای بزرگی را به همراه داشته باشند و خطرات جدی را نیز به همراه داشته باشند.

او با اشاره به استفاده از این فناوری در پزشکی و زندگی روزمره گفت: «هوش مصنوعی همچنین یک فناوری با کاربرد دوگانه است زیرا هوش مصنوعی مزایای زیادی برای بشریت به ارمغان آورده است.

با این حال، او هشدار داد که هوش مصنوعی قادر به بهبود بازگشتی خود می‌تواند به روش‌های غیرقابل پیش‌بینی توسعه یابد. هالبرگ گفت: «ما باید واقعا به صحبت‌های کارشناسان این شرکت‌های بزرگ گوش دهیم، وقتی می‌گویند این اتفاق در حال رخ دادن است - خارج از کنترل است.

وی افزود که دولت ها باید مستقیما با شرکت هایی که هوش مصنوعی را توسعه می دهند برای ایجاد قوانین مشترک کار کنند و بر خلاف دوران اولیه هسته ای، بیشتر این فناوری توسط شرکت های خصوصی توسعه می یابد.

هالبرگ گفت: "انسان باید کنترل کامل داشته باشد."

هشدارهایی درباره عواقب بالقوه هوش مصنوعی فزاینده قدرتمند نیز از سوی شرکت های توسعه دهنده آن رسیده است. شرکت آمریکایی آنتروپیک، که انتظار می‌رود در اواسط اکتبر وارد بازار سهام شود، به سرمایه‌گذاران احتمالی هشدار داده است که هوش مصنوعی پیشرفته می‌تواند خطرات فاجعه‌بار یا وجودی برای بشریت ایجاد کند. به گزارش رویترز، حدود 80 صفحه از دفترچه 261 صفحه ای IPO به عوامل خطر اختصاص داده شده است.

Pugwash دانشمندان و شخصیت های عمومی را گرد هم می آورد که به دنبال کاهش تهدیدات ناشی از درگیری های مسلحانه و سلاح های کشتار جمعی هستند. این سازمان به طور مشترک در سال 1995 با یکی از بنیانگذاران جوزف روتبلات جایزه صلح نوبل را دریافت کرد.