OpenAI، روسای Anthropic به شورای امنیت سازمان ملل می گویند که هیچ کشور و شرکتی نباید هوش مصنوعی را کنترل کند

روسای OpenAI و Anthropic روز چهارشنبه به شورای امنیت سازمان ملل گفتند که هیچ بازیگری نباید بر هوش مصنوعی تسلط داشته باشد و خواستار همکاری بین‌المللی برای مدیریت خطرات این فناوری با پیشرفت آن شدند.

سام آلتمن، مدیر عامل OpenAI در جلسه شورای امنیت در مورد هوش مصنوعی و امنیت بین‌الملل سخنرانی کرد: "ما یک انتخاب پیش روی خود داریم. هوش مصنوعی می‌تواند بیشتر شبیه یک رنسانس جدید خلاقیت و اکتشاف باشد یا بیشتر شبیه یک انقلاب صنعتی جدید با تحولات و آشفتگی باشد."

او گفت که هوش مصنوعی «باید برای مردم ساخته شود، نه صرفا برای چرخاندن سریع‌تر میل لنگ ماشین‌ها به خاطر خودشان»، و افزود که برخی اظهارات افرادی که روی این فناوری کار می‌کنند «آنقدر دیستوپیک هستند که شبیه داستان فیلم‌های علمی تخیلی بد به نظر می‌رسند».

آلتمن هشدار داد که «هیچ شخص یا شرکت یا کشوری نباید بتواند از قدرتمندترین مدل‌های هوش مصنوعی برای تحمیل جهان بینی خود به دیگران استفاده کند» و استدلال کرد که تصمیم‌گیری در مورد هوش مصنوعی «تنها توسط آزمایشگاه‌های سانفرانسیسکو نمی‌تواند اتخاذ شود» و در عوض باید «از طریق فرآیندهای دموکراتیک و توسط دولت‌هایی که در قبال مردمی که به آن‌ها خدمت می‌کنند، پاسخگو باشد.»

داریو آمودی، مدیر عامل آنتروپیک، دو خطر اصلی را شناسایی کرد: سوء استفاده از مدل‌های هوش مصنوعی، از جمله توسط «بیوتروریست‌ها برای ایجاد سلاح‌های بیولوژیکی» و خطر «شتاب گرفتن قابلیت‌های مدل فراتر از توانایی توسعه‌دهندگان برای کنترل آن‌ها».

او تاکید کرد که «اگر مدیریت ضعیفی داشته باشد»، هوش مصنوعی «می‌تواند خطری برای کل بشریت باشد».

آمودی گفت که شرکت او برای اطمینان از ایمن بودن هر سیستم هوش مصنوعی جدیدی که منتشر می‌کند، «تا آنجایی که لازم باشد کند می‌شود»، اما تأکید کرد که مدیریت ریسک‌ها «بزرگ‌تر از هر شرکت دیگری» است و «مقیاس صنعتی و جهانی دارد».

او خواستار "استانداردهای جهانی مشترک برای آزمایش مدل های هوش مصنوعی برای از دست دادن خطرات کنترل و خطرات سوء استفاده" شد و این موضوع را به عنوان "مهم ترین مسئله امنیت جهانی که جهان امروز با آن مواجه است" توصیف کرد.

یوشوا بنجیو، رئیس هیئت مدیره مستقل بین‌المللی سازمان ملل در زمینه هوش مصنوعی، از چارچوب‌بندی صنعتی توسعه هوش مصنوعی به عنوان یک رقابت اجتناب‌ناپذیر عقب‌نشینی کرد.

وی با بیان اینکه «شهروندان و دولت‌ها نباید ادعای شرکت‌ها مبنی بر گرفتار شدن در یک مسابقه را بپذیرند»، گفت: «مسابقه قانون طبیعت نیست، محصول انتخاب‌ها و انتخاب‌های خود شرکت‌ها است.»

بنژیو به اعضای شورای امنیت گفت که با وجود اعتماد شکننده در میان کشورها، "نژاد هر ملتی را تهدید می کند."