رهبران هوش مصنوعی در میان افزایش هشدار نسبت به فناوری قدرتمند به سازمان ملل اطلاع رسانی می کنند

مدیران سه تا از تاثیرگذارترین شرکت‌های هوش مصنوعی جهان روز چهارشنبه با تشدید هشدارها مبنی بر اینکه سیستم‌های هوش مصنوعی پیشرفته‌تر می‌توانند به‌زودی خود را به گونه‌ای بهبود بخشند که از نظارت انسانی پیشی می‌گیرد، به شورای امنیت سازمان ملل متحد مراجعه کردند.

محققان برجسته، سیاست‌گذاران و چهره‌های صنعت می‌گویند که این بحث فوری‌تر شده است زیرا قابلیت‌های هوش مصنوعی سریع‌تر از آن‌که دولت‌ها می‌توانند قوانینی برای مدیریت آن‌ها تدوین کنند، در حال پیشرفت است.

این بحث می‌تواند همکاری‌های بین‌المللی آینده را در زمینه حکمرانی هوش مصنوعی شکل دهد، بر مذاکرات ایالات متحده و چین در مورد خطرات فناوری تأثیر بگذارد و تعیین کند که دولت‌ها چگونه به نگرانی‌ها در مورد تهدیدات امنیت ملی ناشی از سیستم‌های قدرتمند هوش مصنوعی پاسخ می‌دهند.

سام آلتمن، مدیر عامل OpenAI، داریو آمودی، مدیر عامل آنتروپیک و کلمان دلانگو، بنیانگذار Hugging Face، از جمله کسانی بودند که به شورای 15 نفره گزارش دادند.

ظاهر آنها با نگرانی فزاینده محققان و دولت ها در مورد اینکه هوش مصنوعی بدون پادمان های بین المللی به طور فزاینده ای مستقل و کنترل آن دشوار است، همزمان بود.

یوشوا بنجیو، پیشگام کانادایی هوش مصنوعی، که ریاست یک پانل علمی تحت حمایت سازمان ملل در زمینه هوش مصنوعی را بر عهده دارد، به اعضای شورا هشدار داد که خطرات ناشی از هوش مصنوعی پیشرفته "واقعی و قریب الوقوع است."

دخالت شورای امنیت منعکس کننده یک تغییر عمده در نحوه نگاه دولت ها به هوش مصنوعی است. زمانی که تا حد زیادی به عنوان یک موضوع تجاری و فناوری در نظر گرفته می شد، هوش مصنوعی به طور فزاینده ای به عنوان موضوع صلح و امنیت بین المللی مورد بحث قرار می گیرد.

دیپلمات‌ها گفتند که نگرانی اصلی این است که آیا سیستم‌های هوش مصنوعی پیشرفته می‌توانند روزی به روش‌های غیرقابل پیش‌بینی تعامل کنند که بی‌ثباتی ژئوپلیتیکی ایجاد کند یا حتی به درگیری نظامی کمک کند.

مقامات درگیر در این بحث استدلال کردند که تأثیر بالقوه این فناوری فراتر از کشورها است.

برخلاف سیستم‌های تسلیحاتی متعارف یا ابزارهای سایبری که اغلب می‌توانند به بازیگران خاصی متصل شوند، مدل‌های پیشرفته هوش مصنوعی می‌توانند فورا از مرزها عبور کرده و دولت‌ها، مشاغل و غیرنظامیان را به طور همزمان تحت تأثیر قرار دهند.

این شورا برای اولین بار در سال 2023 خطرات هوش مصنوعی را بررسی کرد، زمانی که چین هشدار داد که هوش مصنوعی نباید به "اسب فراری" تبدیل شود، در حالی که ایالات متحده در مورد استفاده از آن برای سانسور و سرکوب هشدار داد.

از آن زمان، قابلیت‌های هوش مصنوعی به طور چشمگیری گسترش یافته است و فشار بر دولت‌ها برای تعیین میزان نظارت ضروری را افزایش داده است.

هشدارهای اخیر محققان و مدیران هوش مصنوعی نیز این موضوع را در دستور کار جهانی قرار داده است.

چندین رهبر صنعت با این استدلال که پیشرفت سریع این فناوری می تواند خطراتی ایجاد کند که موسسات موجود آمادگی مقابله با آن را ندارند، خواستار احتیاط بیشتر شده اند زیرا سیستم های هوش مصنوعی توانمندتر می شوند.