رهبران شرکت‌های هوش مصنوعی به سازمان ملل می‌گویند که صنعت به مقررات جهانی نیاز دارد

رؤسای چندین شرکت بزرگ هوش مصنوعی به شورای امنیت سازمان ملل (UNSC) گفتند که صنعت آنها برای جلوگیری از خطراتی که می تواند کل جهان را تهدید کند، نیاز فوری به نظارت جهانی دارد.

داریو آمودی، مدیر اجرایی آنتروپیک، روز چهارشنبه به اعضای بدن گفت: «اگر هوش مصنوعی ضعیف مدیریت شود، حتی معتقدم هوش مصنوعی می‌تواند برای کل بشریت یک خطر باشد.

سام آلتمن، رئیس شرکت رقیب OpenAI، نگرانی های خود را تکرار کرد و به شورای 15 عضوی که وظیفه رسیدگی به بحران های بزرگ در سطح جهانی را بر عهده داشتند، گفت که بشریت ممکن است "کنترل آینده هوش مصنوعی را از دست بدهد".

این نشست که همزمان با نشست مجمع عمومی سازمان ملل متحد (UNGA) در شهر نیویورک است، توسط فرانسه برگزار شد و در زمانی برگزار شد که کارشناسان به طور فزاینده‌ای هشدار می‌دهند که توسعه سریع هوش مصنوعی نیازمند نظارت بیشتر انسانی است تا اطمینان حاصل شود که از کنترل خارج نمی‌شود و فاجعه‌ای جهانی ایجاد نمی‌کند.

آلتمن و آمودی از رهبران جهان خواستند وارد عمل شوند.

آلتمن به اعضا گفت: «اگر قرار است هوش مصنوعی دموکراتیک باشد، مهم‌ترین تصمیم‌ها را نمی‌توان تنها توسط آزمایشگاه‌های سانفرانسیسکو اتخاذ کرد. آنها باید از طریق فرآیندهای دموکراتیک و توسط دولت هایی که در قبال مردمی که به آنها خدمت می کنند پاسخگو باشند، شکل بگیرند.

چندین نماینده در شورا، از جمله وزرای امور خارجه فرانسه و بریتانیا، که گفتند جامعه بین‌المللی باید وارد عمل شود و چارچوب‌های مشترکی برای نحوه کنترل این فناوری ایجاد کند، نگرانی‌های آنها را به اشتراک گذاشتند.

کلمنت دلانگ، مدیرعامل Hugging Face، که شرکتش در ماه‌های اخیر مورد حمله مدل‌های هوش مصنوعی خارج از کنترل قرار گرفته است - حوادثی که توسط سایر شرکت‌ها به عنوان شواهدی مبنی بر نیاز به اقدامات ایمنی بیشتر مورد استفاده قرار می‌گیرد - به شورای امنیت سازمان ملل گفت که شرکت او برای دفاع از خود در همان حوادث به این فناوری تکیه کرده است.

دلانگ گفت Hugging Face به یک مدل هوش مصنوعی چینی برای کمک به دفاع در برابر حمله توسط عوامل هوش مصنوعی OpenAI تکیه کرده است، زیرا با محدودیت‌های کمتری نسبت به ابزارهای مشابه ایالات متحده روبرو بود.

او به شورا گفت: «ما مورد حمله هوش مصنوعی قرار گرفتیم، اما مهمتر از آن، ما با هوش مصنوعی از خود دفاع کردیم.

با این حال، در ایالات متحده، جایی که بزرگترین و تاثیرگذارترین شرکت‌های توسعه‌دهنده هوش مصنوعی مستقر هستند، دولت دونالد ترامپ، رئیس‌جمهور ایالات متحده، از تحمیل نرده‌های محافظ جدید بر این صنعت سر باز زد.

نماینده دولت در نشست شورای امنیت سازمان ملل، مایکل کرتسیوس، به اعضا گفت: "ما تمام تلاش های نهادهای بین المللی برای اعمال کنترل متمرکز و حاکمیت جهانی هوش مصنوعی را کاملا رد می کنیم."

انتظار می‌رود شی جین پینگ، رئیس‌جمهور چین در این هفته در سفر به واشنگتن دی سی درباره اینکه آیا و چگونه باید هوش مصنوعی را تنظیم کند، بحث کند. دو کشور در یک رقابت تکنولوژیکی برای توسعه ابزارهای هوش مصنوعی قوی تر هستند، رقابتی که کارشناسان می گویند این احتمال را کاهش می دهد که هر یک از کشورها بخواهند فورا محدودیت های جدیدی را بر تلاش های خود اعمال کنند.

دانیل فورتی، رئیس امور سازمان ملل در گروه بین المللی بحران، گفت: با این حال، خطری که هوش مصنوعی به طور بالقوه برای جهان ایجاد می کند، در سازمان ملل به رسمیت شناخته شده است. فورتی گفت: کشورهای عضو می‌دانند که «نیاز به همکاری بین‌المللی، تعیین برخی قوانین هوش مصنوعی، بسیار بیشتر خواهد بود، حتی اگر بزرگ‌ترین بازیگران بیشتر بر فرصت‌های رشد تمرکز کنند تا نوعی همکاری».

چندین سال است که سازمان ملل متحد در جلسات چندجانبه شرکت می کند تا همه چیز را شکل دهد، از حمایت از کارگران در برابر هوش مصنوعی در اقتصادهای نوظهور و اطمینان از دسترسی آزاد به این فناوری تا پیگیری نحوه استفاده از هوش مصنوعی در درگیری های نظامی. در سال 2024، UNGA به اتفاق آرا اولین قطعنامه خود را در مورد هوش مصنوعی تصویب کرد، بیانیه ای غیرالزام آور که از کشورهای عضو می خواست از داده های شخصی محافظت کنند، هوش مصنوعی را برای خطرات نظارت کنند و از حقوق بشر محافظت کنند.

استفاده از هوش مصنوعی از آن زمان به‌طور چشمگیری افزایش یافته است و به همراه آن هشدارهای وحشتناکی از سوی گروه‌های زیست‌محیطی، حامیان حقوق بشر و حتی غول‌های فناوری که شرکت‌هایشان در حال توسعه این فناوری هستند، همراه بوده است.

آنتونیو گوترش، دبیرکل سازمان ملل متحد در یک اجلاس جهانی که در اوایل سال جاری برگزار شد، گفت: آینده هوش مصنوعی «نمی‌تواند توسط چند کشور تعیین شود یا به هوس چند میلیاردر واگذار شود».

سال گذشته، UNGA دو نهاد جدید را برای مقابله با هوش مصنوعی تشکیل داد: پانل علمی مستقل بین‌المللی در زمینه هوش مصنوعی که کارشناسان را گرد هم می‌آورد تا ارزیابی‌های مستقلی را به دولت‌ها ارائه دهند، و گفت‌وگوی جهانی درباره حکمرانی هوش مصنوعی، که یک مجمع منظم برای بحث در مورد رویکردهای حاکمیت هوش مصنوعی فراهم می‌کند.

یوشوا بنجیو، کارشناس کانادایی در زمینه هوش مصنوعی و رئیس هیئت علمی مستقل بین المللی روز چهارشنبه به شورای امنیت سازمان ملل گفت: «خطرات واقعی و قریب الوقوع هستند. این شورا با تهدید بی‌سابقه‌ای مواجه است، تهدیدی که هیچ یک از اعضای آن آن را انتخاب نمی‌کنند، هیچ‌یک به تنهایی نمی‌تواند آن را مهار کند و به مرزهایی که ما از آن دفاع می‌کنیم احترام نمی‌گذارد.»