روسای OpenAI و Anthropic سازمان ملل را برای شرایط جهانی هوش مصنوعی تحت فشار قرار می دهند

سم آلتمن از OpenAI به یک چهره کلیدی در توسعه فناوری هوش مصنوعی تبدیل شده است.

روسای OpenAI، Anthropic و Hugging Face به سازمان ملل گفته اند که سرعت فعلی توسعه هوش مصنوعی (AI) و خطراتی که برای جامعه ایجاد می کند، نیازمند هماهنگی بین المللی در مقیاس بین المللی است.

آلتمن مانند داریو آمودی از Anthropic، رقیب اصلی OpenAI و کلمنت دلانگ از Hugging Face، خواستار استانداردهای ارزیابی ریسک مشترک شد.

در اوایل این ماه، آمودی مقاله‌ای نوشت که مورد استقبال آلتمن و دیگران قرار گرفت و در پاسخ به ترس از تهدید این فناوری برای بشریت، کاهش سرعت توسعه هوش مصنوعی را نامید.

با این حال، در همان کنفرانس سازمان ملل، یکی از مشاوران کلیدی فناوری دونالد ترامپ، رئیس‌جمهور ایالات متحده، این ایده هرگونه شکل جدیدی از مقررات هوش مصنوعی را رد کرد.

مایکل کراتسیوس، یکی از مدیران سابق اوبر، اعتراف کرد که سرعت توسعه هوش مصنوعی در حال افزایش است و خطرات ناشی از این فناوری وجود دارد، اما به سازمان ملل گفت این دلیل کافی برای توقف توسعه یا محدود کردن آن با ساختارهای جدید حکمرانی جهانی نیست.

کراتسیوس افزود: «نمی‌توان اجازه داد گفت‌وگوی بین‌المللی در این مجمع و دیگران به سمت حکومت‌داری جهانی پیش برود.

سام آلتمن از OpenAI و سایر مدیران اجرایی هوش مصنوعی در گفتگوهای خود با سازمان ملل در روز چهارشنبه عکس این موضوع را داشتند.

آلتمن گفت: «اگر قرار است هوش مصنوعی دموکراتیک باشد، مهم‌ترین تصمیم‌ها را نمی‌توان تنها توسط آزمایشگاه‌های سانفرانسیسکو اتخاذ کرد.

او به سازمان ملل گفت که می‌خواهد کشورها با هم در جهت «خیر جمعی در مواجهه با فناوری جدید قدرتمند» همکاری کنند.

او خواستار استانداردهای هوش مصنوعی «ملی و بین‌المللی» در رابطه با روش‌های اندازه‌گیری قابلیت‌های ابزار هوش مصنوعی، ارزیابی ریسک‌های مرتبط، پادمان‌های هوش مصنوعی، و میزان نظارت انسانی بر این ابزارها شد.

او همچنین خواستار "گزارش سریع حوادث، طبقه بندی و پروتکل های گزارش دهی شد تا جهان بتواند از شکست ها قبل از تبدیل شدن به فاجعه درس بگیرد."

آلتمن افزود: «ما به استانداردهای مشترکی نیاز داریم تا کشورها بتوانند شواهد را با هم مقایسه کنند، مطابقت را تأیید کنند، و یک زبان مشترک و درک آنچه در حال رخ دادن است داشته باشند.

Amodei از Anthropic و Delangue از Hugging Face نظرات مشابهی در سخنرانی های خود داشتند.

آمودی گفت که هوش مصنوعی "در صورت مدیریت ضعیف... می تواند خطری برای کل بشریت باشد."

او افزود که توسعه بیشتر ابزارهای هوش مصنوعی مستلزم «استانداردهای ایمنی حتی سخت‌گیرانه‌تر» است.

آمودی افزود: «ما تا آنجا که لازم باشد کاهش می‌دهیم تا مطمئن شویم هر فناوری هوش مصنوعی متوالی که منتشر می‌کنیم واقعا ایمن است».

"اما صرف نظر از اینکه ما چه می کنیم، مدیریت این ریسک ها در نهایت بزرگتر از هر شرکت دیگری است و مقیاسی در سطح صنعت و جهانی دارد."

دلانگ از Hugging Face گفت: "جامعه جهانی به استانداردهای قوی تری برای نظارت و افشای حوادث نیاز دارد."

هر سه این مدیران در ایالات متحده مستقر هستند و به طور مستقیم در توسعه فناوری هوش مصنوعی نقش دارند.

Hugging Face، پلتفرمی برای توسعه‌دهندگان هوش مصنوعی، اخیرا پس از اعتراف به هک شدن توسط عوامل هوش مصنوعی یا ربات‌های هوش مصنوعی که تا حدودی مستقل عمل می‌کنند و از OpenAI بیرون آمده‌اند، به شهرت رسید.

Hugging Face از آن زمان توسط سازنده تراشه های هوش مصنوعی انویدیا خریداری شد.

هک Hugging Face به عنوان یک زنگ بیدارباش در صنعت برای روش هایی که در آن فناوری هوش مصنوعی پیشرفت کرده و می تواند به طور فرضی به گونه ای عمل کند که می تواند به بشریت آسیب برساند، تلقی شده است.