ایالات متحده درخواست های OpenAI، Anthropic برای استانداردهای جهانی هوش مصنوعی را رد می کند

سم آلتمن از OpenAI به یک چهره کلیدی در توسعه فناوری هوش مصنوعی تبدیل شده است.

روسای OpenAI، Anthropic و Hugging Face به سازمان ملل گفته اند که سرعت فعلی توسعه هوش مصنوعی (AI) و خطراتی که برای جامعه ایجاد می کند، نیازمند هماهنگی بین المللی است.

آلتمن مانند داریو آمودی از Anthropic، رقیب اصلی OpenAI و کلمنت دلانگ از Hugging Face، خواستار استانداردهای ارزیابی ریسک مشترک شد.

در اوایل این ماه، آمودی مقاله‌ای نوشت که مورد استقبال آلتمن و دیگران قرار گرفت و در پاسخ به ترس از تهدید این فناوری برای بشریت، کاهش سرعت توسعه هوش مصنوعی را نامید.

با این حال، در همان کنفرانس سازمان ملل، یکی از مشاوران کلیدی فناوری دونالد ترامپ، رئیس‌جمهور ایالات متحده، این ایده را رد کرد که هر شکل جدیدی از مقررات مربوط به هوش مصنوعی باشد.

مایکل کراتسیوس، یکی از مدیران سابق Scale AI، اعتراف کرد که سرعت توسعه هوش مصنوعی در حال افزایش است و خطرات ناشی از این فناوری وجود دارد، اما به سازمان ملل گفت که این دلیل کافی برای توقف توسعه یا محدود کردن آن با ساختارهای جدید حکمرانی جهانی نیست.

کراتسیوس افزود: «نمی‌توان اجازه داد گفت‌وگوی بین‌المللی در این مجمع و دیگران به سمت حکومت‌داری جهانی پیش برود.

اظهارات کراتسیوس بازتاب اظهارات مشابهی بود که ترامپ در هفته های اخیر مطرح کرد.

ترامپ روز سه‌شنبه به سازمان ملل گفت که می‌خواهد نام آن را «فوق اطلاعاتی» تغییر دهد و به شدت با هرگونه ایده کاهش سرعت هوش مصنوعی به دلیل مزیت رقابتی ایالات متحده در این بخش مخالفت کرده است.

او در اوایل این ماه گفت: «ما در زمینه هوش مصنوعی چین را رهبری می‌کنیم... و صادقانه بگویم، من می‌خواهم این وضعیت را حفظ کنم زیرا هر کسی که هوش مصنوعی را برنده شود، برنده است.»

سام آلتمن از OpenAI و دیگر مدیران اجرایی هوش مصنوعی در گفتگوهای خود با سازمان ملل در روز چهارشنبه دیدگاه متفاوتی را بیان کردند.

آلتمن گفت: «اگر قرار است هوش مصنوعی دموکراتیک باشد، مهم‌ترین تصمیم‌ها را نمی‌توان تنها توسط آزمایشگاه‌های سانفرانسیسکو اتخاذ کرد.

او به سازمان ملل گفت که می‌خواهد کشورها با یکدیگر در جهت "خیر جمعی در مواجهه با فناوری جدید قدرتمند" همکاری کنند.

او خواستار استانداردهای هوش مصنوعی «ملی و بین‌المللی» در مورد سنجش قابلیت‌های ابزار هوش مصنوعی، ارزیابی خطرات مرتبط، پادمان‌های هوش مصنوعی، و میزان نظارت انسانی بر این ابزارها شد.

او همچنین خواستار "گزارش سریع حوادث، طبقه بندی و پروتکل های گزارش دهی شد تا جهان بتواند از شکست ها قبل از تبدیل شدن به فاجعه درس بگیرد".

آلتمن افزود: «ما به استانداردهای مشترکی نیاز داریم تا کشورها بتوانند شواهد را با هم مقایسه کنند، مطابقت را تأیید کنند، و یک زبان مشترک و درک آنچه در حال رخ دادن است داشته باشند.

همه کارکنان هوش مصنوعی فکر نمی کنند که این فناوری می تواند همه را بکشد

یکی از بنیانگذاران Anthropic به بی بی سی می گوید که "سوئیچ کشتن" هوش مصنوعی ممکن است لازم باشد اجباری باشد

محقق سابق آنتروپیک به بی‌بی‌سی می‌گوید کارکنان هوش مصنوعی برای آینده بشریت واقعا ترسیده‌اند.

Amodei از Anthropic و Delangue از Hugging Face نظرات مشابهی در سخنرانی های خود داشتند.

آمودی گفت که هوش مصنوعی "در صورت مدیریت ضعیف... می تواند خطری برای کل بشریت باشد".

وی افزود که توسعه بیشتر ابزارهای هوش مصنوعی مستلزم "استانداردهای ایمنی حتی سختگیرانه تر" است.

آمودی افزود: «ما تا آنجا که لازم باشد کاهش می‌دهیم تا مطمئن شویم هر فناوری هوش مصنوعی متوالی که منتشر می‌کنیم واقعا ایمن است».

"اما صرف نظر از اینکه ما چه می کنیم، مدیریت این ریسک ها در نهایت بزرگتر از هر شرکت دیگری است و مقیاسی در سطح صنعت و جهانی دارد."

دلانگ از Hugging Face گفت: "جامعه جهانی به استانداردهای قوی تری برای نظارت و افشای حوادث نیاز دارد."

هر سه این مدیران در ایالات متحده مستقر هستند و به طور مستقیم در توسعه فناوری هوش مصنوعی نقش دارند.

Hugging Face، پلتفرمی برای توسعه‌دهندگان هوش مصنوعی، اخیرا پس از اعتراف به هک شدن توسط عوامل هوش مصنوعی یا ربات‌های هوش مصنوعی که تا حدودی مستقل عمل می‌کنند و از OpenAI خارج شده‌اند، به شهرت رسید.

Hugging Face از آن زمان توسط سازنده تراشه های هوش مصنوعی انویدیا خریداری شد.

هک Hugging Face به عنوان یک زنگ بیدارباش در صنعت برای روش هایی که در آن فناوری هوش مصنوعی پیشرفت کرده و می تواند به طور فرضی به گونه ای عمل کند که می تواند به بشریت آسیب برساند، تلقی شده است.