OpenAI ایالات متحده را به رهبری تلاش برای تعیین استانداردهای جهانی برای هوش مصنوعی سوق می دهد

(بلومبرگ) -- OpenAI از ایالات متحده می خواهد تا در پاسخ به نگرانی های فزاینده در مورد مضرات بالقوه این فناوری، تلاش هایی را با سایر کشورها برای تعیین استانداردهایی برای هوش مصنوعی پیشرفته انجام دهد.

پارامونت برای حل و فصل دعاوی، هموار کردن راه برای برادران وارنر.

رئیس انرژی قطر می‌گوید درباره آینده هرمز «اشتباه» است

ریسک هوش مصنوعی همه جا هست و میلیاردها دلار سرمایه را عصبی می کند

آمریکا و چین مذاکرات را در آستانه نشست ترامپ و شی مثبت ارزیابی کردند

نخست‌وزیر قطر می‌گوید کشورهای حوزه خلیج فارس باید با هم در مورد ایران اقدام کنند

در پست وبلاگی روز دوشنبه، این شرکت گفت استانداردهای فنی بین‌المللی برای توسعه ایمن هوش مصنوعی مورد نیاز است، به ویژه برای کمک به تعریف انواع حوادث مربوط به مدل‌های هوش مصنوعی، تعیین نحوه همکاری کشورها در پیشرفت هوش مصنوعی و بهبود دسترسی به ظرفیت محاسباتی برای توسعه چنین فناوری.

OpenAI گفت: «ایمن سازی و سودمند کردن پیشرفت هوش مصنوعی مستلزم پیشرفت در تحقیقات هم ترازی و استانداردهای مشترک برای هدایت توسعه در سراسر آزمایشگاه ها و کشورها است.

به گفته این شرکت، روز چهارشنبه، سام آلتمن، مدیر اجرایی OpenAI قصد دارد در شورای امنیت سازمان ملل برای بحث در مورد هوش مصنوعی و امنیت بین‌الملل سخنرانی کند و روز پنجشنبه در ضیافت شام دولتی کاخ سفید برای شی جین پینگ، رئیس‌جمهور چین شرکت خواهد کرد.

اسکات بسنت، وزیر خزانه داری ایالات متحده، در آخر هفته گفت که چین و ایالات متحده برای ایجاد آنچه که او آن را «گفتگوی هوش مصنوعی آمریکا و چین» می نامد، با هدف ایجاد درک مشترکی از مزایا و تهدیدات این فناوری موافقت کرده اند. او گفت که واشنگتن همچنین یک مکانیسم اطلاع رسانی را پیشنهاد کرد که حوادث هوش مصنوعی با پیامدهای امنیت ملی را پوشش دهد.

در هفته‌های اخیر، کارمندان شرکت‌های پیشرو هوش مصنوعی نگرانی‌های عمومی را در مورد افزایش خطرات سیستم‌های هوش مصنوعی پیشرفته مطرح کرده‌اند که باعث تشدید اضطراب در داخل و خارج از این شرکت‌ها می‌شود. این ترس‌ها توسط چندین رویداد در چند ماه گذشته که در آن مدل‌های پیشرفته هوش مصنوعی گروه‌های دیگر را در طی ارزیابی‌ها هک کردند، تقویت شده است.

در اوایل سال جاری، OpenAI و رقیب آن Anthropic PBC اسناد محرمانه ای را برای انتشار عمومی ثبت کردند.

در این پست، این شرکت تاکید کرد که چنین تلاش‌هایی باید شامل کشورهایی باشد که با یکدیگر همکاری کنند تا استانداردهای ملی و بین‌المللی تکمیلی برای ساخت قوی‌ترین مدل‌های هوش مصنوعی ارائه کنند. OpenAI پیشنهاد کرد که این امر می تواند از طریق موسسات ایمنی هوش مصنوعی موجود در تعدادی از کشورها، از جمله مرکز استانداردها و نوآوری هوش مصنوعی ایالات متحده (CAISI)، سازمانی در وزارت بازرگانی ایالات متحده که به آزمایش و توسعه دستورالعمل های مدل های هوش مصنوعی کمک می کند، انجام شود.

این وبلاگ همچنین خواستار استانداردهایی برای مدیریت توانایی فزاینده هوش مصنوعی برای انجام کار به تنهایی شد و گفت که بهبود خود بازگشتی «کاملا مستقل» - که به این نظریه اشاره دارد که هوش مصنوعی در نهایت قادر خواهد بود کد خود را تغییر دهد یا توانایی‌های خود را بدون مداخله انسانی بهبود بخشد - نباید «مگر و تا زمانی که با خیال راحت انجام شود» دنبال شود.

داریو آمودی، مدیرعامل آنتروپیک اخیرا ابراز نگرانی کرده است که به محض شروع چنین فرآیندی، می‌تواند یک حلقه بازخورد ایجاد کند که از توانایی انسان برای کنترل سیستم‌های در حال بهبود پیشی بگیرد.

در حالی که بسیاری از مدیران و کارکنان صنعت هوش مصنوعی مدت‌ها در مورد خطر وجودی سیستم‌های هوش مصنوعی هشدار داده‌اند، نگرانی‌ها در پاسخ به افشاگری‌ها مبنی بر همکاری عوامل هوش مصنوعی از OpenAI برای نقض محدودیت‌ها و هک کردن استارت‌آپ هوش مصنوعی Hugging Face Inc افزایش یافته است.

"احکام اعدام": ساخت کانترهای مورد علاقه آمریکا کشتن کارگران است

Fender با یک مبارزه کثیف بر سر استرات نمادین خود دشمن می سازد

افرادی که به ویپ علاقه دارند روش جدیدی را برای ترک سیگار امتحان می کنند: سیگار

تلاش ترامپ برای نتیجه‌بخش بودن، کل جهان را در معرض خطر قرار می‌دهد