OpenAI، Anthropic، Google هفته ها در مورد ایمنی هوش مصنوعی صحبت کرده اند

کریس لیهان، مدیر سیاست جهانی OpenAI، روز سه‌شنبه به خبرنگاران گفت که این شرکت هفته‌ها با رقبای Anthropic و Google DeepMind در زمینه ایمنی هوش مصنوعی کار می‌کند، همانطور که برای اولین بار توسط بلومبرگ گزارش شد. بنا به گزارش ها، لیهان در واشنگتن به سر می برد تا با قانونگذاران آمریکایی برای رسیدگی به خطرات فاجعه بار مرتبط با هوش مصنوعی همکاری کند.

این افشاگری در پی مقاله مدیر عامل آنتروپیک، داریو آمودی، منتشر شد، که روز شنبه منتشر شد، که از صنعت خواست تا با یکدیگر همکاری کنند تا سرعت هوش مصنوعی مرزی را کاهش دهند و از خطرات فاجعه بار جلوگیری کنند. رهبران هوش مصنوعی در سراسر صنعت، از جمله سام آلتمن از OpenAI، دمیس حسابیس گوگل و ایلان ماسک از SpaceXAI، از نامه آمودی و فراخوان برای اقدام حمایت کردند و آلتمن گفت که OpenAI به Anthropologic خواهد پیوست تا ارزیاب های شخص ثالث را در شرکت تعبیه کند تا بر ایمنی نظارت کنند.

روز سه‌شنبه، Lehane اعتراف کرد که این سه شرکت برای چندین هفته در مورد ایمنی هوش مصنوعی در حال مذاکره بوده‌اند. برخی، از جمله آلتمن، اشاره کرده اند که اگر هماهنگی برای سرکوب رقابت انجام شود، چنین مذاکراتی می تواند شرکت ها را در معرض خطر نقض قوانین ضد انحصار قرار دهد. مقاله آمودی یک معافیت محدود دولتی را پیشنهاد می‌کند که اجازه چنین هماهنگی ایمنی را می‌دهد، اما لیهان گفته است که شرکت‌ها به آن نیازی ندارند.

این خبر گزارش های قبلی را تایید می کند و اشاره می کند که این شرکت ها با هم کار می کردند. در مصاحبه ای با Fortune در اواخر هفته گذشته، آلتمن اشاره کرد که در گفتگوهای خصوصی با دیگر رهبران هوش مصنوعی بوده است. این هفته، The Information گزارش داد که این سه شرکت با هم کار کرده اند تا یک بدنه استاندارد برای صنعت هوش مصنوعی ایجاد کنند - چیزی که طبق گزارشات آلتمن به کارکنان گفته است که بدون حمایت دولت ایالات متحده باید اتفاق بیفتد.

حسابیس در ماه ژوئیه از ایالات متحده خواست تا یک نهاد استاندارد جدید ایجاد کند تا به عنوان یک ناظر هوش مصنوعی عمل کند، با این قدرت که پیشرفته‌ترین مدل‌های جهان را بررسی کند و در صورت پیشرفت خطرات، کاهش سرعت صنعت را هماهنگ کند.

پرزیدنت ترامپ، به نوبه خود، نگرانی های ایمنی را به عنوان یک حقه رد کرده و نیاز به مقررات سخت گیرانه تر را عقب نشینی کرده و گفته است که هر گونه کندی به چین اجازه می دهد تا در این رقابت پیش بیاید. مشاور کلیدی هوش مصنوعی او دیوید ساکس - یک سرمایه گذار قدیمی با سهام شخصی در بیشتر صنعت - این را تکرار کرد و گفت که ترس از خطر وجودی ناشی از هوش مصنوعی بیش از حد است.

در همان جلسه سه‌شنبه، Lehane گفت که OpenAI از مقرراتی در قانون FRONTIER حمایت می‌کند که آزمایشگاه‌های مرزی برتر را مجبور می‌کند تا به «سازمان‌های تأیید مستقل» اجازه ورود به شرکت‌های خود را بدهند تا مطمئن شوند مدل‌ها به طور ایمن توسعه می‌یابند.

TechCrunch برای نظر دادن با Anthropic، Google و OpenAI تماس گرفته است.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

ربکا بلان یک گزارشگر ارشد در TechCrunch است که در آن تجارت، سیاست و روندهای نوظهور در شکل گیری هوش مصنوعی را پوشش می دهد. آثار او همچنین در فوربس، بلومبرگ، آتلانتیک، دیلی بیست و سایر نشریات ظاهر شده است.

می‌توانید با ارسال ایمیل به rebecca.bellan@techcrunch.com یا از طریق پیام رمزگذاری‌شده در rebeccabellan.491 در سیگنال، با ربکا تماس بگیرید یا آن را تأیید کنید.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

Revolut نقض اطلاعات مشتری از طریق درخواست های جعلی دولت Jagmeet Singh را تأیید می کند

OpenAI اشتراک های Pro را به دلیل تقاضای Astra سارا پرز متوقف می کند

غول تأیید هویت IDScan نقض اطلاعات با سرقت بیش از 150 میلیون گواهینامه رانندگی Zack Whittaker را تأیید کرد.

هیئت مدیره Automattic، مدیر عامل مت مولنوگ، جولی بورت سارا پرز را مجبور به مرخصی می کند.

اپل از اولین گوشی تاشو خود با نام iPhone Duo Ivan Mehta رونمایی کرد

"قمار با زندگی ما": محقق Anthropic استعفا داد و نسبت به هوش مصنوعی خود-بهبود ربکا بلان هشدار داد