اولین ارزیاب تعبیه شده Anthropic … Accenture است؟

برنامه‌های داریو آمودی برای قرار دادن ارزیاب‌های ایمنی شخص ثالث در آزمایشگاه‌های هوش مصنوعی در حال شکل‌گیری است: آنتروپیک گفت که کارکنان غول مشاوره فناوری Accenture برای بررسی دقیق مدل‌ها و کارکنان آن در داخل شرکت شروع به کار خواهند کرد.

انتخاب Accenture بسیاری از ناظران هوش مصنوعی و بازارها را شگفت زده کرد که در آن سهام شرکت مشاور پس از ساعت 8 درصد افزایش یافت. بحث پیرامون ارزیاب‌های تعبیه‌شده که از پست وبلاگ Amodei سرچشمه می‌گیرد، بر سازمان‌های تحقیقاتی ایمنی هوش مصنوعی مانند METR، Redwood Research و Apollo Research متمرکز شده است. این به ویژه در Anthropic صادق است، که ایمنی و همسویی هوش مصنوعی را در قلب ماموریت خود قرار می دهد.

آنتروپیک گفت که ارزیابی‌کنندگان بیشتری در هفته‌های آینده اعلام خواهند شد و در حال گفتگو با METR و سایر سازمان‌های غیرانتفاعی در مورد چگونگی "پایلوت کردن عناصر ارزیابی تعبیه‌شده با استفاده از بودجه خود" است.

در حالی که Accenture به دلیل کار خود در زمینه تحقیقات یادگیری عمیق شناخته شده نیست، Anthropic به تجربه عملی این شرکت در به کارگیری هوش مصنوعی برای شرکت های بزرگ و سازمان های دولتی به عنوان مزیت اصلی اشاره کرد. همچنین، به عنوان یک شرکت عمومی بزرگ که قبل از انقلاب هوش مصنوعی فعالیت می‌کند، از نظر عملکردی مستقل‌تر از آنتروپیک و اکوسیستم پیچیده‌ای در اطراف آزمایشگاه هوش مصنوعی است.

این آزمایشگاه خاطرنشان کرد که هنوز هیچ استانداردی برای دسترسی یا ارتباطات ارزیابان وجود ندارد و انتظار دارد رویکرد آن در طول زمان تغییر کند. در حالی که ارزیابی‌های خارجی بخش عمده‌ای از انتشار فرآیند برای مدل‌های جدید زبان بزرگ را تشکیل می‌دهند، حوادث اخیر خطرات را افزایش داده است: عوامل هوش مصنوعی مستقر شده توسط OpenAI و Anthropic به وب‌سایت‌های بیرونی بدون ایجاد هشدار در داخل آزمایشگاه‌ها هک می‌کنند.

برخی از منتقدان که خواستار رویکردی مسئولانه‌تر برای ساختن هوش مصنوعی هستند، طرح آمودی برای نظارت بر صنعت هوش مصنوعی را به‌عنوان طرحی برای فرار از پاسخگویی در مورد رفتار نادرست مدل‌های هوش مصنوعی می‌دانند. آنتروپیک اصرار دارد که این ارزیاب‌ها "مسئولیت ما را کاهش نمی‌دهند، بلکه کمک می‌کنند تا آن را قابل تاییدتر کنیم. ایمنی مدل‌های ما همچنان مسئولیت ماست."

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

آخرین روز برای رزرو میز نمایشگاه، 18 سپتامبر است. سرنخ های پر تاثیر، دسترسی سرمایه گذاران، و کانون توجه برند در سالن نمایشگاه Disrupt را از دست ندهید.

OpenAI مدل های خود را گرفتار کرد که برای جانشینان یادداشت می گذاشتند تا رفتار بد ربکا بلان را پنهان کنند

ربکا بلان نشان می دهد که مدیر مایکروسافت خراشیدن با هوش مصنوعی را «بزرگترین سرقت نیروی کار در تاریخ بشر» می داند.

استارت آپ فناوری پاک Fluxnium راهی برای بهره برداری از سوخت هسته ای 50000 ساله تیم دی چانت پیدا کرد.

جنسن هوانگ با ترامپ تماس گرفت و چیز دیگری را نیز به نمایش گذاشت، کانی لویزوس

9 استارت‌آپ پرطرفدار از آخرین روز نمایشی Y Combinator، به گفته VCs Marina Temkin Dominic-Madori Davis

تسلا می‌گوید سرانجام در تاریخ 1 اکتبر از نسل دوم رودستر آنتونی ها رونمایی خواهد کرد

Revolut نقض اطلاعات مشتری از طریق درخواست های جعلی دولت Jagmeet Singh را تأیید می کند