Anthropic و Accenture 2 میلیارد دلار برای ارزیابی ایمنی هوش مصنوعی تعبیه شده متعهد می شوند

Anthropic و Accenture همکاری خود را با هدف تعبیه تیم‌هایی در توسعه‌دهنده Claude برای ارزیابی و ارزیابی ایمنی مدل‌های پیشرفته هوش مصنوعی اعلام کرده‌اند.

در این همکاری، Accenture، از طریق دانشکده تابعه هوش مصنوعی، در کنار کارکنان Anthropic و سایر شرکای ایمنی کار خواهد کرد.

تمرکز بر ارزیابی و "تیم قرمز" مدل‌های هوش مصنوعی، انجام ارزیابی‌های هم ترازی، و آزمایش اثربخشی پادمان‌های مدل موجود خواهد بود.

به گفته این شرکت‌ها، ارزیاب‌های تعبیه‌شده که در توسعه‌دهندگان هوش مصنوعی کار می‌کنند، نشان‌دهنده رویکرد جدیدتری در این زمینه است که از روش‌های ارزیابی خارجی سنتی متمایز است.

مشارکت Accenture از تجربیات به دست آمده از طریق دانشکده استفاده می کند، که قبلا با دولت ها، ارگان های دفاعی و سیستم های مراقبت های بهداشتی کار کرده است. این شامل توسعه سیستم هشدار زودهنگام خدمات بهداشت ملی بریتانیا (NHS) در طول همه‌گیری COVID-19 می‌شود.

نقش دانشکده در این پروژه استفاده از تخصص خود در ساخت و ارزیابی سیستم های پیچیده هوش مصنوعی است.

مدیر ارشد فناوری Accenture و مدیر عامل دانشکده، مارک وارنر گفت: "هیئت علمی، که اکنون بخشی از Accenture است، بر این باور بنا شده است که هوش مصنوعی باید با طراحی ایمن باشد، نه تصادفی.

"پیوستن نیروها به Anthropic به عنوان ارزیاب های جاسازی شده دقیقا همان کاری است که دانشکده برای انجام آن ساخته شده است - و به عنوان بخشی از Accenture، ما بستری برای انجام آن در مقیاسی داریم که می تواند واقعا صنعت را حرکت دهد."

این شرکت‌ها رویکرد جدید را اینگونه توصیف کردند که به «ارزیابی‌کنندگان تعبیه‌شده» اجازه می‌دهد با دسترسی مشابه کارمندان، نظارت بر نحوه آموزش و استقرار مدل‌ها، ارزیابی فرآیندهای داخلی و تأیید تعهدات ایمنی کار کنند. با این حال، آنها هشدار می دهند که استانداردهای ارزیابی تعبیه شده هنوز به طور کامل تعریف نشده اند.

آنتروپیک اظهار داشت که مستقیما مشارکت Accenture در مرحله اولیه را تأمین می کند، در حالی که مشارکت با سایر ارزیابان و سازمان های غیرانتفاعی را نیز بررسی می کند.

جولی سویت، رئیس و مدیر عامل Accenture گفت: "Accenture تیم اختصاصی با هوش مصنوعی، امنیت و تخصص عمیق در صنعت را گرد هم می آورد تا در کنار Anthropic کار کنند. ایمنی هم به تخصص فنی عمیق و هم درک روشنی از نحوه استفاده از هوش مصنوعی در دنیای واقعی نیاز دارد.

ارزیابی تعبیه شده یک حوزه نوظهور است و ما مشتاقانه منتظر مشارکت با Anthropic برای کمک به تسریع توسعه ارزیاب های تعبیه شده هستیم، که ما آن را بخش مهمی از چشم انداز ایمنی در آینده می دانیم.

این همکاری غیر انحصاری است و هر دو شرکت پیش‌بینی می‌کنند که با سایر شرکا و ارزیاب‌ها با توسعه این زمینه همکاری کنند.

در اوایل این ماه، Accenture و Google Cloud گروه تجاری Accenture Gemini Enterprise را راه‌اندازی کردند، یک ابتکار جهانی با تمرکز بر کمک به شرکت‌ها در استقرار و گسترش راه‌حل‌های هوش مصنوعی و داده‌ای عامل.