Anthropic Accenture را برای ارزیابی ایمنی هوش مصنوعی شخص ثالث انتخاب می کند

این حرکت نشان دهنده اولین گام در برنامه مدیرعامل برای کاهش سرعت توسعه هوش مصنوعی است.

همکاری آنتروپیک با Accenture یکی از اولین گام‌های برنامه‌ای برای کاهش سرعت توسعه هوش مصنوعی است که توسط مدیر عامل آن، داریو آمودی، در هفته گذشته پیشنهاد شد. در رویکرد سه مرحله‌ای Amodei، این پیشنهاد از همه شرکت‌های "هوش مصنوعی مرزی" خواست تا "دسترسی مستمر و مشابه کارمندان" را به ارزیاب‌های شخص ثالث تعبیه‌شده که وظیفه اطمینان از رعایت اقدامات و تعهدات ایمنی، گزارش حوادث و ارزیابی همسویی مدل هوش مصنوعی را دارند، بدهند.

به‌طور مشخص‌تر، ارزیابی‌کنندگان Accenture «مدل‌ها را مشاهده خواهند کرد که در آموزش شکل می‌گیرند، از تصمیم‌هایی پیروی می‌کنند که بر نحوه ساخت و استقرار آن مدل‌ها حاکم است و مستقیما با کارمندان صحبت می‌کنند».

Anthropic توضیح داد که Accenture تجربه کمک به کسب‌وکارها و دولت‌ها در استقرار هوش مصنوعی در چندین صنعت را داشته است. این شرکت هوش مصنوعی همچنین گفت که Accenture در مورد نحوه استفاده شرکت‌ها از هوش مصنوعی تجربه دارد و می‌تواند دیدگاه بیشتری را در مورد مدل‌های خود Anthropic ارائه دهد. با این حال، آنتروپیک خاطرنشان کرد که ایده ارزیاب‌های تعبیه‌شده جدید است و هنوز استانداردهایی را در مورد دامنه، دسترسی ارزیابان و یا روند گزارش‌دهی نگرانی‌ها تعیین نکرده است.

برای درک بهتر، آنتروپیک گفت که در ارزیابی مدل‌های هوش مصنوعی مرزی خود با شرکت‌های دیگری فراتر از Accenture همکاری خواهد کرد. این شرکت گفت که ارزیابی‌کنندگان دیگری را در هفته‌های آینده اعلام خواهد کرد، در حالی که همچنین بیان کرد که Accenture علاوه بر Anthropic با شرکت‌های هوش مصنوعی همکاری خواهد کرد.