«پدرخوانده هوش مصنوعی» از طرحی جدید برای ردیابی خطرات هوش مصنوعی OpenAI و Anthropic از درون حمایت می کند.

جفری هینتون، پیشگام علوم کامپیوتر. رمزی کاردی/فایل ورزشی برای برخورد از طریق گتی ایماژ رهبران هوش مصنوعی سام آلتمن و داریو آمودی اخیرا متعهد شدند که ارزیاب های شخص ثالث را وارد کنند.

گروهی از گروه‌های ارزیابی هوش مصنوعی شرایطی را که می‌خواهند OpenAI و Anthropic رعایت کنند، ارائه کردند.

جفری هینتون و استوارت راسل از پیشگامان علوم رایانه نامه را امضا کردند. OpenAI و Anthropic خواستار ناظران خطر هوش مصنوعی شده‌اند، و آنها به تازگی پاسخ خود را دریافت کرده‌اند.

انجمن ارزیاب هوش مصنوعی، که شامل چندین گروه ناظر است، روز جمعه نامه‌ای منتشر کرد که در آن "حداقل شرایط" را که به اعتقاد آنها آزمایشگاه‌هایی مانند Anthropic و OpenAI باید رعایت کنند تا با کسانی که خطرات فناوری خود را ارزیابی می‌کنند کارآمدتر کار کنند، منتشر کرد.

ده ها نفر از اکوسیستم هوش مصنوعی، از جمله پیشگامان علوم کامپیوتر جفری هینتون، معروف به "پدرخوانده هوش مصنوعی" و استوارت راسل، نامه را امضا کردند.

این نامه در پاسخ به داریو آمودی، مدیرعامل آنتروپیک و سام آلتمن، مدیر عامل OpenAI آمده است، که هر دو متعهد شدند که از ارزیاب‌های شخص ثالث در شرکت‌های خود استقبال کنند تا ریسک هوش مصنوعی را ارزیابی کنند و در میان موجی از ترس‌های آنلاین مرتبط با هوش مصنوعی در این هفته به آنها دسترسی به اطلاعات در سطح کارمندان بدهند.

در این نامه آمده است: «برای معتبر بودن، ارزیاب‌های شخص ثالث تعبیه‌شده باید از عینیت علمی، شفافیت، استقلال و محافظت قوی در برابر مداخله شرکت‌های ارزیابی‌شده برخوردار باشند».

در نامه جمعه آمده است که ارزیابان باید اجازه داشته باشند شفاف باشند و "ارتباطات بدون فیلتر با هیئت مدیره شرکت ها و سایر نهادهای نظارتی ممتاز" داشته باشند. آنها همچنین می توانند یافته ها را به صورت عمومی منتشر کنند.

این گروه پیشنهاد می‌کند که این ارزیابان در مقابل اقدامات تلافی‌جویانه آزمایشگاه‌های هوش مصنوعی محافظت شوند و به همان سیستم‌ها، داده‌ها، ابزارها و فضاهای فیزیکی مربوطه دسترسی داشته باشند که ارزیاب‌های شرکت می‌توانند.

در این نامه همچنین آمده است که هر آزمایشگاه باید «دیدگاه‌ها و زمینه‌های تخصصی متفاوت» از جمله در مورد انواع مختلف ریسک را ارائه دهد. اینها می تواند شامل خطرات در علوم زیستی و از دست دادن کنترل باشد.

انجمن پشت این نامه شامل METR، یک گروه ارزیابی هوش مصنوعی غیرانتفاعی است که اخیرا حادثه امنیتی OpenAI را با Hugging Face بررسی کرده است، و مؤسسه تحقیقاتی تأیید و ارزیابی هوش مصنوعی (AVERI)، سازمانی که توسط کارمند سابق OpenAI مایلز براندیج و گروه‌های دیگر هدایت می‌شود.

سایر رهبران فناوری نیز در اوایل این هفته به بحث پرداختند. ساتیا نادلا، مدیر عامل مایکروسافت گفت که شرکت او از ایده "ارزش دهندگان تعبیه شده" استقبال می کند.

نکته ای دارید؟ با این خبرنگار از طریق ایمیل به آدرس scouncil@businessinsider.com یا از طریق پیامک، سیگنال، تلگرام یا واتساپ به شماره 415-757-8198 تماس بگیرید. از یک آدرس ایمیل شخصی، یک شبکه WiFi غیرکار، و یک دستگاه غیر کاری استفاده کنید. در اینجا راهنمای ما برای به اشتراک گذاری ایمن اطلاعات است.

مقاله اصلی را در Business Insider بخوانید