3 نکته از گزارش بزرگ هوش مصنوعی درباره Anthropic که همه درباره آن صحبت می کنند

محققان ایمنی مستقلی که در دفتر مرکزی Anthropic تعبیه شده اند، روز پنجشنبه گزارشی را درباره توسعه هوش مصنوعی این شرکت منتشر کردند. کوین دیچ/گتی ایماژ محققان ایمنی شخص ثالث که در ستاد Anthropic تعبیه شده اند، اولین گزارش خود را روز پنجشنبه منتشر کردند.

محققان METR دریافتند که Anthropic از هوش مصنوعی برای آموزش مدل‌های هوش مصنوعی آینده استفاده می‌کند.

محققان هشدار دادند که Anthropic به طور کامل این گزارش را ویرایش کرده است. آنتروپیک از مدل‌های هوش مصنوعی موجود برای آموزش مدل‌های هوش مصنوعی آینده با سرعتی سرگیجه‌آور استفاده می‌کند. همچنین در حال ذخیره سازی مدل های عرضه نشده است.

این بر اساس گزارش جدیدی از محققان ایمنی شخص ثالث است که در دفتر مرکزی این شرکت در سانفرانسیسکو منتشر شد - گزارشی که محققان هشدار دادند با اصرار Anthropic به شدت ویرایش شد.

METR در گزارش خود گفت: «در حالی که می‌توانستیم آزادانه نتایج بالاترین سطح خود را در مورد خطر به اشتراک بگذاریم، آنتروپیک اکثر شواهدی را که آموزنده‌ترین آنها را برای این نتیجه‌گیری می‌دانستیم ویرایش کرد.»

برای تهیه گزارش خود، محققان METR، یک گروه تحقیقاتی که شاید بیشتر به خاطر گزارش خود در مورد نقض عامل Hagging Face OpenAI شناخته شده است، گفتند که برای نزدیک به سه ماه "دسترسی بی سابقه ای" در داخل شرکت دریافت کردند.

این گروه متشکل از شش محقق با کارمندان مصاحبه کردند، کانال های داخلی Slack را زیر نظر گرفتند و مدل های منتشر نشده هوش مصنوعی را با استفاده از سخت افزار شرکت بررسی کردند.

در اینجا چهار نکته از گزارش آنها آورده شده است.

آنتروپیک اخیرا 3 مدل جدید را به پایان رسانده است که هنوز منتشر نشده است

کارگران آنتروپیک از مدل های هوش مصنوعی بهتری نسبت به بقیه ما استفاده می کنند.

در واقع، گزارش METR می گوید که طی شش ماه گذشته، این شرکت آموزش سه مدل را که هنوز در دسترس عموم قرار نگرفته اند، به پایان رسانده است.

METR دریافت که مدل‌های داخلی آنتروپیک شامل مدل‌های مربوط به سال 2022 و همچنین مدل‌هایی است که در ماه جولای، زمانی در آگوست یا سپتامبر و زمانی در سپتامبر یا اکتبر به پایان رسید.

بر اساس برآوردهای METR، این مدل‌های داخلی به Anthropic کمک می‌کنند تا قابلیت‌های هوش مصنوعی خود را حتی سریع‌تر بهبود بخشد. این افشاگری به یکی از اقدامات عاقلانه صنعت هوش مصنوعی اشاره دارد.

Anthropic و OpenAI با فروش پیشرفته ترین مدل های هوش مصنوعی به مردم درآمد کسب می کنند. با این حال، خصوصی نگه داشتن مدل‌های پیشرفته، مزیت رقابتی محصول و تیم تحقیقاتی شرکت‌ها را نیز می‌دهد.

به دلیل نگرانی های ایمنی، مدیران می توانند مدل ها را برای مدت طولانی تری خصوصی نگه دارند. دسته‌ای از مدل‌های داخلی بسیار توانمند Anthropic و OpenAI بخشی از دلیل METR Ajeya Cotra به Business Insider در اوایل امسال است که انتظار دارد "جدی‌ترین حوادث" ایمنی هوش مصنوعی در این دو شرکت اتفاق بیفتد.

کارکنان آنتروپیک می گویند بهره وری آنها به شدت در حال افزایش است

Anthropic داده‌های نظرسنجی داخلی Slack را که نشان می‌دهد کارکنان غول هوش مصنوعی افزایش بهره‌وری عمده‌ای را گزارش می‌کنند، تغییر داد.

METR نوشت که میانگین افزایش گزارش شده توسط خود در ماه اکتبر تقریبا 12 برابر "برای تواناترین مدل داخلی" بوده است. METR هشدار داد که نظرسنجی‌های Slack را شواهد ضعیفی می‌داند زیرا ممکن است همه کارکنان آنتروپیک را نمایندگی نکنند. گروه تحقیقاتی همچنین هشدار دادند که پاسخ دهندگان ممکن است زیاد به پاسخ های خود فکر نکرده باشند.

هنگامی که METR با محققان Anthropic درباره تجربیات آنها مصاحبه کرد، بسیاری در مورد اینکه چگونه کلود به طور قابل توجهی کار آنها را تقویت کرده است صحبت کردند.

یکی از محققین به METR گفت: «اکنون فقط بر روی ایده‌ها و محاسبات تنگنا دارد، و دیگر روی کد تنگنا نیست.

قابل توجه تر این است که METR "گلوگاه های مشاهده شده" را که مانع از افزایش بیشتر شتاب در سال آینده شود، ندید.

METR نوشت: "فقدان گلوگاه های مشاهده شده یا بازده کاهشی قوی به این معنی است که خطر قابل توجهی وجود دارد که پیشرفت بیشتر قابلیت ها می تواند منجر به شتاب حتی سریع تر شود، اگرچه، همانطور که در زیر می گوییم، ممکن است گلوگاه های مهم را از دست بدهیم."

خودسازی بازگشتی به توسعه سریع دامن می‌زند

مهندسان آنتروپیک به طور فزاینده‌ای مسئولیت‌های نظارت و آموزش بیشتری را به سایر مدل‌های هوش مصنوعی محول می‌کنند، فرآیندی پرخطر به نام خود-بهبودی بازگشتی.

این روش از نظر سرعت جواب می دهد.

METR دریافت که آنتروپیک «تقریبا دو سال پیشرفت تاریخی در سال گذشته داشته است».

محققان گفتند که به آنها گفته شده است که شتاب تحقیق و توسعه "در درجه اول از طریق کمک های هوش مصنوعی به جای مشارکت های کاملا مستقل انجام می شود."

METR گفت: «اما نشانه‌هایی وجود دارد که مشارکت‌های کاملا خودمختار به زودی نقش بزرگ‌تری ایفا خواهند کرد».

Jacob Coxon، محقق سابق Anthropic که در سپتامبر شرکت را ترک کرد، به خودسازی بازگشتی به عنوان عاملی اشاره کرد که می‌تواند باعث شود سیستم‌های هوش مصنوعی از کنترل خارج شوند.

او درباره OpenAI و Anthropic گفت: «آنها مستقیما به سمت سوپرهوش خودسازی و قمار با زندگی ما مسابقه می دهند.

مقاله اصلی را در Business Insider بخوانید