آنتروپیک می گوید که کلود اکنون بیش از یک چهارم تحقیقات هوش مصنوعی خود را رهبری می کند

آنتروپیک می گوید که کلود اکنون 26 درصد از کارهای تحقیق و توسعه هوش مصنوعی آنتروپیک را رهبری می کند، در حالی که در ماه مارس 1 درصد افزایش یافته است. بنجامین فانجوی/گتی ایماژ کلود اکنون 26 درصد از کارهای تحقیق و توسعه هوش مصنوعی Anthropic را رهبری می کند، در حالی که در ماه مارس 1 درصد افزایش یافته است.

آنتروپیک گفت که انسان ها همچنان بر کلود نظارت می کنند و کاملا مستقل نیست.

این شرکت گفت که گزارش‌های معیار می‌تواند به نظارت بر نزدیک بودن هوش مصنوعی به بهبود خود کمک کند. کلود سهم فزاینده ای از کارهای پشت سر هوش مصنوعی نسل بعدی آنتروپیک را بر عهده می گیرد.

آنتروپیک در یک پست وبلاگی پنجشنبه گفت که کلود اکنون 26 درصد از کارهای تحقیق و توسعه هوش مصنوعی خود را "رهبری" می کند، به این معنی که ربات چت می تواند بیشتر یک کار را از طریق یک درخواست سطح بالا انجام دهد در حالی که یک انسان نظارت می کند. این شرکت اعلام کرد که این رقم در ماه مارس زیر 1٪ بود.

آنتروپیک گفت: «سهم کار در سطح یا بالاتر از «همکاری‌های هوش مصنوعی» بالای 90 درصد است، و افزود که «کلود برای هیچ زیرمجموعه‌ای از کارهای تحقیق و توسعه هوش مصنوعی به طور کامل مستقل عمل نمی‌کند».

ارقام می توانند نشان دهند که صنعت تا چه حد به خود-بهبودی بازگشتی نزدیک است، که آنتروپیک آن را به عنوان "الگویی کاملا مستقل که جانشین خود را ایجاد می کند" توصیف کرد.

آنتروپیک گفت: «مدل‌هایی که توسعه خود را تسریع می‌کنند، می‌توانند درک یا کنترل این سیستم‌ها را برای انسان چالش‌برانگیزتر کنند. بنابراین مهم است که این معیارها را به اشتراک بگذاریم تا بفهمیم دنیا تا چه حد به بهبود خود بازگشتی نزدیک است.

گزارش آنتروپیک در بحبوحه بحث های جاری در مورد ایمنی هوش مصنوعی و سرعت بهبود مدل ها ارائه می شود. یک محقق Anthropic هفته گذشته استعفا داد و شرکت‌های پیشرو هوش مصنوعی را متهم کرد که با پیشبرد مدل‌های توانمندتر، «با زندگی ما قمار می‌کنند». داریو آمودی، مدیر عامل آنتروپیک، از آن زمان از شرکت‌های هوش مصنوعی مرزی خواسته است تا برای کاهش سرعت توسعه هماهنگ شوند تا به اقدامات ایمنی زمان بیشتری برای جبران آن بدهند.

Anthropic در گزارش خود گفت که اقدامات هوش مصنوعی این شرکت توسط مانیتورهای خودکار بررسی می شود. آنتروپیک گفت 0.002 درصد از بیش از 1 میلیارد تصمیم تجزیه و تحلیل شده در ماه اوت، که حدود یک در 47000 است، مسدود شده است. تقریبا 50 پرونده با اولویت بالا هر هفته برای بررسی انسانی تشدید می شود.

آنتروپیک گفت دیگر آزمایشگاه‌های مرزی می‌توانند همین ارقام را منتشر کنند و به اشخاص ثالث اجازه دهند تا آنها را تأیید کنند.

این شرکت گفت: «ما این اندازه‌گیری‌ها را گزارش می‌کنیم زیرا به عموم، اشخاص ثالث و دولت‌ها دید بهتری نسبت به سرعت توسعه هوش مصنوعی در آزمایشگاه‌های مرزی می‌دهند. این به معنای اندازه‌گیری بهتر توسعه هوش مصنوعی، گزارش‌دهی عمومی در مورد آن و دادن فرصتی به جامعه برای تصمیم‌گیری درباره نحوه استفاده از این اطلاعات است.»

مقاله اصلی را در Business Insider بخوانید