گزارش: اکنون کلود 26 درصد از تحقیقات و توسعه هوش مصنوعی Anthropic را رهبری می کند

واشنگتن پست روز پنجشنبه گزارش داد، مدل هوش مصنوعی (AI) آنتروپیک، کلود، اکنون بیش از یک چهارم کار تحقیق و توسعه این شرکت بر روی سیستم‌های جدید هوش مصنوعی را رهبری می‌کند.

بر اساس این گزارش، یک بررسی داخلی نشان داد که کلود حدود 26 درصد از تحقیقات و توسعه هوش مصنوعی Anthropic را "رهبری" می کند، به این معنی که می تواند بیشتر یک کار را از طریق یک اعلان سطح بالا انجام دهد در حالی که انسان ها نظارت و هدایت را ارائه می دهند. این رقم در ماه فوریه عملا صفر بود.

آنتروپیک گفت که کلود در حال حاضر در هیچ یک از کارهای تحقیق و توسعه هوش مصنوعی که اندازه گیری کرده است، به طور کامل مستقل عمل نمی کند. با این حال، اکنون بیش از 90 درصد تحقیق و توسعه شرکت در سطحی انجام می شود که کلود یا با محققان همکاری می کند یا رهبری را بر عهده می گیرد.

این شرکت گفت که این افزایش سریع می‌تواند نشانه‌ای از پیشرفت به سمت «خودبهبودی بازگشتی» باشد، که در آن یک سیستم هوش مصنوعی قادر به توسعه جانشینان پیشرفته‌تر با مشارکت فزاینده محدود انسان می‌شود.

آنتروپیک نگفته است که سیستم‌های کنونی چقدر به رسیدن به آن نقطه نزدیک هستند.

این شرکت همچنین فاش کرد که حدود 30000 عامل هوش مصنوعی در حال انجام کارهای تحقیقاتی و مهندسی بر روی پرکاربردترین پلت فرم داخلی خود تا اوت بودند. آنتروپیک گفت که دارای سیستم‌های نظارتی است که برای شناسایی و علامت‌گذاری فعالیت‌های بالقوه مشکل‌ساز عامل برای بازبینی انسانی طراحی شده‌اند.

این سازمان از دیگر توسعه دهندگان پیشرو هوش مصنوعی خواسته است تا اندازه گیری های مشابه را منتشر کنند و استدلال می کند که افشای بیشتر به دولت ها، محققان و مردم اجازه می دهد تا سرعت توسعه هوش مصنوعی را بهتر پیگیری کنند.

این افشاگری در بحبوحه بحث های تازه در مورد ایمنی هوش مصنوعی پس از آن صورت می گیرد که داریو آمودی، مدیر عامل آنتروپیک، از توسعه دهندگان پیشرو خواسته است تا کاهش سرعت توسعه هوش مصنوعی مرزی را هماهنگ کنند تا زمان بیشتری برای اقدامات ایمنی در نظر گرفته شود.