Anthropic می گوید که سیستم های هوش مصنوعی به سمت ساختن خود حرکت می کنند

معترضان در جریان تظاهرات "مسابقه هوش مصنوعی را متوقف کنید" که خواستار کاهش سرعت توسعه سیستم های هوش مصنوعی پیشرفته در سانفرانسیسکو، کالیفرنیا، در 17 سپتامبر بودند.

سان فرانسیسکو - غول هوش مصنوعی Anthropic در 17 سپتامبر گفت که سیستم‌های هوش مصنوعی به طور فزاینده‌ای قادر به ساخت نسخه‌های آینده خود هستند و نگرانی‌ها در مورد خطرات این فناوری قدرتمند را افزایش می‌دهد.

بحث در مورد خطرات هوش مصنوعی در ماه های اخیر تشدید شده است، که توسط چندین رویداد و هشدارهای آخرالزمانی از متخصصان صنعت تقویت شده است.

Anthropic گفت ربات چت کلود آن اکنون بیش از یک چهارم کار تحقیق و توسعه خود را رهبری می کند و در بیش از 90 درصد وظایف با کارکنان انسانی همکاری می کند.

این شرکت گفت که این اطلاعات را منتشر می کند تا به مردم، اشخاص ثالث و دولت ها «مشاهده بهتری نسبت به سرعت توسعه هوش مصنوعی» بدهد، زیرا جهان در نظر دارد سرعت آن را کاهش دهد.

داریو آمودی، مدیر عامل آنتروپیک، در ماه سپتامبر خواستار کاهش سرعت توسعه هوش مصنوعی شد، زیرا پیشرفت های سریع در این فناوری نگرانی ها را در مورد از دست دادن شغل و افزایش تقاضای انرژی و اثرات زیست محیطی مراکز داده افزایش می دهد.

ترس از اینکه طراحان عوامل هوش مصنوعی کنترل خلاقیت خود را از دست بدهند نیز پس از اینکه چندین مدل از Anthropic و رقیب OpenAI به تنهایی از محیط‌های محدود خود خارج شدند، به اینترنت دسترسی پیدا کردند و در وب‌سایت‌ها و پلتفرم‌ها نفوذ کردند، افزایش یافت.

آنتروپیک در گزارشی گفت: «مدل‌هایی که توسعه خود را تسریع می‌کنند، می‌توانند درک یا کنترل این سیستم‌ها را برای انسان چالش‌برانگیزتر کنند.

بنابراین مهم است که این معیارها را به اشتراک بگذاریم تا بفهمیم دنیا تا چه حد به خود-بهبودی بازگشتی نزدیک است (الگویی که جانشین خود را کاملا مستقل ساخته است).

از ماه آگوست، کلود 26 درصد از تحقیق و توسعه آنتروپیک را رهبری می کند، به این معنی که می تواند بیشتر یک کار را از ابتدا تا انتها با نظارت انسان انجام دهد.

آنتروپیک گفت کلود هنوز نمی تواند "کاملا مستقل" عمل کند.

این شرکت گفت که حدود 30000 عامل هوش مصنوعی دارد که کارهای تحقیقاتی و مهندسی انجام می دهند و به ربات هایی اشاره می کند که پتانسیل انجام وظایف را دارند.

انتظار می‌رود که Anthropic با وجود نگرانی‌ها در مورد مقررات صنعت، در اواخر سال 2026 با عرضه اولیه عمومی سهام در بازارهای عمومی، OpenAI را شکست دهد. خبرگزاری فرانسه