داریو آمودی 2000 کلمه را برای منتقدی در X توضیح داد که چرا آنتروپیک باید در مسابقه هوش مصنوعی «مسابقه به قله» پافشاری کند.

داریو آمودی، مدیر عامل آنتروپیک، در حال تبادل طولانی با یک منتقد در X بود. کوین دیچ/گتی ایماژ داریو آمودی به منتقدی در X پاسخ داد که گفت آنتروپیک به تعهدات ایمنی خود عمل نمی کند.

او گفت که Anthropic بهترین موقعیت برای ایمن کردن هوش مصنوعی با ماندن در صدر بازی است.

منتقد، ناتان کالوین از Encode AI، گفت که آنتروپیک در تلاش است تا در مسابقه ابرهوشی پیروز شود. داریو آمودی، مدیر عامل آنتروپیک، انتقادی مبنی بر اینکه این شرکت ایمنی هوش مصنوعی را در صندلی عقب در "مسابقه به سمت بالا" قرار داده است، رد کرد.

روز سه‌شنبه، مدیر اجرایی پاسخی تقریبا 2000 کلمه‌ای به یک پست X انتقادی نوشت که در آن می‌گفت آنتروپیک تلاش می‌کند در مسابقه ابرهوش‌مندی پیروز شود و ایمنی هوش مصنوعی را از اولویت خارج کند.

پست اصلی دوشنبه X توسط ناتان کالوین، افسر ارشد استراتژی Encode AI، یک سازمان غیرانتفاعی حمایت از ایمنی هوش مصنوعی بود. کالوین 9 اقدام آنتروپیک را در سال گذشته فهرست کرد که به گفته او تعهدات ایمنی آن را تضعیف کردند، از جمله امضای قراردادهایی برای بیش از 500 میلیارد دلار محاسبات و تکیه فزاینده بر کلود برای توسعه مدل های هوش مصنوعی خود. پست او نیز طولانی بود، بیش از 1500 کلمه.

آمودی در پاسخ خود گفت که در حالی که او از طرفداران کارهای تحقیقاتی بود که کالوین برای ایمنی هوش مصنوعی انجام داده بود، اما با بسیاری از انتقادات کالوین مخالف بود.

آمودی گفت که موضع او این است که آنتروپیک می‌تواند کارهای بیشتری برای ایمن نگه داشتن صنعت هوش مصنوعی انجام دهد اگر در مرز باقی بماند.

آمودی نوشت: «استراتژی ما همیشه همان چیزی بوده است که من آن را «مسابقه به سوی اوج» نامیده‌ام – با نشان دادن اینکه چگونه می‌توان این فناوری را مسئولانه ساخت، می‌توانیم سطح کل صنعت را بالا ببریم.

او سپس فهرست 9 موردی خود را نوشت که از نظر تجاری برای آنتروپیک "بسیار پرهزینه" بود، اما "مزایای ایمنی قوی" داشت. این شامل انتشار مدل قدرتمند Mythos فقط برای گروهی منتخب از شرکای امنیت سایبری و محدود کردن فروش خدمات هوش مصنوعی آن به شرکت‌های تحت کنترل دولت چین بود.

با این حال، آمودی اذعان داشت که آنتروپیک می‌توانست برخی از مسائلی را که کالوین مطرح می‌کرد بهتر مدیریت کند. اینها شامل یک پیش‌نویس لایحه Anthropic بود که در این ماه در اختیار کنگره قرار گرفت - که منحصرا توسط Politico به دست آمده است - که به گفته منتقدان، مسدود کردن مدل‌های خطرناک هوش مصنوعی را برای دولت فدرال سخت‌تر می‌کند.

او نوشت: «ما همیشه سعی می‌کنیم بهتر عمل کنیم، اما باز هم، من به سابقه‌مان بسیار افتخار می‌کنم و روی آن می‌مانم.

مبادله Amodei و Calvin در زمانی انجام می شود که ایمنی مدل به یکی از مبرم ترین مسائل در حوزه هوش مصنوعی تبدیل شده است. در سپتامبر، محققان هوش مصنوعی یک «آخرالزمان هوش مصنوعی» را پیش‌بینی کردند که در آن فناوری توانمندتر و سرکش می‌تواند تمام بشریت را در دهه آینده بکشد.

در پاسخ به این نگرانی‌ها، روسای هوش مصنوعی مانند آمودی، سم آلتمن، مدیر عامل OpenAI، و ایلان ماسک، مدیر عامل شرکت SpaceXAI، همگی با اشاره به کاهش سرعت توسعه هوش مصنوعی برای اطمینان از وجود کنترل‌ها و تعادل‌های کافی موافقت کردند.

در همین حال، آنتروپیک در آستانه عرضه اولیه اولیه سهام مورد انتظار خود قرار دارد که انتظار می رود در ماه نوامبر با ارزش 2 تریلیون دلاری فهرست شود. هفته گذشته، درآمد سه ماهه سوم 16.8 میلیارد دلار گزارش شد.

مقاله اصلی را در Business Insider بخوانید