غول هوش مصنوعی به سرمایه گذاران وعده "خطر وجودی برای بشریت" می دهد

دفترچه IPO آنتروپیک قسمتی از فروش است، قسمتی پیشگویی آخرالزمان است

آنتروپیک به سرمایه‌گذاران بالقوه می‌گوید که هوش مصنوعی پیشرفته‌اش می‌تواند «خطرات فاجعه‌بار یا وجودی برای بشریت» ایجاد کند، در دفترچه‌ای که قصد دارد ارزش شرکت را به ۲ تریلیون دلار برساند.

بروشور IPO این شرکت که توسط رویترز مشاهده شده است، ادعا می‌کند که مدل‌های هوش مصنوعی «رفتارهای خودنگهداری» از جمله تلاش برای «مقاومت در برابر تعطیلی»، «پنهان کردن یا دستکاری اطلاعات» و «باج‌گیری» از محققان را نشان می‌دهند.

آنتروپیک که بیشتر به خاطر مدل زبان بزرگ کلود (LLM) شهرت دارد، افزود: «توسعه مدل‌ها، پلتفرم‌ها و برنامه‌های بسیار پیشرفته ما و گسترش موارد استفاده می‌تواند خطر آسیب رساندن به مدل‌های ما را بیشتر کند.»

ادامه مطلب بیل گیتس: تهدید هوش مصنوعی "فریب نیست".

بر اساس گزارش ها، آنتروپیک به دنبال ارزش گذاری بیش از 2 تریلیون دلار در پاییز امسال است که تقریبا دو برابر هدف 1 تریلیون دلاری گزارش شده توسط رویترز در ماه مه است. کمتر از یک ماه پس از گزارش رقم قبلی، آنتروپیک ادعا کرد که مدل منتشر نشده Mythos Preview توانسته است از محیط آزمایشی خود فرار کند و بدون اینکه "به طور واضح برای این کار آموزش دیده باشد" سوء استفاده های پیشرفته امنیت سایبری را انجام دهد. سپس آنتروپیک اعلام کرد که آنقدر قوی است که نمی‌توان آن را برای عموم منتشر کرد.

در اوایل این ماه، داریو آمودی، مدیر عامل شرکت، مقاله ای را منتشر کرد که خواستار کاهش سرعت توسعه پیشرفته هوش مصنوعی توسط دولت شد. آمودی خطرات «جدی» را از جمله از دست دادن کنترل بر سیستم‌های هوش مصنوعی، سوء استفاده از آن‌ها برای حملات سایبری و بیوتروریسم، و اختلالات بزرگ اقتصادی را تشریح کرد و هشدار داد که «مسابقه به سمت پایین، که با انگیزه‌های تجاری تحریک می‌شود، می‌تواند این خطرات را حادتر کند».

با این حال، آمودی سال ها از چنین هشدارهایی برای جلب علاقه به محصولات خود استفاده کرده است. آمودی هنوز در سال 2019 برای OpenAI کار می کرد که مدل نوپای GPT-2 آن را که برای تولید متن منسجم تلاش می کرد، «برای انتشار خیلی خطرناک» اعلام کرد.

علاوه بر این، آنتروپیک از مقررات دولتی سود می برد. Anthropic و OpenAI - که در اوایل سال جاری نیز یک "فرار" آزمایشگاهی را گزارش کردند و هفته گذشته انتشار یک مدل جدید را به دلیل نگرانی‌های ایمنی کنار گذاشتند - مدل‌های AI منبع بسته را می‌فروشند.

ادامه مطلب ترامپ هشدارهای غول‌های هوش مصنوعی درباره تهدید وجودی را رد کرد

شرکت‌های مبتنی بر هوش مصنوعی به مشتریان خود هیچ کنترلی بر وزن مدل‌هایشان نمی‌دهند - اساسا ترفندهایی که انتخاب‌های مدل‌ها را تعیین می‌کنند. آمودی و سام آلتمن، مدیر عامل OpenAI، استدلال می‌کنند که باز کردن مدل‌هایشان برای عموم منجر به خطرات امنیتی غیرقابل قبولی می‌شود.

ممنوعیت مدل‌های منبع باز، که طبق گزارش‌ها دولت ایالات متحده در نظر گرفته است، Anthropic و OpenAI را در موقعیت مسلط قرار می‌دهد. چندین نفر از خودی های فناوری که هفته گذشته با نیویورک پست مصاحبه کردند، گفتند که آنها معتقدند هر دو شرکت در حال اغراق در مورد خطرات امنیتی ناشی از مدل های خود هستند تا دولت را برای تنظیم صنعت تحت فشار قرار دهند.