عرضه اولیه آنتروپیک شامل هشداری در مورد انقراض انسان است
سازنده Claude هشدار می دهد که مدل های خود می توانند در برابر خاموش شدن مقاومت کنند و آسیب فاجعه باری به بار آورند.
آنتروپیک به طور رسمی به سرمایه گذاران هشدار داده است که فناوری آن ممکن است "خطرات وجودی برای بشریت" در بروشور عرضه اولیه عمومی که مدت ها در انتظار آن بودیم، با گروه کوچکی از شرکا در روزهای اخیر منتشر شد.
استارتآپ تقریبا یک تریلیون دلاری هوش مصنوعی به رهبری داریو آمودی تقریبا یک سوم پرونده طولانی S-1 خود را به جزئیات «عوامل خطر» از جمله پتانسیل مدلهای پیشرفتهتر هوش مصنوعی برای دستکاری، باجگیری و نشان دادن سایر رفتارهای غیرقابل پیشبینی اختصاص داد.
به گفته افراد آشنا با پرونده، آنتروپیک خطرات غیرمعمول بیشتری از جمله تمرکز شدید مشتریان خود را با نزدیک به یک چهارم درآمد سال گذشته که تنها از دو مشتری به دست میآمد، بیان کرد.
مقاله کامل را بخوانید
نظرات
متن اصلی (انگلیسی)
Anthropic’s IPO pitch includes a warning about human extinction
The Claude maker warns its own models could resist shutdowns and cause catastrophic harm.