Anthropic IPO هشدار می دهد که هوش مصنوعی آن می تواند از مردم باج خواهی کند، باهوش شود و به بشریت پایان دهد
هفت کابوس بالقوه هوش مصنوعی برگرفته از کتاب 93 صفحه ای آنتروپیک با عنوان «عامل خطر».
انتشار فرم S-1 آنتروپیک در روز دوشنبه توسط کمیسیون بورس و اوراق بهادار - قبل از عرضه اولیه عمومی مورد انتظار - منجر به بحث های زیادی در مورد اینکه آیا درآمدهای سریع شرکت قادر به غلبه بر هزینه های بالاتر آن خواهد بود یا خیر، شده است. اما در میان اعداد و خوشبینیهای آیندهنگر در مورد هوش مصنوعی «بهسرعت هر بخش از اقتصاد جهانی را به روشهایی بیشتر از تأثیر صنعتیسازی، برق، نیمهرساناها و اینترنت متحول میکند»، آنتروپیک همچنین زمان زیادی را در S-1 خود صرف ارائه عوامل خطر بیشمار میکند که
باعث سقوط شرکت خواهد شد
در 93 صفحه و بیش از 70000 کلمه، بخش "عوامل خطر" S-1 Anthropic به معنای واقعی کلمه صدها مشکل بالقوه را مورد بحث قرار می دهد که می تواند بر تجارت آن در سال های آینده تأثیر منفی بگذارد. بسیاری از این خطرات بالقوه نوعی نگرانی استاندارد در مورد رقابت، هزینه ها، جذب مشتری و مقررات بالقوه است که تقریبا هر کسب و کاری باید نگران آن باشد. اما برخی از ریسکها نقاط بالقوه جالبی برای شکست آنتروپیک به طور خاص و حباب پر از هیاهوی هوش مصنوعی به طور کلی نشان میدهند.
پس از بررسی رساله طولانی آنتروپیک در مورد بزرگترین خطرات آن، ما فهرست را به هفت مشکل بالقوه شگفتانگیز، جالب، یا تفکر برانگیز محدود کردهایم. این را نگاهی دور از جامعیت در نظر بگیرید که سرمایه گذاران بالقوه Anthropic باید در نظر داشته باشند.
مقاله کامل را بخوانید
نظرات
متن اصلی (انگلیسی)
Anthropic IPO warns its AI could blackmail people, become sentient, end humanity
Seven potential AI nightmares pulled from Anthropic's 93-page "Risk Factor" tome.