آنتروپیک شرکت ارزش‌گذاری IPO را تا 1.4 تریلیون دلار تعیین می‌کند، می‌گوید هوش مصنوعی ممکن است خطرات وجودی برای بشریت ایجاد کند.

این سند و بایگانی اصلی ماه گذشته، معنای جدیدی به به اصطلاح "عوامل خطر" می بخشد، بخش معمولا در ارائه اسنادی که در این مورد هر چیزی جز این نیست. در ددلاین تماشا کنید

«نگرانی‌هایی هم در سازمان ما و هم توسط سایر محققان، تنظیم‌کننده‌ها، سیاست‌گذاران و شرکت‌کنندگان در صنعت مطرح شده است که سیستم‌های هوش مصنوعی به اندازه کافی پیشرفته می‌توانند، در صورت عدم توسعه، استقرار و کارکرد با تدابیر حفاظتی، نظارتی و امنیتی مناسب، خطرات فاجعه‌بار یا وجودی را برای بشریت ایجاد کنند، به‌ویژه اگر چنین سیستم‌هایی مورد سوء استفاده قرار می‌گیرند، تکرار می‌شوند.» بایگانی در ده ها صفحه با علامت گذاری عوامل خطر بیان شده است.

این شرکت مستقر در سانفرانسیسکو که توسط Dario Amodei مدیرعامل و رئیس جمهور Daniela Amodei تأسیس و اداره می شود، نوشت: «موفقیت ما تا حد زیادی به توانایی ما در توسعه مداوم، بهبود و استقرار پیشرفته ترین، توانمندترین و مفیدترین مدل های هوش مصنوعی بستگی دارد.

مدل‌های ما در گذشته با تولید خروجی‌های نامطلوب یا رفتار به روش‌های ناخواسته، ناهماهنگ یا مستقل، از جمله با انجام اقدامات ناخواسته یا مضری که هیچ کاربر یا شخص ثالثی آن را هدایت نکرده است، باعث آسیب‌هایی شده و ممکن است در آینده نیز ایجاد شود. این خطرات ممکن است با افزایش توانایی‌های مدل‌های ما افزایش یابد و چرا به ما اجازه می‌دهد به مطالعه مستقل و مستقل‌تر سیستم‌های خارجی ادامه دهند. رفتارها پدیدار می شوند، درک ما به تکامل خود ادامه می دهد و ممکن است نتوانیم چنین رفتارهایی را در آینده پیش بینی یا درک کنیم.»

بیشتر وجود دارد. «علاوه بر این، مدل‌های ما در زمینه‌های پرخطر یا حساس، مانند مراقبت‌های بهداشتی، تحقیقات علمی و زیست‌پزشکی، کشف و توسعه دارو، حقوقی، مالی، دولتی، یا سایر محیط‌های تصمیم‌گیری حیاتی، و در ارتباط با سخت‌افزار، که در آن رفتارهای مدل نامطلوب - که ذاتا غیرقابل پیش‌بینی و غیرقابل پیش‌بینی هستند، به کار گرفته می‌شوند و ممکن است ادامه پیدا کنند. عدم دقت، دیدگاه‌های جانبدارانه یا ناخواسته، یا توهم می‌تواند منجر به آسیب جدی، مسئولیت، یا صدمات اعتباری یا دیگر شود.»

این شرکت همچنین از هوش مصنوعی برای پیشرفت هوش مصنوعی خود استفاده می کند. اگر توانایی‌های ما از تدابیر ایمنی، همسویی و امنیتی پیشی می‌گیرد یا نمی‌توانستیم سرعت چنین پیشرفتی را پیش‌بینی کنیم، ممکن است نتوانیم به اندازه کافی خطرات ناشی از آن را ارزیابی یا کاهش دهیم.»

عوامل هوش مصنوعی ممکن است با هم کار کنند و خطرات را افزایش دهند. عواملی که با یکدیگر تعامل یا هماهنگی دارند، ممکن است رفتار ناهماهنگی را در سراسر گروه تقویت کنند، تبلیغ کنند یا تقویت کنند، اهدافی را به طور جمعی به روش‌هایی دنبال کنند که مورد نظر یا تایید هیچ کاربری نیست، یا اقدامات هماهنگی را علیه سیستم‌ها یا اهداف غیرمرتبط با وظایف محول شده‌شان انجام دهند، در هر مورد، به روش‌هایی که ممکن است پیش‌بینی، شناسایی یا پیش‌بینی، شناسایی، وقوع این حادثه دشوار باشد. تعامل تعداد بیشتری از عوامل مستقل برای افزایش این خطرات در طول زمان.

این سهام که طبق گزارش‌های خبری احتمالا از 19 نوامبر آغاز می‌شود، شور و شوق سرمایه‌گذاران را برای بخش‌هایی که در وال‌استریت پر از دست‌انداز بوده است، آزمایش می‌کند، به‌ویژه اخیرا، در مورد نگرانی‌هایی که در مورد اینکه آیا هزینه‌های هنگفت برای محاسبات، مراکز داده، تراشه‌ها و موارد دیگر، در نهایت در چنین صنعت در حال حرکت سریع سود ایجاد می‌کند یا خیر. «هیپر مقیاس‌کننده‌های» هوش مصنوعی که به صورت عمومی معامله می‌شوند، بازارها را به بالاترین سطح خود سوق داده و برخی آن را حباب می‌خوانند. سهام هفته گذشته افت شدیدی داشت.

بسته به نحوه ارائه پیشنهاد، IPO جاه طلبانه Anthropic ممکن است IPO بزرگ دیگری را از OpenAI مادر ChatGPT ایجاد کند. شرکت سام آلتمن در ماه ژوئن اظهارنامه ثبت اولیه خود را ارائه کرد، اما مدیران گفته اند که اکنون در سال 2027 چشمگیر است.

آنتروپیک گفت: "ما معتقدیم سرمایه‌گذاری‌هایمان در تکنیک‌های ایمنی ما را قادر می‌سازد تا این خطرات را مدیریت کنیم و مسئولانه اهرم‌های بیشتری را از کلود نسبت به امروز در توسعه مدل‌های هوش مصنوعی درک کنیم. با این حال، ما پیش‌بینی نمی‌کنیم که بتوانیم با خیال راحت از Claude برای طراحی و ساختن نسل‌های متوالی از مدل‌های مرزی، طراحی و ساختن نسل‌های متوالی از مدل‌های مرزی و نظارت فنی بدون درک معنادار استفاده کنیم. بر این اساس، ما در حال بررسی به‌روزرسانی‌های خط‌مشی مقیاس‌پذیری مسئول خود هستیم تا انسان‌ها را در کنترل توسعه مدل مرزی در Anthropic حفظ کنیم.

هشدارهای اخبار فوری ما را دریافت کنید و صندوق ورودی خود را راضی نگه دارید.