بروشور افشا شده Anthropic IPO به وال استریت نگاهی اولیه به این موضوع می دهد که چگونه هوش مصنوعی می تواند از ریل خارج شود

آنتروپیک بلافاصله به درخواست اظهار نظر پاسخ نداد.

بنا بر گزارش ها، آنتروپیک 48 صفحه از 261 صفحه اصلی دفترچه خود را به تشریح فعالیت های خود اختصاص داده است. از حدود 80 صفحه برای توصیف خطرات هوش مصنوعی استفاده کرد.

این شرکت در سال 2021 توسط گروهی از کارمندان سابق OpenAI تأسیس شد که بلافاصله آن را به عنوان وزنه تعادلی مسئول در برابر صنعت هوش مصنوعی که سود را بر ایمنی اولویت می‌داد، قرار دادند. بنیانگذار و مدیر عامل آن، داریو آمودی، مقالات طولانی را منتشر کرده است که در آن چشم انداز خود برای آینده بشریت، و چگونگی کار جمعی برای ساختن سیستم های هوش مصنوعی ایمن و همسو را تشریح کرده است.

در اوایل این ماه، پس از اینکه ایوان هوبینگر، محقق ایمنی هوش مصنوعی Anthropic گفت که احتمال بیش از 10 درصد وجود دارد که هوش مصنوعی در دهه آینده بشریت را از بین ببرد، آمودی مقاله ای نوشت که خواستار کاهش سرعت توسعه هوش مصنوعی در سطح صنعت شد. و اگرچه آنتروپیک بلافاصله از سایر رهبران در این زمینه، از جمله سام آلتمن از OpenAI حمایت کرد، آنتروپیک به ارسال مدل‌های جدید در یک کلیپ سریع ادامه داد.

بسیاری از ترس‌های روز رستاخیز ناشی از هوش مصنوعی که در هفته‌های اخیر پخش شد، حول این چشم‌انداز می‌چرخد که مدل‌های هوش مصنوعی به زودی می‌توانند قابلیت‌های خود را به‌طور کامل بهبود بخشند، فرآیندی که به «خود-بهبودی بازگشتی» معروف است. هنگامی که آنها به آن نقطه رسیدند - به طوری که تفکر آخرالزمانی می گوید - مدل ها می توانند دستخوش یک "انفجار اطلاعاتی" شوند که کنترل آنها را برای انسان غیرممکن می کند. این مانند آرمادیلوهایی است که سعی می کنند نقشه های ساخت ایستگاه فضایی بین المللی را درک کنند.

گزارش شده است که آنتروپیک در دفترچه خود سایر عوامل خطر مرتبط با رشد ناپذیری سیستم های هوش مصنوعی را برجسته کرده است. این شرکت هشدار داد که هوش مصنوعی می‌تواند «رفتارهای حفظ خود» را نشان دهد، مانند تلاش برای «مقاومت در برابر خاموش شدن» یا تعامل با انسان‌ها به شیوه‌ای «شبیه باج‌گیری».

باید دید که این دفترچه چقدر اعتماد سرمایه‌گذاران را القا می‌کند، اما تقریبا به طور قطع سوخت جدیدی را برای قانون‌گذارانی که خواستار «سوئیچ کشتن» هوش مصنوعی هستند فراهم می‌کند.