آنتروپیک می‌گوید ریسک‌هایی که برای سرمایه‌گذاران وجود دارد شامل ضربه زدن به هوش مصنوعی فراری است

باربارا اورتوتای، آسوشیتدپرس باربارا اورتوتای، آسوشیتدپرس

هر زمانی که یک شرکت به دنبال شروع فروش سهام در وال استریت است، باید ریسک های احتمالی را برای سرمایه گذاران افشا کند. در مورد غول هوش مصنوعی Anthropic، این احتمال وجود دارد که محصولات آن چیزی کمتر از خود بشریت را تهدید کند.

خطراتی که شرکت سانفرانسیسکو در پرونده روز دوشنبه خود به کمیسیون بورس و اوراق بهادار مطرح کرد، شامل بحث در مورد بازیگران بدی بود که به طور بالقوه از مدل‌های هوش مصنوعی برای ساخت سلاح‌های مرگبار استفاده می‌کردند یا خود فن‌آوری که عواقب نامشخصی دارد، سرکش است.

از 335 صفحه که به تشریح امور مالی، غرامت اجرایی، سیاست تقسیم سود و موارد مشابه آنتروپیک می پردازد، 93 صفحه به "عوامل خطر" اختصاص دارد - مواردی که می تواند به سرمایه گذاری سهامداران بالقوه آسیب برساند. در مقایسه، عوامل خطر فهرست شده رقیب SpaceX، 38 صفحه از بیش از 250 صفحه را به خود اختصاص دادند.

آنتروپیک در فروش خود به سرمایه گذاران، عرضه اولیه عمومی خود را به عنوان گامی در جهت کاهش خطراتی که معتقد است هوش مصنوعی ایجاد می کند، ارائه می دهد.

بنیانگذاران این شرکت در نامه‌ای به سهامداران احتمالی در پرونده اولیه عرضه اولیه سهام می‌نویسند: «ساخت هوش مصنوعی به‌کارگیری خود شناخت است و هر چیزی که به این قدرتمندی می‌تواند برای بد و همچنین خوب مورد استفاده قرار گیرد». Anthropic یک سازمان عمیقا ارزش‌محور است که تا حد زیادی برای کمک به جهان در درک مزایای هوش مصنوعی و اجتناب از خطرات آن تأسیس شده است.

به گفته این شرکت، مزایای بالقوه این فناوری شامل جهش در درمان بیماری ها و افزایش بهره وری در هر بخش از اقتصاد است.

با این حال، بدهی های بالقوه بسیار است. دامنه آنها از دنیوی - احتمال عدم توانایی در حفظ کارکنان کلیدی یا عبور از موانع نظارتی - تا دخالت در حملات سایبری و انتشار اطلاعات غلط خطرناک است.

در اینجا نگاهی به برخی از جزئیات خطرات Anthropic دارد:

آنتروپیک گفت این امکان وجود دارد که مدل‌های آن به سرعت توسعه یابند که این شرکت نتواند اقدامات ایمنی کافی را اجرا کند، "که می‌تواند احتمال حوادث ایمنی، مداخله نظارتی یا آسیب به شهرت را افزایش دهد و بر کسب‌وکار ما تأثیر منفی بگذارد."

داریو آمودی، مدیر عامل آنتروپیک، در ماه سپتامبر هشدار داد که در عرض شش تا 12 ماه، هوش مصنوعی می‌تواند گروهی از عوامل را هدایت کند که می‌توانند کل اینترنت را در اختیار بگیرند. این هشدار - و اکنون اقدام Anthropic برای فروش سهام - در حالی است که نگرانی‌ها در مورد هوش مصنوعی در داخل و خارج از صنعت در مورد سیستم‌های قدرتمندتر فزاینده‌ای که مشکلاتی را فراتر از ظرفیت انسانی حل می‌کنند اما می‌توانند به تنهایی برای انجام سایر وظایف مضرتر عمل کنند، افزایش می‌یابد.

در پرونده SEC آمده است که از آنجایی که سیستم‌های هوش مصنوعی «خودمختارتر می‌شوند و می‌توانند اقدامات بعدی را با نظارت کمتر انسانی انجام دهند»، این خطر وجود دارد که چنین سیستم‌هایی «به‌طور مستقل و در مقیاس بدون دخالت انسان، اقدامات مضر انجام دهند».

آنتروپیک می‌گوید: «حتی اگر مدل‌های خودمان چنین آسیبی را ایجاد نکنند، یک حادثه ایمنی قابل توجه که شامل هر هوش مصنوعی مرزی می‌شود، می‌تواند صدمات گسترده‌ای به شهرت صنعت هوش مصنوعی، واکنش‌های عمومی و واکنش‌های نظارتی گسترده ایجاد کند که می‌تواند بر کسب‌وکار ما تأثیر منفی بگذارد.»

اکنون که مدل‌های هوش مصنوعی خود به تحقیق و توسعه آنتروپیک کمک می‌کنند، این امکان وجود دارد که هوش مصنوعی بتواند «فراتر از توانایی ما برای ارزیابی و حفاظت از مدل‌های جدید» پیشرفت کند. این سند می‌گوید که می‌تواند بر تجارت آنتروپیک تأثیر منفی بگذارد.

این پرونده نگرانی‌هایی را مطرح می‌کند که سیستم‌های هوش مصنوعی پیشرفته، اگر توسعه یابند و با نظارت و پادمان‌های کافی توسعه پیدا نکنند، «خطرات فاجعه‌بار یا وجودی برای بشریت ایجاد می‌کنند، به‌ویژه اگر چنین سیستم‌هایی مورد سوء استفاده، تکرار، سلاح‌سازی یا اجازه عملکرد با درجه بالایی از استقلال باشند».

این شرکت گفت که اگر استفاده توسط بازیگران بد باعث آسیب شود، آسیب می بیند، "یا اگر نرده های محافظ یا محافظ های مدل ما نتوانند از چنین سوء استفاده ای جلوگیری کنند."

آنتروپیک چشم‌انداز بازیگران بدی را که از مدل‌های هوش مصنوعی برای ساخت سلاح‌های شیمیایی استفاده می‌کنند یا حاکمان مستبدی که برای سرکوب شهروندان خود به فناوری روی می‌آورند، ترسیم کرد. در ماه سپتامبر، این شرکت فاش کرد که تلاش‌ها برای استفاده از مدل‌های هوش مصنوعی خود را برای فعالیت‌های مخربی مانند حملات سایبری، نظارت و تحقیقاتی که می‌توانست به توسعه سلاح‌های بیولوژیکی منجر شود، مسدود کرده است.

محاسبه – قدرت محاسباتی یا منابع مورد نیاز برای ساخت، آزمایش و بهبود مدل‌های هوش مصنوعی – گران است و تقاضای زیادی دارد. Anthropic خاطرنشان می کند که اگر نتواند محاسبات کافی را ایمن کند، یا اگر "نتوانیم محاسبات خود را به طور موثر بر روی حجم کاری خود هدایت کنیم، ممکن است نتوانیم مدل هایی را آموزش دهیم که با مدل های رقبای ما رقابت کنند یا به اندازه کافی به مشتریان خود خدمات ارائه دهند."

آنتروپیک از مخالفت جامعه با مراکز داده به عنوان خطری برای تجارت خود یاد کرد. در این پرونده آمده است که توسعه مرکز داده "جنجال عمومی و بررسی های نظارتی را در مورد اثرات زیست محیطی، استفاده از زمین و آب و تخصیص منابع محدود انرژی برانگیخته است." و افزود که اگر تنظیم کننده ها الزامات یا هزینه های جدیدی را در نتیجه اعمال کنند، توانایی آن برای انجام تجارت ممکن است آسیب ببیند.

علاوه بر این، این شرکت برای بخش بزرگی از درآمد خود به تعداد کمی از مشتریان از جمله اسپیس ایکس و مایکروسافت و کانال های توزیع متکی است. این بدان معناست که حتی اگر فقط یکی از مشتریان بزرگش تصمیم بگیرد که شرکت را کاهش دهد - یا شرکت را به کلی کنار بگذارد - آنتروپیک گفت که می تواند شاهد آسیب های مالی و چشم انداز خود باشد.

از برخی جهات، ریسک عظیم هوش مصنوعی، همراه با پتانسیل عظیم آن، نقطه اصلی فروش آنتروپیک است. این شرکت سعی کرده است خود را به عنوان یک شرکت هوش مصنوعی مسئول معرفی کند و با تاکید بر ایمنی اندیشی، مشتریان تجاری را مورد محاکمه قرار دهد.

در این پرونده آمده است: "ما معتقدیم که شرکت های مرزی هوش مصنوعی باید روی ایمنی و همسویی سرمایه گذاری کنند تا از انتشار مسئولانه این فناوری اطمینان حاصل کنند."

برایان مولبری، استراتژیست ارشد بازار در Zacks Investment Research، گفت که معاملات IPO باید «بسیار واضح» خطراتی را که مردم هنگام سرمایه‌گذاری پول خود در سهام جدید عمومی با آن مواجه می‌شوند، نشان دهند.

او گفت: «یکی از چیزهایی که در مورد بازارهای سرمایه ما در اینجا در داخل کشور بسیار خوب است، سطح شفافیتی است که باید به آن متعهد شوید، برای اینکه یک شرکت سهامی عام در بورس ایالات متحده باشید، از شما می‌خواهد که این ریسک‌ها را به روشی کاملا واضح ترسیم کنید، به طوری که مردم بفهمند که آیا می‌خواهند با ارائه پولی که به سختی به دست آورده‌اند مشارکت کنند و به تأمین مالی این نوع معامله کمک کنند.»

برنارد کاندون، نویسنده کسب و کار AP و کیتلین هوامانی، نویسنده فناوری AP در این داستان مشارکت داشتند.

از روزنامه نگاری قابل اعتماد و گفتگوی مدنی حمایت کنید.