آیا عرضه اولیه سهام 2 تریلیون دلاری Anthropic هوش مصنوعی را ایمن تر یا خطرناک تر می کند؟

به نظر می رسد همه - از جمله Dario Amodei از Anthropic - در مورد خطرات فاجعه بار بالقوه ناشی از هوش مصنوعی صحبت می کنند.

با این حال، آنتروپیک می‌تواند به دنبال ارزش‌گذاری ۲ تریلیون دلاری (۱.۷۴ تریلیون یورو) در عرضه اولیه اولیه سهام در اواسط اکتبر باشد، که این سوال را ایجاد می‌کند که آیا عرضه عمومی آن را ایمن‌تر یا خطرناک‌تر می‌کند.

خطر وجودی از زمانی که جاکوب کوکسون، محقق Anthropic ترک کرد، مورد توجه قرار گرفت و هشدار داد که هوش مصنوعی می‌تواند تا سال 2030 همه ما را بکشد. ایوان هوبینگر از Anthropic گفت که Coxon "درست است" و احتمال انقراض دسته جمعی در یک دهه را بالای 10 درصد قرار می‌دهد.

سم آلتمن و ایلان ماسک درخواست آمودی برای کند کردن توسعه را تکرار کردند. Owen Lamont از مدیریت دارایی Acadian می نویسد: با توجه به خطرات، عمومی شدن آنتروپیک به نظر می رسد "مثل رابرت اوپنهایمر که در سال 1945 یک IPO برای پروژه منهتن انجام داد."

مقایسه شوخی است، اما لامونت، استاد مالی سابق دانشگاه هاروارد و ییل، یک سوال جدی می پرسد: آیا عرضه اولیه عمومی یک شرکت خطرناک را خطرناک تر می کند؟

او می‌گوید خبر خوب این است که شرکت‌های دولتی با نظارت بیشتری روبرو هستند و منابع بیشتری برای اختصاص به ایمنی دارند. خبر بد، بررسی دقیق است و پول لزوما شرکت ها را ایمن تر نمی کند.

مطالعه معادن زغال سنگ ایالات متحده بین سال‌های 1985 و 2018 نشان داد که ایمنی پس از عرضه عمومی معدن‌کاران بدتر شده است، و محققان پیشنهاد کردند که سرمایه‌گذاران می‌توانند سودهای تولید را راحت‌تر از خطرات پنهانی که برای دستیابی به آنها انجام می‌دهند، ببینند.

نمونه های تلخی وجود دارد. سه هفته پس از اینکه گروه بین المللی زغال سنگ در دسامبر 2005 عمومی شد، انفجاری در معدن ساگو در ویرجینیای غربی منجر به کشته شدن 12 معدنچی شد. در روسیه، در سال 2007، معدنی که برای IPO آماده می‌شد، یک حسابرس خارجی را برای بازرسی یک عملیات ظاهرا مدرن و ایمن وارد کرد. انفجار متان بیش از 100 نفر از جمله حسابرس و مدیران ارشد را کشت.

لامونت می گوید که Anthropic (و OpenAI) معدنچیان زغال سنگ نیستند، اما در اینجا درس هایی وجود دارد.

"اول، فقط به این دلیل که مدیریت فکر می کند چیزی ایمن است، آن را ایمن نمی کند. دوم، حتی زمانی که مدیریت از خطر آگاه است و منابع قابل توجهی را برای کاهش آن اختصاص می دهد، فاجعه همچنان ممکن است رخ دهد."

لامونت نابودگر هوش مصنوعی نیست، اما مثال‌های او نشان می‌دهد که تقاضای سرمایه‌گذاران می‌تواند در برابر هشدارهای ایمنی که از داخل صنعت هوش مصنوعی می‌آید، مقابله کند.