ثبت IPO آنتروپیک یک سوال پرهزینه ایجاد می کند: چه کسی می تواند نه بگوید؟

ثبت اولیه عرضه اولیه سهام Anthropic در 26 اکتبر به سرمایه گذاران دلیلی می دهد تا سؤالی را بپرسند که معمولا تا یک بحران باقی مانده است: چه کسی می تواند باعث شود یک شرکت هوش مصنوعی هدف درآمد خود را از دست بدهد؟

تصور کنید که یک مدیر عامل پس از اینکه به مشتریان وعده تحویل داده شده و ظرفیت محاسباتی رزرو شده است، با تاخیر راه اندازی مواجه می شود. تیم ایمنی خواهان آزمایش بیشتر است. فروش آزادی را می خواهد. مدیر مالی یک سوراخ را در سه ماهه می بیند.

وقتی که یک بیانیه ماموریت بود، همه هوش مصنوعی مسئول را تایید کردند. حالا یک نفر باید هدف درآمدی از دست رفته را امضا کند. چه کسی می تواند بر تأخیر پافشاری کند و آیا این تصمیم می تواند از اعتراض مدیر عامل جان سالم به در ببرد؟

اینجاست که سرمایه‌گذاران باید تعهدات ایمنی هوش مصنوعی را آزمایش کنند: آیا شرکت به اندازه کافی اختیار، پول و مسئولیت‌پذیری را برای رعایت آنها تحت فشار تجاری اختصاص داده است یا خیر.

حفاظت از کسب و کار می تواند به معنای از دست دادن سه ماهه باشد. اگر هیئت مدیره این معامله را انجام ندهد، تیم ایمنی با افرادی که اهدافشان به پرتاب بستگی دارد بحث می‌کنند. سرمایه گذاران باید بپرسند چه کسی می تواند آن را متوقف کند، چه چیزی می تواند قبل از از سرگیری آن نیاز داشته باشد، و اگر مدیریت به هر حال پیش برود چه اتفاقی می افتد.

منشور پیشنهادی آنتروپیک به تراست مزایای بلندمدت این حق را می‌دهد که اکثریت هیئت‌مدیره را با الزامات تأیید اضافی برای یک کرسی انتخاب کند. این قدرت نهادی قابل توجهی است.

اما توافقنامه اعتماد ثبت شده، آستانه ای را برای سهامداران خارجی تعیین می کند که به دنبال اجرای شرایط آن هستند: یک سرمایه گذار یا گروه باید حداقل 10 درصد از قدرت رای «سهام با رأی غیرقانونی» را به طور مداوم حداقل برای یک سال در اختیار داشته باشد و این آستانه را در طول دعوی قضایی حفظ کند. این محاسبه شامل سهام متولی و سهام کلاس F مؤسسان نمی شود. متولیان رأی، شرکت و دارنده کلاس F دارای حقوق اجرایی جداگانه هستند.

این محدودیت‌ها مربوط به اجرای اعتماد است، نه هر راه‌حل برای سهامداران. سرمایه‌گذاری که واجد شرایط نیست به سایر اشخاص مجاز برای اجرای آن وابسته است. حمایت نهادی با مراجعه فردی یکسان نیست.

پرونده Anthropic یک فرآیند انتشار را توصیف می کند. قبل از انتشار هر مدل، تیم Frontier Red آن قابلیت‌هایی را تجزیه و تحلیل می‌کند که می‌تواند به مهاجمان سایبری کمک کند. تصمیمات توسعه و استقرار مورد به مورد اتخاذ می شود. ارزیابی‌ها ممکن است شرکت را به تأخیر در انتشار، محدود کردن دسترسی یا عدم استفاده عمومی از یک مدل سوق دهد. کمیته ایمنی و ریسک هیئت مدیره به نظارت بر ایمنی و امنیت مدل کمک می کند.

خط‌مشی مقیاس‌پذیری مسئولیت‌پذیر مجزای شرکت، تصمیم‌گیرندگان را شناسایی می‌کند: در فرآیند گزارش ریسک، مدیرعامل و مسئول مقیاس‌پذیری، تصمیم نهایی را در مورد کفایت ارزیابی‌های ریسک و برنامه‌های توسعه یا استقرار ناشی از آن اتخاذ می‌کنند. وقتی ادامه کار به شدت به این استدلال متکی است که سیستم‌های آنتروپیک با توجه به خطراتی که به‌طور اجتناب‌ناپذیری توسط سایر سیستم‌های هوش مصنوعی ایجاد می‌شود، ریسک نسبتا کمتری را اضافه می‌کنند، هیئت مدیره و اعتماد بلندمدت منافع باید صریحا گزارش ریسک را تأیید کنند. اینها تدابیر اساسی هستند.

با این وجود، سرمایه گذاران باید بپرسند که چگونه اختلافات بین مدیریت، هیئت مدیره و اعتماد حل می شود، چه کسی اطمینان می دهد که تأییدیه های مورد نیاز قبل از اقدام به دست آمده است، و آیا این ترتیبات می توانند فشار مالی تاخیر را تحمل کنند.

برای هیئت مدیره در سراسر صنعت، آزمون عملی دارای سه بخش است: اختیار برای توقف، پول برای حفظ تاخیر، و پیامدهای دور زدن قوانین.

ابتدا، مکث و لغو اختیار را صریح کنید. مشخص کنید چه کسی می‌تواند مکث ایجاد کند، چه شواهدی باعث ایجاد آن می‌شود، چه چیزی باید قبل از راه‌اندازی مجدد تغییر کند، و چه کسی می‌تواند مجوز لغو را صادر کند. هرگونه نادیده گرفتن باید تصمیم گیرنده را شناسایی کند و دلایل را قبل از انتشار ثبت کند. مدیر عامل نباید ابتدا ادامه دهد و بعد توضیح دهد.

دوم، هزینه مکث را تامین کنید. از مدیر مالی بخواهید قبل از تأیید راه اندازی، یک تاخیر 90 روزه را مدل کند. کدام صورت حساب های محاسباتی ادامه دارد؟ چه تعهدات مشتری باقی می ماند؟ چه اتفاقی برای پول نقد، راهنمایی و غرامت می افتد؟ نود روز یک تست استرس است، نه یک استاندارد جهانی. نکته این است که کشف کنیم آیا اعمال حفاظت می تواند باعث ایجاد یک بحران مالی شود. هیئتی که برای شتاب بودجه در نظر گرفته است اما ظرفیتی برای مهار باقی نمی گذارد، قبلا تصمیم خود را تغییر داده است.

سوم، تصمیم بگیرید که وقتی مدیریت یک محافظ را دور می زند چه اتفاقی می افتد. نیاز به تشدید سریع به کمیته مسئول هیئت مدیره، یک برنامه اقدام اصلاحی، و پیامدهای روشن برای لغو غیرمجاز. شرکت‌هایی که هوش مصنوعی می‌خرند باید در صورت تغییر مادی محافظت‌های وعده داده شده، حقوق اصلاح و خروج در صورت امکان مذاکره کنند. سرمایه گذاران باید بدانند چه کسی می تواند هر وعده را اجرا کند و در صورت شکستن آن چه چیزی می تواند مطالبه کند.

قبل از راه‌اندازی، یک بررسی ایمنی ناموفق را تمرین کنید: چه کسی انتشار را متوقف می‌کند، چه کسی تأخیر را تأمین می‌کند، و چه کسی اجازه راه‌اندازی مجدد را می‌دهد؟

این ترتیبات هوش مصنوعی ایمن را تضمین نمی کند. اما آنها نقطه ای را آشکار می کنند که در آن وعده های یک شرکت از تمایل آن برای پرداخت برای آنها بیشتر است.

فرصت رقابتی بزرگتر از اجتناب از یک تیتر بد است. محدودیت‌های معتبر می‌تواند به مشتریان سازمانی دلیلی برای اعتماد به یک تامین‌کننده با کار نتیجه‌ای بدهد. این قابلیت می تواند از روابط بلندمدت حمایت کند. نگهداری آن نیز هزینه دارد.

سرمایه گذاران باید قبل از تعیین ارزش هر دو طرف را بررسی کنند. قبل از تصویب برنامه های رشد، هیئت ها باید با هر دو مورد مقابله کنند. یک خط مشی منتشر شده یک نقطه شروع است، نه مدرکی مبنی بر اینکه یک محافظ از فشار تجاری دوام می آورد.

یک وعده می تواند روی کاغذ زنده بماند. توانایی احترام به آن ممکن است از بودجه جان سالم به در نبرد.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد