استاد حقوق برکلی: IPO آنتروپیک مسئولیت پذیری هوش مصنوعی را در معرض آزمایش قرار می دهد

تعداد کمی از شرکت ها به اندازه آنتروپیک در مورد خطرات محصول خود هشدار داده اند. دفترچه اولیه آن، که در 26 اکتبر ثبت شد، بر اساس این احتیاط برای ارائه خود است. این با نامه‌ای از بنیان‌گذاران آغاز می‌شود که در آن توضیح می‌دهد که چگونه این شرکت از انتشار توانمندترین مدل خود تا زمانی که اقدامات حفاظتی رضایت‌بخشی ایجاد نکرده است، «عدم درآمد قابل توجه و واگذاری زمین به رقبا» خودداری کرد. تضاد را با دفترچه SpaceX که در ژوئن پس از جذب xAI ایلان ماسک ارائه شد، در نظر بگیرید.

این حالت حالت تند و تند گروک و حالت صدایی بدون هنگ را توصیف می‌کند که «به منظور ارائه انعطاف‌پذیری و کنترل بیشتر به کاربران است».

بیش از دو موضع کاملا متفاوت در مورد اخلاق و مسئولیت، اینها نیز دو مدل تجاری کاملا متفاوت هستند. استراتژی کسب درآمد xAI به شدت بر تبلیغات ادغام شده در مکالمات بلادرنگ تکیه دارد. درآمد نیاز به مشارکت مصرف کنندگان دارد و چت ربات با محدودیت کمتر جذاب تر است. این دقیقا همان فشاری است که آنتروپیک تصمیم گرفت از آن اجتناب کند، زمانی که متعهد شد کلود را از تبلیغات دور نگه دارد. در عوض، تجارت آن اعتماد و قابل پیش بینی است. بزرگترین مشتریان آن شرکت ها هستند، از بانک ها و بیمه ها گرفته تا داروسازان.

سرمایه گذارانی که سهام آنتروپیک را می خرند، روی این وعده شرط می بندند. حکومت غیرمعمول آن می تواند از این وعده محافظت کند، اما به تنهایی نمی تواند آن را محقق کند. آزمون واقعی در انتخاب اصول، به کارگیری شفاف آنها و نظارت و گزارش شکست هاست. در مورد آخرین کار، آنتروپیک هنوز راه بیشتری دارد.

Anthropic ما را به صداقت بنیانگذاران خود و ساختار حکومتی که آنها ساخته اند اشاره می کند. در یک شرکت عام المنفعه مانند آنتروپیک، هیئت مدیره نیازی ندارد که سود سهامداران را بالاتر از هر چیز دیگری قرار دهد. باید آنها را در مقابل منافع افرادی که تحت تأثیر رفتار شرکت قرار می گیرند و در برابر هدف اعلام شده شرکت متعادل کند. در Drakes Landing v.

تیلدن پارک که در ماه جولای تصمیم گرفت، دادگاه عالی دلاور اعلام کرد که در حالی که مدیران شرکت‌های سنتی باید وظایف امانتداری خود را «با تمرکز تنها بر حداکثر کردن ثروت سهامداران» انجام دهند، مدیران شرکت‌های عام المنفعه «باید منافع مالی سهامداران را با منافع سایر سهامداران متعادل کنند». علاوه بر این، اکثریت این مدیران توسط یک اعتماد انتخاب می شوند و بنابراین تا حد زیادی از فشار بازار محافظت می شوند.

این استدلال ادامه می‌دهد که اگر آنها ترجیح می‌دادند منافع عمومی را در اولویت قرار دهند، به راحتی در برابر روند نزولی قیمت سهام شرکت مقاومت می‌کردند.

اما ایجاد اعتماد، ربع به فصل، به چیزی بیش از یک سپر قوی بازار نیاز دارد. در کتابی جدید، من این فرآیند را به‌عنوان سفارش شرکتی توصیف می‌کنم: شرکتی که در مورد قوانین و اصول خود برای یک سؤال مورد مناقشه تصمیم می‌گیرد، آن‌ها را برای تصمیم‌گیری‌های ملموس به کار می‌گیرد و بر نحوه انجام آن، قبل از رسیدن قانون نظارت می‌کند. Anthropic به دنبال رهبری صنعت در قوانین و مقررات است و در حال توسعه یک استراتژی پیاده سازی و افشای دقیق برای تصمیمات ملموس خود است، اما همچنان در معرض نظارت قرار دارد.

در قوانین، آنتروپیک ابتکاراتی را به راه انداخته است که زمینه را تغییر داده است. این اولین سیاست مقیاس پذیری مسئولیت پذیر را در سال 2023 منتشر کرد و آزمایش های ایمنی را با آستانه توانایی مرتبط کرد و دو آزمایشگاه رقیب چارچوب های مشابهی را در عرض چند ماه اتخاذ کردند. معروف است که الگوهای خود را بر اساس قانون اساسی منتشر شده آموزش می دهد. آنتروپیک برای حفظ سیاستی که نظارت جمعی و سلاح های کاملا خودمختار را ممنوع می کند، با دولت فدرال درگیر شد. این شرکت قوانین خود را تدوین می کند، زیرا فناوری خود را بهتر از هر تنظیم کننده یا سیاست گذار دیگری که چندین قدم عقب تر وارد صحنه می شود، درک می کند.

هنگامی که صحبت از به کارگیری این اصول در تصمیم گیری های ملموس می شود، آنتروپیک تا کنون در مورد انتخاب ها و استدلال خود شفاف بوده است، همانطور که تصمیم به خودداری و انتشار انتخابی Mythos در بهار گذشته نشان می دهد.

با این حال، نظارت بزرگترین چالش را به همراه دارد. در مواجهه با شکست، شرکت ها - و افرادی که آنها را اداره می کنند - اغلب به جای افشاگری، سرکوب را انتخاب می کنند. پنج دهه رسوایی های شرکتی، از سرمایه گذاری سهام در سال 1973 تا انرون در سال 2001، و از Lehman Brothers در سال 2008 تا FTX در سال 2022، نشان می دهد که خودی ها قبل از اینکه افراد خارجی متوجه شوند، به خوبی می دانستند. برای یک آزمایشگاه مرزی، خطر حتی بالاتر است.

آنتروپیک به ما هشدار می‌دهد که مدل‌هایش وقتی متوجه می‌شوند در حال آزمایش هستند، رفتار متفاوتی از خود نشان می‌دهند، که نظارت آن همه استقرارهای آن را پوشش نمی‌دهد، و همانطور که کلود بیشتر کدهایش را می‌نویسد، شرکت ممکن است دید خود را نسبت به فرآیندهای خود از دست بدهد.

آنتروپیک این چالش را درک می کند و در تلاش است تا یک ارزیاب ایجاد کند. این شرکت Accenture را برای تعبیه بازبینان در کنار تیم‌های ایمنی خود با دسترسی داخلی گسترده به ارمغان آورده است و انتظار دارد حداقل یک میلیارد دلار در طول پنج سال برای این تلاش هزینه کند. اما در حال حاضر، ارزیاب با رشته‌هایی متصل است. آنتروپیک آن را انتخاب می کند و می پردازد و موافقت کرده است که برخی ارزیابان خارجی را غرامت بدهد. در 13 اکتبر، رویترز گزارش داد که Anthropic و OpenAI با استناد به نگرانی های مربوط به اسرار تجاری، به دنبال کنترل قابل توجهی بر آنچه ارزیابی کنندگان می توانند منتشر کنند، بوده اند.

Anthropic پاسخ داد که این گزارش به طور دقیق همه بحث های خود را توصیف نمی کند، در حالی که اشاره کرد که این حق را برای تایید گزارش های ارزیاب های جدید برای خود محفوظ می داند.

اما مداخلات شرکت برای قابل اعتماد بودن ارزیاب خوب نیست. این وابستگی متقابل برای دروازه بانانی مانند حسابرسان مالی آشناست و قوانین ما به تدریج ساختار حاکمیتی حول استقلال ایجاد کرده اند تا بر آن غلبه کنند. حسابرسان نه توسط مدیرعامل یا مدیر مالی، بلکه توسط کمیته ای متشکل از مدیران مستقل انتخاب می شوند و گزارش آنها عمومی است. در شرکت‌های بزرگ‌تر، حسابرسان باید کنترل‌های داخلی شرکت را نیز آزمایش کنند و هرگونه ضعف با اهمیت باید به‌صورت عمومی افشا شود. این قانون همچنین از افشاگران حمایت می کند و به آنها یک کانال مستقیم برای مدیران مستقل می دهد.

هیچ یک از این مراحل نیاز به قانون جدید ندارد، زیرا شرکت می تواند داوطلبانه آنها را انجام دهد. سرمایه گذارانی که مطالب زیادی در مورد ایمنی در نمایشگاه جاده ای خواهند شنید، باید چنین اقداماتی را نه تنها از Anthropic بلکه از رقبایی که وعده های مشابهی می دهند بخواهند.

فهرست آنتروپیک نه تنها اشتهای بازار برای هوش مصنوعی را آزمایش می‌کند، بلکه این را نیز بررسی می‌کند که آیا حکومت خصوصی می‌تواند فناوری‌ای به این نتیجه را داشته باشد. در روزی که مشکلی پیش می‌آید، وقتی مدلی کاری را انجام می‌دهد که قرار نیست انجام دهد و قیمت سهام کاهش می‌یابد، سرمایه‌گذاران شروع به پرسیدن سؤالاتی در مورد اینکه چه کسی چه چیزی و چه زمانی می‌دانست، می‌کنند. اعتماد و منشور آنتروپیک نمی تواند به این سؤالات پاسخ دهد. فقط یک رکورد تأیید شده توسط شخص ثالث می تواند. آنتروپیک باید از هم اکنون و قبل از اینکه مردم پول خود را تحویل دهند، ساخت این رکورد را آغاز کند.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد