آیا آنتروپیک واقعی لطفا بایستد

این داستان در ابتدا در The Algorithm، خبرنامه هفتگی ما در مورد هوش مصنوعی ظاهر شد. برای دریافت داستان‌هایی از این قبیل در صندوق ورودی خود، در اینجا ثبت‌نام کنید.

پس از هفته ها گمانه زنی های دیوانه وار، آنتروپیک دفترچه عرضه اولیه سهام خود را ثبت کرد. سند 335 صفحه ای (100 صفحه یا بیشتر روی خطرات متمرکز شده است) دیدگاه منحصر به فرد شرکت را از فناوری در حال ساخت و راه هایی که معتقد است جهان را تغییر خواهد داد، نشان می دهد.

اما آنتروپیک سال هاست که مهارت های داستان سرایی خود را تقویت کرده است. در واقع، پیام‌رسانی عمومی آن یک کلاس استاد در ضبط روایت است.

در اوایل این ماه، جک کلارک، یکی از بنیانگذاران و رئیس سیاست این شرکت، در نشست صندوق بین المللی پول در بانکوک سخنرانی کرد و در آن به اقتصاددانان، بانکداران و قانونگذاران گردآوری شده اعلام کرد که این تکینگی در حال حاضر وجود دارد.

این تکینگی که حدود 40 سال پیش توسط نویسنده علمی تخیلی و آینده پژوه ورنر وینج معرفی شد (و مدت ها در حاشیه های ضعیف تر اینترنت مورد بحث قرار گرفت)، ظاهرا نقطه ای است که فناوری آنقدر خوب می شود که از توانایی های سازندگانش پیشی می گیرد.

این ایده می‌گوید که انسان‌ها در غبار رها شده‌اند و دیگر قادر به رقابت با ثمره‌های خلقت قبلی خود یا حتی درک آن نیستند.

و این دنیای خیالی که بسیاری از ما از کودکی تصورش را کرده ایم؟ ظاهرا ما در حال حاضر در آن زندگی می کنیم: کلارک به مخاطبان خود گفت: "من معتقدم که امسال شواهد قانع کننده ای به دست آورده ایم که اکنون شروع شده است."

این شرکت داستانی واضح (و از بسیاری جهات ترسناک) را در مورد آینده ای که به عنوان یک آینده اجتناب ناپذیر به تصویر می کشد، اما هنوز اتفاق نیفتاده است، می گوید که اغلب از الگوهای داستانی علمی تخیلی به خوبی استفاده می شود. فناوری خود را مرموز و خطرناک معرفی می کند و اصرار دارد که تنها شرکتی است که به اندازه کافی قابل اعتماد است که آن را رام کند. (کدام سرمایه‌گذاری در این مورد نمی‌خواهد؟)

مثال دیگری بزنید. سال گذشته، کریس اولاه، یکی دیگر از بنیانگذاران آنتروپیک، برای سخنرانی در واتیکان دعوت شد، جایی که به پاپ لئو چهاردهم و سایر علما و مقامات مذهبی گفت که شرکتش در مورد فناوری خود چه می‌آموزد. او گفت: "راست خواهم بود: ما به یافتن چیزهایی مرموز و حتی ناراحت کننده ادامه می دهیم." ما شواهدی از درون نگری پیدا می کنیم. حالات درونی را می یابیم که به طور عملکردی شادی، رضایت، ترس، اندوه و ناراحتی را منعکس می کنند.

فراموش نکنید که بسیاری از محققان چنین پیشنهاد آشکاری مبنی بر اینکه نرم افزار آنتروپیک دارای تجربه درونی انسانی است، مسخره می کنند. وقتی آنقدر کمی قطعی به نظر می رسد، آنچه آنتروپیک (و شرکت های هوش مصنوعی هم مرزش) می گویند ربوده شده و مانند قطعات یک کشتی در حال غرق شدن به آن چسبیده است.

من نمی گویم که آنها لزوما در مورد هر یک از اینها اشتباه می کنند. (این برای یک روز دیگر است.) اما در جهانی که هیچ کس نمی داند چه چیزی در راه است، شرکت هایی مانند آنتروپیک می توانند این خلاء را پر کنند.

ارزش این را دارد که لحظه ای وقت بگذارید و بپرسید: آنتروپیک چیست؟ ممکن است مانند یک سوال آغازین در یک برنامه مسابقه خانوادگی به نظر برسد، اما پاسخ دادن به آن بسیار دشوارتر از آن چیزی است که فکر می کنید.

این سوال از زمان خواندن تبادل نظر در X در هفته گذشته توسط ناتان کالوین، افسر ارشد استراتژی در Encode AI، سازمانی مستقر در واشنگتن دی سی، که از مقررات حمایت می کند، در ذهن من بود. کالوین از قانونی که آنتروپیک در پیش‌نویس لایحه‌ای که به صورت مخفیانه در اختیار قانون‌گذاران ایالات متحده قرار داده بود (که سپس به بیرون درز کرد) ناراضی بود.

کالوین گفت، آنتروپیک می خواهد به عنوان یک مرد خوب دیده شود. اما چرا باید به آن اعتماد کنیم؟ "آنتروپیک چیست؟" او پرسید.

در اینجا یک پاسخ وجود دارد: آنتروپیک شرکتی است که IPO آن را بیش از 1.5 تریلیون دلار ارزش گذاری می کند و سرمایه هنگفتی را از بنیانگذاران آن، از جمله کلارک و اولا، خالص می کند.

اما آنتروپیک همیشه اصرار داشته است که بیش از این است. همانطور که کالوین اشاره کرد: Anthropic ممکن است در عوض یک سازمان ایمنی هوش مصنوعی در نظر گرفته شود که بر توسعه فناوری قدرتمندی که قابل اعتماد و (تقریبا) بدون خطر است متمرکز است. یا ممکن است گروهی از مردم در نظر گرفته شوند که پیش از هر کس دیگری به دنبال ایجاد یک فناوری با قابلیت‌های مافوق بشری هستند - شاید به این دلیل که معتقدند مسئولیت‌پذیرترین افراد برای انجام این کار هستند یا شاید به دلیل نفس خود.

در واقع آنتروپیک همه این موارد است. همانطور که مدیر عامل شرکت داریو آمودی در پاسخ به پست کالوین گفت: "استراتژی ما همیشه همان چیزی بوده است که من آن را "مسابقه به سمت اوج" می نامم - با نشان دادن اینکه چگونه می توان این فناوری را مسئولانه ساخت، می توانیم سطح کل صنعت را بالا ببریم. نیروهایی که مسابقه را به اوج می برند، بسیار موثرتر هستند، اگر شرکتی که در آن شرکت یاد گرفته باشد، بسیار موثرتر است. به طور مکرر و با نگاه کردن به این استراتژی به عنوان یک کل، به سابقه ما افتخار می کنم و بر آن می ایستم.

آمودی طوری به نظر می رسد که انگار همه چیز را به هم زده است، اما ایفای نقش های متعدد سخت است. برای مثال، تنش‌های زیادی بین اولویت‌های یک سازمان ایمنی هوش مصنوعی و یک شرکت بزرگ سود محور وجود دارد. (Amodei در پست خود اعتراف می کند که اشتباه کرده است.)

در نهایت، داستان هایی که آنتروپیک برای خود تعریف می کند باید به ما در درک داستان هایی که به ما می گوید کمک کند. آنها باید به ما کمک کنند تا بفهمیم چقدر باید به آن اعتماد کنیم تا خود تنظیم کند یا اینکه آیا باید آن را مجبور کنیم که به آزمایش‌کنندگان ایمنی خارجی به مدل‌های آن بر اساس شرایط ما دسترسی داشته باشد تا آنها. آنها باید به ما کمک کنند که از شک و تردید (یا نه) بهره مند شویم، زمانی که به نظر می رسد یک قانون خودخواهانه به نظر می رسد.

اما من فکر می کنم داستان ها یک هیدرا چند سر را نشان می دهند. Anthropic برای بسیاری از مردم چیزهای زیادی است، و من مطمئن نیستم که آن را قابل اعتمادتر کند. از بسیاری جهات، خواندن یک شرکت فن‌آوری قدیمی - بدون نقش‌آفرینی علمی تخیلی، بدون وو-وو - بسیار آسان‌تر خواهد بود.