سم آلتمن از OpenAI می گوید که Y Combinator پل گراهام به او یاد داد چگونه حکومت کند، نه حکمرانی: "ما هر تصمیمی را درست نخواهیم گرفت".

سام آلتمن شاید یکی از قدرتمندترین افراد در هوش مصنوعی باشد. با این حال، او می‌گوید که یک درس اولیه از دره سیلیکون به او آموخته است که برای اینکه مسئولیت واقعا معنایش چیست، محدودیتی وجود دارد.

مدت ها قبل از اینکه آلتمن در راس OpenAI تصمیم بگیرد، Y Combinator را اداره می کرد، شتاب دهنده تاثیرگذار استارتاپی که از هزاران شرکت جوان حمایت کرده است. با این حال، برخلاف اداره یک شرکت سنتی، آلتمن نمی‌توانست به سادگی به استارت‌آپ‌های YC بگوید که چه کاری باید انجام دهند. آلتمن در آخرین اپیزود Titans and Disruptors به ​​سردبیر Fortune Alyson Shontell گفت: «در بهترین حالت می‌توانید حکومت کنید—نمی‌توانید مانند حکومت کنید.»

آلتمن می‌گوید یادگیری نحوه هدایت سهامداران مختلف مانند او در YC به ویژه در OpenAI مفید شده است، جایی که او اکنون با فشار دولت‌ها، رقبا، سرمایه‌گذاران و اکوسیستم گسترده‌تر هوش مصنوعی در مورد سرعت پیشرفت فناوری و اینکه منافع چه کسانی باید در هنگام تضاد برنده شوند، مواجه است.

آلتمن به شونتل گفت: «ما انواع فشارهای دیوانه وار روی خودمان و افرادی داریم که واقعا یک چیز یا چیز دیگری را می خواهند. ما باید با دولت ها و با اکوسیستم خود درباره مسائل پرتنش مذاکره کنیم.»

آلتمن گفت که این تجربه به او اهمیت "شریک قابل اعتماد برای جهان" بودن را آموخت - به گونه ای عمل کرد که مردم بتوانند درک کنند که OpenAI چه کاری انجام خواهد داد و در عین حال "علائق و ارزش های بسیار متفاوت زیادی را در نظر گرفت."

آلتمن گفت: «ما هر تصمیمی را درست نخواهیم گرفت، اما تصمیماتی خواهیم گرفت که نه تنها به طور مستقیم به ما، بلکه به کل اکوسیستم و دنیای اطرافمان نفع می‌رسانند».

آلتمن اولین بار در طول تصدی خود در Y Combinator از مدیریت سهامداران یاد کرد. او ابتدا از طریق YC به عنوان موسس وارد شد و قبل از اینکه در سال 2014 رئیس آن شود، سمتی را که تا سال 2019 حفظ کرد، و به گفته او از آنجایی که مسئولیت هر شرکتی را بر عهده نداشت، بلکه سرمایه‌گذار در آن‌ها بود، باید بیاموزد که چگونه به هر شرکتی متفاوت برخورد کند.

آلتمن گفت: "می توانید بگویید، "هی، اشتباه بزرگی می کنی. ما سهامدار کوچکی از شما هستیم. شما به جامعه آسیب می زنید." ما به هنجارهای جدید نیاز داریم.»

از آنجایی که آن شرکت‌ها مستقل بودند و YC صرفا یک سرمایه‌گذار بود، آلتمن گفت که به او «چگونگی حکومت در مقابل مدیریت به‌عنوان یک مدیر اجرایی» را آموخت، تجربه‌ای که او اکنون آن را «درسی بسیار مهم» برای هدایت OpenAI می‌داند. و در آنجا، این رویکرد می تواند به معنای اتخاذ تصمیماتی باشد که با منافع افرادی که در شرکت پول دارند، در تضاد باشد.

پیش از این در این مصاحبه، آلتمن از «ساختار فوق‌العاده پیچیده OpenAI» دفاع کرد و گفت که این شرکت باید بتواند تصمیماتی اتخاذ کند که «به وضوح به نفع کسب‌وکار ما و سهامداران ما نیست» در صورتی که مأموریت گسترده‌تر آن اقتضا می‌کند.

آلتمن به فورچون گفت که اکنون "لحظه ای نامطلوب" برای عمومی شدن OpenAI در میان نگرانی ها در مورد ایمنی هوش مصنوعی خواهد بود. اگر کاهش سرعت توسعه هوش مصنوعی ضروری بود، او مایل بود به سرمایه گذاران OpenAI بگوید که باید تصمیمی "بسیار بر خلاف منافع مالی شما در حال حاضر" بگیرند.

او گفت: "برای خیر بشریت، ما این کار را انجام خواهیم داد." آلتمن اصرار داشت که این انتخاب دشوار نخواهد بود و استدلال می‌کرد که OpenAI همچنان می‌تواند «یک کسب‌وکار فوق‌العاده سودآور ایجاد کند» حتی اگر توسعه کند شود.

او گفت: «این تصمیم سختی نیست اگر این دو چیز با هم تنش داشته باشند.

آلتمن همچنین برخی از بزرگترین تصمیمات پیش روی OpenAI را تصمیماتی می داند که شرکت نمی تواند به تنهایی انجام دهد.

در همان مصاحبه، او اشاره کرد که شرکت‌های پیشرو هوش مصنوعی می‌توانند با قدرتمندتر شدن مدل‌هایشان به سمت نوعی توافق جمعی برای مقابله با خطرات ایمنی حرکت کنند.

آلتمن وقتی از او پرسید که چرا او، مدیر عامل آنتروپیک، داریو آمودی، ایلان ماسک، و دمیس حسابیس، یکی از بنیانگذاران گوگل دیپ مایند، نمی توانند وارد اتاق شوند و در مورد چگونگی حرکت رو به جلو به توافق برسند، آلتمن گفت: «من فکر می کنم این اتفاق خواهد افتاد.

آلتمن گفت که "مذاکرات خصوصی را از قبل اعلام نمی کند"، اما استدلال کرد که شرکت های هوش مصنوعی - و در نهایت دولت ها - باید با پیشرفت فناوری هماهنگ شوند.

او حتی پیشنهاد کرد که رئیس جمهور دونالد ترامپ و رئیس جمهور چین شی جین پینگ می توانند جایزه صلح نوبل را با هم برنده شوند در صورتی که ایالات متحده و چین در مورد استانداردهای مشترک و آزمایش برای توسعه پیشرفته هوش مصنوعی به توافق برسند.

آلتمن گفت: «حتی اگر فقط ایالات متحده و چین بتوانند در مورد برخی استانداردهای مشترک و آزمایش برای توسعه این فناوری به توافق برسند، من فکر می‌کنم که این یک دستاورد فوق‌العاده است که این دو می‌توانند ارائه دهند.»

بعد از اینکه تامل او در مورد Y Combinator برای مدت کوتاهی از سوال اصلی شانتل در مورد اینکه چه فناوری‌هایی برای سرمایه‌گذاری هیجان‌زده بود دور شد، آلتمن در نهایت به آن بازگشت.

آلتمن همچنین با اشاره به امنیت سایبری، انواع جدید انرژی و نرم افزار ساخته شده در حال پرواز، گفت: "من فکر می کنم همه چیز در زیست، همه چیز در علم مواد در شرف تغییر است."

اگر حق با او باشد، درسی که در YC در مورد اداره یک اکوسیستم به جای حکمرانی آموخته است ممکن است در مقیاس بسیار بزرگتری مورد آزمایش قرار گیرد.

این داستان در ابتدا در سایت Fortune.com منتشر شد