بحث سرعت عقب مانده هوش مصنوعی و اینکه تجارت تا چه حد از مرز فاصله دارد

واشنگتن و سیلیکون ولی نبرد جدیدی برای انتخاب هوش مصنوعی در «گام‌سازی» یا مهار عمدی توسعه مدل‌های مرزی پیدا کرده‌اند تا زمانی که ایمنی، همسویی و جامعه به طور کلی به آن برسد. از نظر مخالفان آن، گام برداشتن، خلع سلاح یک جانبه در رقابت با چین است. از نظر قهرمانان آن، سرعت تنها راه مسئول برای فناوری است که سازندگان آن در مورد خطر فاجعه‌بار هشدار می‌دهند.

هر دو گروه طعمه "اشتباه محاسبه به تولید ناخالص داخلی" شده اند - این باور اشتباه که هر جهش افزایشی در عملکرد مدل هوش مصنوعی بلافاصله به خروجی اقتصاد کلان تبدیل می شود. هر فناوری همه منظوره قبلی دهه ها طول کشید تا به بهره وری قابل اندازه گیری انتشار یابد. هوش مصنوعی همان منحنی را با سرعتی شتابان دنبال می‌کند، اما به نظر می‌رسد همه این هیاهو را می‌خرند که قوانین تاریخ یا اقتصاد این بار اعمال نمی‌شوند.

در واقع، شرکت های آمریکایی در حال حاضر سال ها پشت مرز هوش مصنوعی هستند و ثروت تجاری آزمایشگاه ها با اعتماد و پذیرش تعیین می شود، نه توانایی خام. افزایش سرعت برای اقتصاد هزینه بسیار کمی دارد. مسابقه پیش از تراز می تواند هزینه بسیار بیشتری داشته باشد. در اینجا دلیلی است که ما - چه از روی تکبر یا تشخیص اشتباه - صرفا استدلال اشتباهی داریم.

سوء ظن شکاکان گام به گام بیهوده نیست. آیا سرعت عمل واقعی است یا یک بازی هوشمندانه بازاریابی توسط آزمایشگاه‌های مرزی و شرکت‌های امنیت سایبری که پیش از عرضه اولیه‌های عمومی، وضعیت مالی خود را اصلاح می‌کنند؟ آیا سرعت پیشروی ایالات متحده در زمینه هوش مصنوعی را به چین واگذار می کند یا پکن نیز به شیوه خود عمل خواهد کرد؟

مشکل مرز

هوش مصنوعی آشکارا به یک نقطه عطف قابلیت حیاتی رسیده است. هشدارهای مربوط به خطر فاجعه آمیز یا وجودی را دیگر نمی توان به طور کامل رد کرد، حتی اگر احتمال کوتاه مدت آن کم باقی بماند. با این حال، با تمرکز تقریبا انحصاری بر روی مدل‌های پیشرفته، آزمایشگاه‌های مرزی هم پیام‌های خود و هم اعتماد عمومی را به اشتباه مدیریت می‌کنند. بیش از 100 مکالمه اخیر با مدیران عامل، رهبران سیاست و دانشمندان هوش مصنوعی برای کتاب آینده ما، وقتی ماشین‌ها عمل می‌کنند، ما را متقاعد کرده است که بحث سرعت تفکر اصول اول را از دست داده است.

مشکل تراز

از زمان انتشار ChatGPT در سال 2022، رهبری شرکت‌ها با سرعتی بی‌نظیر در تاریخ تجاری مدرن دست به دست شدند. با این حال، در حالی که مجموعه‌های اجرایی با فوریت بی‌سابقه‌ای بسیج شده‌اند، فیزیک ساختاری معماری سازمانی - سیلوهای داده‌های تکه‌تکه‌شده، ERP‌های قدیمی، رژیم‌های انطباق دقیق و بهداشت اولیه داده‌ها - جذب اقتصادی واقعی را به یک کندی ذاتی تبدیل می‌کند.

همانطور که شوک های بودجه سازمانی ناشی از "tokenmaxxing" فراری نشان داد، بسیاری از گردش های کاری روزانه سازمانی به مدل های بسیار ساده تری نیاز دارند و وظایف کمی گرانبها در شرکت متوسط ​​Fortune 500 نیاز به یک سیستم مرزی دارند. بنابراین، سرعت نه به بازده اقتصادی آسیب می‌زند و نه درآمدهای تجاری آزمایشگاه‌ها را خفه می‌کند، زیرا شرکت‌ها صرفا برای جذب قابلیت‌های موجود در میز به زمان نیاز دارند.

در میان شرکت‌های با عملکرد بالا، بیش از دو سوم داده‌ها را مانع اصلی پیاده‌سازی هوش مصنوعی می‌دانند، رقمی که حتی زمانی که خود مدل‌ها به جلو جهش کرده‌اند، سرسختانه ثابت شده است. تنها 7 درصد داده های خود را "کاملا آماده" برای هوش مصنوعی توصیف می کنند. کمتر از یک چهارم اصلا استراتژی داده ای دارند. و 63٪ یا فاقد مدیریت داده های مناسب با هوش مصنوعی هستند یا مطمئن نیستند که آیا آن را دارند یا خیر.

مشکل مغالطه

همانطور که آسوتوش پادی، شریک ارشد مک کینزی در پخش با فرید زکریا تاکید کرد، در دسترس بودن فنی اساسا با تحول اقتصادی متفاوت است. فن‌آوری‌های همه‌منظوره از لحاظ تاریخی به چندین دهه برای سازماندهی مجدد گردش کار و ایجاد دستاوردهای بهره‌وری گسترده نیاز داشته‌اند. برق 75 سال طول کشید تا بهره وری را در کل اقتصاد افزایش دهد. کامپیوترها به 50 سال نیاز داشتند و اینترنت و دستگاه های تلفن همراه 25 سال.

هنگامی که مک کینزی جامعه تجاری را مورد بررسی قرار داد، این شرکت دریافت که تنها 6 درصد از شرکت‌ها تأثیر «معنی‌دار» و نسبت درآمد متوسطی را گزارش کردند.

شرکت‌ها بر روی وظایف اتوماسیون با پاداش بالا و کم خطر تمرکز می‌کنند که مدل‌های یک یا دو نسل قدیمی می‌توانند آن‌ها را حل کنند. همانطور که یکی از مدیران محترم سابق وال استریت به ما گفت، این سیستم‌ها سال‌ها به موازات سیستم‌های قدیمی اجرا می‌شوند تا تایید کنند که درست کار می‌کنند و هیچ ریسک نظارتی ناآگاهانه جذب نمی‌شود.

یک پویایی موازی در اقتصاد سیلیکون پدیدار شده است. تراشه‌های نسل قدیمی‌تر، که ابتدا در تقلا برای شتاب‌دهنده‌های پیشرفته کنار گذاشته شدند، به عنوان اسباب کار برای کارهای استنتاج عملی که بر تقاضای سازمانی تسلط دارند، زندگی دومی پیدا می‌کنند. همانطور که میرو دیمیتروف، بنیانگذار و مدیرعامل پروتکل رشد، در جلسه هیئت مدیره شرکت Yale در هفته گذشته خاطرنشان کرد، استقرار معماری‌های سمبلیک عصبی به پلتفرم استدلال سازمانی او اجازه می‌دهد تا هزینه‌های استنتاج را تقریبا ۸۰ برابر در استقرار کلاینت‌های زنده کاهش دهد، تا حد زیادی با جابجایی بار کاری از پردازنده‌های گرافیکی بسیار گران‌قیمت شرکتی و روی پردازنده‌های گرافیکی روزانه.

سه مرحله پذیرش هوش مصنوعی

پذیرش هوش مصنوعی شرکتی به بهترین وجه در سه مرحله قابل درک است، که با توجه به میزان کاری که یک شرکت می‌تواند مسئولانه تحویل دهد، مشخص می‌شود که با آمادگی داده‌ها و سیستم‌های اعتماد به دست آورده است. مرحله اول، کمک، شامل خلبان‌هایی است که بر روی پلت‌فرم‌های سازمانی مانند Salesforce سوار می‌شوند، داده‌ها را بین برنامه‌های موجود متصل می‌کنند و کارمندان را قادر می‌سازند تا سریع‌تر با حداقل معماری مجدد کار کنند. بازپرداخت به سرعت به دست می آید و ریسک کم می ماند، زیرا انسان هنوز بسیاری از کارها را انجام می دهد.

مرحله دوم، ارکستراسیون، جریان‌های کاری عاملی را پوشش می‌دهد که نیازمند سرمایه‌گذاری واقعی هستند - ساختار داده‌های اختصاصی و اتصال دریاچه‌های داده دوردست که هرگز قرار نیست ملاقات کنند - با یک انسان در حلقه که هر مرحله بعدی را تأیید می‌کند. فاز سوم، خودمختاری، عملیات‌های عاملی سرتاسری را در میان سیستم‌های به هم پیوسته یکپارچه، با نظارت انسان‌ها بر اساس استثنا، به ارمغان می‌آورد.

با هر مرحله پاداش ترکیب می شود، اما ریسک و اعتماد مورد نیاز نیز وجود دارد، به همین دلیل است که میانگین مدیر عامل Fortune 500 در مرحله اول باقی می ماند و سرمایه گذاری های قابل توجه اما اولیه برای آماده شدن برای مرحله دوم انجام می دهد. همچنین مراحل به صورت قفل در سراسر یک شرکت پیش نمی روند. اکثر شرکت‌ها بر مجموعه‌ای چند مرحله‌ای نظارت می‌کنند، و در بخش‌های منتخب به‌عنوان پایلوت، هماهنگ‌سازی می‌کنند، زیرا بقیه سازمان با کمک‌های اولیه راحت می‌شوند.

زیربنای هر سه مرحله، نیاز مدیران عامل به اعتماد به این است که هوش مصنوعی مانند هر کارمند دیگری عمل می کند - پیروی از دستورالعمل های مندرج در کتابچه راهنمای کارمندان، اطاعت از حاکمیت قانون، و حفظ لایه ای اساسی از ارزش های انسانی و قضاوت. بنابراین وقتی بازارها، مفسران رسانه‌ها یا سرمایه‌گذاران نگران هستند که سرعت همسویی هوش مصنوعی مانع پیشرفت در مدل‌های مرزی می‌شود، به اشتباه تشخیص می‌دهند که ارزش سازمانی چگونه ایجاد می‌شود.

فراموش نکنید که سردرگمی که وعده‌ها و تهدیدهای مبهم «AGI» را با فرصت‌های عالی و خطرات فاجعه‌بار واقعی رسیدن به «تکینگی» فرا می‌گیرد. اگر قرار است فناوری‌های هوش مصنوعی وظایف انسانی را خودکار کند، باید همان استانداردهای ارزش‌ها، قضاوت و همسویی اخلاقی را رعایت کنند که هر کارمند فعلی یا آینده‌ای. اگر پیشرفته‌ترین مدل‌های مرزی نتوانند این استانداردها را در یک محیط آزمایشی برآورده کنند، برای عرضه آماده نیستند - دقیقا به همین دلیل است که ایالات متحده همیشه قوانینی را برای محافظت از مصرف‌کنندگان در برابر چنین خطراتی حفظ کرده است.

همانطور که لینا خان رئیس سابق FTC در X به مردم یادآوری کرد: "مجموعه گسترده ای از قوانین وجود دارد که محصولات خطرناک و معیوب را کنترل می کند ... انتشار مدل ها یا عوامل هوش مصنوعی بررسی نشده می تواند قوانین حمایت از مصرف کننده را نقض کند. ارسال ابزارهای AI معیوب بدون اجرای اقدامات کافی برای شناسایی و متوقف کردن یک "عملکرد یا عملکرد AI" ناقص یا معیوب یا "عملکرد یا عملکرد AI" معیوب می تواند باشد. قوانین ایالتی مشابه). این قوانین، شرکت‌ها را مسئول آسیب‌های وارد شده به مصرف‌کنندگان، کارمندان، سرمایه‌گذاران، بیماران، رقبا، و بازارها و سیستم‌های مالی که همگی به آن‌ها وابسته هستند، می‌دانند.

آمریکا در مقابل چین و سرعت در مقابل اعتماد

هر جا که به بحث تقطیر چین بپردازیم، این واقعیت باقی می ماند که چین اکنون مدل هایی را ارائه می دهد که رقیب سیستم های مرزی در بازار امروز هستند. در واقع، حزب کمونیست چین نشان داده است که به جای ادامه دادن به پیشروی در مرز، انرژی خود را به انتشار هوش مصنوعی در اقتصاد معطوف کرده است. آزمایشگاه‌های مرزی باید تشخیص دهند که دو مسابقه همزمان در جریان است: یکی رسیدن به «AGI» یا «فوق هوش» و دیگری برای سهم کیف پول.

همانطور که معتبرترین مشتریان آنها، عمدتا شرکت های Fortune 500، می توانند تأیید کنند، جذب مجدد مشتری پس از تصمیم گیری فوق العاده دشوار است. چین پویایی را به خوبی درک می کند، چیزی که باعث پیروزی او در رقابت جهانی مخابرات شد که ایالات متحده تا حد زیادی باخت.

ح‌ک‌چ نیز نگرانی عمیق خود را درباره همسویی ابراز کرده است. همسویی داخلی پکن کنترل دولتی، ارتدوکسی حزبی و ثبات روایت را در اولویت قرار می دهد، در حالی که همسویی غربی بر قابلیت اطمینان، ایمنی مصرف کننده و مسئولیت محصول متمرکز است. با این حال، در زیر شکاف ایدئولوژیک، یک واقعیت تجاری یکسان در هر دو سیستم نهفته است - عوامل غیرقابل پیش‌بینی و «توهم‌آمیز» که به قوانین سازمانی، قضاوت و حفاظ‌های سازمانی پایبند نیستند، نمی‌توانند برای اجرای جریان‌های کاری حیاتی مأموریت یا رشد اقتصادی پایدار قابل اعتماد باشند.

دولت ترامپ همچنان باید راه‌هایی را برای همکاری و هماهنگی با رئیس‌جمهور شی جین‌پینگ دنبال کند تا اطمینان حاصل شود که هیچ گونه کشتار جمعی یا فاجعه، عمدی یا تصادفی، ناشی از هوش مصنوعی نیست. اینکه آیا ترامپ این موضوع را مطرح خواهد کرد یا نه، سوال دیگری است. در مجمع CEO، 93 از تقریبا 100 مدیر عامل مورد بررسی معتقد نبودند که رئیس جمهور در طبقه بندی هشدارها در مورد خطرات هوش مصنوعی به عنوان یک "فریب" درست بوده است. تقریبا 90 درصد گفته‌اند که رئیس‌جمهور باید در طول این سفر دولتی بر نیاز به دستورالعمل‌های ایمنی مشترک هوش مصنوعی با چین تاکید کند، اما تقریبا سه‌چهارم از او انتظار چنین کاری را نداشتند.

بر اساس گفتگوهای مقدماتی بین بسنت وزیر خزانه داری و همتای چینی اش، ممکن است به زودی اشتباه آن ۷۵ رهبر تجاری با خوشحالی ثابت شود.

فاصله گام‌به‌گام تعطیلی غیرفعال یا آتش‌بس اقتصادی نیست، بلکه یک پنجره سخت‌تر دفاعی فعال است. هم واشنگتن و هم پکن به اتاق تنفس عمدی نیاز دارند تا به زیرساخت های حیاتی خود اجازه دهند تا قبل از باز شدن نسل بعدی قابلیت های مرزی، دفاعی انعطاف پذیر در برابر سوء استفاده های عامل خود مختار ایجاد کنند. و القای همسویی انسانی تنها نیمی از نبرد است. اولویت فوری در چنین دوره ای باید تقویت نهادهایی باشد که به عنوان بستر تمدن عمل می کنند.

سیستم‌های مالی، مراقبت‌های بهداشتی و آموزشی باید با پیشرفته‌ترین مدل‌ها از نظر آسیب‌پذیری بررسی شوند، همانطور که Anthropic از طریق استقرار محدود Mythos تحت پروژه Glasswing نشان داد. این مدل‌ها از طریق نبوغ مهندسی چشمگیر، دفاع را نقض می‌کنند، اما بهره‌برداری‌های آن‌ها تنها به دلیل ضعف‌های سیستمی در زیرساخت دیجیتال شرکت‌ها موفق می‌شوند.

آزمایشگاه‌های مرزی بر این باورند که در حال اجرای یک مسابقه واحد به سمت ابر هوش هستند. با این حال، مسابقه ای که سرنوشت آنها را تعیین می کند - جلب اعتماد شرکت ها، تنظیم کننده ها و شهروندانی که باید با چیزی که می سازند زندگی کنند - کندتر است. سرعت ممکن است بر سر تیترها باشد، اما اعتماد سهمی از کیف پول را به دست می آورد. این مسابقه یک ماراتن است نه دوی سرعت. به عنوان دونده های گذشته، می دانیم که نیمه اول هر مسابقه مسافت طولانی برای قدم زدن و نیمه دوم برای پاس کردن است.

در هر انقلاب تکنولوژیکی، از راه‌آهن گرفته تا اینترنت، بیشترین ثروت نصیب کسانی شد که می‌دانستند تا زمانی که شهرک‌نشینان نیامده‌اند، مرز بی‌ارزش است.

نظرات بیان شده در نظرات Fortune.com صرفا نظرات نویسندگان آنها است و لزوما منعکس کننده نظرات و اعتقادات Fortune نیست.

این داستان در ابتدا در سایت Fortune.com منتشر شد