موردی علیه Pacing the AI ​​Frontier

-آندری اونوفرینکو-گتی ایماژ

آیا باید توسعه هوش مصنوعی را متوقف کنیم؟ این سوال ذهن خیلی ها را به خود مشغول کرده است.

با این حال، بحث در مورد سرعت بخشیدن به مرز نمی تواند به طور منظم حل شود. افراد منطقی می توانند از هر طرف به طور قانع کننده ای استدلال کنند: خطرات واقعی هستند، اما اگر یک شرکت کند شود، بازیگر دیگری پیشرفت خواهد کرد.

جهان به هیچ وجه در مورد اینکه چه چیزی باید کند شود، چقدر یا برای چه مدت، توافق ندارد. بدون اجماع، سوال عملی پیش روی رهبران صنعت هوش مصنوعی این نیست که آیا باید از مرزها عبور کنند یا خیر. نحوه پیشبرد و کنترل آن است.

در جدیدترین حادثه "Huging Face"، پرونده پزشکی قانونی با دقت غیرعادی این نکته را بیان می کند. تقریبا 1200 نماینده بیش از 70000 پیام و فایل را از طریق یک حافظه پنهان مشترک رد و بدل کردند که هرگز قرار نبود به یک کانال ارتباطی تبدیل شود. آنها کار را بدون اختیار تعیین شده واگذار کردند، از طریق مجوزهایی که هیچ نقشی اعطا نشده بود، به اینترنت باز رسیدند، سعی کردند رونوشت های خود را بازنویسی کنند، و کنوانسیون های هماهنگی را اختراع کردند زیرا هیچ کدام طراحی نشده بود.

هر یک از این اقدامات را می توان به یک کنترل از دست رفته ردیابی کرد: توپولوژی تعریف شده، نقش های صریح، اهداف قابل تأیید، ابزارها و داده های محدوده، ورود به سیستم بدون دستکاری، و حاکمیت ایجاد شده قبل از اجرا.

اما ما می‌توانیم استدلال کنیم که سرعت علت نهایی هک Hugging Face نبود، یک ساختار ضعیف بود.

ساختار هوش مصنوعی ایمن و هوشمند

هر آزمایشگاهی می تواند انتخاب کند که کار خود را کند کند و باید در قبال این تصمیم پاسخگو باشد. اگر شرکتی توانمندی خود را ارتقا دهد و این قابلیت موجب آسیب شود، مسئولیت اقتصادی و حقوقی آن باید به عهده خود او باشد. اما چه اتفاقی می‌افتد اگر یک شرکت مرزی سرعت خود را طی کند و بازیگر دیگری پیشرفت کند؟ راه حل عملی تر، نظارت قابل مشاهده و قابل تأیید است: شرکت هایی که نرده های محافظ مسئول نشان می دهند باید این مسئولیت را کارت تلفن خود قرار دهند. مشتریان باید همان استاندارد را از رقبا مطالبه کنند. و مقررات می تواند خط پایه ای را تدوین کند که بازار می تواند اجرا کند.

عدم تقارن در بازارهای جهانی نیز اهمیت دارد. در ایالات متحده، اضطراب در مورد هوش مصنوعی جلوتر از هیجان است. در جاهای دیگر، از جمله چین، هیجان بالاتر از اضطراب است. موضوع: یک رژیم سرعتی که بر اساس تحمل ریسک یک کشور ساخته شده است، بر فناوری در حال پیشرفت در بسیاری از بازارها حکومت نخواهد کرد. در عوض ممکن است شکاف بین کسانی که مایل به حرکت هستند و کسانی که منتظر توافق مشترک هستند بیشتر شود.

با این حال، استدلال گسترده‌تر برای مرزبندی بر فرضی است که عمدتا بررسی نشده است: این که مسابقه برای ساختن تواناترین مدل هوش مصنوعی به یک سیستم واحد، همه منظوره، با قابلیت گسترده، به طور گسترده متصل و آزاد برای نوشتن و اجرای هر کدی که نیاز دارد اشاره دارد. اما بهبود یک مدل زبان بزرگ (LLM) نیازی به تمرکز همه قابلیت ها در یک عامل ندارد. همان LLM زمانی می‌تواند قدرتمندتر باشد که از طریق شبکه‌ای از عوامل تخصصی به کار گرفته شود، که هر یک نقش تعریف‌شده، ابزارهای محدود و زمینه مورد نیاز برای یک مورد خاص را به خود اختصاص می‌دهند.

سپس سؤال اصلی تغییر می کند: نه صرفا سرعت حرکت مرزها، بلکه اینکه کدام قابلیت ها باید ترکیب شوند، کجا باید مستقر شوند و تحت کنترل چه کسی هستند.

ما معتقدیم دلیل دیگری برای ادامه پیشرفت وجود دارد: با گسترش قابلیت ها، هوش مصنوعی باید بهبود یابد و نوآوری های پایین دستی را ایجاد کند که هیچ آزمایشگاه مرزی نمی تواند به تنهایی آن را طراحی یا پیش بینی کند. با این منطق، کاهش سرعت هماهنگ می تواند بیشتر از تاخیر در مدل بعدی باشد. این امر زمینه وسیع تری از آزمایش را که از طریق آن فناوری مفید، مقرون به صرفه و به طور گسترده در دسترس می شود، به تاخیر می اندازد.

این به خودی خود یک خطر است زیرا فرصت هوش مصنوعی بسیار زیاد است. این فناوری می تواند کارهای استثنایی انجام دهد و به ناچار مواردی وجود خواهد داشت که در آن یک عامل یا پلتفرم واحد پاسخ درستی باشد. اما امروزه، در پیچیدگی یک تجارت جهانی، همان سیستم می‌تواند با وظایف اساسی دست و پنجه نرم کند، زیرا در زمینه گسترده‌تر یک شرکت مبتنی نیست. هر دوی این روندها به یکباره اتفاق می‌افتند: توانایی به سرعت در حال پیشرفت است، در حالی که ارزش تولید بسیار عقب مانده است. منبع کمیاب دیگر هوش به تنهایی نیست.

این ظرفیت استقرار است که هوش را به یک نتیجه تجاری تحت کنترل تبدیل می کند.

کاهش سرعت جایگزینی برای کنترل نیست

کاهش هماهنگ در قابلیت مرزی دقیقا زمانی به یک گزینه هسته ای تبدیل می شود که به عنوان جایگزینی برای کنترل ها استفاده شود. ما معتقدیم راه بهتر پیشروی و کنترل است. این امر مستلزم ایجاد تعادل با مسئولیت پذیری، پیش بینی پذیری و قابلیت اطمینان است - سپس این تعادل را در گردش های کاری محدود و کنترل در نقطه استفاده قابل مشاهده می کند. قابلیت ضربان سرعت استقرار را کنترل نمی کند.

حتی یک مرز کندتر هنوز مدل‌هایی را به شرکت‌ها ارائه می‌کند که تصمیم می‌گیرند نمایندگان چگونه ارتباط برقرار کنند، چه اختیاراتی دریافت کنند، به کدام ابزار و داده‌ها می‌توانند دست یابند، چگونه اهداف محدود می‌شوند، آیا می‌توان اقدامات را تأیید کرد، و آیا می‌توان رکورد را بعد از این واقعیت تغییر داد. حادثه Hagging Face جدی بود، اما درس آن صرفا این نیست که مدل ها خیلی توانا بودند یا خیلی سریع وارد شدند. این قابلیت بدون هماهنگی طراحی شده، نقش های اعلام شده، دسترسی با کمترین امتیاز، اهداف محدود، رکوردهای مشهود دستکاری، یا یک لایه تأیید مستقل به کار گرفته شده است.

بنابراین ما سوال را برگردانیم و بپرسیم که عامل واقعا چه چیزی از مدل نیاز دارد تا اینکه مدل چه کاری می تواند انجام دهد. نیاز به استدلال دارد. باید تعداد کمی از ابزارها را که متعلق به یک دامنه هستند فراخوانی کند. نیاز به درک زبان و تولید آن دارد. هر چیز دیگری که نیاز دارد باید به عنوان بخشی از راه اندازی به آن تحویل داده شود. مهندسی زمینه برای همین است.

و دانش جهانی از پیش آموزش دیده LLM در آن تنظیم خنثی نیست. زمانی که مدلی فرض می‌کند که زمینه‌ای که هرگز ارائه نشده است، بی‌سروصدا چیزی را که از اینترنت آموخته است، جایگزین چیزی می‌کند که شرکت واقعا می‌داند، و نسخه شرکت نسخه فعلی‌تر است. پس فرض ریسک است، نه شکاف.

کنترل چگونه می تواند باشد

بنابراین کنترل در عمل چگونه به نظر می رسد؟ گردش کار محدود دارای چهار اصل است: ورودی های ساختاریافته، نتایج قابل اندازه گیری، حجم معاملات بالا و حلقه های بازخورد کوتاه. اگر یک گردش کار هر چهار کادر را علامت بزند، می‌توانیم هوشمندی را در آن جاسازی کنیم، آن را به خوبی اندازه‌گیری کنیم، به یک نتیجه برسیم، و مسئولیت آن را از سر تا سر به عهده بگیریم.

حادثه صورت در آغوش گرفتن را با آن چهار تست مقایسه کنید. اهداف آن در 30 تا 40 درصد مواقع غیرممکن بود، بنابراین کار با ورودی های قابل اجرا محدود نمی شد. هیچ نتیجه قابل اندازه گیری وجود نداشت زیرا دروازه راستی آزمایی که ماموران سعی در شکست آن داشتند وجود نداشت. هیچ حلقه بازخورد قابل اعتمادی وجود نداشت زیرا عوامل می توانستند گزارش ها را بازنویسی کنند. و هیچ مالک پاسخگویی وجود نداشت زیرا مجوزها به نقش های تعریف شده محدود نشده بودند.

یک قدم در این زنجیره نیاز به مدل توانمندتری نداشت. هر مرحله نیاز به کنترلی داشت که هیچ کس ساخته نشده بود.

بنابراین سؤالی که ما از صنعت می‌پرسیم این نیست که آیا باید از مرزها عبور کرد یا خیر. این موضوع این است که آیا ما در حال ساختن چیز درست هستیم و آیا آن چیز مجموعه ای از ماژول های عاملی قابل ترکیب است یا نه یک سیستم که همه چیز را می داند.

بنابراین حدس ما این است که شکل اقتصادی غالب هوش ماشینی یک سیستم کلی نخواهد بود. این ماژول‌های تخصصی و قابل ترکیب خواهد بود که سازمان آنها به صورت پویا بهینه‌سازی شده است و شرکت‌هایی که به دنبال سوپرعامل LLM هستند ممکن است با ساختن بلوک‌های ساختمان سریع‌تر به آن‌ها برسند.

مهار به‌عنوان یک استراتژی در صنعت هسته‌ای کارساز بود، زیرا دولت‌های ملت این فناوری را ساختند، و آن‌ها آن را با دید روشنی از آنچه که آن قدرت بدون کنترل می‌توانست انجام دهد، ساختند. در ایالات متحده، مرز هوش مصنوعی عمدتا در یک بازار تجاری غیرمتمرکز ساخته می شود. که مجموعه متفاوتی از ریسک‌های سازمانی و مسئولیت استقرار یکسانی را به همراه دارد.

پیشرفت و کنترل هوش مصنوعی همچنین مستلزم درک واضح تری از پیشرفت است. ستاره‌های شمال باید مشاغل بیشتر، مراقبت بهتر از سرطان، درمان بیماری‌ها و پیشرفت‌هایی در علوم مادی باشند، نه اینکه صرفا کارهای قدیمی را ارزان‌تر انجام دهند.

امروزه، ارزش بیش از حدی که ما برای هوش مصنوعی قائل هستیم، همچنان در بهره وری متمرکز است و قدم زدن در مرز این هدف را تغییر مسیر نمی دهد. رهبری انجام می دهد. آینده نباید با سرعت پیشروی مرز تعیین شود. این توسط چه کسی مسئولیت آنچه را که آنها به کار می گیرند، تعیین می کند.