هوش مصنوعی به طور چشمگیری تحقیقات هوش مصنوعی را سرعت می بخشد

این پست در مورد گزارش عمومی METR در مورد شتاب R&D هوش مصنوعی در Anthropic بحث می کند. من روی این پروژه کار نکردم یا گزارش ویرایش نشده را ندیدم. 1 همه نظرات متعلق به من است و نشان دهنده METR یا نویسندگان گزارش نیست. از رایان گرینبلات برای بحث، بازخورد و کمک در مدلینگ و دانیل کوکوتاجلو، الی لیفلند و هژالمار ویک برای نظرات تشکر می کنم.

در اوایل این هفته، آنتروپیک در S1 خود اعلام کرد که «ممکن است به‌سرعت به آستانه «پیشرفت شتاب‌انگیز به‌دلیل هوش مصنوعی» که در خط‌مشی مقیاس‌پذیری مسئولیت‌پذیر تعریف شده است، برسند. در آخرین RSP آنها (مأثور ژوئیه 2026)، بگویید این آستانه زمانی برآورده می شود که:

آنها پیش از اینکه هوش مصنوعی سهم زیادی در تحقیق و توسعه هوش مصنوعی داشته باشد، مشاهده می‌کنند یا انتظار دارند پیشرفت کلی قابلیت‌ها دو برابر سریع‌تر از سریع‌ترین نرخ پایدار پیش برود. 2

این امر به طور قابل قبولی به جای شتاب در محاسبات یا سایر ورودی‌ها، به اتوماسیون تحقیق و توسعه هوش مصنوعی نسبت داده می‌شود. 3

در چند ماه گذشته، برخی از همکاران من در METR روی یک تحقیق دسترسی عمیق کار می‌کنند تا بفهمند که Anthropic چقدر توسط سیستم‌های هوش مصنوعی شتاب می‌گیرد. از خواندن گزارش آنها و RSP آنتروپیک، به نظر می رسد که آستانه "شتاب چشمگیر" قبلا عبور کرده است. 4

بین اکتبر 2025 و اکتبر 2026، پیشرفت قابلیت‌ها در Anthropic تقریبا دو برابر سریع‌تر از دوازده ماه گذشته بوده است. اندازه‌گیری که آنها گزارش می‌کنند، نسخه داخلی شاخص قابلیت‌های دوران به نام AECI است. طیف وسیعی از شواهد پشتیبانی کننده دیگر برای شتاب اصلاح شده است. آنها گفتند که این شواهد ویرایش شده "اکثریت شواهدی بود که [آنها] آموزنده ترین شواهد را یافتند."

در حالی که ممکن است این سرعت در ابتدا به دلایل مختلفی شروع به افزایش یافته باشد، اتوماسیون هوش مصنوعی احتمالا اکثریت دلیلی است که باعث می‌شود امروزه قابلیت‌ها همچنان با این سرعت سریع‌تر بهبود پیدا کنند. دلایل آنها برای این باور اصلاح شده است.

این یک معامله بسیار بزرگتر از آن چیزی است که در ابتدا به نظر می رسد. من فکر می‌کنم این گزارش مهم‌ترین به‌روزرسانی است که ما در مورد خطر هوش مصنوعی در چند سال اخیر دریافت کرده‌ایم – بسیار بزرگ‌تر از حمله Hugging Face. ساده‌لوحانه، به زمان‌بندی بسیار کوتاه‌تری نسبت به پیش‌بینی بیشتر محققان خارجی (از جمله تیم هوش مصنوعی 2027) اشاره می‌کند.

نکته مهم این است که اگر هوش مصنوعی به طور کلی پیشرفت قابلیت ها را تقریبا دو برابر می کند، باید سرعت تحقیقات انسانی را بسیار بیشتر از آن افزایش دهد.

محققان روی بهبود الگوریتم ها و معماری ها کار می کنند. آنتروپیک گاهی اوقات از این نوآوری ها به عنوان "ضریب های محاسبه ای" یاد می کند. 5 قابلیت‌های کلی هوش مصنوعی ("محاسبه موثر") حاصل ضرب‌کننده‌های محاسباتی و محاسبات آموزشی است. از آنجایی که ضریب‌های محاسباتی تنها یک ورودی به قابلیت‌ها هستند، این بدان معناست که اگر قابلیت‌های هوش مصنوعی به دلیل پیشرفت نرم‌افزار به طور کلی دو برابر سریع‌تر پیشرفت می‌کنند، نرخ رشد ضریب‌های محاسباتی باید بیش از دو برابر سریع‌تر باشد: شاید 2.5-3 برابر سریع‌تر بر اساس فرضیات معقول.

6 از آنجایی که عدم اطمینان در مورد اندازه افزایش سرعت و میزان آن از هوش مصنوعی وجود دارد، من 2 تا 3 برابر را انتخاب می کنم.

به طور مشابه، کار محقق تنها یک ورودی برای کشف این ضرب‌کننده‌های محاسباتی است: آنها باید ایده‌های خود را آزمایش کنند، که برای آزمایش‌ها نیاز به محاسبه دارد. اگر یک مدل بسیار ساده کاب داگلاس را فرض کنیم که در آن محاسبات آزمایشی و کار به طور مشابه مهم هستند، به این معنی است که افزایش به کار تقریبا باید مربع شتاب در ضریب‌های محاسباتی باشد. 7 این بدان معناست که ما به سرعت (~2-3x)^2 =~4-9x در زایمان نیاز داریم تا سرعت کلی هوش مصنوعی دو برابر شود. 8

با این حال، هنگامی که قابلیت‌ها به طور قابل توجهی سرعت می‌گیرند، این بدان معناست که میوه‌های کم آویزان با سرعت نسبتا سریع‌تری چیده می‌شوند. هر ضریب محاسباتی جدید برای کشف و پیاده سازی به کار بیشتر و بیشتری نیاز دارد (یعنی «یافتن ایده ها سخت تر می شود»). قبل از اینکه هوش مصنوعی شتاب زیادی پیدا کند، نیروی کار تقریبا با نرخ نمایی تقریبا ثابتی از استخدام انسان‌های بیشتر رشد می‌کرد. همراه با رشد محاسباتی، این کاهش بازده به اندازه کافی برای حفظ نرخ پایه پیشرفت قابلیت ها جبران می شود.

اما برای حفظ نرخ جدید سریع‌تر پیشرفت قابلیت‌ها بدون مقیاس‌بندی سریع‌تر محاسبات، به نرخ رشد سریع‌تری در کل نیروی کار نیاز داریم.

از آنجایی که نیروی کار انسانی کم و بیش با سرعت قبلی در حال رشد است، ارتقاء هوش مصنوعی باید در طول زمان بزرگ‌تر و بزرگ‌تر شود تا پیشرفت قابلیت‌ها با سرعت جدید حفظ شود. این بدان معناست که ارتقاء امروز، پس از چندین ماه پیشرفت شتابان از هوش مصنوعی، 9 باید حتی بیشتر از ~4-9x باشد، تخمینی برای دو برابر شدن پیشرفت در آغاز: شاید افزایش لازم زایمان ~10 برابر باشد. این بسیار نامشخص است و اساسا کم و بیش قابل قبول است.

اما به طرز شگفت‌آوری با گزارش‌های غیررسمی کارکنان Anthropic مطابقت دارد، که می‌گویند اکنون با استفاده از مدل‌های داخلی بهبودی 12 برابری دریافت می‌کنند.

هنگامی که شما یک بالا بردن 10 برابری را به تصویر می‌کشید، نباید تصور کنید که اکنون هر محققی تیمی متشکل از ده محقق است - همانطور که هر کسی که تا به حال کاری انجام داده است می‌داند، یک تیم ده نفره ده برابر بیشتر از یک نفر در هر ساعت کار ارزشمندی انجام نمی‌دهد. درعوض، گویی هر محققی در Anthropic در حباب زمانی است که برای هر روزی که در دنیای بیرون می‌گذرد، ده روز را تجربه می‌کند. گویی هوش مصنوعی به آن‌ها اجازه می‌دهد تا ده برابر سریع‌تر فکر کنند، بخوانند، صحبت کنند، تایپ کنند و کارهای دیگر را انجام دهند.

10 آنتروپیک احتمالا نمی توانست با استخدام تعداد زیادی از افراد، تحقیقات خود را تا این حد سرعت بخشد. 11

یک انتظار پیش‌فرض معقول این است که با ادامه بهبود قابلیت‌های هوش مصنوعی، محققان هوش مصنوعی بیشتر و بیشتر از اتوماسیون سرعت می‌گیرند: اگر امروز یک ماه طول می‌کشد تا به همان اندازه که قبلا در یک سال کار می‌کردند انجام دهند، به زودی یک هفته و شاید یک روز طول بکشد. اگر این افزایش نیروی کار به اندازه کافی قوی باشد که بر بازدهی کاهشی غلبه کند، در صورت عدم وجود تنگناهای دیگر، به افزایش سرعت حتی بیشتر در نرخ پیشرفت هوش مصنوعی تبدیل می‌شود: پیشرفت 4 برابر سریع‌تر و سپس 8 برابر و سپس 16 برابر و غیره شروع می‌شود.

نویسندگان گزارش در مورد این سوال بسیار نامطمئن بودند و می گویند که تصویر آنها چندین بار با اطلاعات جدید تغییر کرده است. اما در نهایت، آنها شواهدی مبنی بر تنگناها یا بازده های کاهش شدیدی که مانع از ترکیب شتاب شود، پیدا نکردند. 12 آنها همچنین گزارش دادند که برخی شواهد ویرایش شده (گیج کننده) دیده اند که نشان می دهد شتاب می تواند در حال حاضر بیش از 2 برابر باشد و در طول زمان افزایش یابد.

اگر این را در نظر بگیریم که هوش مصنوعی در حال حاضر سرعت پیشرفت قابلیت‌های هوش مصنوعی را تقریبا دو برابر می‌کند و شتاب هوش مصنوعی را نرم فرض می‌کنیم، این ساده‌لوحانه نشان می‌دهد که ما در عرض یک سال به فوق‌هوشی شدید خواهیم رسید. به نظر می رسد حدود یک سال پیشرفت هوش مصنوعی ما را از شتاب متوسط ​​به نقطه ای رساند که هوش مصنوعی اکنون تقریبا دو برابر سریعتر پیشرفت هوش مصنوعی می کند. اگر شتاب هوش مصنوعی به آرامی در حال افزایش است، با این نرخ جدید، باید انتظار داشته باشیم که سرعت پیشرفت را دوباره طی شش ماه دو برابر کنیم.

در آن مرحله، سه ماه طول می‌کشد تا دوباره دو برابر شود، سپس شش هفته. 13

در تئوری، این زمان‌های دوبرابر در عرض یک سال به قابلیت‌های بی‌نهایتی می‌رسد. در واقع، در نقطه ای به سقف موثر در بهره وری نرم افزار می رسیم. اما من انتظار دارم که این محدودیت ها با وضعیت فعلی ما بسیار دور باشد.

اگر ما از این حلقه بازخورد عبور کنیم، من انتظار دارم که سیستم‌های هوش مصنوعی که از طرف مقابل بیرون می‌آیند بتوانند خیلی سریع سلاح‌های جدید تولید کنند و به راحتی بر تمدن بشری در یک درگیری غلبه کنند. اگر این سیستم‌ها به‌طور جدی ناهماهنگ می‌شدند، من فکر می‌کنم احتمالا بشریت را ناتوان می‌کردند و این می‌تواند منجر به انقراض انسان شود.

"پیشرفت شتابان چشمگیر به دلیل هوش مصنوعی" یک نقطه عطف مهم و فوق العاده است زیرا یک شاخص ملموس قوی از قابلیت های شدید در کوتاه مدت است. در واقع، در نسخه قبلی RSP Anthropic (مه 2025)، بالاترین آستانه خطر نام‌گذاری شده برای اتوماسیون تحقیقات هوش مصنوعی (AI R&D-5) با نقطه عطف ضعیف‌تری مطابقت داشت. 14 طبق RSP قدیمی، آنتروپیک باید حداقل از امنیت کافی برخوردار باشد تا از زمان رسیدن به AI R&D-5 «در برابر سرقت وزن مدل توسط دشمنان سطح دولتی محافظت کند».

موافقم که امنیت بسیار قوی، هم برای وزن‌های مدل و هم برای اسرار الگوریتمی، حداقل پیش‌نیاز برای انجام یک انفجار اطلاعاتی در سال آینده بدون خطرات بسیار بزرگ برای کشتن میلیاردها نفر است. صنعت هوش مصنوعی به هیچ وجه به این نوار نزدیک نیست: هم OpenAI و هم Anthropic اخیرا نقض‌های امنیتی بزرگی توسط گروه‌های آماتور داشته‌اند.

فراتر از امنیت وزن قوی مدل، من همچنین فکر می‌کنم که به ثبت و نظارت قوی با پوشش جهانی، اندازه‌گیری قابل اعتماد قابلیت نظارت، اقدامات متقابل مؤثر در برابر تبانی مانیتور، تکنیک‌های آموزشی اصولی هم‌ترازی با ارگانیسم‌های مدل بسیار قانع‌کننده یا قابلیت تفسیر برای درک اینکه چقدر خوب کار می‌کنند، زیرساخت‌های حاکمیتی برای پیشرفت سرعت، اگر متوجه شدیم که این اقدامات دیگر در حال کاهش است. انفجار در هر چیزی شبیه به روشی مسئولانه

متأسفانه، بیشتر شواهد مهمی که به این نتیجه گیری ها کمک می کند، از این گزارش حذف شده اند. انتخاب‌های تحلیلی ناگزیر پرمشغله خواهند بود و نویسندگان گزارش می‌گویند که شواهد اغلب گیج‌کننده بودند.

من اطمینان دارم که همکارانم کار دقیق و دقیقی را انجام دادند و آنچه را که دیدند درک کردند و من بر اساس این گزارش به‌روزرسانی بزرگی انجام دادم. اما ای کاش بیشتر شواهد زیربنایی شفاف بود تا خوانندگان مجبور نباشند به اعتماد تکیه کنند. ممکن است وقت ما برای یکسان بودن در مورد خطوط زمانی و سرعت برخاستن کم باشد، و زمانی که دانشمندان خارجی نتوانند داده ها را بررسی کنند و مدل های خود را آزمایش کنند، انجام این کار بسیار سخت تر است.

از آنجایی که ممکن است اطلاعات محرمانه دیگری را دیده باشم که ممکن است مربوط به جدول زمانی و سرعت برخاستن از زمین باشد، به جای به اشتراک گذاشتن پیش‌بینی‌های نهایی دقیق، فقط در مورد پیامدهای شواهد عمومی بحث خواهم کرد.

شرط دقیق این است: «ما شاهد یا انتظار دو برابر نرخ پیشرفت در قابلیت‌های انبوه هوش مصنوعی در مقایسه با نرخی که انتظار داریم و سریع‌ترین نرخ پیشرفت گسترده‌ای که در غیاب مشارکت‌های هوش مصنوعی قابل توجه در تحقیق و توسعه هوش مصنوعی مشاهده کرده‌ایم، داریم.» درک من دلیل وجود هر دوی این شرایط (دوبرابر نرخ پیشرفت در مقایسه با نرخ خلاف واقع و در مقایسه با سریعترین نرخ پایدار بدون کمک زیاد هوش مصنوعی) این است که مواردی را حذف کنیم که سرعت قابلیت ها بدون اتوماسیون هوش مصنوعی بسیار کاهش می یابد، اما ما موفق می شویم روندهای قدیمی را حفظ کنیم.

با ارتقای چشمگیر هوش مصنوعی همراه است.

شرط دقیق این است: «قابل قبول است که این دو برابر شدن به طور قابل توجهی به اتوماسیون تحقیقات و/یا مهندسی نسبت داده شود (برخلاف عوامل دیگر، مانند افزایش تعداد کارمندان، محاسبات، یا بهره‌وری عمومی)، به‌طوری که به نظر می‌رسد ادامه روند پیشرفت هوش مصنوعی منجر به شتاب بیشتر شود.»

تعریف آستانه کمی دشوار است، تا حدی به این دلیل که دو شرط افزایش سرعت باید برآورده شود (سرعت نسبت به خلاف واقع و افزایش سرعت نسبت به گذشته). اما در یک مطالعه ساده، بهترین حدس من این است که برآورده شده است. نویسندگان گزارش METR تقریبا دو برابر شدن سرعت پیشرفت را نسبت به گذشته تخمین زدند، اما آنها فقط تقریبا 80 درصد از سرعت فعلی را به هوش مصنوعی نسبت می‌دهند، که به این معنی است که برآورد مرکزی برای سرعت مشاهده‌شده نسبت به عدم وجود هوش مصنوعی تقریبا 1.8 برابر در زمان نوشتن گزارش آنها در اکتبر 2026 بوده است.

اما آنها همچنین دریافتند که سهم هوش مصنوعی در طول زمان در حال رشد بوده است و من حدس می‌زنم که اکنون (از نوامبر 2026) به میزان قابل توجهی بالاتر است. حتی اگر نرخ پیشرفت در این ثانیه به طور کامل دو برابر حق خلاف واقع نباشد، آستانه انتظارات منطقی را در بر می گیرد ("ما نرخ پیشرفت را مشاهده می کنیم یا انتظار داریم دو برابر شود...").

این یک نسخه ساده شده از مدل سازی است که همکار من رایان گرینبلات در اینجا انجام می دهد. اعداد او بر اساس مدل‌سازی عمومی قبلی او از عواملی مانند اهمیت نرم‌افزار در مقابل محاسبات آموزشی و اهمیت کار در مقابل محاسبات تجربی است.

فرمول‌های رایج کاب-داگلاس معمولا کار را به عنوان تعداد انسان اندازه‌گیری می‌کنند. در این فرمول، باید جریمه موازی سازی در بالای کار وجود داشته باشد و ضرایب به 1 اضافه نشوند. همانطور که در زیر بحث می کنم، من تصمیم دارم کار را از نظر شتاب کار سریالی به جای تعداد انسان ها نشان دهم. این فرمول توسط رایان گرینبلات در این پست پیشنهاد شده است.

برای ساده کردن ریاضی، من فقط فرض کردم که محاسبات کار و آزمایش به طور مساوی کمک می کنند (یعنی ضریب های محاسبه = (کار)^0.5 * (محاسبه)^0.5. این بدان معناست که شما شتاب را در ضریب های محاسباتی مربع می کنید تا از شتاب در کار عقب نشینی کنید. محدوده ای که ارائه دادم عدم قطعیت را حذف می کند: به عنوان مثال برای اندازه کار به مشارکت نیاز دارید. آن را به توان 3/2 برسانید.

من می گویم چندین ماه به جای یک سال کامل، زیرا نویسندگان گزارش می گویند که پیشرفت سریعتر اولیه در اواخر سال 2025 تا حد قابل توجهی به دلیل عوامل دیگر بود، اگرچه سرعت فعلی عمدتا به دلیل هوش مصنوعی است.

در عمل، افزایش 10 برابری بعید است که یکنواخت باشد: برخی از کارها (مثلا کارهای «تپه‌نوردی» بیشتر) برای بهبود بهره‌وری خالص به بزرگی یک شتاب یکنواخت 10 برابر سرعت بیشتری نسبت به سایرین دارند.

یعنی هر تعداد از افرادی که واقعا وجود دارند. حدس می‌زنم اگر بتوانید تمام محققان موجود را چندین صد بار شبیه‌سازی کنید کافی است، اما محققان و مهندسان قوی هوش مصنوعی در جهان وجود ندارند.

از این گزارش: "یک نگرانی کلیدی این است که شتاب استفاده از هوش مصنوعی می‌تواند شروع به ترکیب شدن کند، زیرا توسعه مدل‌های توانمندتر منجر به شتاب بیشتر می‌شود. همانطور که در زیر توضیح می‌دهیم، هیچ گلوگاه واضحی (ورودی‌های محدودی که مانع از رشد بیشتر می‌شود) یا کاهش شدید بازدهی برای مقیاس‌پذیری بیشتر شناسایی نکرده‌ایم. این ارزیابی، و ما عدم قطعیت قابل توجهی داریم.

به همین دلیل، ما معتقدیم خطر قابل توجهی وجود دارد که پیشرفت بیشتر قابلیت‌ها می‌تواند منجر به شتاب حتی سریع‌تر در سال آینده شود.»

این استدلال اکتشافی با مدل‌های ساده اما قابل قبولی سازگار است که در آن خود-بهبودی بازگشتی، نرخ پیشرفت هوش مصنوعی را در پیشرفت انباشته هوش مصنوعی نمایی می‌کند (به عنوان مثال، محاسبه موثر گزارش). در اینجا اشتقاقی از این استدلال اکتشافی برای یک پارامترسازی از این دسته از مدل ها است.

AI R&D-5 اینگونه تعریف شده است: "توانایی ایجاد شتاب چشمگیر در میزان مقیاس بندی موثر. به طور خاص، اگر افزایشی را در محاسبات آموزشی موثر در تواناترین مدل جهان مشاهده یا پیش بینی کنیم که در طول یک سال، معادل دو سال از میانگین نرخ پیشرفت اولیه در دوره اولیه 2018 تا اوایل سال بود، این اتفاق خواهد افتاد.

ما تقریبا تخمین می زنیم که میانگین مقیاس 2018-2024 حدود 35 برابر در سال بوده است، بنابراین این به معنای مقیاس واقعی یا پیش بینی شده یک ساله 35^2 = ~ 1000x است. ضعیف‌تر است زیرا با دوره ثابت 2018-2024 مقایسه می‌شود تا سریع‌ترین سرعت مشاهده‌شده بدون شتاب هوش مصنوعی قابل‌توجه، و از نظر فنی نیازی ندارد که برای رسیدن به آستانه، هیچ گونه نسبتی به هوش مصنوعی انجام دهید.

حداقل تعهد رسیدن به سطح امنیتی ASL-4 RAND بود. درک من این است که این سطحی از امنیت است که از وزن مدل در برابر عملیات معمول توسط بازیگران ارشد دولتی (به عنوان مثال، چین) محافظت می کند، اما نه از یک عملیات با اولویت. Anthropic آن را اینگونه توصیف می کند: "حداقل استاندارد امنیتی ASL-4 (که در برابر سرقت وزن مدل توسط دشمنان در سطح دولتی محافظت می کند) مورد نیاز است، اگرچه ما انتظار داریم که ممکن است استاندارد امنیتی بالاتری مورد نیاز باشد."