پرش به محتوای اصلی

چین "مقاله برجسته" را در مورد تکنیک AI به AI منتشر می کند که "گلوگاه" انسان را از حلقه خارج می کند و ما را با یک "مودم" هوش مصنوعی جایگزین می کند - اتصال مستقیم موج مغزی C2C سرعت استنتاج را 150 درصد افزایش می دهد.

تک‌رادار۱۴۰۵ مهر ۳, جمعه، ساعت ۰۳:۴۵حدود 3 دقیقه مطالعه

محققان Tsinghua C2C را توسعه دادند که به مدل‌های هوش مصنوعی اجازه می‌دهد تا اطلاعات داخلی را مستقیما مبادله کنند و در عین حال سرعت و دقت استنتاج مشترک را بهبود بخشند.

Cache-to-Cache به مدل های هوش مصنوعی مجزا اجازه می دهد تا اطلاعات داخلی را بدون تولید متن مبادله کنند

یک Fuser آموخته شده، داده های داخلی یک مدل را به مدل دیگر تبدیل می کند

C2C از گیتینگ انتخابی برای کنترل اینکه کدام لایه ها اطلاعات را دریافت می کنند استفاده می کند محققان دانشگاه Tsinghua مقاله‌ای را منتشر کرده‌اند که در آن تکنیکی را توصیف می‌کند که به مدل‌های هوش مصنوعی جداگانه اجازه می‌دهد بدون تولید متن، اطلاعات را تبادل کنند.

این روش که Cache-to-Cache (C2C) نام دارد، قبلا در ICLR 2026 پذیرفته شده است و با کد منبع باز در دسترس توسعه دهندگان قرار می گیرد.

هر زمان که چندین مدل زبان در یک خط لوله مشترک با هم کار می کنند، ناکارآمدی خاصی را هدف قرار می دهد.

رد کردن کامل کلمات

وقتی امروز دو مدل هوش مصنوعی با هم همکاری می کنند، یکی باید قبل از اینکه دیگری بتواند آنها را بخواند، تفکر خود را به جملات نوشتاری تبدیل کند.

این مرحله نوشتن زمان محاسبات واقعی را می گیرد و جزئیات کوچک مدفون شده در فرآیند تفکر خام مدل اول را دور می اندازد.

هر مدل هوش مصنوعی یک حافظه کاری از همه چیزهایی که تا کنون پردازش کرده است را نگه می دارد که از نظر فنی به عنوان حافظه پنهان شناخته می شود.

C2C با اجازه دادن به یک مدل، آن حافظه کاری را مستقیما به بانک حافظه مدل دوم منتقل می کند، زبان تایپ شده را به طور کامل نادیده می گیرد.

یک برنامه کمکی کوچک به نام Fuser این انتقال را مدیریت می‌کند و اطلاعات را تغییر شکل داده و می‌چرخاند تا مدل دوم واقعا بتواند از آن استفاده کند.

مدل‌های مختلف هوش مصنوعی حافظه‌های خود را با استفاده از طرح‌بندی‌ها، اندازه‌ها و ساختارهای داخلی کاملا متفاوت از یکدیگر ذخیره می‌کنند.

صرفا ریختن حافظه خام یک مدل به مدل دیگر احتمالا آن را گیج می کند یا باعث از بین رفتن پاسخ های آن می شود.

برای جلوگیری از آن، C2C دارای یک فیلتر هوشمند است که تصمیم می‌گیرد کدام بخش از حافظه ورودی ارزش جذب فوری دارد.

برخی از لایه‌های داخلی اطلاعات جدید را فورا می‌پذیرند، در حالی که لایه‌های دیگر به طور مستقل و بدون هیچ گونه دخالت خارجی استدلال می‌کنند.

به گفته محققان، این راه‌اندازی باعث می‌شود که مدل‌های هوش مصنوعی بین 100 تا 150 درصد سریع‌تر در طول وظایف مشترک اجرا شوند.

شکل بالایی تقریبا دو و نیم برابر سریعتر از روند معمول تایپ رفت و برگشتی عمل می کند.

این تیم همچنین افزایش دقت را تا 14.2% گزارش می‌کند که مدل‌ها به جای کار کردن به‌طور کامل با هم کار می‌کنند.

در مقایسه با تنظیمات قدیمی‌تر که در آن مدل‌ها هنوز از طریق متن تایپ‌شده ارتباط برقرار می‌کنند، طبق گزارش‌ها، دقت 3.1٪ به 5.4٪ بهبود یافته است.

چرا این روش محدودیت دارد

این رویکرد در حال حاضر فقط با مدل‌های وزن باز کار می‌کند، زیرا نیاز به دسترسی مستقیم به حافظه پنهان داخلی و ساختار لایه مدل دارد.

محبوب‌ترین ابزارهای هوش مصنوعی، آن‌هایی که مردم عادی با آن‌ها به صورت آنلاین چت می‌کنند، این جزئیات داخلی را کاملا از کاربران خارجی پنهان می‌کنند.

این بدان معناست که برنامه‌های روزمره مانند ربات‌های گفتگوی خاص نمی‌توانند از این میان‌بر استفاده کنند، مگر اینکه سازندگان خودشان آن را به صورت خصوصی بسازند.

هیچ کس خارج از این شرکت ها در حال حاضر به طور قطع نمی داند که آیا کسی استفاده از روش مشابهی را در داخل شروع کرده است یا خیر.

تیم تحقیقاتی استدلال می کند که زبان تایپ شده همیشه سرعت ماشین ها را کند می کند زیرا آنها را مجبور می کند مانند انسان ها فکر کنند.

این استدلال مستحق کمی احتیاط است، زیرا همان تیمی که سیستم را ساخته است، هر آزمایشی را نیز انجام داده تا ثابت کند که خوب کار می کند.

اینکه آیا این کارها را به همان اندازه که ادعا می شود سرعت می بخشد به سایر آزمایشات خارجی سیستم بستگی دارد.

خواندن متن کامل در تک‌راداربه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

China publishes 'landmark paper' on AI-to-AI technique that kicks human 'bottleneck' out of the loop and replaces us with an AI 'modem' — C2C brainwave direct connection achieves 150% boost in inference speed

Tsinghua researchers developed C2C, allowing AI models to exchange internal information directly while reportedly improving collaborative inference speed and accuracy.

همه‌ی اخبار فناوری