تویوتا SoC را نشان می دهد که وزن مدل و سیستم عامل آن را روی حافظه یکپارچه ذخیره می کند
دسترسی به حافظه خارجی، هوش مصنوعی فیزیکی را ترمز می کند، بنابراین خودروساز یک میانبر اقتصادی و سریع پیدا کرده است.
خودروساز ژاپنی تویوتا تصمیم گرفته است در بازار پردازنده های هوش مصنوعی شکافی ایجاد کند.
تویوتا سهامدار عمده شرکتی به نام AISIN، تولید کننده قطعات خودرو است. هر دو شرکت آگاه هستند که خودروها به طور فزایندهای به فناوریهایی مانند تشخیص تصویر وابسته هستند و روباتیک و سایر اشکال "هوش مصنوعی فیزیکی" به قطعاتی نیاز دارند که با خودروها همپوشانی داشته باشند.
AISIN فکر میکند تراشههای موجود برای چنین نقشهایی مناسب نیستند، زیرا برای ذخیره مدلهای هوش مصنوعی به حافظه خارجی متکی هستند و سپس ترافیک زیادی بین پردازنده و مدل ایجاد میکنند. به گفته این شرکت، این ترافیک باعث می شود که تشخیص تصویر و سایر استفاده های روی دستگاه از هوش مصنوعی کمتر موثر باشد. DRAM نیز در حال حاضر بسیار گران است.
پاسخ این شرکت یک سیستم روی تراشه است که بر روی یک فرآیند 16 نانومتری FinFET، یک CPU دو هسته ای Arm Cortex A53، به علاوه یک پردازنده گرافیکی Arm MaliG31 ساخته شده است. این تراشه شامل STT-MRAM داخلی است که وزن مدل و سیستم عامل را ذخیره می کند.
AISIN و شرکای تحقیقاتی آن در دانشگاه توهوکو می گویند این رویکرد به این معنی است که تراشه می تواند در 65.7 میلی ثانیه - 38 برابر سریعتر از آنچه در صورت استفاده از حافظه خارجی ممکن است - از حالت روشن به راه اندازی هسته برود و الگوریتم تشخیص شی Tiny YOLOv3 را روی تراشه اجرا کند.
بر اساس ترجمه ماشینی اعلامیه دانشگاه توهوکو [PDF] "برای استفاده موثر از ظرفیت محدود حافظه روی تراشه، یک معماری ضرب ترکیبی ترکیبی از ضرب 8 بیتی و 16 بیتی ایجاد شد." با ترکیب ضرب 16x16، 16x8 و 8x8 بیت، مقدار داده های وزنی مدل هوش مصنوعی 53 درصد کاهش یافت، از 17.7 مگابایت به 9.36 مگابایت، در حالی که دقت 16 بیتی حفظ شد.
AISIN یک تامین کننده معتبر قطعات است و در حال حاضر به تویوتا و دیگر خودروسازان می فروشد، اما نگفته است که آیا می تواند این تراشه را به تولید برساند یا نه.
در همین حال، شرکتهایی مانند انویدیا و کوالکام بسیار میخواهند سیلیکون خود را به خودروسازان بفروشند و خود را بهعنوان منابعی از فناوریها و هوشمندیهای هوش مصنوعی معرفی کنند که شرکتکنندگان زنجیره تامین خودرو موجود نمیتوانند با آنها مطابقت کنند. ®
متن اصلی (انگلیسی)
Toyota shows off SoC that stores model weights and its OS on integrated memory
Accessing external memory puts the brakes on physical AI, so carmaker has found an economical and speedy shortcut