اپل انبوهی از Mac Minions را برای به اشتراک گذاشتن منابع GPU برای کارهای بزرگ هوش مصنوعی راه اندازی می کند

اپل در تلاشی برای دسترسی بهتر کارمندان خود به منابع GPU برای کارهای استنتاج، Minions خود را جمع آوری کرده است، نه موجودات زرد متحرک، بلکه یک سیستم توزیع شده که GPU های بیکار را در سراسر Mac خود قرار می دهد تا روی بارهای کاری هوش مصنوعی کار کنند. محققان اپل آن را به‌عنوان یک ابر GPU مجازی پویا و توزیع‌شده توصیف می‌کنند که پردازنده‌های گرافیکی سیلیکونی غیرفعال اپل را در دستگاه‌های macOS جمع‌آوری می‌کند تا بارهای کاری استنتاج یادگیری ماشینی در مقیاس بزرگ را اجرا کند. محققان اپل می گویند که این شرکت از Minions استفاده کرده است تا محاسبات GPU را به راحتی در دسترس تیم های خود قرار دهد.

مقاله درباره Minions توضیح می‌دهد: «قبل از پذیرش، برخی از کارهای استنتاج به دلیل محدود بودن در دسترس بودن GPU متمرکز، زمان‌های صف بیش از ده ساعت را تجربه می‌کردند. "با Minions، وظایف اغلب می توانند در عرض چند دقیقه با استفاده از دستگاه های macOS بیکار اجرا شوند." مک مینی و مک استودیو اپل اخیرا از خوشه‌بندی با استفاده از RDMA (دسترسی به حافظه مستقیم از راه دور) بر روی Thunderbolt 5 پشتیبانی می‌کنند و به شما امکان می‌دهد محاسبات و حافظه برای پشتیبانی از یک بار کاری هوش مصنوعی ترکیب شوند. به عنوان مثال، این اجازه می دهد تا یک مدل را خیلی بزرگ برای یک ماشین بارگیری کنید.

Minions برای ایجاد یک ابر GPU مجازی از سخت‌افزار متصل Mac طراحی شده است تا مجموعه‌ای از کارگران استنتاج مقاوم در برابر خطا را در یک پلت فرم استنتاج توزیع شده مشترک ایجاد کند. بنابراین به جای بیکار ماندن، منابع GPU می توانند با سهولت بیشتری توسط تیم های موجود در شبکه استفاده شوند. لزوما به عنوان راهی برای اجرای مدل های بزرگ به همان اندازه که برای توزیع مجدد منابع غیرفعال در شبکه در نظر گرفته شده است. Minions دارای چهار جزء اصلی است: Minion Server، PostgreSQL Metadata Store، Minion Executor و Minion Watchdog.

سرور Minion لایه هماهنگی را فراهم می کند، درخواست های کاربر را دریافت می کند و آنها را به عنوان وظایف فرعی در دسترس قرار می دهد. Minion Executor وظایف استنتاج را بر روی GPU مک اجرا می کند، نتایج را در S3 آپلود می کند و وضعیت اجرا را از طریق سرور Minion گزارش می دهد که ابرداده وظایف را در PostgreSQL نگهداری می کند. و Minion Watchdog این فرآیند را برای خرابی‌ها کنترل می‌کند - مانند یکی از مک‌های موجود در شبکه که پاسخ نمی‌دهد - و در صورت نیاز وظایف را مجددا اختصاص می‌دهد. آمار پایگاه داده به داشبوردهای مبتنی بر Grafana داده می شود تا در زمان واقعی قابل مشاهده باشند.

رویکرد اپل که بر در دسترس بودن و استفاده از سخت‌افزار متمرکز است، مانند خوشه‌های انویدیا نیست که بر توان عملیاتی، تأخیر و استفاده کارآمد از GPU برای مدل‌های بزرگ تمرکز دارد. ®