آمازون با ابزار توسعه‌دهنده TorchNeuron بزرگ‌ترین عکس‌برداری خود را در Nvidia انجام می‌دهد

روز دوشنبه، خدمات وب آمازون ابزاری به نام TorchNeuron را منتشر کرد که به استارت‌آپ‌های هوش مصنوعی اجازه می‌دهد برنامه‌های هوش مصنوعی خود را به راحتی روی تراشه هوش مصنوعی آمازون، Trainium منتقل کنند. با انجام این کار، آمازون همچنین به مزیت نرم افزاری که به انویدیا کمک کرده تا به گزینه سخت افزاری پیش فرض برای برنامه های هوش مصنوعی تبدیل شود و به عنوان ارائه دهنده سخت افزار منتخب هوش مصنوعی ارتقا پیدا کند، ضربه می زند.

TorchNeuron با PyTorch، یک ابزار رایگان و منبع باز کار می کند که توسعه دهندگان از آن برای ساخت، آموزش و اجرای مدل های هوش مصنوعی استفاده می کنند. طبق گفته آمازون، برنامه‌های هوش مصنوعی نوشته شده با PyTorch روی Trainium با تغییر تنها یک خط پیکربندی اجرا می‌شوند – بدون نیاز به بازنویسی کد.

آمازون می گوید حدود 85 درصد از برنامه های هوش مصنوعی با PyTorch نوشته شده اند. فیس بوک در ابتدا آن را توسعه داد، اما از سال 2022، بخشی از بنیاد لینوکس است که پروژه های متن باز را حفظ می کند. انویدیا سال‌ها برای اطمینان از نرم‌افزار CUDA خود - زیرساخت نرم‌افزاری که به برنامه‌ها اجازه می‌دهد روی پردازنده‌های گرافیکی Nvidia و دیگر سخت‌افزارهای آن اجرا شوند - به طور یکپارچه از برنامه‌های هوش مصنوعی نوشته شده با PyTorch پشتیبانی می‌کند. در نتیجه، سخت‌افزار انویدیا به‌طور پیش‌فرض در حال حاضر عمیقا در جعبه ابزار تعبیه شده است.

TorchNeuron از PyTorch اقتباس شده است، بنابراین توسعه دهندگانی که PyTorch را می شناسند قبلا می دانند چگونه از آن استفاده کنند. آمازون اولین شرکتی نیست که سعی می کند تراشه های خود را به راحتی به این پلتفرم بیاورد. کاربران PyTorch همچنین می توانند برنامه های خود را با یک تغییر پیکربندی ساده به پردازنده های گرافیکی AMD یا حتی تراشه های اپل منتقل کنند.

با این حال، آمازون استدلال می کند که انتقال به Trainium فقط آسان نیست. همچنین به استارتاپ های هوش مصنوعی دسترسی به کل ابر آمازون را می دهد. جای تعجب نیست که AWS ادعا می‌کند که این گزینه برای استارت‌آپ‌ها نسبت به استفاده از نئوکلادها، که بسیاری از آنها به انویدیا و سخت‌افزار آن مانند Coreweave، Nebius و Firmus مرتبط هستند، انتخاب بهتری است.

کالین بریس، معاون نرم‌افزار فناوری در آزمایشگاه‌های AWS Annapurna (واحدی که تراشه‌های سفارشی آمازون را تولید می‌کند) از طریق ایمیل به TechCrunch گفت: «شما در حال ساختن بر روی AWS هستید. شما روی یک ارائه‌دهنده محاسباتی تک منظوره شرط‌بندی نمی‌کنید و برای ایجاد هر چیز دیگری در اطراف آن تلاش نمی‌کنید. او ادامه داد: «در AWS، زیرساخت‌های انتقال از نمونه اولیه به تولید در حال حاضر وجود دارد و به بنیان‌گذار اجازه می‌دهد تا در صورت نیاز سریع و مقیاس‌پذیر حرکت کند.»

AWS می‌گوید از آنجایی که تراشه یکسان هم به آموزش (آموزش مدل هوش مصنوعی) و هم استنتاج (به کار انداختن مدل نهایی، مانند زمانی که به سؤال کاربر پاسخ می‌دهد) رسیدگی می‌کند، و به شدت با زیرساخت ابری مورد نیاز استارت‌آپ‌ها ادغام می‌شود، ابر آن در هزینه‌های آن‌ها صرفه‌جویی می‌کند، حتی اگر AWS ارزان‌ترین قیمت هر توکن را ارائه ندهد.

بریس گفت: «ارزش Trainium عملکرد قیمت و این واقعیت است که یک پلت فرم برای آموزش و استنباط است که اقتصاد را در کل حجم کاری بهبود می‌بخشد». "به Deepgram نگاه کنید - آنها با استفاده از PyTorch بومی، پشتیبانی به Trainium نقل مکان کردند و 70٪ صدای بیشتری را به ازای هر دلار با دقت درجه تولید پردازش می کنند." Deepgram یک ارائه دهنده اپلیکیشن صوتی هوش مصنوعی است که رقیب ElevenLabs است.

اما آمازون راضی نیست که فقط به توسعه دهندگان برنامه PyTorch یک گزینه آسان برای انتقال به ابر خود بدهد.

آمازون همچنین می گوید که PyTorch را تحت فشار قرار می دهد تا کمتر به طور خودکار روی Nvidia متمرکز شود و کد را برای انجام این کار به پروژه اصلی PyTorch کمک می کند. در پست وبلاگی که ابزار جدید را اعلام می کند، این شرکت نوشت:

"رویکرد آمازون فراتر از سخت‌افزار خود است. این شرکت در حال انجام تغییرات در بالادست خود PyTorch است و با جامعه PyTorch برای حذف کدهایی که چارچوب را به تراشه‌های خاص مرتبط می‌کند، همکاری می‌کند. هدف این است که PyTorch را برای کل جامعه توسعه‌دهندگان، نه فقط کاربران Trainium، سخت‌افزاری‌تر کند."

در حالی که چنین تاکتیکی بدون شک برای کسانی که سخت‌افزار و سرویس‌های ابری را که با انویدیا رقابت می‌کنند خوب می‌فروشند، یکی از نکات PyTorch پنهان کردن تمام مشکلات مزاحم دریافت کد هوش مصنوعی برای اجرا بر روی سخت‌افزار است. باید منتظر بمانیم و ببینیم که آیا پیشروی انویدیا تا این حد به توسعه دهندگان حق انتخاب بیشتر و گزینه های مقرون به صرفه تری را می دهد، همانطور که آمازون وعده داده است یا فقط سردردهای پیکربندی بیشتر.

در هر صورت، اگر آمازون موفق شود PyTorch را عمیقا از Nvidia جدا کند، این امر می تواند عواقب بسیار بزرگتری برای غول GPU داشته باشد تا صرفا با رقبای تراشه روبرو شود. همانطور که بریس گفت: "داستان واقعی حذف قفلی است که توسعه دهندگان را از داشتن یک انتخاب واقعی باز می داشت."

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

One Pass بخرید، جلد دوم رایگان را در بوت کمپ نهایی سال TechCrunch با آوردن هم بنیانگذار یا شریک خود به صورت کتاب رایگان قبل از انقضای قرارداد BOGO دریافت کنید.

آنتروپیک می گوید که نیروی کارش کمتر جوان شده است و زمان بیشتری را در جلسات آنتونی ها می گذراند

کریستن کوروسک لوکاس روپک، ربکا بلان، مدیرعامل می گوید که Replit OpenAI را به طور پیش فرض نسبت به Anthropic تبدیل می کند.

مارک والبرگ می‌خواهد با یک باشگاه ورزشی مقرون‌به‌صرفه، Connie Loizos، استارت‌آپ‌های با طول عمر بالا را بر عهده بگیرد.

تسلا از رودستر اسپیس ایکس رونمایی کرد که با سبک شان اوکین پرواز و سقوط می کند.

اف بی آی کارمند OpenAI را متهم به کار گذاشتن دستگاه ضبط مخفی در اتاق کنفرانس Zack Whittaker دستگیر کرد

فقط 5 سال بعد، پلتفرم چت بات تعاملی Character.AI فایل هایی برای ورشکستگی ایوان مهتا ایجاد کرد