چگونه OpenAI از LLM های خود برای طراحی تراشه Jalapeño خود استفاده کرد
آدرس مقاله: https://spectrum.ieee.org/llms-for-chip-design آدرس نظرات: https://news.ycombinator.com/item?id=49761432 امتیاز: 199 # نظرات: 135
هوش مصنوعی زمان طراحی خود را به شدت کوتاه کرد. فقط سریعتر خواهد شد
متیو اس. اسمیت یکی از ویراستارهای IEEE Spectrum و سردبیر پیشین نظرات در Digital Trends است.
Jalapeño از OpenAI، قالب محاسباتی خود را با شش پشته HBM4 و یک چیپلت I/O جفت می کند.
در 25 آگوست، OpenAI به طور کامل Jalapeño، اولین تراشه شتاب دهنده هوش مصنوعی این شرکت را معرفی کرد. Jalapeño حداکثر 13.4 پتافلاپ محاسبات 4 بیتی را ارائه می دهد و به 232 گیگابایت از پیشرفته ترین حافظه موجود دسترسی دارد که با سرعت 15.4 ترابایت در ثانیه به آن متصل می شود. معیارهای ذکر شده توسط OpenAI نشان می دهد که Jalapeño می تواند تأخیر انتها به انتها (زمان بین اعلان تا آخرین توکن) را تا 3.6 برابر در مقایسه با GB300 انویدیا (تراشه ای که شرکت در حال حاضر به آن متکی است) کاهش دهد و این کار را در حالی انجام دهد که انرژی کمتری مصرف می کند.
اینکه آیا این ارقام پس از ورود Jalapeño به خدمات گسترده در ناوگان استنتاج OpenAI به دستاوردهای دنیای واقعی تبدیل می شوند یا خیر، باید دید، اما عملکرد تنها نیمی از داستان است. نیمه دیگر نحوه طراحی تراشه است - فرآیندی که همانطور که انتظار دارید توسط مدل های زبان بزرگ OpenAI (LLM) تسریع شد. Jalapeño از اولین مفهوم معماری به اولین سیلیکون در کمتر از 20 ماه منتقل شد. تنها 9 ماه اولین RTL - کد سطح ثبت-انتقال که منطق تراشه را تعریف می کند - از نوار چسب جدا کرد، زمانی که طراحی نهایی به سمت تولید می رود.
این یک جدول زمانی سریع است، اما کارشناسان بر این باورند که با بهبود LLM ها و ادغام عمیق تر در ابزارهای طراحی تراشه، به زودی می تواند کند به نظر برسد. بدون تعجب، OpenAI نسبت به فرصت ها خوش بین است. ریچارد هو، معاون سختافزار OpenAI میگوید: «مدلها به مهندسان ما قدرتهای فوقالعاده میدهند. مهندسان ما هنوز در حال انجام کار هستند. آنها هنوز داور نهایی اتفاقات هستند. اما آنها می توانند کارها را خیلی سریعتر انجام دهند. آنها می توانند مسیرهای بسیار بیشتری را کشف کنند."
هو میگوید گروهی که Jalapeño را طراحی کرده است، به طور میانگین کمتر از 100 نفر در طول این پروژه داشتهاند و همچنان در حدود 100 نفر باقی میمانند، زیرا تیم طراحیهای نسل دوم و سوم را دنبال میکند. این تعداد شامل طیف وسیعی از نقشها در تیم سختافزاری، از طراحی سیستم گرفته تا نرمافزار و زنجیره تامین است، اما نه نقشهای Broadcom که با OpenAI در این پروژه همکاری میکرد.
تقسیم کار بین OpenAI و Broadcom به طور کلی بین طراحی و پیاده سازی تقسیم شد. تیم OpenAI مسئول طراحی سیستم انتها به انتها از جمله شتاب دهنده استنتاج، سلسله مراتب حافظه و شبکه بود. هو می گوید که Broadcom "طراحی فیزیکی از دروازه ها به بعد" را انجام می دهد. مشارکت با Broadcom برخی نظرات را در مورد سرعت OpenAI کاهش داد. دیوید چین، یکی از بنیانگذاران استارتآپ طراحی تراشه Verkor.io، میگوید: «برنامهای که به ما دادهاند کاملا معتبر است»، اما معتقد است که کمک Broadcom برای جدول زمانی سریع Jalapeño ضروری بود.
او میگوید: «اگر شخص دیگری داشته باشید که از صفر شروع کند، ممکن نیست. راوی کریشنا، همچنین یکی از بنیانگذاران Verkor، سرعت OpenAI را "نتیجه نسبتا چشمگیر" نامید، اما اضافه کرد که انتظار دارد اگر پروژه از امروز شروع شود، بهبود در قابلیتهای LLM میتواند منجر به زمانبندی سریعتر شود.
اندرو کاهنگ، استاد برجسته دانشگاه کالیفرنیا، سن دیگو، همچنین سرعت OpenAI را قابل توجه دانست و گفت: "به احتمال زیاد در کلاس امروز بهترین است." Kahng یک کارگاه IEEE Design Automation Futures در سال 2016 را به یاد میآورد که با همکاری او سازماندهی کرده بود. این کارگاه شامل ریچارد هو بود که در آن زمان مهندس گوگل بود، به عنوان سخنران اصلی. هو نظرات قوی در مورد اتوماسیون طراحی داشت و زمان مورد نیاز برای تکمیل طراحی یک تراشه را به عنوان تابعی از تعداد تکرارهایی که یک تیم می توانست در یک روز انجام دهد، تعیین کرد.
آنکور سریواستاوا، مدیر ابتکار و نوآوری نیمه هادی ها در دانشگاه مریلند در کالج پارک می گوید: "خود اتوماسیون برای چندین دهه در طراحی تراشه وجود داشته است. این مشکل جدیدی نیست." با این حال، جایی که LLM با ابزارهای اتوماسیون قبلی متفاوت است، توانایی آنها در درک زبان و کد است. او می گوید که این باعث می شود آنها به ویژه برای کارهای طراحی تراشه که "هنوز در حوزه زبانی مشکل هستند" مناسب باشند.
تیم OpenAI جریان کاری طراحی کرد که از این قدرت بهره می برد. گردش کار جلویی OpenAI بر اساس Accelerated Hardware Synthesis (XLS)، یک زنجیره ترکیبی سطح بالا منبع باز از ابزارها که در ابتدا در گوگل توسعه یافته بود، ساخته شد. سنتز سطح بالا شکلی از اتوماسیون طراحی تراشه است که به مهندسان اجازه می دهد تراشه را در یک محیط برنامه نویسی آشناتر طراحی کنند. در مورد XLS، طراحان تراشه میتوانند به زبانهایی مانند DSLX (زبان مخصوص دامنه الهام گرفته از Rust) و C++ بنویسند.
سپس XLS اینها را به Verilog تبدیل می کند، یک زبان توصیف سخت افزاری که برای توصیف سیستم های الکترونیکی استفاده می شود.
کریس لیری، عضو کارکنان فنی OpenAI میگوید: «ما به این فکر میکردیم که چگونه از هوش مصنوعی برای سریعتر کردن پروژه استفاده کنیم، و هوش مصنوعی در امور نرمافزاری بسیار بهتر بود. XLS از برخی جهات شبیه نرم افزار است، بنابراین از این مزیت برخوردار است. این نیز کمک کرد که لیری با نحوه عملکرد XLS بسیار آشنا بود، زیرا او آن را در زمان خود در Google شروع کرد.
Kahng موافق است که تصمیم به استفاده از هوش مصنوعی برای سرعت بخشیدن به سنتز سطح بالا، مانند XLS، منطقی است، زیرا "طبیعی تر است که LLM با آن کار کند" و فرصتی برای تکرار سریع فراهم می کند. او میگوید: «من این را بهعنوان یک گردش کار به طور کلی مفید میبینم، و این جریانی است که «پاهایش» به آینده میرود.
همین منطق باعث شد که تیم Jalapeño روی بهینه سازی نرم افزار تمرکز کند. هنگامی که اولین تراشهها در ماه می از کارخانه ریختهگری بازگشتند، این تیم به مدلهای هوش مصنوعی داخلی خود به طراحی نرمافزارهایی برای اجرای معیارهایی مانند SemiAnalysis's InferenceX اشاره کرد. در معیار هسته توجه پنهان چند سر DeepSeek، عملکرد از 0.31 درصد سقف نظری (تعیین شده توسط پهنای باند محاسباتی و حافظه تراشه) به 88.94 درصد در حدود 40 ساعت افزایش یافت. هو می گوید که این نتیجه قابل تکرار است، بنابراین زمان بین تحویل اولین تراشه های ریخته گری تا زمانی که رمپ های تولید افزایش می یابد را می توان کاهش داد.
او میگوید: «تمام پیشفرضهای برنامهریزی ما براساس این واقعیت است که ما اکنون این قابلیت را داریم.
Jalapeño برای استقرار در پادهایی که شامل 2048 تراشه است طراحی شده است. OpenAI
در حالی که چرخه کار تیم های Jalapeño با کمک هوش مصنوعی توسط هو و لیری از قبل حدس زده می شد، پیشرفت در مدل های OpenAI شگفتی های زیادی را به همراه داشت.
لیری می گوید که این پروژه با کمک مدل هایی مانند OpenAI's o3 آغاز شد که در آوریل 2025 برای عموم منتشر شد (اما قبلا برای تیم Jalapeño در دسترس بود). با این حال، تا زمانی که پروژه به پایان رسید، تیم به مدلهایی دسترسی داشت که پیشسازهای GPT-6 Astra بودند، که تا 3 سپتامبر 2026 بهطور عمومی منتشر نشد. مدل جدیدتر میتواند مستقیما در Verilog بدون نیاز به ترجمه XLS از زبانهای برنامهنویسی معمولی کار کند، و بهگفته Lenary، تقریبا میتواند بر روی ابزار طراحی اختصاصی خود کار کند.
هو همچنین تأیید کرد که تیم به LLM های داخلی که برای طراحی تراشه تنظیم شده اند دسترسی داشته و در دسترس عموم نیست. او از بیان جزئیات مدل های استفاده شده خودداری کرد. با این حال، او اضافه کرد که تیم Jalapeño با تیم تحقیقاتی OpenAI همکاری می کند. در حالی که همه مدلهای خاصی که برای طراحی Jalapeño استفاده میشوند در دسترس عموم نیستند، هو میگوید هدف این است که درسهای آموختهشده از این پروژه را به LLMهای تجاری شرکت بیاوریم. او میگوید: «به جرات میتوان گفت که Astra و مدلهای بعدی در طراحی تراشه بسیار خوب خواهند بود.
همانطور که گفته شد، بخش عمده ای از کار OpenAI در Jalapeño بر روی "طراحی جلویی" طراحی تراشه متمرکز شده است، که شامل وظایفی می شود که یک تراشه را از مفهوم اولیه می گیرد، از طریق نوشتن کد RTL برای تعریف طرح، و از طریق تأیید اینکه طرح در صورت پیاده سازی فیزیکی کار می کند. بخش اعظم طراحی "پشتیبان" - که شامل وظایفی مانند مسیریابی اتصالات متقابل، تکمیل و تأیید مشخصات ساعت و توان، و ارسال اطلاعات طراحی مورد نیاز به ریختهگری است - به Broadcom واگذار شد که تراشه را در طول تولید حمل میکرد.
با این حال، این بدان معنا نیست که گردش کار OpenAI پشتیبان را نادیده گرفته است. تیم Jalapeño شامل مهندسان طراحی فیزیکی است که با همتایان خود در Broadcom برای ارائه راهنمایی در مورد نقشه طبقه و مسیریابی تراشه و موارد دیگر کار می کنند. در IEEE Hot Chips 2026، هو و لیری اعدادی را در مورد دستاوردهای بهینهسازی طراحی فیزیکی هدایتشده با هوش مصنوعی، از جمله کاهش 10 درصدی مساحت واحدهای ضرب ماتریس بر اساس خط پایه انسانی بهینهسازی شده، اعلام کردند.
به عبارت دیگر، OpenAI ادعا میکند که بهینهسازی مبتنی بر هوش مصنوعی به طراحی مدارهای بیشتری در همان ناحیه از سیلیکون نسبت به آنچه که قبلا ممکن بود کمک کرد.
Broadcom از گردش کار داخلی خود استفاده کرد. تیم این شرکت به مدلهای داخلی OpenAI که برای کمک به طراحی Jalapeño استفاده میکرد، دسترسی نداشت، اما به مدلهای تجاری عمومی OpenAI دسترسی داشت.
راوی کریشنا از Verkor می گوید که رویکرد OpenAI برای طراحی باطن از قبل کمی محافظه کارانه به نظر می رسد. او معتقد است که این یک مصنوع از زمانی است که این پروژه، که در اکتبر سال 2024 آغاز شد، انجام شد. او میگوید: «مدلهای چهار تا پنج ماه گذشته بهبود یافتهاند. از آوریل [2026] به بعد... زمانی است که آنها واقعا شروع به انجام بهتر این وظایف کردند». سورش کریشنا، یکی از بنیانگذاران Verkor با این نظر موافق است و می گوید: «دلیلی وجود ندارد که شما نتوانید یک حلقه عاملی داشته باشید که تا حد زیادی باعث تسریع فرآیند باطنی شود».
هو و لیری همچنین اشاره کردند که گردش کار مورد استفاده برای طراحی Jalapeño ممکن است در مقایسه با تلاشهای بعدی تیم قدیمی به نظر برسد.
لیری میگوید: «همانطور که میتوانید با [جالاپینو] تصور کنید، ما سعی میکردیم تا آنجا که میتوانیم سریع پیش برویم. بنابراین یک مبادله بین اینکه آیا میخواهیم برای انجام برخی نوآوریها وقت بگذاریم، یا میخواهیم کارهایی را انجام دهیم که میدانیم از نظر تاریخی کار میکنند؟» وجود دارد. با نسل دوم، ما یک نوع فرصت بازنشانی داریم تا درباره همه چیزهایی که میخواهیم راهاندازی کنیم بپرسیم.»
هو میگوید جریان کاری تراشههای نسل دوم «مکانهای زیادی دارد که ما در حال معرفی [AI] هستیم». او فرصت هایی را برای انجام بیشتر با هوش مصنوعی در تأیید و طراحی فیزیکی ذکر می کند. لیری اضافه می کند که تیم اکنون ابزارهایی برای دستکاری و مشاهده خودکار شکل موج دارد. این تجزیه و تحلیل خودکار را برای شناسایی سیگنال های ساعت تراشه مرتبط با خرابی انجام می دهد و می تواند اشکال زدایی سخت افزار را در حالی که هنوز در حال طراحی است بهبود بخشد. علیرغم این پیشرفتهای مورد انتظار، هو و لیری واضح بودند که باور ندارند طراحی تراشه میتواند کاملا خودکار باشد.
هو توضیح میدهد: «ما نمیگوییم که هر کسی میتواند بیاید و فقط با استفاده از کدکس [پلتفرم کدگذاری OpenAI] تراشههای شتابدهنده پیشرفته و پیشرفته AI/ML بسازد. ما در مورد اینکه چگونه در Codex بهتر باشیم و اینکه چگونه روی یک تیم کوچک و جدول زمانی سریع برای رسیدن به نتایج با کیفیت تمرکز می کنیم، چیزهای بسیار خاصی می گوییم.
متیو اس. اسمیت یک روزنامه نگار مستقل در زمینه فناوری مصرف کننده با 17 سال تجربه و سردبیر پیشین نظرات در Digital Trends است. او یک ویرایشگر IEEE Spectrum Contributing است که فناوری مصرف کننده را با تمرکز بر نوآوری های نمایشگر، هوش مصنوعی و واقعیت افزوده پوشش می دهد. متیو یک علاقهمند به محاسبات قدیمی، رایانههای قدیمی و بازیهای رایانهای را در کانال YouTube خود، Computer Gaming Yesterday پوشش میدهد.
متن اصلی (انگلیسی)
How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip
Article URL: https://spectrum.ieee.org/llms-for-chip-design Comments URL: https://news.ycombinator.com/item?id=49761432 Points: 199 # Comments: 135