وقتی ابررایانه های سریعتر کافی نیستند

زمانی که یک میلیون کهنه سرباز با ثبت نام در "برنامه میلیون کهنه سرباز"، داده های ژنتیکی خود را به اشتراک گذاشتند، هیچ انتظاری نداشتند. این موضوع راوی مدوری، دانشمند ارشد بخش علوم داده و یادگیری در آزمایشگاه ملی آرگون (DOE) وزارت انرژی ایالات متحده تعجب آور نبود.

او در مورد شرایطی که این جانبازان بر اساس آن داده های خود را اهدا کردند کاملا واضح است: "حتی پس از دادن همه چیز به کشور، آنها در دل خود این را یافتند که بدون انتظار چیزی بیشتر بدهند." این هدیه، که بزرگ‌ترین مخزن زیستی کشور و متنوع‌ترین گروه‌های داده‌های جانبازان از نظر اجدادی در جهان را تشکیل می‌داد، بدهی ایجاد کرد که مادوری، که قرار ملاقات مشترکی در گروه ژنتیک انسانی در دانشگاه شیکاگو نیز دارد، در تلاش برای بازپرداخت آن است.

او می‌گوید: «آنچه من وقتی به آن داده‌ها نگاه می‌کنم احساس می‌کنم این است که موظفم به جانبازان نیت آنها را در انجام این کار ارائه کنم. آن‌گونه که او آن را می‌خواند، این مقاصد این است که دیگران، چه کهنه‌کار و چه غیر کهنه‌کار، بتوانند از هر آنچه که داده‌ها می‌توانند فاش کنند، بهره‌مند شوند. مادوری می‌گوید: «ما نمی‌توانیم دلسرد شویم. پس از ورود به آرگون به عنوان دانشجوی کارشناسی ارشد در سال 2001، مادوری دو دهه گذشته را در تقاطع ابررایانه و بیوپزشکی گذرانده است، بیشتر زمان را در ساخت محاسباتی که داده‌های جانبازان را به نتایجی تبدیل می‌کند که بر حوزه‌هایی از اختلال استرس پس از سانحه گرفته تا بیماری قلبی تا حدودی تأثیر می‌گذارد، گذرانده است.

ncer او توضیح می‌دهد که ماشین‌ها تا حد زیادی پایان خود را حفظ کرده‌اند، اما موانع بین داده‌های ارزشمند و نتایج ارائه‌شده همیشه با ماشین‌های سریع‌تر حل نمی‌شوند. درک چالش ها راهی به سوی علم بهتر است. آنچه ریاضی قادر به حل آن نبود هر دو ژنوم انسانی در میلیون ها موقعیت خاص متفاوت هستند. یک مطالعه مرتبط با ژنوم یک سوال به ظاهر ساده در میان حجم عظیمی از داده ها مطرح می کند. به عنوان مثال، آیا یک نوع ژنتیکی با یک بیماری خاص همراه است؟ سوال به خودی خود ساده است.

با ضرب در هر گونه ای که ارزش آزمایش دارد و هر شرایطی که در نمودار بیمار ثبت شده است، به یک مسئله ریاضی عظیم تبدیل می شود، چیزی که ابررایانه ها برای حل آن وجود دارند. سوال سخت‌تر این است که آیا کد برای اجازه دادن به آنها نوشته شده است یا خیر. تیم Madduri این مشکل را در سیستم Summit در مرکز محاسبات رهبری Oak Ridge DOE و در سیستم Aurora در مرکز محاسبات رهبری Argonne اجرا کرده است. در Summit، تیم متوجه شد که کار روی CPU های دستگاه تمام نمی شود.

با رشد گروه، ماتریس تجزیه و تحلیل مورد نیاز برای هر گروه دیگر در حافظه جای نمی گرفت و کار متوقف شد. مادوری گفت: «ما تصمیم گرفتیم جعبه را باز کنیم و به کد نگاه کنیم. آنها دریافتند که این مشکل فقط یک مشکل سرعت نیست، بلکه یک مشکل کدنویسی است. تجزیه و تحلیل برای پردازشگرهای معمولی نوشته شده بود، زیرا جامعه ژنتیک روی آن کار می کرد. با این حال، در زیر الگوریتم‌ها، کد تقریبا تمام وقت خود را صرف انجام یک کار کرد: ضرب شبکه‌های بسیار بزرگ اعداد.

این دقیقا همان عملیاتی است که پردازنده‌های گرافیکی برای انجام آن وجود دارند و آن‌ها را به موتور آموزش هوش مصنوعی مدرن تبدیل می‌کند. همانطور که مدوری اشاره می کند، همان معماری محاسباتی که کشف هوش مصنوعی را تسریع می کند «برای ژنومیک جمعیت نیز اساسی است». بنابراین، تیم به رهبری الکس رودریگز از Argonne، بخشی از کد را برای پردازنده‌های گرافیکی بازنویسی کرد و تجزیه و تحلیلی که در نسخه اصلی تقریبا 481000 ساعت هسته‌ی CPU طول می‌کشید، قابل پردازش شد. این تغییر بیشتر از سرعت بخشیدن به یک کار آهسته بود. این یک کار تقریبا غیرممکن را ممکن کرد.

اسب کاری آنها یک بسته ژنتیکی پرکاربرد به نام SAIGE است که نسخه بازنویسی شده SAIGE-GPU را ساخته است که در مقاله جداگانه ای در Bioinformatics توضیح داده شده است. مادوری با ناراحتی می گوید: "ما در آوردن نام خوب نیستیم. متاسفم." قبل از SAIGE-GPU، تقریبا هر مطالعه مرتبط با ژنوم با انتخاب یک بیماری و سپس جستجوی انواع مرتبط با آن شروع می شد. مادوری در مورد هزینه این رویکرد صریح است. او توضیح می‌دهد: «یکی از چالش‌هایی که من در تحقیقات زیست‌پزشکی یافتم این است که بسیار افزایشی است.

آنها هر سال مجموعه داده‌های جدیدی دریافت می‌کنند، داده‌ها را تجزیه و تحلیل می‌کنند، مجموعه جدیدی از انواع ژنتیکی را پیدا می‌کنند و این در همه بیماری‌های مختلف اتفاق می‌افتد.» او اضافه می کند که دلیل آن دسترسی محدود به محاسبات در مقیاس بزرگ است. تیم او تصمیم گرفت که افزایشی نباشد و تصمیم گرفت یک بار برای همیشه چالش محاسباتی را حل کند. مادوری می‌گوید: «یکی از چالش‌هایی که ما برای خود تعیین کردیم این بود که همه داده‌هایی را که در دسترس داریم، همه داده‌های ژنتیکی برای همه جانبازانی که به عنوان بخشی از برنامه میلیون کهنه‌سرباز توالی‌یابی شده‌اند را بگیریم.

این تیم، کنسرسیوم برنامه میلیون کهنه کار، نتایج را در Science منتشر کرد، با گروه مدوری در میان نویسندگان، و کار محاسباتی را به طور جداگانه در Bioinformatics منتشر کرد. این مطالعه 2068 ویژگی را در 635969 جانباز گزارش کرد و نتایج 13672 منطقه ژنوم مرتبط با یک یا چند بیماری را نشان داد. حدود 1600 مورد از این مناطق تنها به این دلیل ظاهر شد که تقریبا یک سوم شرکت کنندگان از اجداد اروپایی نبودند. طبق مقاله Science، بیشتر مطالعات ژنتیکی در این زمینه عمدتا از افراد اروپایی تبار انجام شده است.

این 1600 انجمن قبلا در جمعیت های مورد مطالعه "نامرئی" بودند. این محدوده اجدادی همچنین نحوه اجرای تحلیل را شکل داد. گروه ها را نمی توان به سادگی ادغام کرد. یعنی اگر یک بیماری در یک گروه اجدادی بیشتر از گروه دیگر باشد، آنالیز راهی برای تشخیص نشانگر بیماری واقعی از نشانگر متعلق به آن گروه ندارد. هر گروه باید به طور جداگانه اجرا می شد و نتایج پس از آن ترکیب می شد. 1600 انجمن در نتایج هیچ گروهی وجود ندارد. آنها تنها زمانی ظاهر می شوند که تجزیه و تحلیل های جداگانه ترکیب شوند.

مادوری مراقب است که کل تمرین به چه معناست و چه چیزی ندارد. او می گوید: «همه اینها پیش بالینی است. "این مرحله کشف است." تجزیه و تحلیل یک نقشه آماری از جایی که باید جستجو کرد را تولید می کند. تبدیل هر یک از آن 13672 منطقه به یک درمان، سالها کار پایین دستی توسط محققانی را می طلبد که داده ها را جمع آوری و دنبال می کنند، به همین دلیل است که مدوری می گوید که تیم هرگز متوقف نشد. او می‌گوید: «وقتی مقاله علمی را نوشتیم، کارهایی که ۱۴ روز طول کشید، اکنون کمتر از چند ساعت طول می‌کشد.

در حالی که این به معنای دریافت زودتر پاسخ است، اما پیروزی واقعی این است که بتوانیم همان سوال را از یک جمعیت بزرگتر بپرسیم «با اندازه گروهی بزرگتر و دقت آماری بیشتری نسبت به مقاله ای که چند سال پیش منتشر کردیم». وقتی داده ها نمی توانند سفر کنند ژنوم کهنه سربازان مزیت غیرمعمولی نسبت به سایر داده های پزشکی دارد. یکی از آژانس‌ها داده‌ها را بر اساس یک توافق جمع‌آوری کرد و همین امر باعث شد تا آنها به اجلاس سران بروند.

مادوری می‌گوید در پزشکی، داده‌ها را نمی‌توان به همان اندازه آزادانه با یکدیگر به اشتراک گذاشت که احتمالا داده‌های کیهان‌شناسی را به اشتراک می‌گذارید. جایگزین این است که مدل را جابجا کنید، او می گوید: "یادگیری فدرال به شما امکان می دهد بدون جابجایی داده ها، مدل ها را آموزش دهید." این بدان معناست که هر مؤسسه بر روی نسخه‌ای که از قبل نگه داشته است، پشت دیوارهای خود آموزش می‌دهد و فقط تنظیماتی را که مدل آموخته است، پس می‌فرستد. این تنظیمات در یک مدل واحد به روز شده ترکیب می شوند که برای همه ارائه می شود و چرخه تکرار می شود.

او در پاسخ به این سوال که چگونه چندین مؤسسه متقاعد می شوند تا بدون ادغام چیزی با هم محاسبه کنند، او این فرض را تصحیح می کند. او می گوید: «این موسسه نیست. اولین لایه این پازل افرادی است که می خواهند با هم کار کنند و همکاری کنند. سپس، بخشی که آن را به کار می اندازد: "این یک فدراسیون مردمی است." Madduri یکی از توسعه دهندگان APPFL بود، چارچوب آموزش فدرال حفظ حریم خصوصی Argonne، که ابزاری برای کمک به "حرکت" مدل ها به جای داده ها فراهم می کند. ماشین آلات زیر به کنترل دسترسی نزدیکتر است تا یادگیری ماشین.

او می گوید: «شما مجبور نیستید برای هر زمان بندی کد بنویسید. Globus Compute یک رابط را در بین زمان‌بندی‌های امکانات ارائه می‌کند و APPFL کارهای آموزشی خود را از طریق آن ارائه می‌کند. حتی با وجود این چالش های فنی، مشکل سخت تر مجوز است. مدوری می‌گوید: «تمام محاسباتی که اتفاق می‌افتد، محاسبات مجاز است که به تخصیص پروژه مرتبط است. آموزش فدرال به این معنی است که کار هر یک از همکاران باید تحت اعتبار سازمانی خود در دستگاهی اجرا شود که شخصا حق استفاده از آن را دارند. سایتی با داده هایی که هیچ کس دیگری ندارد، آن مدل مشترک را برای همه بهتر می کند.

مادوری می‌افزاید: «اگر یک سایت داده‌های منحصر به فرد خود را داشته باشد و سایت‌های دیگر آن را نداشته باشند، مدل قوی‌تر می‌شود». بسیاری از دنیاهای مختلف مادوری از زمان SC01 در دنور که با مضمون «فراتر از مرزها» بود، به طور منظم در کنفرانس SC شرکت کرده و بر انتقال داده ها در میان آنها تمرکز داشت. او می‌گوید: «من یک دانشجوی مقطع کارشناسی ارشد بودم و یک نسخه آزمایشی در غرفه DOE داشتم که پایان‌نامه کارشناسی ارشدم را نشان می‌داد، که در آن زمان استفاده از اینترنت برای جابه‌جایی مقادیر زیادی از داده‌ها از یک نقطه به نقطه دیگر بود.

این قابلیت انتقال فایل قابل اعتماد نامیده می شد و به قول او "اکنون به چیزی که "Globus" نامیده می شود تبدیل شده است. اولین ابزاری که او به ساخت داده های تحقیقاتی متحرک کمک کرد. آخرین مورد به داده ها اجازه می دهد در جای خود باقی بمانند. از زمان SC01، مادوری تقریبا 20 بار به کنفرانس رفته است و در مورد آنچه که به خانه می برد مشخص است. او خاطرنشان می‌کند: «من پردازش موازی، نحوه مقیاس‌گذاری آموزش هوش مصنوعی، نحوه برخورد مردم با موازی‌سازی، نحوه برخورد مردم با نظارت بر استفاده از منابع را یاد می‌گیرم. گروه او هر سال در کارگاه آموزشی روش های محاسباتی برای سرطان شرکت می کند.

اخیرا این علاقه به عوامل هوش مصنوعی منتقل شده است. او می‌گوید: «رویکردهای عاملی مرز بعدی ما هستند. مادوری همچنین می‌داند که در حوزه‌های تحقیقاتی غیرعادی قدم می‌زند. قبل از زیست پزشکی، او با فیزیکدانان انرژی بالا، مهندسان زلزله و کیهان شناسان کار می کرد. او می گوید: «وقتی به SC می روم، در دنیاهای مختلف زندگی می کنم. من بخشی از یک گروه بسیار کوچک از مردم هستم که به یک کنفرانس ژنتیک انسانی [ترکیبی] و یک کنفرانس ابرکامپیوتر می روند. آنچه هنوز برای مادوری گم شده است، بدهی او تسویه نشده است.

بیش از یک دهه پس از ثبت نام اولین کهنه سربازان، داده های برنامه میلیون کهنه سرباز نقشه ای را تهیه کرده است، اما هنوز راه درمانی ندارد. چیزی که بین این دو چیز قرار دارد، کار جمع کردن مؤسسات جداگانه برای محاسبه به عنوان یکی است. تا به امروز، هنوز هم تا حد زیادی با دست انجام می شود. مادوری می‌گوید: «برای آزمایش‌های قبلی، این ما بودیم که با NERSC صحبت می‌کردیم، ما با Argonne صحبت می‌کردیم، ما با Oak Ridge صحبت می‌کردیم.

"این یک انسان زیادی در حلقه است." او امیدوار است که American Science Cloud که تحت مأموریت Genesis DOE ساخته می‌شود، این مسئولیت را به دست بگیرد: «این خودکار خواهد بود و با استفاده از API اجرا می‌شود». در حال حاضر، مادوری همچنان بر تبدیل داده ها به پیروزی متمرکز است و از یک گروه بسیار ویژه از داده ها استفاده می کند تا پیشرفت بعدی در برابر سرطان را آشکار کند یا یک عمر از اضطراب نجات دهد. تا آن زمان، او هر بار یک ایده خوب، یک پیشرفت فنی و یک کنفرانس SC پیشرفت را نشان می دهد. مادوری می‌گوید: «ارتباط من با Supercomputing، به SC، طولانی و بسیار پربار است.

"من در نوامبر، در شیکاگو، برای SC26 بازخواهم گشت." به گفتگو در SC26 بپیوندید SC26 افرادی را گرد هم می آورد که زیرساخت های محاسباتی را می سازند که کار شرح داده شده در اینجا به آنها بستگی دارد: سیستم ها، پلت فرم های داده، شبکه ها و ذخیره سازی که به تحقیقات اجازه می دهد در مقیاس و در سراسر موسسات اجرا شود. شرکت‌کنندگان با مقالات فنی، کارگاه‌ها، آموزش‌ها، پوسترها و جلسات Birds of a Feather (BoF) که هوش مصنوعی، محاسبات کوانتومی و HPC را پوشش می‌دهند، در کنار متخصصانی از آزمایشگاه‌های ملی، صنعت و دانشگاه که روی مشکلات مشابه کار می‌کنند، شرکت می‌کنند.

مادوری همچنین بخشی از مرکز فناوری منطقه‌ای SC26 خواهد بود، یک انجمن چندرسانه‌ای که اولین کنفرانس خود را در شیکاگو آغاز می‌کند، جایی که در زیرساخت‌ها و سیستم‌های محاسباتی با توان عملیاتی بالا مشارکت خواهد داشت. به ما در شیکاگو، 15 تا 20 نوامبر 2026، برای یک هفته اکتشاف، همکاری و اجتماع با توجه به رهبران فناوری منطقه ای بپیوندید. امروز ثبت نام کنید عرضه شده توسط SC26