شرکت میزبانی ابری Railway می گوید نقض اخیر منجر به 740,000 دلار هزینه های تقلبی هوش مصنوعی می شود.

مهاجمان از یک روز صفر در زیرساخت های ساخت راه آهن برای سرقت کلیدهای API هوش مصنوعی مشتری و اعتبارنامه های ابری سوء استفاده کردند.

کلیدهای دزدیده شده باعث افزایش 740000 دلاری استفاده غیرمجاز از هوش مصنوعی شد که احتمالا از آموزش و اتوماسیون مدل در مقیاس بزرگ پشتیبانی می کند.

راه آهن 26 ساعت را صرف مبارزه با مهاجمان به کمک هوش مصنوعی قبل از مهار نفوذ و اعتبار چرخش کرد. شرکت میزبانی ابری Railway که مستقر در ایالات متحده است، گفت که عوامل تهدید از یک آسیب‌پذیری ناشناخته برای نفوذ، سرقت اطلاعات کاربری و جمع آوری صدها هزار دلار در استفاده غیرمجاز از هوش مصنوعی سوء استفاده کردند.

این شرکت موفق شد تبهکاران را بیرون بیاندازد و زیرساخت های خود را سخت تر کند، اما نه قبل از اینکه شاهد نبرد حماسی 26 ساعته ربات در مقابل ربات باشیم.

راه آهن مورد حمله قرار می گیرد

در هسته خود، Railway یک شرکت میزبانی ابری است، اما در درجه اول برای توسعه دهندگان طراحی شده است تا بدون نیاز به مدیریت بسیاری از زیرساخت های اساسی برنامه ها را بسازند، استقرار و اجرا کنند.

خدمات کلیدی آن شامل اجرای وب‌سایت‌ها و APIها، میزبانی پایگاه‌های داده و استقرار PostgreSQL و MySQL، اتصال مخازن GitHub و استقرار خودکار کدهای جدید، و مدیریت کانتینرها، شبکه و تخصیص منابع است.

مشابه سایر ارائه دهندگان ابر، زیرساخت ساخت آن از معماری چند مستاجر استفاده می کند، به این معنی که یک دستگاه واحد میزبان چندین ساخت است که در تئوری باید در یک ماشین مجازی از یکدیگر جدا باشند.

بسیاری از مشتریان آن توسعه دهندگان و مشاغلی هستند که از خدمات هوش مصنوعی استفاده می کنند و کلیدهای API به عنوان متغیرهای محیطی روی پلتفرم ذخیره می شوند. این به برنامه های میزبانی شده اجازه می دهد تا راحت تر با مدل های هوش مصنوعی ارتباط برقرار کنند.

در حال حاضر، Railway در یک گزارش حادثه گفت که عوامل تهدید ناشناس از یک آسیب‌پذیری روز صفر در زیرساخت ساخت خود برای «فرار جزئی از انزوا سیستم فایل» و خواندن برخی از فایل‌های ذخیره شده در ماشین‌های مجازی میزبان استفاده کردند. ظاهرا در این فایل‌ها اعتباری وجود داشت که سرورهای ساخت برای احراز هویت به زیرمجموعه‌ای از سیستم‌های داخلی استفاده می‌کنند.

در این گزارش آمده است: "پس از اینکه آنها این اعتبار را به دست آوردند، مهاجم تلاش کرد اما در ابتدا نتوانست از آن در سیستم های مختلف استفاده کند." با این حال، آنها در نهایت متوجه شدند که اعتبار اجازه دسترسی به Temporal، سیستم مدیریت وظایف داخلی شرکت را می دهد. آن‌ها در آنجا یک کپی از پایگاه کد داخلی راه‌آهن پیدا کردند که در آن مکانیزم احراز هویت با پیکربندی اشتباهی را کشف کردند که به آنها اجازه می‌داد تا اعتبارنامه‌های موقت ابری را به دست آورند.

با این موارد، آنها به سایر سیستم‌های داخلی، از جمله اعتبارنامه‌های مورد نیاز برای دسترسی به پایگاه داده تولید با متغیرهای محیط مشتری رمزگذاری‌شده، و همچنین اطلاعاتی درباره نحوه رمزگشایی آنها دسترسی پیدا کردند.

کلیدهای API برای خدمات هوش مصنوعی

ظاهرا مهاجمان بیشتر به کلیدهای API مشاغلی که از خدمات هوش مصنوعی استفاده می‌کنند علاقه داشتند. با استفاده از کلیدها، آنها می‌توانستند به خدمات پرداخت‌شده هوش مصنوعی دسترسی داشته باشند و قربانیان را مجبور به برداشتن برگه کنند.

و کاملا همان برگه بود - تقریبا 740000 دلار برای استفاده از عوامل کدنویسی و خطوط لوله آموزشی هوش مصنوعی دریافت می شود. راه آهن بر این باور است که هر کسی که کلیدها را به دست آورده احتمالا آنها را در بازار سیاه فروخته است، احتمالا برای پشتیبانی از تقطیر مدل.

تقطیر مدل زمانی است که یک مدل هوش مصنوعی کوچکتر برای تقلید از قابلیت ها و پاسخ های یک مدل بزرگتر و قوی تر آموزش داده می شود. این معمولا با ارسال تعداد زیادی کوئری به مدل اصلی و استفاده از هر آنچه که به عنوان داده آموزشی برای مدل های کوچکتر برمی گرداند انجام می شود. اگرچه اثبات آن غیرممکن است، اما بسیاری از تحلیلگران بر این باورند که مدل های چینی این گونه می توانند با مدل های آمریکایی رقابت کنند.

راه‌آهن تخمین می‌زند که متغیرهای محیطی تا 100000 فضای کاری مشتری را می‌توان در طول این حادثه رمزگشایی کرد، اما تاکید می‌کند که این تعداد به جای تعداد تایید شده حساب‌های در معرض خطر، حد بالایی را نشان می‌دهد.

این شرکت گفت که حمله در 20 اکتبر تقریبا در ساعت 07:28 UTC آغاز شد و در ساعت 09:24 UTC در 21 اکتبر، حدود 26 ساعت بعد، پایان یافت. در آن زمان مهندسان که در شیفت کار می کردند، مهاجم را دیدند که بسیاری از مسیرهای احتمالی را به صورت موازی بررسی می کرد، زیرا راه آهن آنها را نیز به صورت موازی سخت می کرد. طبق گزارش ویز، "وضعیت در حال تشدید به رقابتی برای سرعت ماموران تبدیل شد، با دفاع راه آهن در برابر مدل های منسوخ شده و مهاری مشابه ARTEX."

راه آهن گفت که از آن زمان آسیب پذیری های مورد سوء استفاده را بسته است، زیرساخت های آسیب دیده را بازسازی کرده و اعتبارنامه های به خطر افتاده را چرخانده است. همچنین در حال کار با ارائه دهندگان هوش مصنوعی برای بازپرداخت هزینه های تقلبی است و قول می دهد خساراتی را که ارائه دهندگان از بازپرداخت آن خودداری می کنند، پوشش دهد.

از طریق Bleeping Computer