هوش مصنوعی Fireworks دو بار با افزایش قرار گرفتن در معرض داده های مشتری سوزانده می شود

Fireworks AI یک حمله سایبری دیگر را در ماه اکتبر فاش کرده است و اطلاعات مشتریان را در معرض گسترده‌تر قرار داده است که شامل سوابق صورت‌حساب، مجموعه داده‌ها و وزن مدل ناقص است.

این شرکت که به مشتریان اجازه آموزش و اجرای مدل‌های هوش مصنوعی را می‌دهد، گفت که یک ارائه‌دهنده ابر شخص ثالث که دستگاه‌های تحقیق و توسعه آن را میزبانی می‌کرد در 23 اکتبر در معرض خطر قرار گرفت. مهاجمان از این دسترسی روز بعد برای رسیدن به سیستم‌های توسعه Fireworks و اجرای حجم کاری غیرمجاز استفاده کردند.

Fireworks مظنون به ارتباط با مجرمان با انگیزه مالی درگیر در LLMJacking - فروش دسترسی غیرمجاز به مدل‌های هوش مصنوعی از طریق دروازه‌های غیرقانونی است.

Fireworks داده های آسیب دیده را به سه دسته گروه بندی کرد:

ابرداده منبع: شناسه‌های منبع، نام‌های نمایشی، توضیحات، زمان ایجاد و موارد دیگر

اطلاعات صورت‌حساب: آدرس‌های صورت‌حساب و حمل و نقل، تاریخچه فاکتور و پرداخت، مانده حساب، و استفاده از اعتبار. شماره کارت های پرداخت ذخیره نمی شوند و بنابراین تحت تأثیر قرار نمی گیرند

اوزان مدل و مجموعه داده‌ها: برای مشتریان خاص، به زیرمجموعه‌ای از وزن‌ها و مجموعه داده‌های مدل ناقص دسترسی پیدا شد، Fireworks گفت.

لین کیائو، یکی از بنیانگذاران و مدیرعامل Fireworks، گفت که انگیزه ظاهری دزدیدن وزنه های مدل در پاسخ به نگرانی های مطرح شده توسط هاری مولاکال، مدیرعامل Cantina Security نبوده است.

کیائو می گوید: «از آنچه می بینیم مهاجمان دنبال وزنه نیستند. "بیشتر دانلودها جزئی بودند و متوقف شدند."

بنیانگذار و مدیر عامل رندر، آنوراگ گوئل، اعلانی را از Notion به اشتراک گذاشت و هشدار داد که برخی از چت‌ها با دستیار هوش مصنوعی آن ممکن است از طریق حادثه Fireworks افشا شده باشد.

در ایمیل ارسال شده به Goel آمده است: «در پی بررسی تیم امنیتی Notion، ما متوجه شدیم که فضای کاری شما، Render، جزو کمتر از 1 درصد از فضاهای کاری Notion است که ممکن است تحت تأثیر حادثه امنیتی Fireworks قرار گرفته باشد.

"برخی از جلسات چت غیرقابل انتساب با Notion AI ممکن است در این حادثه افشا شده باشد."

Notion گفت که رونوشت‌های افشا شده فاقد اطلاعات جداگانه‌ای هستند که آنها را به کاربران یا فضاهای کاری خاص مرتبط می‌کند. همانطور که کاربران Reddit اشاره کردند، با این حال، خود مکالمات می تواند حاوی جزئیات شناسایی باشد.

در این ایمیل اضافه شده است: «فراتر از آنچه در خود متن چت وجود دارد، هیچ اطلاعاتی وجود ندارد که چت را به فضای کاری، کاربران یا شرکت شما مرتبط کند. "هیچ داده دیگری از داخل فضای کاری شما تحت تاثیر قرار نمی گیرد."

بلومبرگ گزارش می دهد که Fireworks همچنین با مشتریانی از جمله Cursor و Harvey برای ارزیابی تأثیر کار می کند.

به‌روزرسانی Fireworks تأیید کرد که با تیم واحد 42 Palo Alto Networks کار می‌کرد تا این حمله را جبران کند، که شامل چرخش اعتبارنامه‌ها، جداسازی سیستم‌های آسیب‌دیده از شبکه، و سخت‌تر کردن دسترسی به ذخیره‌سازی داده‌ها و سیستم‌های نظارت بود.

در این به‌روزرسانی تعداد مشتریانی که تحت تأثیر هر یک از دو حمله در ماه اکتبر قرار گرفتند، ذکر نشده است.

Fireworks برای اولین بار در 9 اکتبر پس از شناسایی استفاده غیرمجاز از اعتبار داخلی در 6 اکتبر، یک حادثه را فاش کرد. مهاجمان به متغیرهای محیطی در کارهای ارزیابی، از جمله کلیدهای API و توکن‌های متعلق به برخی از مشتریان دسترسی پیدا کردند.

در آن زمان، Fireworks گفت که هیچ مدرکی دال بر دسترسی به مدل‌ها، مجموعه داده‌ها، داده‌های آموزشی، ترافیک استنتاج یا اطلاعات شخصی پیدا نکرده است. به روز رسانی روز دوشنبه به طور قابل توجهی تأثیر افشا شده را گسترش می دهد. ®