Meta Muse در حال حاضر یک مشکل امنیتی عمده نگران کننده در روز صفر دارد

محقق پاتریک واردل روز صفر را در دستیار جدید هوش مصنوعی میوز متا می یابد.

این اکسپلویت که به آن لقب داده نمی شود، نیاز به سازش محلی، دیکته صوتی و ادغام برنامه دارد. مهاجمان می توانند توکن ها را ربوده و داده ها را استخراج کنند

متا اطلاع رسانی شده است اما هنوز پچ وجود ندارد. نقص، خطرات دستیاران هوش مصنوعی با مجوزهای گسترده را برجسته می کند دستیار جدید هوش مصنوعی متا (AI) Muse گزارش شده است که دارای یک آسیب‌پذیری روز صفر است که به مهاجمان اجازه می‌دهد به برنامه‌های افراد مانند WhatsApp یا ایمیل دسترسی پیدا کنند.

با این حال، این کار مثل روز صفر معمول شما ساده نیست - برای بهره برداری از آن، استفاده از بدافزار به سادگی کافی نیست. برخی از ویژگی‌ها باید فعال شوند، و ادغام‌های خاصی قبل از استفاده از باگ ایجاد شوند.

نه-محور

کمی پیشینه، برای زمینه: متا اخیرا Muse را منتشر کرد و آن را به عنوان دستیار توصیف کرد که می‌تواند «قرار ملاقات‌ها را رزرو کند، فرم‌ها را پر کند و خدمات مشتری را مدیریت کند». این ابزار می‌گوید که این ابزار که در حال حاضر به‌طور انحصاری برای اکوسیستم مک در دسترس است، «به‌طور فعال وظایف را از صفحه شما حذف می‌کند» و خرید می‌کند، تصاویر تولید می‌کند و اسناد ایجاد می‌کند.

با این حال، برای انجام این کار، باید به برنامه‌هایی مانند ایمیل، واتس‌اپ، تقویم یا حساب‌های رسانه‌های اجتماعی متصل شود - و این اتصال اولین پیش‌نیاز مورد نیاز برای بهره‌برداری از این نقص است.

پیش نیاز دوم دیکته صوتی است. این آسیب‌پذیری در روشی که Muse دستورات دریافتی از طریق صوتی را مدیریت می‌کند، پیدا شد، به این معنی که مهاجم باید به دستورات صوتی برای افزایش امتیازات و دسترسی به سایر برنامه‌ها و محتوای آنها دست یابد.

حالا برای خود نقص. این توسط محقق امنیتی پاتریک واردل، بنیانگذار غیرانتفاعی Objective-See کشف شد. او آن را "not-a-mused" نامید و می‌گوید در یک محیط غیرمستند به نام endo_voyager_dictation_endpoint پنهان می‌شود. هنگامی که کاربر یک فرمان صوتی را نقل می کند، آن دستورالعمل در فضای ابری ارسال و پردازش می شود، جایی که متا می تواند آن را ثبت کند. این تنظیم به کاربر اجازه می دهد تا تغییر دهد که کدام نقطه پایانی دیکته را دریافت می کند.

که ما را به پیش نیاز سوم می رساند. عامل تهدید باید دسترسی محلی داشته باشد تا بتواند در وهله اول این تنظیمات را تغییر دهد. به عبارت دیگر، دستگاه باید قبلا به نوعی به خطر بیفتد، یا از طریق ابزارهای نظارت و مدیریت از راه دور، یا از طریق بدافزار سطح پایین (یا با دسترسی فیزیکی).

به خاطر گزارش، بیایید بگوییم که یک کاربر نظری همه کادرهای مناسب را بررسی می‌کند - آنها یک ماشین در معرض خطر را اجرا می‌کنند و با Muse که قبلا به برنامه‌های بهره‌وری دیگر متصل است صحبت می‌کنند. به‌جای رسیدن به نقاط پایانی متا، دستورات صوتی ابتدا به زیرساخت‌های کنترل‌شده توسط مهاجم ارسال می‌شوند، جایی که دستیار هوش مصنوعی همراه با دستورالعمل‌ها، نشانه‌های احراز هویت را نیز برای ابزار ارسال می‌کند.

اگر مهاجم به اندازه کافی سریع واکنش نشان دهد، می تواند توکن را بگیرد و به ابزار هوش مصنوعی هدف خود دسترسی پیدا کند. اگر به برنامه‌های دیگری مانند واتس‌اپ یا تقویم متصل باشد، می‌توانند به سادگی از آن بخواهند اطلاعات حساسی را که در داخل آن یافت می‌شود استخراج کند.

بنابراین، «مطمئن نیست» ترکیبی از استخراج داده و افزایش امتیاز است.

اتو کردن پیچ خوردگی ها

واردل به Ars Technica گفت: "ما می توانیم نماینده را دستکاری کنیم و از امتیازات آن برای انجام هر کاری که می خواهیم استفاده کنیم."

بنابراین به جای اینکه مجبور باشیم یک دزد بدافزار بسیار جامع مک بنویسیم، می‌توانیم از خود دستیار هوش مصنوعی استفاده کنیم. واردل گفت که چندین حمله اثبات مفهوم ایجاد کرده است که کارهایی مانند نوشتن فایل‌های مخرب روی دیسک و گرفتن عکس‌ها را انجام می‌دهد، در بسیاری از موارد بدون هیچ نشانه‌ای حتی برای کاربر هشدار دهنده.

متا اطلاع رسانی شده است، اما هنوز اظهار نظری نکرده است، یا اصلاحیه ای منتشر نکرده است.

دستیارهای هوش مصنوعی امروزه بسیار مورد توجه هستند. آنها پاسخگوی دقیق را به ابزارهایی تبدیل کرده اند که می توانند تکالیف حتی پیچیده تر را تکمیل کنند. آن‌ها می‌توانند پروازها و میز رستوران‌ها را رزرو کنند، خرید انجام دهند، تماس‌ها و جلسات را برنامه ریزی کرده و مجددا برنامه ریزی کنند و موارد دیگر. با این حال، برای انجام این کار، این ابزارها به مجوزهای گسترده نیاز دارند - چیزی که جامعه امنیتی نسبت به آن هشدار می دهد.

در حالی که آنها آشکارا علیه آن صحبت نمی کنند، توصیه می کنند احتیاط کنید. داستان‌های زیادی در مورد عوامل AI وجود دارد که یا کلاهبرداری می‌کنند یا به سادگی توسط بازیگران مخرب فریب می‌خورند. به عنوان مثال، یک درخواست پنهان در یک ایمیل فیشینگ می تواند عامل هوش مصنوعی را که وظیفه دارد پیام را خلاصه کند فریب دهد تا تمام اسناد PDF. را از صندوق ورودی قربانی خارج کند.

در روزهای اولیه هوش مصنوعی عاملی، گزارش‌هایی مبنی بر پاک کردن صندوق ورودی افراد توسط دستیاران وجود داشت.

دستیاران به احتمال زیاد اینجا خواهند ماند، اما هنوز هم پیچیدگی های زیادی وجود دارد تا بتوانند به جریان اصلی برسند.