نقص برنامه Meta Muse AI به بدافزار محلی اجازه می دهد تا ترافیک دیکته را هدایت کند

متا در ابتدای راه اندازی در اوایل ماه جاری، بسیاری از امنیت برنامه دستیار هوش مصنوعی خود Muse را انجام داد و از اتکای این برنامه به Muse Secure VM یاد کرد. آگهی بیز، با تکرار ادعاهای گسترده قبلی در مورد حریم خصوصی کسب و کار جمع آوری داده ها، اعلام کرد: "هر فرد کنترل Muse خود را حفظ می کند و تصمیم می گیرد که چقدر به آن دسترسی داشته باشد." اما به نظر می رسد تفکر متا در مورد Muse کمی اغراق آمیز باشد: مهاجمی که قادر به اجرای کد محلی باشد ممکن است بتواند دسترسی بیشتری نسبت به آنچه که یک کاربر Muse انتظار دارد به دست آورد.

Patrick Wardle، محقق امنیتی، بنیانگذار غیرانتفاعی Objective-See، اثبات مفهومی به نام not-a-mused را برای چیزی که به عنوان روز صفر محلی در اپلیکیشن Muse macOS توصیف می‌کند، ابداع کرده است که به یک فرآیند محلی غیرمجاز اجازه می‌دهد تا ترافیک دیکته Muse و دسترسی احتمالی سوءاستفاده‌ای که به برنامه داده شده است را تغییر مسیر دهد.

او در مخزن پروژه توضیح می‌دهد که Muse دارای یک تنظیم غیرمستند به نام endo_voyager_dictation_endpoint است که مهاجمی که کد را به‌صورت محلی اجرا می‌کند، می‌تواند بدون امتیازات ویژه برای هدایت ترافیک دیکته به نقطه پایانی کنترل‌شده توسط مهاجم تغییر دهد، و به‌طور بالقوه صدای دیکته‌شده و درخواست‌های ارسال شده به مدل AI پشتیبان را در معرض دید قرار می‌دهد. این نقص می تواند تزریق سریع، سرقت مواد احراز هویت و سوء استفاده از هر گونه دسترسی را که کاربر به Muse داده است را فعال کند. این آسیب پذیری برای یک مهاجم از راه دور مشکلی نیست. به توانایی اجرای کد محلی نیاز دارد.

واردل می‌گوید، بنابراین نگرانی اصلی این است که این آسیب‌پذیری به بدافزار محلی دسترسی بسیار گسترده‌تری نسبت به آنچه در غیر این صورت داشت می‌دهد. در اصل، این یک آسیب‌پذیری افزایش امتیاز است. واردل در یک مصاحبه تلفنی با The Register، وضعیت را به زندگی در یک ساختمان آپارتمانی تشبیه کرد. او گفت: «فقط به این دلیل که یک همسایه بد به آنجا نقل مکان می کند به این معنی نیست که آن همسایه به طور خودکار به همه آپارتمان ها دسترسی دارد.

واردل گفت که اپل با چارچوب شفافیت، رضایت و کنترل (TCC) خود که دسترسی به داده های حساس در macOS را مدیریت می کند و با جداسازی امتیازات، کار بسیار خوبی انجام داده است. اما نگرانی او این است که اپلیکیشن‌های هوش مصنوعی این موانع را برطرف می‌کنند، زیرا درخواست یا نیاز به دسترسی بسیار زیادی به داده‌ها و ابزار دارند. او در مورد برنامه های هوش مصنوعی گفت: "آنها فوق العاده راحت و فوق العاده قدرتمند هستند. اما اگر آنها را برای مفید بودن پیکربندی کنید دسترسی بسیار زیادی دارند.

آنها اساسا می توانند هر کاری را بر روی رایانه شما انجام دهند." به این ترتیب، او گفت که آنها به طور بالقوه تبدیل به یک نقطه شکست واحد می شوند که کنترل های امنیتی سیستم عامل را می شکند. واردل گفت: "می دانید که این شرکت های هوش مصنوعی مدل های هوش مصنوعی واقعا عالی برای یافتن اشکال دارند." آیا اولویت امنیت برنامه‌های خودشان نیست؟» واردل گفت که نرم‌افزار تشخیص و پاسخ نقطه پایانی (EDR) در macOS تا حد زیادی بهتر شده است زیرا همه چیز دارای کد امضا شده است، بنابراین شناسایی فرآیندهایی که محضری نیستند و نباید اجازه اجرا داشته باشند آسان است.

اما با داشتن مجوزها و دسترسی گسترده به عوامل هوش مصنوعی، محصول EDR نمی‌تواند تشخیص دهد که آیا دستورات از طرف کاربر، یک عامل یا یک مهاجم می‌آیند. واردل گفت که این عوامل برای اینکه برای مردم مفید باشند نیاز به دسترسی دارند. او گفت آنچه که از سوی سازندگان برنامه های هوش مصنوعی کم است، احساس مسئولیت نسبت به سطح دسترسی برنامه هایشان است. واردل اضافه کرد که اپل دیکته محلی روی دستگاه را ارائه می دهد و اگر متا استفاده از آن API را انتخاب کند، این آسیب پذیری وجود نخواهد داشت. در عوض، او پیشنهاد کرد، متا ترجیح داد از سرویس اپل استفاده نکند، احتمالا به این دلیل که می‌خواهد به آن داده‌ها دسترسی داشته باشد.

او گفت: "من فکر می کنم برخی از حریص آنها برای داده های کاربر به نوعی در را باز می کند و سطح حمله بزرگ تری را ایجاد می کند." "اما در پایان روز، این شرکت‌های هوش مصنوعی، در حال رقابت برای آینده هستند. حریم خصوصی و امنیت کاربر، اینها اولویت‌ها نیستند." متا بلافاصله به درخواست نظر پاسخ نداد