پرش به محتوای اصلی

یک نقص طراحی در لینک های اشتراک گذاری، مکالمات شخصی کاربران را با Meta’s Muse آشکار می کند

وایرد۱۴۰۵ مهر ۲۹, چهارشنبه، ساعت ۱۶:۰۵حدود 4 دقیقه مطالعه

این شرکت پس از اینکه محققان امنیتی دریافتند دسترسی به اطلاعات حساس به اشتراک گذاشته شده با دستیار هوش مصنوعی چقدر آسان است، این ویژگی را تعلیق می کند.

مانند بسیاری از خدمات آنلاین، Muse به کاربران این امکان را داده است که جستجوها، گفتگوها، تصاویر و محتوای مشابه را با افراد دیگر به اشتراک بگذارند. چنین ویژگی‌های اشتراک‌گذاری معمولا شامل کلیک کردن روی گزینه‌ای برای ایجاد یک URL منحصربه‌فرد است که هر کسی می‌تواند از آن برای بارگذاری صفحه میزبان محتوا استفاده کند. برای اینکه اطلاعات حساس بالقوه در دسترس افراد ناخواسته قرار نگیرد، URL ها معمولا حاوی یک توالی طولانی از متن هستند که به راحتی قابل حدس زدن نیست. Muse، که مارک زاکربرگ، مدیرعامل متا ماه گذشته گفت، «از پایه برای حفظ حریم خصوصی و امنیت ساخته شده است»، به نظر می‌رسد اقدامات احتیاطی مشابهی را انجام می‌دهد.

اما یک تصمیم طراحی مرکزی برای ساخت URL ها، کشف پیوندها را آسان کرده است. در نتیجه، محققان شرکت امنیتی Claroc گفتند که توانستند 6800 پیوندی را که کاربران Muse برای اشتراک‌گذاری مکالمات با دیگران ایجاد کرده‌اند، برشمارند. پس از باز کردن چند صد مورد از آنها، محققان به اطلاعاتی دست یافتند که به وضوح قرار نبود در دسترس عموم قرار گیرد، از جمله:

یادداشت های یک نامزد آماده شدن برای یک تماس جستجوی اجرایی محرمانه با یک آزمایشگاه هوش مصنوعی مرزی، با نامگذاری تماس داخلی آزمایشگاه و زمان جلسه؛ بررسی درآمد داخلی یک شرکت بازاریابی ملی که برای مدیر عامل آن مشخص شده است. درخواست وام مالک یک کسب و کار کوچک، با مبلغ درخواستی؛ لیست کارهایی که شامل هشدار کلاهبرداری بانکی، با شماره حساب جزئی و مبلغ و زمان تراکنش است. گزارش عملکرد داخلی سرمایه گذار املاک، با دو آدرس ملک و ارقام دقیق بازده، درآمد و وام مسکن؛ تقویم تعطیلات یک ساله کارکنان یک محل کار، لیستی از چرت زدن

تعداد کارمندان در هفته ای که هر یک از آنها دور می شوند.

محققان نوشتند: «اگر از قبل از ما می‌پرسیدید، حدس می‌زدیم که جمع‌آوری این موارد به تلاش واقعی نیاز دارد. "یک پرس و جو طول کشید." در یک بیانیه ایمیلی در پاسخ به سؤالات Ars، متا گفت: "ما برنامه پاداش اشکال Muse را باز کردیم تا محققان بتوانند سناریوهای مختلفی را مطرح کنند و به ما در ادامه بهبود محصول کمک کنند. افراد این توانایی را دارند که مصنوعات Muse خاص را به اشتراک بگذارند، که صفحه ای ایجاد می کند که برای کسانی که پیوند را دارند می توانند به آن دسترسی داشته باشند.

با این حال، در حین بررسی این گزارش و بررسی تغییرات در نحوه کشف این پیوندها، این عملکرد را متوقف کرده ایم. Asaf Aprozper، یکی از بنیانگذاران و CTO Claroc، گفت که یافته‌ها را از طریق برنامه پاداش باگ متا در 8 اکتبر گزارش کرده و همچنین سعی کرده است با افراد متا در لینکدین ارتباط برقرار کند، اما به هیچ وجه پاسخی دریافت نکرد. ساده ترین راه برای کشف URL ها، انجام یک جستجوی غیرفعال DNS از طریق یکی از بسیاری از خدمات تجاری موجود است. رکوردهای DNS غیرفعال وضوح تاریخی نام های دامنه را به آدرس های IP و همچنین سوابق سرور نام و سرور ایمیل در طول زمان ذخیره می کنند.

سیستم‌های DNS غیرفعال معمولا پاسخ‌های DNS را از حسگرهایی که در حل‌کننده‌های DNS بازگشتی یا زیرساخت‌های دیگر قرار دارند جمع‌آوری می‌کنند. یک رکورد DNS غیرفعال معمولا زمانی ایجاد می شود که یک سیستم نظارتی پاسخ DNS را مشاهده کند. در مورد اینجا، هنگامی که طرف مورد نظر روی پیوند اشتراک گذاری کلیک می کند، اطلاعات DNS در یک پایگاه داده قابل جستجو ثبت می شود. محققان کلاروک توانستند پیوندهای اشتراک گذاری Muse را کشف کنند زیرا همه آنها از نام دامنه cf.metaaiusercontent.com استفاده می کنند. با تصمیم برای افزودن نام مکالمه به URL، همراه با یک رشته متن طولانی، کشف بیشتر آسان می شود.

نمونه‌های ساده‌شده این پیوندها عبارتند از: home-sale-budget-9f21c8a3.cf.metaaiusercontent.com، q3-revenue-review-7b1e42f0.cf.metaaiusercontent.com، و loan-application-draft-a4c9e2.cf.content.com. این آخرین تصمیم طراحی است، قرار دادن عنوان مکالمه در زیر دامنه به جای مسیر URL، که کشف عمومی را ممکن می کند. کلاروک گفت: «بسیاری از دستیاران هوش مصنوعی با پیوند عمومی به اشتراک می گذارند. آنچه که یافتن اشتراک‌های Muse را آسان می‌کند، عنوانی است که در داخل آدرس وب قرار دارد، جایی که DNS عمومی آن را برای جستجو برای هر کسی ثبت می‌کند.

ما اینها را GhostShares می‌نامیم: صفحاتی که برای افرادی باز می‌شوند که هرگز پیوند به آنها داده نشده است، و این افراد می‌توانند خودشان پیدا کنند.» میوز به سرعت به یکی از برترین نقاط در اپ استور اپل رسید. دستیار به طور مستقل فرم ها را پر می کند، قرار ملاقات ها را رزرو می کند، خرید می کند، اسناد ایجاد می کند و انواع اقدامات دیگر را انجام می دهد. Muse برای اینکه طبق برنامه کار کند نیاز به دسترسی به اکثر حساب‌های کاربر دارد.

متا به شدت این دستیار را به عنوان پلتفرمی به بازار عرضه کرده است که ارزش اعتماد فوق‌العاده‌ای را دارد که به آن نیاز دارد تا طبق برنامه کار کند. سه هفته پس از راه‌اندازی Muse، پاتریک واردل، متخصص امنیت macOS، آسیب‌پذیری روز صفر را کشف کرد که به هر برنامه دیگری که روی همان دستگاه نصب شده بود، اجازه می‌داد کنترل کامل حساب کاربری Muse کاربر را به دست آورد. متا شدت این آسیب‌پذیری را کم اهمیت جلوه داد به این دلیل که بهره‌برداری ممکن نیست مگر اینکه دستگاهی قبلا در معرض خطر قرار گرفته باشد.

این شرکت یافته‌های واردل مبنی بر اینکه یک حمله ساده ClickFix تنها چیزی است که برای ربودن یک حساب لازم است را تایید نکرد. سهولت در کشف پیوندهای اشتراک گذاری بیشتر این سوال را توجیه می کند که آیا Muse شایسته دسترسی مورد نیاز است یا خیر. با تعلیق متا از این ویژگی، کاربران Muse دیگر با این تهدید خاص مواجه نیستند، حداقل در حال حاضر. این داستان در اصل در Ars Technica ظاهر شد.

خواندن متن کامل در وایردبه زبان اصلی، در سایت ناشر باز می‌شود
متن اصلی (انگلیسی)

A Design Flaw in Share Links Exposes Users’ Personal Conversations With Meta’s Muse

The company is suspending the feature after security researchers discovered how easy it was to access sensitive information shared with the AI assistant.

همه‌ی اخبار فناوری