Meta Muse می تواند بدون اجازه پیام های خصوصی شما را بخواند

متا یک عامل هوش مصنوعی شخصی (AI) جدید به نام Muse راه اندازی کرده است و به نظر می رسد بسیار قدرتمند است. شاید کمی بیش از حد قدرتمند باشد، زیرا یکی از نویسندگان به تازگی فاش کرده است که چگونه این ابزار پیام‌های متنی شخصی او را بدون اجازه می‌خواند، سپس درمورد اینکه چه کاری انجام می‌دهد در هنگام بازجویی دروغ گفته است.

همانطور که توسط نویسنده Inc، جیسون آتن توضیح داده شده است، "من در حال گفتگو با میزبان پادکست فناوری اولیه خود، استفن رابلز، در مورد آیفون های جدید بودم. لحظاتی بعد، یک اعلان فشاری از Muse دریافت کردم که نشان می داد مکالمه ای که داشتیم برای ستون خوبی خواهد بود و به من پیشنهاد داد که تحقیقاتی را برای نوشتن در مورد آن گرد هم بیاورم. حتی پیامی را از طرف سردبیرم برای دوشنبه نشان داد که آماده است."

مشکل اینجاست که آتن گفت: «نه تنها از او نخواستم که چنین کاری را انجام دهد»، «من هرگز به آن اجازه ندادم پیام‌هایم را بخواند. در واقع، به یاد دارم که صراحتا به آن اجازه دسترسی به پیام‌ها، تقویم و سایر اطلاعات شخصی من را ندادم.»

پس از اینکه آتن از میوز پرسید که چگونه از پیام‌های او اطلاع دارد، عامل هوش مصنوعی متوجه شد که اطلاعات مربوطه را از اعلان‌های فشار مربوط به متن‌های آتن، نه از درون خود پیام‌ها، دریافت کرده است. مشکل؟ آتن مطمئن است که این درست نیست.

نویسنده متوجه شد که Muse پیام های شما را با سرورهای متا همگام می کند. آتن خاطرنشان کرد: در دستگاه او، این ویژگی «فعال شده و با ردیف 187462 پایگاه داده پیام‌های من همگام‌سازی شده بود». من مطمئن نیستم که این تعداد پیام‌ها معادل چند پیام است، اما واضح است که بیش از هر چیزی است که میوز درباره کاری که انجام می‌داد به من گفته است.»

متا می گوید که Muse را به گونه ای طراحی کرده است که «یک عامل هوش مصنوعی ایمن، ایمن، خصوصی و به طور گسترده در دسترس باشد». اما ارسال پیام‌های خصوصی کاربر به سرورهای متا و سپس ارائه پاسخ گمراه‌کننده درباره کاری که انجام می‌دهد، دقیقا با اهداف اعلام شده Muse همخوانی ندارد. قرار است شرکت‌ها را بر اساس عملکردشان قضاوت کنیم تا حرف‌هایشان، پس متا از این بوی گل رز بیرون نمی‌آید.

یک الگوی آشنا

(اعتبار تصویر: متا) این تازه‌ترین اتفاق در یک انبوه مطبوعات بد اخیر برای متا است که بیشتر آن بر تلاش‌های هوش مصنوعی متمرکز است. به عنوان مثال، یک محقق امنیتی کشف کرد که Muse می تواند برای ارسال صدای ضبط شده و موارد دیگر به سرور یک هکر دستکاری شود، در حالی که آمازون خرید عامل هوش مصنوعی را در وب سایت خود ممنوع کرده است. و Meta ظاهرا در حال بررسی استفاده از یک سیستم "دربان انسانی" است که افراد واقعی درصدی از تماس‌های تلفنی بالقوه حساس را که می‌توان با استفاده از Muse انجام داد را شامل می‌شود.

و این بحث بحث بر سر "عینک انحرافی" را فراموش نمی کند که می تواند اعضای تصادفی مردم را بدون رضایت آنها ضبط کند. عینک‌های هوشمند متا از زمان عرضه‌شان برای آزار و اذیت، تعقیب و موارد دیگر مورد استفاده قرار گرفته‌اند و توجه خصمانه قابل توجهی را در این فرآیند به خود جلب کرده‌اند.

ای کاش می‌توانستم بگویم که این فقط یک اتفاق یا یک چرخش غیرمنتظره از رویدادها بود، اما وقتی صحبت از متا می‌شود، نقض حریم خصوصی بسیار عادی به نظر می‌رسد. آن‌ها در گذشته به قدری اتفاق افتاده‌اند که نمی‌توان نتیجه‌گیری کرد که عملکردی که به هوش مصنوعی اجازه می‌دهد پیام‌های شما را بدون اجازه مرور و آپلود کند، از روی طراحی است، نه تصادفی.

و وقتی در مورد شرکتی صحبت می کنیم که به نظر می رسد احساس می کند حق مطلق بر تمام داده های خصوصی شما دارد - صرف نظر از خواسته های شما - پس جای تعجب نیست که من متا میوز را با یک بارج دست نزنم. من بسیاری از ابزارها و خدمات هوش مصنوعی را امتحان کرده‌ام، اما Muse یکی از مواردی است که من به آن نزدیک نمی‌شوم.

اما بیایید در اینجا منصف باشیم: Muse تنها فاحش ترین نمونه از روند نگران کننده در میان عوامل هوش مصنوعی است که حریم خصوصی کاربران را به عنوان یک فکر آزاردهنده تلقی می کنند، چیزی که تا زمانی که آنها بتوانند از آن دوری کنند می توان نادیده گرفت. فقط باید به موج اخیر حوادث امنیتی هوش مصنوعی نگاه کنید تا بدانید که اعتماد به یک نماینده به اطلاعات خصوصی شما یک پیشنهاد خطرناک است.

همانطور که آتن کشف کرد، متا را در ترکیب قرار دهید و دستور العملی برای فاجعه خواهید داشت. اگر در حال حاضر از Muse بر روی دستگاه های خود استفاده می کنید، ممکن است بخواهید در نظر داشته باشید که چه مجوزهایی به آن داده اید - یا به حذف کامل آن فکر کنید.