میوز متا در نظارت بهتر از کمک به من است

در پاپ آپ نوشته شده بود: «کارهای روزمره مانند یافتن معاملات، رزرو رزرو، و مدیریت صندوق ورودی خود را کنار بگذارید. "میوز در حالی که شما به روز خود ادامه می دهید به کار خود ادامه می دهد." استفاده از آن رایگان است و به راحتی به سایر منابع داده مانند ایمیل و حساب بانکی من متصل می شود. آواتار پیش‌فرض Muse یک تلاقی بژ رنگ بین Ewok و Labubu است، با دست‌های دراز، احتمالا برای جمع‌آوری تمام داده‌های من. Meta’s Muse یک نسخه اصلی از عوامل هوش مصنوعی است که قبلا در سیلیکون ولی برای خودکارسازی کارهای شخصی مانند OpenClaw و Instinct محبوب بوده است.

این یک موفقیت برای این شرکت است: طبق گفته Sensor Tower، برنامه Muse در هفته اول بیش از 900000 بار دانلود شده است. تجربه کاربری کمتر شبیه درخواست یک ربات چت است، و بیشتر شبیه ارسال پیامک به یک دوست با درخواست‌های کاری است - عامل هوش مصنوعی پیام‌ها را با یک شکلک بالا تایید می‌کند و در پس‌زمینه کار می‌کند.

Muse از طریق پلتفرم واتس اپ متا نیز در دسترس است. اما پس از چند روز با Muse، من متقاعد شدم که این ابزار هوش مصنوعی بیشتر به جمع‌آوری داده‌های مربوط به من وسواس دارد تا اینکه واقعا کارها را انجام دهد. امیل وازکز، سخنگوی متا به WIRED می‌گوید: «Muse اولین عامل هوش مصنوعی شخصی است که برای همه ساخته شده است، با محافظت‌های داخلی و کنترل‌های کاربر که افراد را کاملا مسئول نحوه استفاده از آن می‌کند – هر پیشنهادی که ما از ابتدا با آن در ذهن ایجاد نکرده‌ایم مضحک است». کلیک های خوب توانایی Muse برای گشت و گذار در وب واقعا چشمگیر است.

وقتی از آن می‌خواهید کاری را انجام دهد، Muse از یک «ماشین مجازی» برای مرور اینترنت از طرف شما، اجرای جستجوها و کلیک کردن بر روی صفحات مختلف وب استفاده می‌کند. هنگامی که سال گذشته ابزارهای مشابهی را آزمایش کردم، مانند ChatGPT Agent که اکنون از بین رفته است، کلیک های هوش مصنوعی نامنظم و پر از خطا بود. به نظر می رسد که Muse به ندرت هنگام مرور گم می شود. به عنوان مثال، من از میوز خواستم صبحانه را از یک نانوایی محلی به نام Kahnfections سفارش دهد. این یک مکان محبوب برای گردشگرانی است که از سانفرانسیسکو بازدید می‌کنند، بنابراین من یکی از گزینه‌های خرید را برای تحویل درخواست کردم.

میوز از وب‌سایت نانوایی بازدید کرد و یک ساندویچ بیسکویت با آیولی سیر، پنیر چدار، تخم‌مرغ و بیکن به سبد خرید من اضافه کرد. از من خواسته شد که یک کارت اعتباری از طریق پردازشگر پرداخت Stripe اضافه کنم تا نماینده من بتواند خرید را تکمیل کند. توضیح میوز در مورد سفارش صبحانه زمانی که خواستار تایید نهایی من شد، می‌گوید: «یک تغییری که سایت مجبور کرد: پنیر تک انتخابی است، بنابراین چدار را انتخاب کردم و یادداشتی گذاشتم و از آنها خواستم اگر می‌توانند سوئیس را هم اضافه کنند». قابل ذکر است، Muse گزینه "بدون نکته" را انتخاب کرد. کمی بی ادب!

(در نهایت به سمت مغازه رفتم و چیزی تصادفی و خوشمزه سفارش دادم.) متا برای اطلاع رسانی درباره Muse به پادشاهی گسترده خود متکی است. WhatsApp و Messenger برای نصب و ادغام آسان؛ قرارگیری اصلی در اینستاگرام، با کتابخانه بزرگی از ویدیوهای Reels برای جستجوی عوامل. اما پیوند بازار فیس بوک جایی بود که میوز در آزمایش من بیشترین تأثیر را داشت. میوز به سرعت مبل‌های ارزان قیمت محلی را برای فروش در چارچوب پارامترهای من پیدا کرد و به فروشندگان پیام پیشنهاد داد تا سفارش‌های وانت را ترتیب دهند.

این نماینده برای پیگیری کاربران طراحی شده است، بنابراین میوز روز بعد به من اصرار کرد تا مبل مورد علاقه من را دریافت کنم. Muse جزئیات مربوط به تعاملات و تنظیمات برگزیده شما را در یک سند "Memory" ذخیره می کند که با ضربه زدن روی آواتار در وسط بالای صفحه یافت می شود. در توضیح در Muse آمده است: "حافظه بلند مدت شما: حقایق، ترجیحات و تعهدات بادوام".

در حالی که می توانید یک درخواست چت برای Muse ارسال کنید تا داده های حافظه را پاک کند و می توانید فایل را به صورت دستی ویرایش کنید، متا در حال حاضر کلیدی برای خاموش کردن کامل ویژگی حافظه ارائه نمی دهد. گردآورنده داده در زیر برگه «ایده‌ها» برنامه، Meta’s Muse مدام به من یادآوری می‌کرد که اطلاعات بیشتری را به نماینده متصل کنم. روز بعد از اینکه گفتم می‌خواهم برای یک تعطیلات شیک برای پس‌انداز پول کمک کنم، میوز پیشنهاد داد که «ردیاب پس‌اندازتان را به موجودی واقعی‌تان متصل کنید» اگر فقط روی چند دکمه ضربه بزنم و داده‌های حساب‌های چک و پس‌انداز خود را پیوند دهم.

در این بیانیه آمده است: «سپس خلاصه‌های هفتگی و هشدارهای رانش، به جای تخمین‌های دستی، از اعداد واقعی استفاده می‌کنند. این تجربه، که در آن Muse شخصی سازی بیشتری را در ازای داده های بیشتر ارائه داد، نمادی از برداشت کلی من از برنامه بود. روری میر، مدیر دسترسی آزاد در بنیاد Electronic Frontier می‌گوید: «مردم متوجه نمی‌شوند که وقتی با یک هوش مصنوعی صحبت می‌کنید، با شرکتی که میزبان هوش مصنوعی است صحبت می‌کنید.

این پنجره‌های چت - که ما به ارتباط بین ما و شخص دیگری عادت کرده‌ایم - در واقع فقط ما مستقیما اطلاعاتی درباره خودمان در سرورهای متا قرار می‌دهیم. هر تعاملی که با Muse پیشنهاد می‌شد برای من ظاهری به نظر می‌رسید تا اطلاعات بیشتری درباره خودم برای متا آپلود کنم تا ببینم. "ایده" آن این بود که به Muse اجازه دهد کل صندوق ورودی من را اسکن کند و پیام های خوانده شده را پرچم گذاری کند. "ایده" آن این بود که عکسی از اسناد مهم را برای Muse تهیه کند تا آن را پر و بایگانی کند. "ایده" آن این بود که از وعده های غذایی من برای میوز عکس بگیرم تا کالری غذا را تخمین بزنم.

یکی دیگر می‌خواند: «به من بگو کی پاسپورت و گواهینامه‌ات منقضی می‌شود». ایده عالی، میوز. کاربران Muse به طور خودکار از تعامل با عاملی که برای آموزش مدل هوش مصنوعی استفاده می‌شود، انتخاب می‌کنند. متا می‌گوید این داده‌ها برای حذف اطلاعات شناسایی قبل از آموزش هوش مصنوعی «ضدعفونی‌شده» شده‌اند، اگرچه مشخص نیست که این فرآیند چگونه کار می‌کند. مجموعه داده ها ممکن است شامل مواردی باشد که Muse هنگام دسترسی به منابع داده ای که متصل کرده اید، مانند صندوق ورودی ایمیل یا حساب بانکی، به عنوان زمینه استفاده می کند. می‌توانید این مجموعه داده را در تنظیمات برنامه Muse، در بخش کنترل‌های داده، غیرفعال کنید.

کلیدی که می گوید به بهبود مدل های هوش مصنوعی ما کمک کنید را غیرفعال کنید. حامیان مصرف‌کننده، متا را وادار می‌کنند که کاربران Muse از آموزش داده‌های هوش مصنوعی منصرف شوند، به‌عنوان یک پرچم قرمز مهم. کالی شرودر، مشاور ارشد مرکز اطلاعات حریم خصوصی الکترونیکی می‌گوید: «این به من می‌گوید که آنها از اشتباهات گذشته درس نگرفته‌اند و استدلال آن‌ها را تضعیف می‌کند که می‌بایست به همه اطلاعات خود حتی بیشتر به Muse اعتماد کنید.

شرودر به متا اشاره می‌کند که اخیرا تمام کاربران بزرگسال اینستاگرام را به ابزاری که اساسا یک ابزار جعلی عمیق هوش مصنوعی بود، انتخاب کرده است، سپس چند روز بعد این ویژگی را مانند تاریخچه متا در «تاکتیک‌های دستکاری» و شکستن اعتماد کاربران، اعمال کرد. Tarek Sheasha، مهندس نرم‌افزار و معاون رئیس Meta Superintelligence Labs، در یک پست وبلاگی درباره انتشار Muse از این مجموعه داده‌ها به‌عنوان حیاتی برای آموزش مدل‌های جدید و بهبود عملکرد دفاع می‌کند.

شیشا نوشت: «ما فکر می‌کنیم این یک پیش‌فرض خوب است—هر کاربر Muse یک نماینده شخصی بهتری دریافت می‌کند زیرا همه ما به طور جمعی از محصول استفاده می‌کنیم و به مدل کمک می‌کنیم تا پیچیدگی‌های زندگی انسان را درک کند. متا همچنین قصد دارد نسخه‌های "محرمانه" ماشین مجازی خود را در اواخر امسال برای کاربران منتشر کند که "به صورت رمزنگاری و قابل تایید" مانع از دسترسی شرکت به داده‌های داخل آن شود. خریدار مخفی در حالی که داده‌های Muse شما مستقیما با تبلیغ‌کنندگان به اشتراک گذاشته نمی‌شود، مرور نماینده از طرف شما همچنان می‌تواند بر آنچه کاربران از طریق الگوریتم‌های ردیابی وب می‌بینند تأثیر بگذارد.

وبلاگ ایمنی Muse پیشنهاد می‌کند که اگر نماینده برای شما یک شام رزرو کند یا محصولی را در Facebook Marketplace انتخاب کند، این اقدام می‌تواند به طور غیرمستقیم بر تبلیغاتی که در اینستاگرام می‌بینید تأثیر بگذارد. میر می‌گوید: «من این را به‌عنوان مسیری ادامه‌دار از مدل اصلی کسب‌وکارشان در کنترل آنچه مردم می‌بینند، قرار دادن تبلیغات در مقابل آنها و جمع‌آوری داده‌های بیشتر می‌بینم. مطمئنا منطقی است که در مورد تحویل کارت اعتباری خود به یک نماینده نگران باشید.

حتی اگر بتوانید اعتماد کنید که این ابزارهای هوش مصنوعی فریب نمی‌خورند و پول را به روش‌هایی که نمی‌خواهید خرج نمی‌کنند، برون‌سپاری تصمیمات خرید شما می‌تواند عواقب ناخواسته‌ای داشته باشد. حامیان مصرف‌کننده این اتوماسیون خرید را به‌عنوان بالقوه دری را برای شرکت‌ها باز می‌کند تا بر اساس قراردادهای حمایتی، برندهای خاص یا محصولات دیگر را در خروجی یک نماینده اولویت‌بندی کنند.

الکساندر وانگ، افسر ارشد هوش مصنوعی متا در مصاحبه ای با Axios اشاره کرد که بدون افشای جزئیات به دنبال فرصت های درآمد بیشتری در Muse است که تبلیغاتی نیستند. من شخصا از طومارهای آهسته خرید آنلاین لذت می برم، جایی که می توانم یک ساعت را در یک وب سایت بگذرانم و بدون هیچ چیز در سبد خریدم آنجا را ترک کنم. جستجوی Depop برای کت‌های چرمی که احتمالا حتی نمی‌خرم، ناکارآمدی عجیبی دارد. با کاوش در اینترنت به تنهایی، به آرامی حس چشایی خود را می سازم و درک درستی از آنچه واقعا از آن لذت می برم ایجاد می کنم.

اگر میوز همه کارها را برای من انجام دهد، در سفری که منجر به این تصمیم شد شکست خواهم خورد. شرودر می‌گوید: «در برخی مواقع، هوش مصنوعی تمام تصمیم‌های معنادار طعم، تصمیم‌های ترجیحی، تصمیم‌گیری درباره جایی که می‌روید، کجا غذا می‌خورید، چه می‌کنید، چه تعطیلاتی می‌روید، می‌گیرد. "این نوعی لذت انسان بودن است - اینکه چیزها را امتحان کنید و بفهمید چه چیزی دوست دارید.

بنابراین، مفهوم سپردن همه اینها به یک ماشین برای من بسیار وحشتناک است." ماشین های اشتراک گذاری در حالی که این ابزارها اطلاعات مربوط به ما را جمع آوری می کنند، تکیه بر عواملی مانند Meta’s Muse می تواند عملکرد ما را کاهش دهد. مارگارت میچل، محقق و دانشمند ارشد اخلاق در Hugging Face، می‌گوید: «طراحی عوامل هوش مصنوعی به گونه‌ای است که کاربران را درگیر می‌کند.

بنابراین، کاربران منفعل تر می شوند. میچل اخیرا یک مقاله تحقیقاتی نوشت که نشان می دهد چگونه ابزارهای عامل به طور مؤثر برای نظارت انسان طراحی نشده اند و ممکن است در واقع توانایی کاربر را برای ارزیابی کاری که نماینده از طرف آنها انجام می دهد بدتر کند. افرادی که از عوامل استفاده می کنند ممکن است بیش از حد به ابزارها وابسته شوند، حتی بیشتر از زمانی که با یک چت بات استاندارد تعامل دارند، زیرا نمایندگان به اطلاعات بیشتری دسترسی دارند و می توانند کارهای بیشتری را انجام دهند.

یکی از تأثیرات بالقوه «تخریب شناختی» است، که در آن کاربران به اتوماسیون‌های یک منبع خارجی با صدایی مطمئن و کمتر قادر به تصمیم‌گیری مستقل هستند. میچل همچنین سطوح بالای شخصی‌سازی را به‌عنوان به‌عنوان بالقوه آغازگر کاربران برای به اشتراک‌گذاری اطلاعات بیشتر درباره خود می‌داند. او می‌گوید: «نه تنها این نیست که درباره شما می‌داند، بنابراین بیشتر به آن اعتماد دارید.

"این است که در واقع با شما در مورد آنچه صحبت می کند و نحوه صحبت در مورد آن همسو می شود، به گونه ای که شما را بیشتر به تعامل با آن و افشای اطلاعات خصوصی بیشتر می کشاند." تحقیقات اخیر نشان می دهد که ابزارهای هوش مصنوعی ممکن است با جمع آوری داده های تعامل بیشتر، سبک صحبت کردن کاربر را منعکس کنند. در حالی که Muse قدرتمند است، تصمیم گرفتم این دیتا گابلین را به غارش برگردانم و پس از آزمایش های اولیه، برنامه را حذف کردم. قبل از اینکه بتوانم میوز را از تلفنم حذف کنم، مامور یک پینگ نهایی برای من فرستاد. یک نکته! تعجب می کنم که چه چیزی می تواند باشد.

در این اعلان آمده است: «برنامه‌های خود را وصل کنید تا بتوانم کارهای بیشتری انجام دهم». باشه رفیق اولین بار شنیدم