Muse نمایه های مفصلی از همه دوستان و خانواده شما ایجاد می کند

به Kernel Panic خوش آمدید، یک خبرنامه هفتگی توسط لیلی هی نیومن و مت برگس از دنیای جدید حریم خصوصی و امنیت دیجیتال. برای دریافت این خبرنامه هر هفته در صندوق پستی خود، اینجا ثبت نام کنید. در روزهای اخیر، چندین محقق فایل‌های داخلی Muse را استخراج کرده‌اند و دستورالعمل‌های عملیاتی عامل را دور ریخته‌اند و نگاهی اجمالی از نحوه ساخت و رفتار سیستم ارائه می‌دهند.

متا مدعی است که قصد دارد به منظور شفافیت به این فایل‌ها دسترسی داشته باشد، و آنها بینشی را در مورد نحوه پاسخ Muse به درخواست‌ها و سؤالات، برای مثال، موضوعات بسیار سیاسی یا حساس ارائه می‌دهند. محقق مستقل ایمنی و امنیت هوش مصنوعی کاران جوشی توانست مجموعه گسترده ای از دستورالعمل ها و اعلان های سیستم Muse را با استفاده از رابط چت معمولی استخراج کند تا اساسا از Muse بخواهد فایل های نرم افزاری خود را کپی و به اشتراک بگذارد.

جوشی سپس یافته های خود را با WIRED به اشتراک گذاشت. به نظر می‌رسد یکی از دستورالعمل‌های Muse این است که می‌تواند «صفحه‌ای برای هر فرد در زندگی کاربر» ایجاد کند. دستورالعمل ها می گویند، این فرآیند ساعتی شامل جمع آوری داده ها در مورد خانواده، شرکا، دوستان، همکاران، «همکاران» و افرادی است که «از آنها پیروی می کنید». ایده کلی این است که Muse می تواند از "حافظه" خود (با نام مستعار فایل های متنی ساختاریافته) برای جمع آوری اطلاعات در مورد روابط شما و افراد مهم زندگی شما استفاده کند.

سپس می‌تواند پیشنهاداتی مانند ارائه نکاتی در مورد چگونگی بهبود روابط خاص یا مثلا محل بردن یک دوست قهوه‌دوست برای صبحانه ارائه دهد. البته، ردیابی اطلاعات اجتماعی به طور کلی برای چت ربات‌های هوش مصنوعی غیرمعمول نیست – مردم سال‌هاست که از ChatGPT برای مشاوره روابط می‌پرسند.

اما جالب است که ببینید Muse چگونه با توجه به تاریخچه متا و دسترسی گسترده به داده های شبکه اجتماعی راه اندازی شده است. جوشی می‌گوید: «آنچه به نظر من می‌رسید - از تمام این درخواست‌ها، داده‌های مهارت‌های سیستم و چیزهایی که آنها به Muse می‌خورند - این است که آنها می‌خواهند روابط شما را که با افراد واقعی دارید درک کنند. "آنها سعی می کنند شما را مانند یک دوست بشناسند، که انصافا بسیار وحشتناک است." مستندات Muse می‌گوید که یک صفحه ممکن است به صورت «پراکنده» شروع شود و سپس در طول زمان پر شود، که به طور بالقوه شامل بخش‌هایی مانند حقایق، تاریخچه، رابطه، مشترک، موضوعات باز و تقویت است.

دستورالعمل‌های متا می‌گوید که Muse فقط باید از "شواهد" موجود استفاده کند و جزئیات اختراع شده بدتر از یک صفحه خالی است. دستورالعمل ها می گویند: "محل زندگی آنها، کاری که انجام می دهند، رشته هایی که تکرار می شوند (انتقال آپارتمان، هدف پس انداز مشترک)". آنها همچنین اضافه می‌کنند که این مدل می‌تواند «تاریخ‌های مهم» مانند تولد یا سالگرد را ثبت کند.

تاریخچه یک فرد می‌تواند شامل داستان‌هایی مانند "سفر در ماه مارس، بحثی که حل شد، نقطه عطف هفته گذشته" باشد. دستورالعمل‌ها همچنین بر روی ثبت جزئیات رابطه تمرکز می‌کنند، مانند «چقدر نزدیک هستند، بر چه چیزی ساخته شده است، چگونه با یکدیگر رفتار می‌کنند، و به نظر می‌رسد در حال حاضر به چه چیزی نیاز دارند». بخش تقویت راه‌هایی را پیشنهاد می‌کند که می‌توان یک رابطه را بهبود بخشید، از جمله: «دلیلی برای تماس، تاریخی که ارزش به خاطر سپردن داشته باشد، چیزی که آنها گفته‌اند دوباره دور آن حلقه بزنید، راهی برای حضور در کنار آنها که مهم است». ما به سیستم‌های هوش مصنوعی اطلاعات بیشتری در مورد خود می‌دهیم تا اطلاعاتی که دریافت می‌کنیم

کاریسا ویلیز، دانشیار موسسه اخلاق آکسفورد در هوش مصنوعی، می‌گوید: «این نه تنها چیزی است که ما صریحا به آنها می‌گوییم، بلکه آن‌چه می‌توانند از ما استنباط کنند - به دلایل مختلف - به درستی یا نادرست، هر دو مربوط به دلایل مختلف - و آنچه می‌توانند از منابع داده‌های دیگر جمع کنند.» Muse به گونه‌ای طراحی شده است که هر کاربر جداگانه ماشین مجازی اختصاصی خود را دارد که داده‌ها و زمینه کاربر را ذخیره می‌کند. این VM برای سایر عوامل غیرقابل دسترسی است و کاربران می توانند حافظه ها را پاک کنند یا خدمات خارجی را در هر زمان قطع کنند.

متا می‌گوید که Muse همچنین به‌گونه‌ای طراحی شده است که قبل از انجام اقداماتی مانند ارسال ایمیل یا خرید، به دنبال تایید انسانی باشد و دارای یک گزارش حسابرسی است که در آن کاربران می‌توانند تمام فعالیت‌ها و برنامه‌های آینده نماینده را ببینند. دنیل رابرتز، سخنگوی متا در بیانیه ای به WIRED گفت: «برای اینکه هر عاملی مفید باشد و واقعا به شما در دستیابی به اهدافتان کمک کند، باید زمینه ای در مورد شما و کسانی که با آنها تعامل دارید داشته باشد.

«Muse آن را بر اساس اطلاعات عمومی و از آنچه شما برای اشتراک‌گذاری انتخاب کرده‌اید جمع‌آوری می‌کند، به این ترتیب که به یاد می‌آورد شخصی که برای شما فاکتور ارسال کرده است در واقع همان لوله‌کشی است که قبلا برای تکمیل کار در حمام خود استخدام کرده‌اید یا کدام گل‌هایی را که همسرتان گفته است بیشتر دوست دارد.» برای دستیاران هوش مصنوعی رایج شده است که نوعی ویژگی حافظه را در نظر بگیرند که برای شخصی سازی بیشتر در پاسخ ها و فعالیت ها طراحی شده است.

میراندا بوگن، مدیر آزمایشگاه مدیریت هوش مصنوعی مرکز دموکراسی و فناوری، می‌گوید که به نظر می‌رسد Muse بیشتر بر روابط و تماس‌های شخصی تاکید دارد تا سیستم‌های رقبا. به طور کلی، این ابزارها تمایل به ارائه برخی قابلیت‌های شفافیت و ویرایش دارند و Muse نیز این کار را انجام می‌دهد. با این حال، Bogen خاطرنشان می‌کند که عوامل و دستیاران مردم را تشویق می‌کنند تا به‌طور فعالانه داده‌های بیشتری را با آنها به اشتراک بگذارند، نه تمرکز بر حذف داده‌ها. این ابزارها [دستیار هوش مصنوعی] فعالانه از کاربران دعوت می کنند تا تمام زندگی خود را به آن متصل کنند - ایمیل، تقویم، موسسات مالی، همه چیز

بوگن می‌گوید: «این اطلاعات به‌طور چشمگیری بیشتر از آن چیزی است که مردم ممکن است به برخی از این شرکت‌ها داده باشند. گستردگی دسترسی به اطلاعاتی که این ابزارها دارند منجر به افزایش اطلاعات آنها در مورد کاربران می شود.

چیزی را دیدید که باید هفته آینده اضافه کنیم؟ به ما در kernelpanic@wired.com اطلاع دهید. و در آنجا امن بمانید