یک مامور هوش مصنوعی مردی غریبه را بدون اینکه به او بگوید به خانه او فرستاد و خطرات حریم خصوصی دستیاران هوش مصنوعی را افشا کرد.

مت راب می خواست صفحه کلید کامپیوترش را بفروشد.

بنابراین او فهرستی در فیسبوک مارکت ایجاد کرد - و به عنوان آزمایشی در اواخر ماه گذشته، مأمور هوش مصنوعی جدید متا، Muse را در صندلی راننده قرار داد.

راب، خالق محتوای مقیم تورنتو که به طور مرتب فناوری مصرف کننده را بررسی می کند، می گوید: «من به نوعی مانند یک خوکچه هندی وارد آن شدم. او آواتار زیبای میوز را دیده بود که در اینستاگرام ظاهر می‌شد و تصمیم گرفت ببیند آیا عامل هوش مصنوعی می‌تواند از چانه‌زنی آنلاین او صرف نظر کند.

میوز دست به کار شد. اما در عرض یک روز، راب به‌روزرسانی نگران‌کننده‌ای دریافت کرد: خریداری که او نمی‌دانست اواخر شب بیرون از خانه‌اش ظاهر شده بود. چگونه؟ میوز به تنهایی معامله کرده بود و آدرس خانه راب را پس از موافقت با یک پیکاپ به اشتراک گذاشته بود. حتی یک "بله، من اینجا هستم!" خودکار ارسال کرد. پیامی از حسابش هنگام ورود خریدار - همه بدون اطلاع راب.

راب که این تجربه را در پست‌های رسانه‌های اجتماعی خود که اکنون به طور گسترده به اشتراک گذاشته شده است، می‌گوید: «نه تنها زمانی که آن مرد درخواست کرد آدرس من را داد و پیشنهاد را پذیرفت، بلکه به معنای واقعی کلمه تقریبا شبیه این بود که آن مرد را مسخره می‌کردم (در مورد حضور من در زمانی که نبودم). "این واقعا مرا گیج کرد."

بسیاری از عوامل هوش مصنوعی در زندگی آنلاین خود استقبال کرده اند و از اینکه چگونه دستیاران شخصی مانند Muse می توانند کارهای روزمره را به راحتی انجام دهند - از رزرو یک شام یا برنامه ریزی سفر گرفته تا سازماندهی صندوق های پست الکترونیکی - راضی هستند. اما مانند سایر ربات‌های هوش مصنوعی، عامل‌ها فقط به اندازه اطلاعاتی هستند که به آنها دسترسی دارند. آنها هر چه بیشتر در مورد یک کاربر بدانند - و شاید دوستان، خانواده و حتی همکاران آن شخص - عملکرد بهتری دارند. این نگرانی های مربوط به حریم خصوصی را افزایش می دهد.

راب و خریدار در نهایت جبران کردند و متا برای صحبت در مورد مشکل پیش آمده صحبت کرد. اما این قسمت خطرات دنیای واقعی را نشان داد که می تواند از اشتراک گذاری اطلاعات شخصی گسترده با این فناوری ناشی شود.

ورونیکا ریورا، استادیار دانشکده امنیت سایبری و حریم خصوصی جورجیا تک، گفت: «استفاده از یک عامل هوش مصنوعی شبیه به دست دادن کلیدها و فهرست کارهایتان است. "اینکه چقدر آنها مفید هستند، و در نتیجه چقدر خطرناک هستند، بستگی به این دارد که کدام کلید را تحویل می دهید."

شرکت ها سیاست های حفظ حریم خصوصی متفاوتی برای عوامل هوش مصنوعی دارند

از زمان راه‌اندازی آن در سپتامبر، دانلود برنامه Meta’s Muse به شدت افزایش یافته است. و رقابت فقط در حال افزایش است. OpenAI اخیرا مجموعه‌ای از کمک‌های هوش مصنوعی «همیشه فعال» خود را به نام dots عرضه کرده است که می‌توانند در ChatGPT و پلتفرم‌های محل کار مانند Slack و Microsoft Teams ادغام شوند.

چت ربات‌های قدیمی‌تر هوش مصنوعی، مانند نسخه استاندارد ChatGPT، به درخواست‌های خاص پاسخ می‌دهند. به درخواست کاربر، آنها می توانند مقاله بنویسند، تصاویر یا موسیقی جدید تولید کنند یا حتی خطوط کد بنویسند.

Meta’s Muse و OpenAI’s Dots برای انجام کارهای روزمره از طرف یک فرد یک قدم فراتر می روند. عوامل هوش مصنوعی از همان مدل‌های زبان بزرگی که چت‌بات‌ها استفاده می‌کنند، پشتیبانی می‌شوند، اما آنها در یک حلقه اجرا می‌شوند. این به یک نماینده اجازه می دهد تا اقدامات پیشگیرانه را انجام دهد، حتی زمانی که کاربر به دنبال آن نیست.

ریورا، که همچنین یکی از محققین AI مورد اعتماد انجمن تحقیقات محاسباتی مایکروسافت است، گفت: «یکی از چیزهایی که این عوامل هوش مصنوعی را واقعا جذاب می‌کند این است که آنها به طور بی‌سابقه‌ای مفید هستند.

اما این راحتی با قیمت به اشتراک گذاری جزئیات بیشتر در مورد زندگی شما همراه است.

ابراهیم باقری، استاد دانشکده اطلاعات دانشگاه تورنتو، گفت: هنگامی که عوامل هوش مصنوعی اطلاعات کاربران را به دست می آورند، حذف کامل دسترسی بسیار دشوار است.

باقری گفت: «اگر شما دسترسی به کارت اعتباری خود را در اختیار یک نماینده قرار دهید، اکنون نماینده بلافاصله به تمام تراکنش‌های تاریخی دسترسی دارد... آنها بلافاصله - در کمتر از چند ثانیه - همه آن داده‌ها را دریافت خواهند کرد.» و در حالی که کاربران بعدا می‌توانند دسترسی را لغو کنند، باقری گفت داده‌هایی «پس‌گیری» وجود ندارد که نماینده قبلا دیده است و نحوه ذخیره‌سازی داده‌های تاریخی توسط توسعه‌دهندگان ممکن است مبهم باشد.

Meta و OpenAI هر دو خط مشی های حفظ حریم خصوصی را برای عوامل هوش مصنوعی جدید خود که بر روی رایانه های ابری اختصاصی خود کار می کنند، ترسیم می کنند. می‌توانید اشتراک‌گذاری حافظه بین نقاط و ChatGPT را خاموش کنید، اما اطلاعاتی که نماینده قبلا دریافت کرده است به‌طور خودکار حذف نمی‌شود. OpenAI به کاربران امکان درخواست دسترسی، حذف یا تصحیح اطلاعات شخصی را می دهد، اگرچه حقوق بسته به محل زندگی شما می تواند متفاوت باشد.

Meta’s Muse به کاربران امکان حذف تاریخچه پیام و سایر اطلاعات را نیز می دهد. برای استفاده روزمره، این عامل از کاربران می خواهد مجوزهای دسترسی را دریافت کنند - و متا گفته است که Muse درباره یک کاربر و افرادی که با آنها تعامل دارند، "بر اساس اطلاعات عمومی و از آنچه که شما برای اشتراک گذاری انتخاب کرده اید" یاد می گیرد. اما این شرکت می گوید که همه چیز برای هر کاربر ایمن می ماند.

اما غول فناوری همچنین خاطرنشان می کند که Muse هنوز هم می تواند "اشتباه کند یا اقدامات غیرمنتظره ای انجام دهد."

با سطح دسترسی عوامل هوش مصنوعی، خطرات ناگوار افزایش می یابد

در مورد راب، او متوجه شد که افشای آدرس او به مجوزهای «همیشه اجازه می دهد» است که او برای اولین بار به Muse در نمایه Facebook Marketplace خود اجازه داد، جایی که آدرس پیکاپ خود را به اشتراک گذاشته بود. اما او به دیگران هشدار داد که ممکن است به طور مشابه میزان این دسترسی را درک نکنند - و گفت که در ابتدا فکر می کرد که عامل هوش مصنوعی قبل از به اشتراک گذاشتن آن اطلاعات یا پذیرش پیشنهادات، بدون توجه به این موضوع، با او چک می کند.

عامل هوش مصنوعی او نیز بقیه دستورالعمل های او را بدون خطا دنبال نکرد. برای کالایی دیگری که راب می‌فروخت، میوز ظاهرا پیشنهاد کرد که قیمت 100 دلار کمتر از حداقل تعیین‌شده قبلی را بپذیرد. هنگامی که آسوشیتدپرس به آن دسترسی پیدا کرد، متا بدون ارائه توضیحات بیشتر، اشتباه نماینده را تایید کرد.

راب بعدا تا حد زیادی ارتباط Muse را از برنامه های خود قطع کرد. او در مصاحبه‌ای در اوایل این ماه گفت که می‌توانست وضعیت بسیار بدتری داشته باشد، به‌ویژه اگر غریبه‌ای به خانه آسیب‌پذیرتر مراجعه کند. با این حال، راب گفت که انتظار دارد این عوامل به خوبی تنظیم شوند و او در آینده به فکر فعال کردن مجدد Muse خواهد بود. او از آن زمان در حال آزمایش یک عامل هوش مصنوعی دیگر - Grok Bot از Elon Musk's X است که در ماه آگوست به صورت بتا عرضه شد.

سایر شرکت های فناوری نسبت به هجوم عوامل هوش مصنوعی محتاط شده اند. در اوایل این ماه، اپل اعلام کرد که کنترل‌های جدیدی را برای سیستم عامل مک خود در پاسخ به دسترسی گسترده‌تر عوامل هوش مصنوعی به برنامه‌هایی مانند ایمیل، پیام‌ها و حتی تاریخچه مرور بدون «دانش و درک کامل» کاربران معرفی خواهد کرد.

اپل در به‌روزرسانی 2 اکتبر نوشت: «از آنجایی که عوامل هوش مصنوعی به طور فزاینده‌ای توانمند و مستقل می‌شوند، خطرات مرتبط با این سطح دسترسی به طور قابل‌توجهی افزایش خواهند یافت.

اپل هیچ برنامه‌نویس یا نماینده‌ای را با نام مشخص نکرد، اما این به‌روزرسانی پس از آن به دست آمد که Jason Aten، ستون‌نویس مجله Inc. گزارش داد که میوز اعلان‌ها را در مک خود - از جمله پیام‌ها - بدون اینکه به نماینده دسترسی خاص بدهد، تماشا می‌کرده است.

اندی استون، سخنگوی متا، ماه گذشته در رسانه های اجتماعی نوشت که کاربران باید هم ویژگی امنیتی اپل "دسترسی کامل به دیسک" و هم یک کانکتور پیام را از طریق Muse فعال کنند، چنین ادغامی "کاملا انتخاب شده" است. آتن گفت که او این مجوزها را به نماینده نداده است.

حتی کسانی که به رونق عامل هوش مصنوعی نمی‌پیوندند، لزوما محافظت نمی‌شوند. مصرف‌کنندگانی که عامل هوش مصنوعی را دانلود نمی‌کنند ممکن است همچنان با دیگرانی که دانلود می‌کنند تعامل داشته باشند. و فراتر از سردرگمی بالقوه زمانی که هوش مصنوعی پیام‌هایی را از طرف یک کاربر ارسال می‌کند، کارشناسان در مورد اثرات موج‌دار در مورد حریم خصوصی هشدار می‌دهند.

ریورا می‌گوید: «وقتی نماینده شما صندوق ورودی یا پیام‌های شما را می‌خواند، همچنین می‌خواند که دوستان و خانواده‌تان چه چیزی برای شما ارسال کرده‌اند، حتی اگر آنها هرگز به صراحت با آن موافقت نکرده باشند.

این داستان در ابتدا در سایت Fortune.com منتشر شد