اجازه ندهید عوامل شایان ستایش هوش مصنوعی شما را فریب دهند

فقط به این دلیل که آنها بی ضرر به نظر می رسند به این معنی نیست که شما باید نسبت به داده های خود غیرمسئول باشید.

شما آن را تصور نمی کنید، عوامل هوش مصنوعی به طرز نگران کننده ای زیبا می شوند. اول، میوز متا وجود داشت که طلسمش موجودی تخم مرغی شکل به نام جولی است. اکنون OpenAI از عوامل شخصی شبیه به ماپت خود به نام Dots رونمایی کرده است.

هر دو شرکت کاربران را تشویق می کنند تا با نماینده خود مانند یک حیوان خانگی دیجیتالی با نام ها و ظاهر متفاوت رفتار کنند. با توجه به لفاظی‌های فعلی در مورد ایمنی هوش مصنوعی و سوء ظن عمومی مردم به این صنعت، جای تعجب نیست که شرکت‌ها بخواهند نمایندگان خود را زیبا و غیرتهدیدکننده جلوه دهند. این یک چت بات بدون چهره نیست که ممکن است شما را به سمت روان پریشی هوش مصنوعی سوق دهد، یک همراه کوچک شایان ستایش است که شما را بازدهی بیشتری خواهد کرد. اما فقط به این دلیل که این ابزارها شبیه شخصیت های کارتونی هستند، به این معنی نیست که استفاده از آنها خطرات واقعی ندارد.

هر دو OpenAI و Meta ادعا می‌کنند که لایه‌های حفاظتی برای محافظت از داده‌های شما و جلوگیری از سرکشی عوامل شخصی آنها وجود دارد. اما حتی زمانی که آن‌ها طبق برنامه کار می‌کنند، این سیستم‌ها می‌توانند اقداماتی را انجام دهند که ممکن است شما قصد آن را نداشته باشید.

مت راب، یوتیوب‌بر فناوری را در نظر بگیرید، که از Muse خود خواست تا به او کمک کند تا برخی از اقلام را در بازار فیسبوک بفروشد. او گفت که نماینده‌اش آدرس خانه‌اش را بدون اجازه به شخصی برای معامله‌ای که هرگز با آن موافقت نکرده بود، داده است. پس از اینکه پست‌های او درباره این تعامل در فضای مجازی منتشر شد و دیوید سینگلتون، مدیر متا درگیر شد، راب توضیح داد که پس از همه این‌ها، نماینده‌اش اشتباه نکرده است. او در واقع به آن اجازه داده بود آدرس خود را به اشتراک بگذارد، او فقط متوجه نشد که این کار را کرده است.

او توضیح داد که هنگامی که او برای اولین بار از نماینده خود خواست تا لیست را مدیریت کند، الگویی ایجاد کرد که شامل آدرس پیکاپ بود. او به اشتباه فکر می‌کرد که نماینده قبل از به اشتراک گذاشتن این اطلاعات با او تماس می‌گیرد، اما از آنجایی که او به جای «یک بار اجازه دادن» را علامت زده بود «همیشه مجاز باشد»، نماینده پیش‌رفته بود و پیام را برای «همه کسانی که به من پیشنهاد دادند» فرستاده بود. این دقیقا همان اشتباهی است که هنگام استفاده از یک عامل به راحتی انجام می شود.

دیگرانی که خود را در زمینه فناوری می دانند نیز با مشکلاتی مواجه شده اند. جیسون آتن، ستون نویس شرکت گزارش داد که پس از نصب برنامه Muse Mac، نماینده قادر به خواندن تمام پیام های متنی او بود، حتی اگر فکر می کرد "به صراحت" دسترسی به آنها را رد کرده است. پس از مدتی حفاری، او متوجه شد که برنامه Muse Mac در واقع پیام‌های رایانه‌اش را همگام‌سازی کرده است. همان مدیر متا، Singleton، به پست های X Aten پاسخ داد و گفت که همگام سازی پیام یک انتخاب است. اگر پیام‌های آتن همگام‌سازی شده بود، او باید این کار را انجام دهد، پست او به طور ضمنی اشاره کرد.

آتن مطمئن است که هرگز به میوز اجازه نداده پیام‌های او را ببیند، اما خاطرنشان می‌کند که بدون در نظر گرفتن این وضعیت مشکل‌ساز است. او نوشت: «اگر فرض سینگلتون را بپذیریم که من ناآگاهانه روی چیزی کلیک کنم که این قابلیت را فعال می‌کند، هنوز فکر می‌کنم که واقعا بد است. "شما نباید سیستم خود را به گونه ای طراحی کنید که مردم در نهایت از این نوع چیزها شگفت زده شوند."

این بدبختی‌ها اتفاق نیفتادند زیرا میوز آواتار بامزه‌ای دارد، اما به نظر می‌رسد متا به شدت به زیبایی‌شناسی طلسم عاملش متمایل شده است. ظاهرا همه به‌روزرسانی‌های Muse - و در هفته گذشته تعداد زیادی از آنها وجود داشته است - با پست‌هایی در X با تصاویر و ویدیوهای برجسته از طلسم‌های Jolly با مضمون مناسب همراه است. سینگلتون حتی از یکی در یک پست طولانی در توضیح ماشین مجازی Muse استفاده کرد. و کارتونی بودن آن قبلا منجر به بازاریابی رایگان ناگفته برای متا شده است.

در یک هفته پس از کنفرانس Meta's Connect - جایی که ما با Muse الهام گرفته از امپراتوری روم مارک زاکربرگ آشنا شدیم - Jolly منبع میم‌ها در X بوده است.

pov: کدکس خاموش است pic.twitter.com/jHEe31W3yJ

— claire vo 🖤 (@clairevo) 25 سپتامبر 2026

به نظر می‌رسد که نقطه‌های OpenAI برای علوفه میم نیز آماده هستند. در راه اندازی خود، این شرکت یک ویدیوی تبلیغاتی را به اشتراک گذاشت که نشان می داد مردم به طور جدی با نقاطی از رنگ ها، شکل ها و لهجه های مختلف صحبت می کنند. یکی سبز با چشمان گوگ و یک پاپیون که به طرز مشکوکی شبیه کرمیت قورباغه است. یکی دیگر به نوعی شبیه ابری است که کلاه بر تن دارد. به نظر می رسد هیچ کدام از آنها بینی یا دهان ندارند.

اما تلاش برای جذاب بودن این ابزارها همچنین باعث حواس پرتی بسیار واقعی از این واقعیت است که سازندگان آنها از شما می خواهند که به آنها دسترسی به بخش های گسترده ای از زندگی دیجیتال خود را بدهید. صندوق های ایمیل، جزئیات کارت اعتباری، اسناد، پیام های متنی، داده های سلامت، برنامه های بهره وری؛ اگر می‌خواهید که بتواند همه چیزهایی را که OpenAI و Meta می‌گویند ممکن است انجام دهد، باید همه اینها و موارد دیگر را به عامل خود متصل کنید.

آیا تا به حال برای کسی یک کپی از شناسنامه یا سند مالیاتی، پرونده پزشکی یا هر چیز دیگری حاوی اطلاعات شخصی ایمیل کرده اید؟ اگر دارید و به یک عامل هوش مصنوعی به آن حساب دسترسی داشته باشید، در آن اسناد نیز قابل مشاهده خواهد بود.

به همین دلیل است که من در استفاده خودم از عوامل محتاط بوده ام. من چند هفته است که با Muse آزمایش می‌کنم، اما فقط به آن اجازه داده‌ام به دو حساب غیر متا دسترسی داشته باشد، که به نظر من هر دو بسیار کم ریسک هستند (OpenTable و Spotify). تا اینجای کار، بدترین تجربه من این بود که Muse علامتی را از دست داد وقتی از آن خواستم یک لیست پخش جدید شبیه به لیستی که اغلب به آن گوش می‌دهم ایجاد کند. در عین حال، من واقعا تحت تأثیر کارهایی قرار گرفته‌ام که Muse حتی با دسترسی محدود به حساب‌های خارجی قادر به انجام آن بوده است.

من چندین ردیاب قیمت راه‌اندازی کرده‌ام، یک کتاب دستور غذا بر اساس ویدیوهایی که از اینستاگرام ذخیره کرده‌ام ایجاد کرده‌ام و یک داشبورد سفارشی برای ردیابی کارهای منتشر شده‌ام ایجاد کرده‌ام.

من همچنین اولین کسی خواهم بود که اعتراف می کنم که من، یکی از طرفداران قدیمی ربات های شایان ستایش، کاملا از عامل "ناز" مصون نیستم. اسم موز خودم را «بو» گذاشتم و آواتار گربه ای به آن دادم. وقتی به آن تکلیف می‌کنم، گربه به طور چشمگیری یک جفت هدفون می‌گذارد و شروع به تایپ کردن روی یک لپ‌تاپ کوچک می‌کند. دروغ می گویم اگر بگویم این انیمیشن احمقانه ذره ای خوشحالی برای من به ارمغان نیاورد.

من همچنین می دانم که پشت آن نمای زیبا شرکتی است که بارها حریم خصوصی کاربران خود را به خطر انداخته است. و تاریخ اخیر ثابت کرده است که ماموران در یافتن راه‌های خلاقانه شگفت‌انگیزی برای ایجاد خرابی مهارت دارند. ما نباید اینقدر سریع به آنها قدرت انجام این کار را در زندگی شخصی خود بدهیم.