من عامل هوش مصنوعی Meta's Muse را به مدت 3 روز امتحان کردم - سپس پیام عجیبی برای من ارسال کرد که باعث شد بخواهم برنامه را به طور کامل حذف کنم.

Ugo Nwune پس از دریافت پیامی عجیب از سوی عامل، استفاده از عامل هوش مصنوعی Meta's Muse را متوقف کرد. با حسن نیت از Ugo Nwune Ugo Nwune، یک توسعه دهنده مستقر در هیوستون، پس از یک پیام عجیب، استفاده از Meta's Muse را متوقف کرد.

Nwune گفت که به نظر می رسد عامل هوش مصنوعی می خواهد بدون اینکه از او خواسته شود به ایمیل او دسترسی پیدا کند.

او گفت که اعتمادش به عوامل هوش مصنوعی مانند Muse پس از این حادثه متزلزل شد. این مقاله گفته شده بر اساس گفتگو با Ugo Nwune، یک توسعه دهنده نرم افزار 37 ساله مستقر در هیوستون است. کلمات او برای طولانی و وضوح ویرایش شده است.

من حدود چهار هفته پیش Meta's Muse را دانلود کردم. سه روز بعد استفاده نکردم.

قبل از استفاده از Muse، در نظر داشتم عوامل هوش مصنوعی دیگری مانند OpenClaw و Hermes را امتحان کنم، اما احساس نمی‌کردم که دانش امنیت سایبری کافی برای استفاده از عوامل منبع باز را داشته باشم.

وقتی Muse بیرون آمد، دیدم این یک برنامه ساده در اپ استور است. من همچنین احساس خوبی در مورد امنیت داشتم زیرا از یک شرکت تریلیون دلاری مانند متا می آمد.

تصمیم گرفتم به آن ضربه بزنم. من یکبار استفاده کردم سپس چند روز بعد، نماینده یک پیام غیرمنتظره برای من فرستاد. همه چیز واقعا من را تکان داد.

من برای استفاده از Muse هیجان زده بودم

من یک توسعه دهنده نرم افزار هستم و اغلب از هوش مصنوعی استفاده می کنم. مدل هوش مصنوعی مورد علاقه من Claude Opus 5.5 است و من در حال حاضر در حال ساخت یک پلتفرم میراث دیجیتالی هوش مصنوعی به نام EchoVault هستم تا به مردم کمک کنم حتی پس از رفتن عزیزانشان با آنها ارتباط برقرار کنند.

این ایده که نماینده Meta's Muse به من کمک کند تا بدوم و دستورم را انجام دهم بسیار جذاب بود.

وقتی برای اولین بار Muse را دانلود کردم، به جز اجازه دسترسی به حساب های فیس بوک، Threads و Instagram خود، هیچ مجوز اضافی روی دستگاهم ندادم. من هرگز آن را برای کنترل هر چیز خارجی مانند ایمیل یا شماره تلفن خود وصل نکردم. من همچنین فقط برنامه را روی تلفنم دانلود کردم زیرا چیزی در مورد مشکلات احتمالی در Mac شنیدم.

اولین کاری که از آن استفاده کردم کمک کردن به من بود تا با یک سرمایه گذار بالقوه ارتباط برقرار کنم. من فقط به آن زمینه می دادم و بعد خودم پیام ها را می فرستادم.

بعدش تا دو روز دیگه از Muse استفاده نکردم.

مامور موز من شروع به بازی عجیب کرد

سه روز پس از دانلود Muse، از حمام بیرون آمدم و دیدم که یک پیام تصادفی از برنامه ظاهر شد.

این پیام از طرف نماینده Muse من بود که می‌گفت: "در حال حاضر نمی‌توانم ایمیل شما را بررسی کنم - جیمیل در انتهای من وصل نیست، بنابراین من راهی برای جستجوی آن پیام Anthropic ندارم." من خیلی گیج شده بودم زیرا دو روز بود که از نماینده نخواسته بودم صندوق پستی من را چک کند یا به آن پیام نداده بودم. فکر کردم ممکنه ایمیلم هک شده باشه

من با نماینده رفتم و برگشتم، سعی کردم بفهمم چرا فکر می‌کند درخواستی برای انجام این کار ارسال کرده‌ام، و در نهایت نماینده Muse گفت: "من نمی‌توانم از طرف خودم بگویم که کسی با تلفن شما بوده یا نقص پلت فرم، و خلاف آن را تظاهر نمی‌کنم. اگر می‌خواهید، می‌توانم آن را به عنوان یک مشکل احتمالی یکپارچگی پیام به تیم Muse گزارش کنم تا آنها بتوانند بررسی کنند."

من ماجرا را به متا گزارش دادم. من همچنین اسکرین شات هایی از مکالمه خود با نماینده را در Threads منتشر کردم و یکی از کارمندان متا به پست من پاسخ داد و گفت که به نظر می رسد یک توهم باشد. تا جایی که من می دانم، تحقیقات هنوز باز است.

از آن زمان دیگر از نماینده Muse خود استفاده نکردم

هیچ آسیبی وارد نشد، اما چیزی که بیش از همه مرا غافلگیر کرد این بود که کاری انجام نداده بودم. من برنامه را به مدت دو روز باز نکردم و این کار را به تنهایی انجام داد.

من می دانم که این عوامل می توانند وظایف برنامه ریزی شده داخلی داشته باشند که قرار است فعال شوند و کارهای مفیدی انجام دهند، بنابراین شاید سعی در انجام آن داشته باشد.

من برنامه را حذف نکرده‌ام زیرا می‌خواهم پرونده مکالمه را تا زمانی که حادثه دیگر تحت بررسی قرار نگیرد، حفظ کنم. اما من مجوزهای حساب‌های فیس‌بوک، اینستاگرام و Threads خود را قطع کردم، به طوری که Muse دسترسی به نوشتن یا حذف چیزی در آنها ندارد. من دیگر از آن استفاده نمی کنم و پس از تکمیل بررسی، برنامه را حذف خواهم کرد.

اگر متا بتواند به طور قاطع توضیح دهد که چه اتفاقی برای من افتاده است، می‌خواهم دوباره Muse را برای کارهایی با ریسک پایین‌تر مانند تحقیق یا ردیابی اخبار دانلود کنم.

(یادداشت سردبیر: هنگامی که در مورد این داستان تماس گرفتیم، سخنگوی متا به پاسخ Business Insider در پست Nwune's Threads اشاره کرد که در بخشی از آن نوشته شده بود: "ما با فوریت بررسی کردیم و متوجه شدیم که این به دلیل یک اشکال معرفی شده در محصول است که باعث ایجاد توهم در مدل شده و یک مشکل امنیتی یا حریم خصوصی نبوده است) اکنون برطرف شده است.

این اتفاق باعث شد من در مورد هوش مصنوعی متفاوت فکر کنم

من اغلب از Claude Code و Codex استفاده می‌کنم، اما آنها را فقط به حساب GitHub خود متصل می‌کنم، نه صندوق ورودی ایمیلم یا هر چیز حساس مشابهی. من نمی خواهم از این شانس با صندوق پستی خود استفاده کنم.

من فکر می‌کنم عوامل باید تحت نظر باشند، نه اینکه صرفا چیزی را که بسیار مهم است رها کنند. بهتر است به آن زمینه محدودی بدهم، شاید از طریق یک پایگاه داده کوچک یا چیزی که فقط حاوی اطلاعات مورد نیاز است.

این اتفاق با Muse بر میزان اعتماد من به عوامل تأثیر گذاشت. پیش از این، تصور می‌کردم که اگر یک نماینده از یک شرکت تریلیون دلاری آمده باشد، می‌توانم بیشتر به آن اعتماد کنم تا جعبه‌شنی ماسه‌بازی، آزمایش و تراز درست شود.

اکنون، می‌دانم که باید یک چشم خود را باز نگه دارم و کورکورانه به شرکت‌ها برای انجام همه این کارها اعتماد نکنم، زیرا کل چشم‌انداز نمایندگی جدید است، بنابراین همه همچنان به نوعی در حال رشد هستند که آن را کشف کنند.

آیا داستانی برای به اشتراک گذاشتن در مورد نحوه استفاده از Meta Muse دارید؟ اگر چنین است، لطفا با خبرنگار در aapplegate@businessinsider.com تماس بگیرید.

مقاله اصلی را در Business Insider بخوانید