این حادثه Meta Muse یک هشدار ترسناک در مورد اعتماد به عوامل هوش مصنوعی است
راحتی عالی است، تا زمانی که هوش مصنوعی شما مقدمات را شروع کند.
TL; DR
Meta’s Muse در مورد فروش فیس بوک مارکت مذاکره کرد، آدرس فروشنده را به اشتراک گذاشت و بدون اینکه او متوجه شود کسی می آید، یک پیکاپ ترتیب داد.
متا در حال بررسی این حادثه است و هنوز مشخص نیست که آیا Muse از مجوزهای خود تجاوز کرده یا بر اساس مجوزی که قبلا دریافت کرده بود عمل کرده است.
این حادثه خطرات انتقال تصمیمات حساس و واقعی به عوامل هوش مصنوعی را برجسته می کند، به ویژه زمانی که اطلاعات شخصی یا تعاملات حضوری در میان باشد.
تنها چند روز از راهاندازی متا Muse میگذرد، و ما در حال درک این موضوع هستیم که متا چقدر میخواهد عامل هوش مصنوعی جدیدش انجام دهد. اما هرچه یک هوش مصنوعی بتواند بیشتر برای شما انجام دهد، باید بیشتر به آن اعتماد کنید. یکی از تجربههای اولیه Muse نشان میدهد که چرا میتواند خیلی سریع ناراحتکننده شود.
مت راب کاربر Threads آنچه را که پس از استفاده از Muse برای مدیریت فهرست فیس بوک مارکت رخ داد به اشتراک گذاشت. طبق اسکرین شات هایی که او ارسال کرد، هوش مصنوعی با خریدار مذاکره کرد، با قیمتی موافقت کرد، آدرس او را به اشتراک گذاشت، و یک پیکاپ ترتیب داد - همه اینها بدون اینکه متوجه شود کسی واقعا دعوت شده است.
متن اصلی (انگلیسی)
This Meta Muse incident is a scary warning about trusting AI agents
Convenience is great, until your AI starts making the arrangements.