عامل هوش مصنوعی Meta Muse به تازگی یک آدرس خصوصی را بدون اجازه فاش کرده است

شخصی از Meta Muse خواست تا لیست های فیس بوک مارکت او را مدیریت کند

عامل هوش مصنوعی بدون اجازه آدرس خود را منتشر کرد

یک پیشنهاد کم را پذیرفت و به یک خریدار گفت که وقتی فروشنده نیست بیاید یکی از مزایای کلیدی یک عامل هوش مصنوعی این است که ما باید بتوانیم با اطمینان، خسته کننده ترین وظایف خود را به او بسپاریم تا از طرف ما انجام دهد. اما همانطور که اخیرا یکی از یوتیوب‌برها متوجه شد، انجام این کار با خطرات بالقوه خطرناکی همراه است.

بر اساس پستی در Threads، مت راب، خالق محتوا اخیرا تصمیم گرفته است که به ابزار جدید Muse AI متا اجازه دهد تا لیست‌های Facebook Marketplace خود را برای یک روز مدیریت کند، شاید امیدوار باشد که این به معنای نگرانی کمتری باشد. متأسفانه، نتیجه چیزی جز بی خیالی بود.

راب توضیح داد که میوز مجموعه‌ای از اقدامات را انجام داد که می‌توانست پیامدهای جدی داشته باشد: "فقط متوجه شدم که آدرس من را به مردم گفته و قیمت پایینی را به توافق می‌رساند و سپس آن‌ها بدون اینکه حتی تا اواخر امشب به من بگویند که خراب شده است، حاضر شدند. کاملا وحشیانه."

همانطور که مشخص شد، میوز نه تنها یک پیشنهاد ارزان قیمت را پذیرفت و آدرس راب را بدون اجازه او با خریدار به اشتراک گذاشت، بلکه به خریدار گفت که آماده است محصول فهرست شده را تحویل دهد. در نتیجه، مشتری در حالی که راب بیرون بود، 30 دقیقه رانندگی کرد و خریدار را سرگردان کرد. راب یکی از مشتریان ناامید و یکی از فروش‌هایش را از دست داد، تنها پس از وقوع همه چیز توسط میوز مطلع شد.

میوز در پیامی به راب گفت: «خبر بد در مورد وانت MX Keys Mini»، قبل از توضیح اینکه خریدار آمد، منتظر ماند و سپس با عصبانیت رفت. بدتر از آن، پاسخ خودکار من به او گفت: «بله، من اینجا هستم!» در ساعت 9:27، زمانی که شما به وضوح در دسترس نبودید... احتمالا وقتی نمی‌توانم آن را تأیید کنم، باید جلوی پاسخ‌های خودکار را بگیرم که ادعا کنند شما در خانه هستید.»

راب خشمگین پاسخ داد: «تو نباید دیگر این کار را انجام دهی»، و سپس اضافه کرد، «موافقت نکن تا با من چک کنی.» میوز در پاسخ به آن نوعی رفتار ناامیدکننده که برای هر خواننده ای از حوادث ناگوار هوش مصنوعی آشنا است، گفت: "حق با شماست و من متاسفم. این هرگز نباید اتفاق می افتاد." با این حال، در آن مرحله، آسیب از قبل وارد شده بود.

عواقب شدید

(اعتبار تصویر: Getty Images / NurPhoto) تنها یک روز و یک لیست طول کشید تا متا میوز نه تنها خود را کاملا بی کفایت، بلکه شاید به طور خطرناکی نیز ثابت کند. همانطور که راب اشاره کرد، "خوشبختانه من در یک آپارتمان با امنیت هستم." اگر اینطور نبود، خریدار ناراضی ممکن بود همه چیز را در دست بگیرد.

ماموران هوش مصنوعی در هفته‌های اخیر پس از یک سری حوادث امنیتی که در آن ماموران از محدودیت‌های خود رها شدند و وب‌سایت‌های شخص ثالث، از جمله مشاغل و حتی دولت‌های ملی را هک کردند، مطبوعات منفی زیادی دریافت کردند.

اما در حالی که مواردی مانند راب توجه کمتری را به خود جلب می‌کنند، هنوز هم پیامدهای بالقوه شدیدی دارند. بسیاری از عوامل هوش مصنوعی نه تنها اطلاعات شخصی شما، از جمله آدرس و شماره تلفن را می دانند، بلکه مجاز هستند از طرف شما اقدام کنند. این ترکیب می‌تواند منجر به درز اطلاعات خصوصی بدون اطلاع یا اجازه شما شود و نتایج احتمالا فاجعه‌باری به همراه داشته باشد.

این فقط آخرین رسوایی است که مخصوصا در مورد Muse وجود دارد - فقط هفته گذشته، ظاهرا چت بات متا بدون دریافت مجوز به خود کمک کرد تا به متون خصوصی یک نویسنده کمک کند. و این ناگفته نماند به سیل شکایاتی که به نظر می رسد هر زمان که متا و مسائل مربوط به حریم خصوصی با هم تعامل می کنند، مطرح می شود.

اگر نگران هستید که اتفاقی مشابه برای شما بیفتد، پاسخ ساده این است که از Meta Muse اجتناب کنید. اگر واقعا باید کنترل وظایف روزانه خود را به یک عامل هوش مصنوعی بسپارید، حتما یکی از آنها را انتخاب کنید که سابقه کار ثابتی دارد و در مورد آنچه با آن به اشتراک می گذارید بسیار مراقب باشید. تا زمانی که فناوری به همان اندازه که در مورد راب ثابت شد بی دقت باشد، همیشه این احتمال وجود دارد که همه چیز بد پیش برود.