داستان های ترسناک عامل هوش مصنوعی شخصی در حال پخش شدن است

عوامل هوش مصنوعی شخصی می توانند مفید باشند، اما برخی از کاربران اولیه با مشکلاتی مواجه شده اند. دیوید تالوکدار/زوما پرس وایر/رویترز عوامل هوش مصنوعی شخصی بیشتر وظایف ما را بر عهده می گیرند - و برخی از کاربران می گویند که همه چیز اشتباه پیش می رود.

کاربران می‌گویند که نمایندگان داده‌ها را فاش کرده‌اند، به حساب‌ها دسترسی پیدا کرده‌اند و اطلاعات شخصی را به صورت آنلاین ساخته‌اند.

یکی از این افراد گفت: «اگر نتوانم به حسابش درباره کاری که انجام داده است اعتماد کنم، نمی‌توانم به آن چیزی که مهم است دسترسی داشته باشم. رویای دستیار هوش مصنوعی شخصی که زندگی دیجیتالی شما را اداره می کند، برای برخی به یک کابوس تبدیل شده است.

بسیاری از کاربران اولیه می گویند که عوامل هوش مصنوعی شخصی آنها، که می توانند به طور مستقل اقداماتی را در اینترنت انجام دهند، مانند رزرو سفر یا خرید اقلام، کمک بزرگی در زندگی روزمره آنها بوده است.

برخی دیگر می گویند که عوامل آنها در راه های نگران کننده اشتباه کرده اند.

به گفته چهار کاربر عامل هوش مصنوعی که با Business Insider و جریانی از پست‌های رسانه‌های اجتماعی صحبت کردند، آن‌ها لغو نادرست، جعل اطلاعات شخصی، ارائه توضیحات نادرست و نگرانی‌های امنیتی بزرگی انجام داده‌اند.

مهدی جامعی، یکی از بنیانگذاران و مدیرعامل Veris AI، گفت که از Instinct، یک نماینده محبوب فقط دعوت، درخواست کرده است تا دو درخواست پاسخگویی به پلتفرم رویداد Luma را لغو کند.

این نماینده یک کد ورود به سیستم یکبار مصرف Luma را از صندوق ورودی جیمیل متصل خود - بدون اینکه قبلا از او بپرسد - بازیابی کرد و از آن برای دسترسی به حساب و لغو پاسخ‌های درخواستی استفاده کرد.

در نگاه اول، مامور کاری را که خواسته بود انجام داد. اما چیزی که جامعی را ناآرام کرد، توضیح غریزه بود. در ابتدا، گفت که از یک جلسه ذخیره شده موجود برای دسترسی به Luma استفاده می کند. پس از اینکه جامعی آن را به چالش کشید، نماینده تایید کرد که کد ورود را از جیمیل خوانده است و "فرضی را به عنوان یک واقعیت" گزارش کرد.

جامعی به بیزینس اینسایدر گفت: «اگر نتوانم به حساب کاربری آن درباره کاری که انجام داده است اعتماد کنم، نمی‌توانم به آن چیزی که مهم است دسترسی داشته باشم.

Instinct به درخواست Business Insider برای اظهار نظر در مورد حوادث این داستان پاسخ نداد.

توهم داده

برخی از نگرانی ها از یک حقیقت ساده در مورد عوامل هوش مصنوعی ناشی می شوند: آنها فقط به اندازه سطح دسترسی شما مفید هستند. نمایندگان برای انجام وظایف خود به کلیدهای زندگی دیجیتالی کاربران، از ایمیل و حساب های بانکی گرفته تا کارت های اعتباری و رمز عبور نیاز دارند.

برخی دیگر به دلیل ناهماهنگی هستند: زمانی که هوش مصنوعی اقداماتی را برای تکمیل یک کار انجام می دهد که با آنچه کاربر انسانی آن می خواست مغایرت دارد.

در مورد پریتاک پاتل، معاون رشد و خدمات شرکت Merge، مشکل یک توهم بود.

پاتل گفت که او یک لینک متنی برای Instinct ارسال کرده است تا یک ادعای تسویه حساب 250 میلیون دلاری اپل در مورد ویژگی های شخصی سازی شده با تاخیر سیری ارائه دهد.

در عوض، پاتل گفت، غریزه از او خواسته تا عکسی را آپلود کند که نماینده به اشتباه گفت که او همین الان فرستاده است. وقتی او آن را زیر سوال برد، مامور شروع به توصیف یک سند مالی با جزئیات شخصی کرد که با او مطابقت نداشت، از جمله نام میانی که متعلق به او نبود.

پاتل گفت که مامور غریزه بعدا اذعان کرد که پیام اصلی او فاقد عکس است، ادعا کرد که تصویری در مکالمه او وارد شده است و پیشنهاد داد که این اشتباه ظاهری را به تیم خود گزارش دهد.

پاتل به بیزینس اینسایدر گفت: "من نمی توانم به طور مستقل تأیید کنم که آیا به سند شخص دیگری دسترسی پیدا کرده است یا به جزئیات و توضیحات آن توهم زده است." او گفت که تا روز چهارشنبه، Instinct با او در مورد این حادثه تماسی نداشته است.

پاتل افزود: «این ناراحت کننده بود، به خصوص به این دلیل که آنچه را که ظاهرا اتفاق افتاده بود، با اطمینان توضیح می داد.

نوآ شین، بنیانگذار Instinct، روز پنجشنبه در پست ایکس گفت که این حادثه یک توهم بود، نه یک درز اطلاعات.

او گفت که عامل یک اسم خاص ساخته بود و با استدلال خود این اشتباه را "بیشتر" تشدید کرده بود.

او گفت که Instinct از آن زمان سیستمی را اضافه کرده است که برای گرفتن توهمات قبل از پاسخ یا اقدام عامل طراحی شده است.

درخواست ورود از ایران

برای یکی دیگر از کاربران Instinct، سوال ساده‌تر بود: عامل از کجا می‌خواست وارد سیستم شود؟

ماهش ولانکی، بنیانگذار و مدیر عامل YieldClub، گفت که Instinct در انجام وظایف مختلف به او کمک می‌کرده است که از آن خواسته شود ببیند آیا می‌تواند قبض تلفن او را کاهش دهد یا خیر.

ولانکی گفت که عامل تلاش کرد به حساب اپراتور خود وارد شود و یک درخواست احراز هویت دو مرحله ای را راه اندازی کرد که برچسب آن را به عنوان از ایران دریافت کرد. او گفت که Instinct را حذف کرده و حساب های متصل آن را پس از این حادثه حذف کرده است.

Velanki به Business Insider گفت که توسط Instinct به او گفته شده است که مکان ممکن است منعکس کننده یک مشکل تگ IP خوش خیم باشد و گفت که نمی تواند ثابت کند که سیستم های Instinct به خطر افتاده است.

با این حال، او گفت که این اپیزود به اندازه‌ای نگران‌کننده بود که او را زیر سوال برد که در پشت صحنه وقتی کاربران اعتبار ورود به سیستم را تحویل می‌دهند چه اتفاقی می‌افتد.

او گفت: «به طور طبیعی این بسیار نگران کننده بود، زیرا اگر تلفن شما در این روزگار به خطر بیفتد، ممکن است کل زندگی شما منفجر شود.

یک نقص امنیتی Muse عوامل هوش مصنوعی شخصی Muse و Instinct نگرانی‌های امنیتی و حفظ حریم خصوصی را در میان برخی از کاربران اولیه ایجاد کرده‌اند. ساموئل بویوین/نور عکس از طریق گتی ایماژ با توجه به دسترسی نمایندگان به قلمرو دیجیتالی کاربر، امنیت در رونق عامل شخصی در اولویت قرار گرفته است.

پاتریک واردل، مدیر عامل شرکت امنیت سایبری DoubleYou.io، این هفته گفت که او یک نقص امنیتی در عامل جدید متا، Muse پیدا کرده است که می‌تواند برای هدایت پیام‌های دیکته شده کاربران در مک مورد سوء استفاده قرار گیرد.

واردل گفت که این آسیب‌پذیری می‌تواند به مهاجمان اجازه دهد تا صدای دیکته‌شده را رهگیری کنند، دستورات Muse را که به آن اعتماد دارد تغذیه کنند، و توکن مورد استفاده برای کنترل عامل و همه سرویس‌هایی را که به آنها دسترسی دارد، ضبط کنند.

واردل به Business Insider گفت: «Muse خود دسترسی و امتیازات بسیار بیشتری نسبت به بدافزارها دارد که می‌توانستند داشته باشند».

دیوید سینگلتون از آزمایشگاه‌های سوپراینتلیجنس متا در پست X روز سه‌شنبه گفت که این شرکت پس از گزارش واردل این نقص را برطرف کرده است. هیچ نشانه ای مبنی بر سوء استفاده از این آسیب پذیری وجود ندارد.

سینگلتون گفت که یک هکر ابتدا به بدافزار روی مک شخصی نیاز دارد - به این معنی که کاربر قبلا با مشکل مواجه خواهد شد - و این بدافزار می‌تواند سپس درخواست‌های صوتی Muse را تغییر مسیر دهد و کلید دیجیتالی را که برای عمل کردن برای کاربر استفاده می‌کند، بدزدد.

مقاله اصلی را در Business Insider بخوانید