عامل هوش مصنوعی شخصی من جزئیات بانکی من را در شرکت Slack ارسال کرد. این باعث شد در نحوه استفاده از آن تجدید نظر کنم.

شین مک با عوامل هوش مصنوعی شخصی خود به مشکلی غیرمنتظره برخورد کرد. شین مک شین مک، موسس و مدیر عامل آزمایشگاه XMTP، در دسامبر شروع به بازی با عوامل شخصی هوش مصنوعی کرد.

اما زمانی که یکی از کارگزارانش حسابرسی بانکی خود را در یکی از کانال های شرکت Slack پست کرد، او در شوک بی ادبی قرار گرفت.

او گفت که این به او یادآوری می‌کند که عوامل چقدر قدرتمند هستند و مجوزها و کنترل‌های صحیح چقدر حیاتی هستند. این مقاله گفته شده بر اساس گفتگو با شین مک، مدیر عامل 40 ساله شرکت نرم افزاری XMTP Labs است. برای طول و وضوح ویرایش شده است.

این دوره از عوامل شخصی هوش مصنوعی واقعا در سال گذشته، حدود دسامبر برای من آغاز شد.

من فکر می کنم لحظه OpenClaw زمانی بود که مشخص شد دوره جدیدی در راه است. من با OpenClaw زمانی که منتشر شد، و همچنین هرمس و همه مهارهای مختلف را آزمایش کردم.

در سطح شخصی، من از آنها برای کارهایی استفاده کرده ام که واقعا نمی خواهم انجام دهم. این می تواند پیگیری با DMV، تماس گرفتن برای دریافت پیشنهاد خدمات محلی برای خانه، رزرو جلسات گلف، و چیزهایی از این دست باشد.

اینگونه بود که من نماینده مالی شخصی خود را ایجاد کردم.

من یک نماینده "CFO" با استفاده از Grok Bot راه اندازی کردم

من CFO را با استفاده از Grok Bot در اواخر ماه اوت راه اندازی کردم.

در پایان هر ماه می خواستم به سوالاتی مانند این که: مانده ها چیست؟ هزینه های این ماه چقدر است؟ هزینه های مکرر چیست؟

آیا چیزی وجود دارد که تقلبی یا مشکوک به نظر برسد؟ آیا چیزی برای صرفه جویی در هزینه ها توصیه می کنید؟

به نماینده گفتم: اگر قرار باشد مشاور مالی شخصی من باشی، هر ماه به من چه می‌گویی؟

برای مجوزهایش، به آن دسترسی فقط خواندنی به حساب‌های چک و پس‌انداز شخصی‌ام دادم.

گفتم فقط از طریق گروک بات برای من پیام بفرستد. هر ماه، گزارشی ماهانه در یک چت گروهی از تمام عوامل هوش مصنوعی من در Grok Bot برای من ارسال می کرد که من آن را "تیم اجرایی شخصی من" نامیدم.

من از آن استفاده می کردم انگار که تیم اجرایی کوچکم به من کمک می کرد.

در ابتدا هر هفته آن را اجرا می کردم و عالی کار می کرد. اما اولین باری که ممیزی ماهانه شروع شد، همان موقع بود که اشتباه شد.

حسابرسی من را به کانال Slack شرکت من فرستاد

پنج شنبه، 1 اکتبر بود. رئیس محصول ما برای من DM در Slack فرستاد. او گفت: "هی، سر بالا. فکر می کنم قصد داشتی موجودی بانک XMTP را ارسال کنی."

قصد نداشتم چیزی پست کنم

او شروع به خواندن آن کرد و فکر کرد که این مربوط به امور مالی شرکت ما است. سپس اشاره کرد که من در ملک خود انباری می ساختم که زنگ خطر او را به صدا درآورد.

آنجا بود که متوجه شد این حساب جاری شخصی من است. این شامل مانده حساب پس انداز من بود. بزرگترین هزینه های ماه من را فهرست می کرد.

این نشان داد که من به دلیل انباری که در ملک خود می سازم، از هدف هزینه های ماهانه خود فراتر رفته ام.

از گروک بات پرسیدم چرا این را برای شرکت فرستادی؟

شروع به عذرخواهی کرد و گفت پیام را پاک می کند. من قبلا آن را حذف کرده بودم.

معضل نام‌های چت گروهی مشابه

وقتی تیم Grok بررسی کردند که چه اتفاقی افتاده است، آنها پاسخ را پیدا کردند.

کارگزار CFO روانپریشی نداشت. دقیقا همان کاری را که به او گفتم انجام می داد. اما مقصد را گیج کرد و به جای چت گروهی شخصی من با عوامل هوش مصنوعی، پیام را به یک چت Slack با عنوان "Exec-team" - متشکل از تیم اجرایی XMTP - فرستاد.

من یک دسته از عوامل مختلف ایجاد کردم و برای یکی از آنها، حساب Slack خود را متصل کردم. اما در زیر کاپوت، همه آنها در واقع از اتصالات یکسانی استفاده می کنند، حتی اگر احساس کنند عوامل متفاوتی هستند.

نماینده CFO کانال را اشتباه گرفت زیرا کانال ها یک نام داشتند.

Grok متوجه شد که کاربران باید صراحتا به نمایندگان خود اجازه دهند تا آنها بتوانند اطلاعات را به کانال های دیگر منتقل کنند. آنها شب گذشته راه حلی را اجرا و ارسال کردند.

به من یادآوری کرد که این عوامل چقدر قدرتمند هستند

بعد از این حادثه، من تمام ارتباطاتم را حذف کردم. Google، تقویم‌هایم، بانکداری، Stripe و همه چیز را قطع کردم.

این حادثه یادآور قدرت این عوامل بود. ما باید مطمئن شویم که کنترل های بهتری در مورد آنچه که عامل ها به آنها دسترسی دارند وجود دارد.

کارهایی که آنها می توانند برای ما انجام دهند فوق العاده خواهد بود. مردم آنها را می خواهند، و آنها واقعا مفید هستند.

چالش ایجاد سیستم‌های مجوز بهتر است تا کاربران کنترل دسترسی‌هایی را که به نمایندگان می‌دهند، حفظ کنند.

من همچنین فکر می کنم که باید مرز بسیار واضح تری بین زندگی شخصی و کاری وجود داشته باشد.

بسیاری از سیستم ها این مرزها را محو می کنند. ما از Google در محل کار و از Google در خانه استفاده می‌کنیم، و من متوجه شده‌ام که باید بین کارهای شخصی و کار جدایی بسیار قوی‌تری وجود داشته باشد.

مقاله اصلی را در Business Insider بخوانید