مدیر عامل TikTok می‌گوید مردم بدون اینکه بفهمند چگونه کار می‌کنند، به سراغ عوامل هوش مصنوعی می‌روند

مدیر عامل TikTok، Shou Chew گفت که کاربران باید مجوزها و کنترل هایی را که به عوامل هوش مصنوعی خود می دهند بررسی کنند. تیلور هیل/فیلم مجیک مدیر عامل TikTok، Shou Zi Chew گفت که مردم از عوامل هوش مصنوعی استفاده می کنند بدون اینکه بدانند چگونه کار می کنند.

او گفت که کاربران باید در مورد مجوزهایی که به نمایندگان خود می دهند توجه بیشتری داشته باشند.

داستان‌های ترسناک عامل هوش مصنوعی شخصی با راه‌اندازی این ابزار توسط شرکت‌های بیشتری در حال گسترش است. مدیر عامل TikTok، Shou Zi Chew یادآوری برای طرفداران عامل هوش مصنوعی دارد: قبل از شیرجه زدن، کمی آنها را درک کنید.

Chew در کنفرانسی که روز دوشنبه توسط بانک DBS در سنگاپور برگزار شد، گفت: "بسیاری از کاربران ممکن است به نمایندگان اجازه دهند تا کارهای زیادی را برای آنها انجام دهند، بدون اینکه واقعا بفهمند شما واقعا چه نوع مجوزهایی را داده اید."

به عنوان مثال، او گفت که نمایندگانی که اطلاعات کارت اعتباری برای خرید اقلام برای کاربران به آنها داده شده است ممکن است "بیش از حد مشتاق تحویل شوند" و در نهایت بسیار بیشتر از آنچه از آنها خواسته شده است خرید کنند.

این مدیر اجرایی افزود که TikTok به کارکنان خود آموزش می دهد که چه اطلاعاتی را نباید در چت های عمومی با عوامل هوش مصنوعی درج کنند، مانند اسرار تجاری یا اطلاعات حقوقی ممتاز.

او گفت: "بنابراین، می دانید، گاهی اوقات مردم در مورد نحوه استفاده از آن بسیار مشتاق هستند." "بنابراین فکر می‌کنم درک این نکته مهم است که مرزهای استفاده معقول و قابل قبول کجاست."

Chew این نظرات را در کنفرانس DBS Asia Future Forward بیان کرد که موضوع آن بر این بود که چگونه هوش مصنوعی می تواند در آسیا برای ایجاد ارزش واقعی پیاده سازی شود. در طول گفتگوی خود در کنار آتش، او همچنین در مورد نحوه استفاده از هوش مصنوعی به عنوان یک مربی رژیم غذایی و پاسخ به سوالات پزشکی صحبت کرد.

عوامل هوش مصنوعی شخصی در چند ماه گذشته با معرفی ابزارهایی مانند دستیار Meta's Muse، SpaceXAI's Grok Bot، OpenAI's Dots و عوامل هوش مصنوعی استارتاپ Instinct شاهد رونق بوده اند.

آنها به عنوان تقویت کننده های بهره وری، انجام وظایف پیش پا افتاده برای کاربران، مانند رزرو، حسابرسی و خریدهای تکراری مورد استقبال قرار گرفته اند. اما کاربران همچنین برخی از داستان‌های کابوس‌آمیز از سرکشی کردن عوامل خود و انجام اقداماتی را که پیش‌بینی نمی‌کردند به اشتراک گذاشته‌اند.

شین مک، بنیانگذار شرکت نرم افزاری، به Business Insider گفت که عامل هوش مصنوعی او که وظیفه داشت حساب بانکی او را در پایان ماه حسابرسی کند، به طور تصادفی آن را در چت Slack شرکتش پست کرد.

دیگران در مورد اطلاعات توهم آمیز و درک نادرست دستورالعمل ها توسط عوامل خود صحبت کرده اند. آستین ولش، که در امور مالی در هیوستون کار می کند، به Business Insider گفت که عامل غریزه او به طور تصادفی 20 پوند مرغ برای وعده غذایی او با شریک زندگی اش سفارش داد.

مقاله اصلی را در Business Insider بخوانید