عوامل هوش مصنوعی آماده هستند تا زندگی شما را اداره کنند. آیا به آنها اعتماد دارید؟

چشم انداز مارک زاکربرگ در مورد "فوق هوش شخصی" برای همه در حال تحقق است. بلومبرگ/گتی ایماژ آیا به یک عامل هوش مصنوعی با کلیدهای پادشاهی دیجیتال خود اعتماد دارید؟

شرکت‌های فناوری مانند Meta شرط می‌بندند که این کار را انجام دهید، همانطور که نمایندگان نشان داده‌اند که همیشه با منافع ما همسو نیستند.

متخصصان امنیت سایبری هشدار می‌دهند که پیشنهادات آژانس‌های راحتی همراه با معاوضه است. دستیاران هوش مصنوعی در نهایت آماده هستند تا به شما کمک کنند تا زندگی خود را اداره کنید. تنها کاری که باید انجام دهید این است که به آنها در مورد ورود ایمیل، مخاطبین و کارت اعتباری خود اعتماد کنید - و امیدوار باشید که آنها سرکش نباشند.

متا، گوگل و استارت‌آپ پر سر و صدا Instinct در ماه‌های اخیر عوامل هوش مصنوعی شخصی را راه‌اندازی کرده‌اند که قول می‌دهند کارهایی مانند رزرو سفر، خرید بلیط کنسرت، و جستجوی بازار فیس‌بوک برای معاملات را انجام دهند.

در سطح پایه، این عوامل تا حد زیادی یکسان رفتار می کنند. شما درخواستی را از طریق یک برنامه یا واتس اپ - یا در مورد عامل Rene که به تازگی راه اندازی شده است، از طریق iMessage - برای نماینده ارسال می کنید و آن را ترک می کنید تا کار را کامل کند.

نکته مهم این است که عوامل هوش مصنوعی به اندازه سطح دسترسی شما به آنها مفید هستند. آیا هوش مصنوعی می‌خواهید پروازتان را رزرو کند؟ نیاز به دسترسی به کارت اعتباری و حساب هواپیمایی شما دارد. آیا می خواهید صندوق ورودی شما را مرتب کند؟ به کلیدهای ایمیل شما نیاز دارد.

این ابزارهای براق جدید پس از تابستانی با چندین اتفاق پرمخاطب به دست می‌آیند که در آن عوامل هوش مصنوعی سرکشی کردند و شرکت‌ها را هک کردند، و همچنین گزارش‌هایی از کاربران درباره انجام اقدامات ناخواسته توسط عوامل خود.

آیا از عوامل هوش مصنوعی استفاده می کنید؟ نحوه انجام آن را در این نظرسنجی به ما اطلاع دهید.

در یک مورد در اوایل سال جاری، مردی در استرالیا گفت که عامل هوش مصنوعی او که در OpenClaw کار می‌کرد، با نفوذ به سیستم رزرو آنلاین باشگاه، او را در کلاس پیلاتس تضمین کرد.

نتیجه یک حس شلاق بین تعجب و اضطراب است. اولین پذیرندگان عوامل هوش مصنوعی شخصی نمونه‌هایی از این که چگونه این فناوری زندگی آنها را بسیار آسان‌تر کرده است، و همچنین راه‌هایی را به اشتراک گذاشته‌اند که در آنها برنامه‌ریزی نشده است.

جیک مور، مشاور امنیت سایبری جهانی در شرکت امنیت اینترنتی ESET، به Business Insider گفت: «این به ایمیل، فایل‌ها، حساب‌ها و حتی رمزهای عبور شما دسترسی دارد – یک اشتباه یا دستکاری می‌تواند عواقبی در دنیای واقعی داشته باشد، و این وحشتناک است.

عوامل در زمان ناهماهنگی

تابستان امسال، قبل از اینکه ترس از آخرالزمان هوش مصنوعی به اوج برسد، انبوهی از شرکت‌های فناوری حوادثی را گزارش کردند که در آن عوامل هوش مصنوعی آنها سرکشی کردند.

به گفته این شرکت‌ها، در ماه جولای، یک مدل OpenAI داخلی از سندباکس توسعه خود فرار کرد و به سیستم‌های داخلی Hugging Face نفوذ کرد. متا و آنتروپیک بعدا فاش کردند که عوامل خودشان نیز بدون اطلاع آنها هک انجام داده اند.

در حالی که این حوادث شامل عوامل متمرکز بر امنیت سایبری در آزمایش می‌شد، همان مشکل اساسی در مورد عوامل متمرکز بر مصرف‌کننده نیز صدق می‌کند: ناهماهنگی، که در آن هوش مصنوعی هدفی را دنبال می‌کند که با آنچه خالقان یا کاربران انسانی آن قصد داشتند در تضاد است.

مور گفت: «عوامل هوش مصنوعی نیاز به محافظ‌های داخلی دارند. بدون این نرده‌های محافظ، آنها به گونه‌ای طراحی شده‌اند که «سرکش» شوند، زیرا به‌طور خاص برای انجام یک کار طراحی شده‌اند – هر طور که تصمیم بگیرد به آن برسد.»

به گزارش اطلاعات، در طول آزمایش عامل Meta's Muse، که یک هفته پس از راه اندازی به بالای اپ استور اپل صعود کرد، چندین رفتار نامطلوب را نشان داد. این گزارش می‌گوید که این موارد شامل ارسال ایمیل‌های تایید نشده و در یک مورد با پرچم‌گذاری توسط یک کارمند، تلاش برای تضعیف برنامه رقیبی است که کاربر در حال ساخت آن بود.

انجام آزمایش هایی مانند این یکی از راه هایی است که شرکت های فناوری می توانند در برابر ناهماهنگی ها کاهش دهند. یکی از سخنگویان متا گفت که فرآیند تست داخلی برای "دریافت بازخورد و اجرای حفاظت های ایمنی و حریم خصوصی" برای بهبود محصولات طراحی شده است. سام آلتمن، مدیر عامل OpenAI، در مورد ناهماهنگی نمایندگان هشدار داده است. بلومبرگ/گتی ایماژ متا، گوگل، اپن‌آی و آنتروپیک همگی به طور گسترده‌ای حفاظت‌های مشابهی برای نمایندگان خود دارند: برنامه‌ها، حساب‌ها یا داده‌هایی را که یک نماینده می‌تواند به آن دسترسی داشته باشد را محدود می‌کنند. نیاز به تأیید کاربر برای اقدامات با ریسک بالاتر مانند خرید یا ارسال ایمیل. و برای دستور مخفی اسکن کنید

در صفحات وب، ایمیل ها و فایل ها.

با این حال، برخی از مدیران سازنده این فناوری هشدار می دهند که خطر انجام اقدامات ناخواسته هوش مصنوعی هنوز از بین نمی رود.

سام آلتمن، مدیر عامل OpenAI، این هفته به فورچون گفت: «ما همسویی را حل نکرده‌ایم. ما تحقیقات خود را در آنجا تمام نکرده ایم. من معتقدم هیچ آزمایشگاهی هم ترازی را حل نکرده است."

دوران کارگزاران شخصی

برای سال‌ها، رهبران شرکت‌های هوش مصنوعی پتانسیل دستیاران هوش مصنوعی شخصی را برای بهتر کردن زندگی ما بیان کرده‌اند. دمیس حسابیس، دانشمند ارشد گوگل، اغلب از دیدگاه خود برای ساخت یک "دستیار هوش مصنوعی جهانی" صحبت کرده است. مارک زاکربرگ، مدیر عامل متا، مدت هاست که دیدگاه خود را در مورد "فوق هوش شخصی" برای همه به اشتراک گذاشته است.

در حالی که OpenClaw در اوایل سال جاری در میان فناوران محبوب شد، عواملی مانند Muse و Instinct نشانه‌های اولیه تبدیل شدن به دستیارهای دیجیتال شخصی جذابی را نشان می‌دهند که مدت‌ها وعده داده بودیم. پراناو دیکسیت از Business Insider از Instinct برای خرید پروتئین آب پنیر، رزرو اقامتگاه در کابین و لغو اشتراک استفاده کرده است.

Sheel Mohnot، سرمایه‌گذار در X در نقد Instinct نوشت: "این مانند جادو است. و برخلاف آنچه برخی افراد گفته‌اند، فکر نمی‌کنم جذابیت به انواع دره سیلیکون محدود شود."

این جذابیت گسترده تر مصرف کننده نیز می تواند مشکل ساز باشد.

جو سالیوان، افسر ارشد امنیتی سابق فیس بوک که اکنون یکی از اعضای هیئت مدیره منیفولد سکیوریتی است، به بیزینس اینسایدر گفت: «جادوی این محصولات دسترسی آنهاست، و این خطر نیز هست. "مصرف کنندگان مانند شرکت ها از یک تیم امنیتی کامل که در کنار آنها کار می کنند، بهره مند نیستند."

نگه داشتن نماینده خود در یک راستا

بنابراین، چگونه کاربران می توانند بیشترین بهره را از دستیارهای هوش مصنوعی خود ببرند و در عین حال خطر اشتباه پیش آمدن را به حداقل برسانند؟

مور گفت که نمایندگان باید دسترسی محدودی به خدمات شما داشته باشند و "برای اقدامات حساس به تایید انسانی نیاز داشته باشند."

به طور مشابه، سالیوان هشدار داد که پذیرندگان اولیه این عوامل باید از نظر میزان دسترسی آنها به ابزارها، "محدود" را محدود کنند.

او گفت: "من امروز صبح از یکی از نمایندگان برای رزرو ماشین کرایه ای برایم استفاده کردم. به آن دسترسی دائمی به حساب Avis خود نمی دهم."

سالیوان افزود، کاربرانی که با عوامل شخصی آزمایش می کنند، باید پس از پایان کار، دسترسی را خاموش کنند، به خصوص هنگام آزمایش و مقایسه عوامل مختلف.

او گفت: «دیگر را با اجازه انجام کارها با داده های شما در آنجا رها نکنید. "قطع اتصال به معنای حذف نیست."

مقاله اصلی را در Business Insider بخوانید