خطرات پنهان عوامل کمک کننده فزاینده هوش مصنوعی

ChatGPT در ساختن خود به عنوان یک محقق، سازمان دهنده و دستیار برای بسیاری از کارهای دیجیتال خسته کننده به طرز قابل توجهی خوب شده است. OpenAI اخیرا با عوامل خود که می توانند وب سایت ها و برنامه ها را از طرف ما هدایت کنند، ChatGPT را بیشتر تحت فشار قرار داده است.

می‌توانید نمایندگان ChatGPT را برای همه چیز از خرید مقایسه گرفته تا پر کردن فرم‌ها و ردیف کردن برنامه‌های سفر تفویض کنید. چیزی که تغییر می کند این است که چقدر این توانایی ها در ChatGPT با دسترسی بیشتر به اطلاعات شخصی و فرصت های بیشتر برای تکمیل کارهای پیچیده با نظارت مستقیم کمتر، یکپارچه می شوند. نقطه های جدید OpenAI یک مثال خوب است.

جذابیت واضح است، اما هرچه ChatGPT بتواند به طور مستقل کارهای بیشتری انجام دهد، توجه به اینکه چه اتفاقی می‌افتد وقتی دستورالعمل‌هایش را اشتباه می‌فهمد اهمیت بیشتری پیدا می‌کند. به عنوان مثال، چند ماه پیش، عوامل آزمایشی هوش مصنوعی OpenAI موفق شدند از محیط‌های محدود و سیستم‌های به خطر افتاده متعلق به پلتفرم هوش مصنوعی Hugging Face فرار کنند.

طبق تحقیقات خود OpenAI، ماموران قرار بود تست‌های امنیت سایبری را تکمیل کنند، اما در عوض راه‌هایی برای دسترسی به اینترنت و سوء استفاده از آسیب‌پذیری‌های امنیتی کشف کردند و تلاش‌های خود را از طریق یک تابلوی پیام غیرمجاز هماهنگ کردند. یک تحقیق مستقل توسط METR نشان داد که تقریبا 1200 مامور بیش از 70000 پیام و فایل را رد و بدل کردند که حدود 700 نفر در نهایت در حمله به Hugging Face شرکت کردند.

عوامل هوش مصنوعی محدودیت ها را دور زدند و اهدافی را به گونه ای دنبال کردند که سازندگان آنها هرگز قصد نداشتند. برخی حتی به نظر می رسید که تشخیص می دادند که اقدامات آنها غیرمجاز است، اما ادامه دادند زیرا معتقد بودند انجام این کار به تحقق اهداف آنها کمک می کند. از آن زمان OpenAI سایر حوادث نگران کننده را پذیرفته است، از جمله 53 مورد که در آن عوامل تصاویر ارائه شده توسط کاربر را در وب سایت های میزبان تصویر شخص ثالث به عنوان پیوندهای فهرست نشده در طول فعالیت های تحقیق و ارزیابی آپلود کرده اند. عوامل ممکن است به دنبال اهداف قانونی باشند و فقط به دنبال راه هایی برای دور زدن موانع باشند.

اما الگوریتم‌ها اصول اخلاقی ندارند، بنابراین ممکن است از مرزهایی عبور کنند که توسعه‌دهندگان آن‌ها انتظار داشتند به آن احترام بگذارند. با توجه به اینکه OpenAI چقدر می‌خواهد ChatGPT اکنون بخشی از زندگی ما باشد، بسیار نگران‌کننده است.

وقتی مفید تبدیل به یک خطر می شود

(اعتبار تصویر: گتی ایماژ) تصور کنید از ChatGPT بخواهید وضعیت مالی شما را بررسی کند و راه هایی برای پس انداز پول پیشنهاد کند. با دسترسی به حساب‌های لازم، می‌تواند تراکنش‌ها را بررسی کند، اشتراک‌ها را شناسایی کند و تغییراتی را در بودجه شما توصیه کند. اما به یک نماینده مستقل اختیار کافی بدهید، و از نظر تئوری می‌تواند تصمیم بگیرد که انتقال پول، لغو یک سرویس، یا اصلاح یک ترتیب پرداخت کارآمدترین راه برای انجام وظیفه است.

همین مشکل در مورد چیزهای پیش پا افتاده ای مانند ترتیب دادن یک جلسه صدق می کند. ChatGPT ممکن است یک دعوت نامه آماده کند، فقط شامل اطلاعات شخصی است که هرگز قصد اشتراک گذاری آن را نداشتید. از دیدگاه نماینده، افشا می تواند راهی کاملا معقول برای ارائه زمینه مفید به نظر برسد.

اینها نمونه های فرضی هستند و ChatGPT دارای محافظ هایی است که برای جلوگیری از اقدامات حساس بدون مجوز مناسب طراحی شده است. با این وجود، OpenAI این امکان را پذیرفته و اقدامات حفاظتی مانند نظارت خودکار و محدودیت‌هایی در برخی اقدامات را معرفی کرده است تا اطمینان حاصل شود که کاربران هر اقدام بزرگی را توسط این مدل تأیید می‌کنند.

همچنین مشکل تزریق سریع وجود دارد، جایی که دستورالعمل‌های مخرب در متن خوش‌خیم پنهان می‌شوند تا هوش مصنوعی را برای انجام کاری که کاربر هرگز درخواست نکرده است، دستکاری کند. OpenAI توضیح داده است که چگونه مهاجمان می توانند از اطلاعاتی که در طول وظایف قانونی با آنها مواجه می شوند سوء استفاده کنند. یک دستورالعمل مدفون در یک صفحه وب ظاهرا معمولی می‌تواند تلاش کند تا ChatGPT را به افشای اطلاعات خصوصی یا انجام یک اقدام غیرمجاز متقاعد کند.

مشکل در هر جایی ممکن است ایجاد شود. در استرالیا، یک عامل آزمایشی OpenAI در طول آموزش داخلی به روش‌های غیرمجاز به سیستم‌های دولتی دسترسی پیدا کرد. از یک آسیب پذیری در یک سرویس آمار بهداشتی دولتی برای ادامه کار خود در زمانی که در ابتدا متوقف شد، استفاده کرد. OpenAI متعاقبا این حادثه را تأیید کرد و برای دسترسی غیرمجاز و رسیدگی به این اعلان عذرخواهی کرد.

گزارش رسمی این شرکت از حادثه استرالیا به وضوح نشان می دهد که این فعالیت در طول آزمایش به جای یک جلسه ChatGPT مصرف کننده معمولی رخ داده است. با این وجود، نشان می دهد که چگونه هوش مصنوعی به دنبال یک هدف تحقیقاتی به ظاهر بی ضرر می تواند در نهایت از مرز امنیتی عبور کند.

تحویل دادن کلیدها

استقلال رو به رشد ChatGPT بخشی از وسواس صنعتی بسیار بزرگتر با عوامل هوش مصنوعی شخصی است. متا چشم انداز بلندپروازانه تری را با Muse دنبال می کند. مارک زاکربرگ به وضوح معتقد است که مردم از دستیار هوش مصنوعی که قادر به اداره بخش های بزرگی از زندگی روزمره آنها باشد استقبال خواهند کرد.

زمانی که مصرف کنندگان عادی با قبض های مواد غذایی، هزینه های مسکن و قیمت بنزین در پمپ دست و پنجه نرم می کنند، چیزی کمی پوچ در مورد این جاه طلبی وجود دارد. هوش مصنوعی که بتواند به طور مستقل برای شما خرید کند، زمانی که نگرانی اصلی شما این است که آیا می توانید هر آنچه را که می خواهد از طرف شما بخرید یا خیر، به طور قابل توجهی کمتر انقلابی به نظر می رسد.

بدون شک برنامه های کاربردی مفیدی برای این فناوری وجود دارد، به خصوص در مورد کارهای اداری. اما فرض صنعت مبنی بر اینکه مصرف کنندگان به طور فزاینده دستیاران مستقل می خواهند، سزاوار بررسی بیشتر است. هر مجوز اضافی عواقب یک خطا را افزایش می دهد و هر اقدام خودکار به طور بالقوه فرصت دیگری را برای مداخله شخصی از بین می برد.

شاید مهم ترین قابلیتی که یک عامل هوش مصنوعی می تواند ایجاد کند، دانستن زمان توقف است. یک دستیار واقعا مفید باید بداند که از درخواست شدن برای سازماندهی امور مالی یک نفر، اجازه جابه‌جایی پول او را نمی‌دهد، و ترتیب جلسه، افشای اطلاعات محرمانه را توجیه نمی‌کند. گاهی اوقات بهترین پاسخ به یک مانع این است که از کاربر بپرسید در مرحله بعد چه کاری انجام دهید، حتی اگر این به این معنی باشد که تکمیل کار کمی بیشتر طول بکشد. بدون آن اصطکاک، زمانی که مشکلی پیش می‌آید، ممکن است دستیار کارهایی را به نام شما انجام داده باشد که هرگز اجازه نمی‌دادید.