OpenClaw در حال ایجاد یک مشکل دسترسی ممتاز جدید برای تیم های امنیتی است

افزایش شهاب سنگ OpenClaw به راحتی قابل درک است. برخلاف یک ربات چت که در پاسخ به یک سوال متوقف می‌شود، این ربات به گونه‌ای طراحی شده است که از ابزارهایی که مردم هر روز استفاده می‌کنند، اقدام کند: خواندن و ارسال ایمیل، مدیریت تقویم‌ها، کار با اسناد، راه‌اندازی جریان‌های کاری و بسته به پیکربندی، تعامل با ابزارهای مالی یا دسترسی پوسته. این دقیقا همان چیزی است که این فناوری را مفید می کند و دقیقا به همین دلیل است که تیم های امنیتی باید به دقت توجه کنند.

مسئله اصلی این نیست که OpenClaw از هوش مصنوعی استفاده می کند. این است که یک دستیار واحد می‌تواند دسترسی به سیستم‌هایی را که سازمان‌ها از لحاظ تاریخی به طور جداگانه ایمن کرده‌اند، جمع کند. هنگامی که یک ابزار بتواند داده های خصوصی را بخواند، از طرف یک کاربر ارتباط برقرار کند و اقداماتی را در چندین محیط انجام دهد، به یک نقطه کنترل ممتاز تبدیل می شود. اگر مهاجم بتواند آن نقطه را دستکاری کند، شعاع انفجار می تواند بسیار فراتر از خود دستیار باشد.

از ابزار بهره وری تا اپراتور ممتاز

ابزارهایی مانند OpenClaw مسیر جذابی را برای مهاجمان ایجاد می‌کنند زیرا مجوزها را در ایمیل، حساب‌های مالی، کانال‌های ارتباطی و سیستم‌های محلی متمرکز می‌کنند. مهاجم ممکن است به جای هدف قرار دادن یک گردش کار سخت و قطعی، سیستمی را هدف قرار دهد که دستورالعمل ها و زمینه های زبان طبیعی را قبل از تصمیم گیری در مورد اینکه چه کاری انجام دهد، تفسیر می کند. این دری را برای تزریق سریع، مهارت های مخرب، حملات بدون کلیک و سایر تکنیک های طراحی شده برای تأثیرگذاری بر رفتار هوش مصنوعی باز می کند.

تزریق سریع به ویژه نگران کننده است زیرا سودمندی OpenClaw به توانایی آن در مصرف اطلاعات از بسیاری از منابع بستگی دارد. اگر دستیار با محتوای نامعتبر در ایمیل، پیام، صفحه وب یا سند مواجه شود، ممکن است مهاجم بتواند دستورالعمل‌ها را در آن محتوا پنهان کند.

سپس می‌توان دستیار را دستکاری کرد تا اطلاعات درز کند، گردش کار را تأیید کند، با کاربر دیگری تماس بگیرد یا اقدامی را انجام دهد که قانونی به نظر می‌رسد. کاربر ممکن است هرگز آگاهانه دستورالعمل مخرب را تأیید نکند زیرا دستیار آن را به عنوان بخشی از کار عادی خود پردازش می کند.

مهارت های مخرب یک ریسک زنجیره تامین مرتبط ایجاد می کند. دستیارهای هوش مصنوعی اغلب به دستورالعمل‌ها، پلاگین‌ها، اسکریپت‌ها یا مهارت‌های قابل استفاده مجدد تکیه می‌کنند تا کارهایی را که می‌توانند انجام دهند گسترش دهند. این انعطاف‌پذیری می‌تواند پذیرش را تسریع کند، اما همچنین مسیر دیگری را برای مهاجمان ایجاد می‌کند تا بر رفتار از طریق چارچوب اتوماسیون خود دستیار تأثیر بگذارند.

تیم های امنیتی قبلا به بررسی دقیق بسته های نرم افزاری، وابستگی ها و ادغام ها عادت کرده اند. عوامل هوش مصنوعی یک پیچیدگی اضافه می‌کنند زیرا منطق مضر ممکن است به‌عنوان دستورالعمل‌ها به جای کدهای سنتی بیان شود و تشخیص آنچه در حال رخ دادن است را برای کنترل‌های معمولی سخت‌تر می‌کند.

حملات بدون کلیک ریسک را بیشتر می کند. اگر OpenClaw بتواند بر روی محتوایی که دریافت می‌کند یا مشاهده می‌کند عمل کند، ممکن است مهاجم نیازی به کلیک کردن روی پیوند، دانلود فایل یا وارد کردن اطلاعات کاربری در یک سایت جعلی نداشته باشد. خود دستیار می تواند به مسیر اجرا تبدیل شود. پیام مسموم، دعوت تقویم یا درخواست گردش کار ممکن است برای تحریک رفتار مخاطره آمیز کافی باشد، اگر دستیار مجوزهای گسترده و پادمان های ناکافی داشته باشد.

عواقب آن همچنان متوجه کاربر و سازمان است. اگر یک دستیار هوش مصنوعی وجوه را انتقال دهد، داده ها را حذف کند، اعتبارنامه ها را افشا کند، ایمیلی مخرب ارسال کند یا پیکربندی سیستم را تغییر دهد، کسب و کار باید با تأثیرات مالی، قانونی و عملیاتی مقابله کند. دستیار ضرر را جذب نمی کند. مسئولیت پذیری با افراد و سازمان هایی که به آن اجازه دسترسی داده اند باقی می ماند.

مقیاس آن مشکل را فوری تر می کند. هر چه ابزاری به طور گسترده‌تری مورد استفاده قرار گیرد، مهاجمان انگیزه بیشتری برای مطالعه نحوه کارکرد آن و جستجوی راه‌های تکرارپذیر برای دستکاری آن دارند. یک دستیار محبوب هوش مصنوعی با دسترسی به داده‌های حساس، پول، حساب‌ها و گردش‌های کاری داخلی می‌تواند به یک هدف با ارزش تبدیل شود زیرا یک تکنیک موفق ممکن است در بسیاری از کاربران یا سازمان‌ها قابل اجرا باشد.

این خطر همچنین زمانی افزایش می‌یابد که کارمندان خارج از حاکمیت رسمی آزمایش کنند. بسیاری از تیم‌های امنیتی در حال حاضر برای ردیابی از ابزارهای هوش مصنوعی که کارمندان استفاده می‌کنند، چه داده‌هایی را آپلود می‌کنند و به کدام حساب‌ها متصل می‌شوند، تلاش می‌کنند. OpenClaw می تواند این چالش را ترکیب کند زیرا بیشتر ارزش آن از ادغام ها و مجوزها ناشی می شود.

یک کارمند مشتاق ممکن است قبل از اینکه تیم امنیتی بداند ابزار در حال استفاده است، دستیار را به ایمیل، پیام، اسناد، پرداخت‌ها یا سیستم‌های داخلی متصل کند. در زمان کشف، داده های حساس ممکن است از طریق یک گردش کار مدیریت نشده هوش مصنوعی جریان داشته باشند.

امنیت با دید و کمترین امتیاز شروع می شود

اولین پاسخ باید دید باشد. سازمان ها باید تعیین کنند که آیا OpenClaw در محیط آنها وجود دارد یا خیر، چه کاربرانی آن را نصب کرده اند یا به آن دسترسی داشته اند و به چه سیستم هایی می تواند دسترسی داشته باشد. تله‌متری نقطه پایانی، نظارت بر فرآیند، گزارش‌های شبکه و داده‌های هویت همگی می‌توانند به شناسایی استفاده کمک کنند. تیم‌ها همچنین ممکن است پورت‌ها و دامنه‌های شناخته‌شده مرتبط با ابزار را نظارت کنند، در حالی که تشخیص می‌دهند که پیکربندی‌ها می‌توانند تغییر کنند. قوانین تشخیص باید به عنوان یک نقطه شروع به جای پوشش دائمی در نظر گرفته شوند.

کنترل های شبکه نیز باید ارزیابی شوند. سازمان‌ها ممکن است تصمیم بگیرند که اتصالات مخاطره‌آمیز به دامنه‌های شناخته شده OpenClaw، مخازن یا پورت‌های پیش‌فرض را تا زمانی که ابزار بررسی و تأیید نشده باشد، مسدود کنند. این خطر گسترده تر ناشی از دستیاران هوش مصنوعی را از بین نمی برد، اما می تواند در برابر استقرار مدیریت نشده اصطکاک ایجاد کند. در محیط‌های پرخطر، مسدود کردن ابزارهای AI تأیید نشده ممکن است تا زمانی که خط‌مشی‌ها، نظارت و کنترل‌های دسترسی برقرار شوند، ضروری باشد.

حاکمیت دسترسی به همان اندازه مهم است. هر دستیار هوش مصنوعی باید بر اساس اصل حداقل امتیاز عمل کند. نباید دسترسی وسیعی به ایمیل، فایل‌ها، ابزارهای مالی یا کنترل‌های سیستم دریافت کند، زیرا این ادغام‌ها در دسترس هستند. مجوزها باید مشخص، مستند و بررسی شوند.

اقدامات پرخطر مانند ارسال پیام‌های خارجی، انتقال وجوه، حذف داده‌ها یا تغییر سیستم‌های تولید باید به تأیید بیشتری نیاز داشته باشد. بازنگری انسانی نیازی به نشستن در مقابل هر کار معمولی ندارد، اما سازمان ها باید به وضوح مشخص کنند که کدام اقدامات به اندازه کافی پیامد هستند تا به آن نیاز داشته باشند.

آموزش کارکنان یکی از کاربردی ترین دفاع ها باقی مانده است. کارگران از همتایان، تأثیرگذاران، فروشندگان و مدیران در مورد بهره وری مثبت هوش مصنوعی می شنوند. آنها همچنین باید مبادلات امنیتی را درک کنند.

آموزش باید تزریق سریع، ادغام های مخاطره آمیز، قرار گرفتن در معرض داده های حساس و خطر اعطای مجوزهای گسترده به ابزارهایی را توضیح دهد که می توانند به طور مستقل عمل کنند. کارمندان باید بدانند که کدام ابزارهای هوش مصنوعی تایید شده است، کدام موارد استفاده ممنوع است و در صورت عدم اطمینان با چه کسی تماس بگیرند.

درس گسترده تر این است که پذیرش هوش مصنوعی را نمی توان تنها به عنوان یک ابتکار بهره وری در نظر گرفت. ابزارهایی مانند OpenClaw مرز بین نرم افزار، کاربر، موتور گردش کار و اپراتور ممتاز را محو می کند. از آنجایی که کارمندان به طور فزاینده ای از دستیاران انتظار دارند که بیشتر از پاسخ دادن به سؤالات انجام دهند، تیم های امنیتی باید روی اختیاراتی که به دستیاران داده می شود و سیستم هایی که می توانند به آنها دسترسی پیدا کنند تمرکز کنند.

OpenClaw یک سیگنال مفید است که نشان می دهد هوش مصنوعی در محل کار به کجا می رود. فرصت فقط نرم افزار مکالمه نیست، بلکه نرم افزاری است که می تواند عمل کند. مهاجمان به همین قابلیت علاقه مند خواهند بود. سازمان‌هایی که می‌توانند ببینند این دستیاران کجا در حال اجرا هستند، مجوزهای آن‌ها را محدود کنند، رفتار آن‌ها را کنترل کنند و به کاربران آموزش دهند، بدون ایجاد یک هواپیمای کنترلی جدید برای مهاجمان، موقعیت بهتری برای کسب دستاوردهای بهره‌وری خواهند داشت.

ما بهترین سازنده وب سایت هوش مصنوعی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit