AWS یک افسار محلی و منبع باز برای مهارهای عامل ارائه می دهد

اگر نمی‌خواهید عوامل هوش مصنوعی شما از کنترل خارج شوند و فایل‌ها را تغییر دهند یا داده‌ها را خارج از قوانین شما منتقل کنند، AWS یک کتابخانه نرم‌افزار منبع باز منتشر کرده است که ادعا می‌کند می‌تواند لایه جدیدی از کنترل سیاست را اضافه کند. همانطور که مهار سگ بدون افسار برای تحت کنترل نگه داشتن آن بی فایده است، موتور محلی Dogwood قول می دهد که تماس های ابزار عامل هوش مصنوعی را روی یک افسار قرار دهد و اقداماتی را که شرایط زمانی تعریف شده توسط کاربر را برآورده نمی کند مسدود کند.

DLE به شکل یک کتابخانه Rust ارائه می شود که می تواند در مهار یا دروازه یک عامل تعبیه شود و برای خلاصه کردن یک توضیح طولانی به یک جمله، هر بار که یک نماینده سعی می کند یک ابزار را فراخوانی کند، به سادگی حکم اجازه/انکار را صادر می کند. AWS در نوشتن اعلامیه خود توضیح داد که DLE خودش این اعمال را انجام نمی دهد - این به خود مهار بستگی دارد - اما هر فراخوانی ابزار را در برابر سیاست های تعریف شده با استفاده از Dogwood، زبان حاکمیت منبع باز که AWS در ماه اوت منتشر کرد، بررسی می کند.

هنگامی که AWS Dogwood را معرفی کرد، زبان و ابزار مرجع را منبع باز کرد و پشتیبانی از آن را به Amazon Bedrock AgentCore اضافه کرد. انتشار DLE باعث می شود که موتور سیاست مستقیما در مهارهای عامل جاسازی شود. یکی از ویژگی های کلیدی هر دو DLE و Dogwood آگاهی آنها از شرایط زمانی است. DLE رویدادهای تماس ابزار عامل را در طول زمان ردیابی می کند و آنها را به صورت گام به گام در یک گزارش ثبت می کند. این گزارش‌ها در حین انجام هر ورودی روی یک دیسک باقی می‌مانند و به DLE اجازه می‌دهند حتی اگر کل سیستم خراب شود یا دوباره راه‌اندازی شود، وضعیت خود را حفظ کند.

مرحله تداوم قبل از ارزیابی خط مشی قابل اجرا توسط DLE انجام می شود و در پایان آن فرآیند نتیجه ای را برمی گرداند: بر اساس آنچه سیاست های موتور بیان می کند، اقدام را مجاز کنید یا آن را رد کنید. AWS مثالی از کنترل فشارهای عامل کدنویسی Git با استفاده از DLE می‌دهد، خط‌مشی را تعریف می‌کند که تنها زمانی اجازه فشار را می‌دهد که آخرین اجرای آزمایشی سپری شده باشد، و لازم است که آن پاس در 15 دقیقه گذشته انجام شده باشد. اگر اینطور نباشد، فشار رد می شود.

AWS توضیح داد: «برای انجام دقیق اجرای حکم، هارنس هر تماس ابزار را رهگیری می‌کند، رویداد درخواستی را به موتور ارسال می‌کند و ابزار را تنها در صورتی اجرا می‌کند که رأی موتور مجاز باشد». این به طور طبیعی این سوال را مطرح می کند که DLE چه مقدار از تاخیر را در گردش کار عامل ایجاد می کند. AWS ادعا می کند که تاخیر اضافه شده حداقل است. در آزمایش‌هایی که جلسات پنج دقیقه تا 12 ساعت را شبیه‌سازی می‌کردند، زمان ارزیابی DLE حدود 20 میکروثانیه با یک پنجره 15 دقیقه‌ای در علامت 12 ساعت بود که با یک پنجره 24 ساعته به حدود شش میلی‌ثانیه می‌رسید.

DLE همچنین برای جلوگیری از تصادم ارسال همزمان با تکیه بر قفلی طراحی شده است که تنها اجازه ارسال یک رویداد را در هر زمان می دهد و این قفل تا زمانی که ارزیابی خط مشی کامل شود باقی می ماند. AWS از نوشتن خود توضیح نداده است که چگونه می تواند شرایطی را مدیریت کند که مثلا دو ارسال همزمان ارائه شده است که در آن یکی شرایط قبولی را برآورده می کند و یکی باعث شکست می شود. ما پرسیدیم که چگونه می توان از اجرای نادرست در آن شرایط جلوگیری کرد، اما قبل از انتشار پاسخی دریافت نکردیم.

با توجه به افشاگری های مکرر اخیرا مبنی بر اینکه به نظر می رسد عوامل هوش مصنوعی مرتبا از ریل (ایمنی) تحمیل شده توسط اپراتورهای انسانی به آنها خارج می شوند، این سؤال که DLE چقدر بادوام است نیز جای بحث دارد. AWS اعتراف می کند که چنین موقعیت هایی بخشی از دلایل آن برای انتشار کتابخانه جدید است. در پایان اعلامیه DLE آمده است: «غیرقابل بررسی … فراخوانی ابزار می تواند عواقب جبران ناپذیری داشته باشد.

"از آنجایی که عامل ها به تنظیماتی که در آن به طور مستقل برای فواصل طولانی تر با ابزارهای بیشتر کار می کنند، مقیاس می شوند، ما به محافظ هایی نیاز داریم که بتواند نحوه استفاده از آن ابزارها را تنظیم کند." یافتن حفره هایی در داگوود و DLE توسط ماموران هوش مصنوعی به احتمال زیاد موضوع زمان است. تا آن زمان، با خیال راحت به داگوود و DLE از طریق صفحه GitHub آن ضربه بزنید. ®