چگونه از کشف AI به اجرای AI حرکت کنیم

اکثر برنامه های هوش مصنوعی سایه سازمانی مرحله یک را به پایان رسانده اند. آنها اکتشاف را اجرا کردند، بیش از حد انتظار هوش مصنوعی در ساختمان پیدا کردند و یک صفحه گسترده ساختند. سپس برنامه متوقف شد.

این الگو تقریبا جهانی است. اکتشاف واقعا مفید است و کار آسان در اینجا به پایان می رسد. دانستن اینکه 37 نماینده در حال اجرا هستند، تقریبا میانگین شرکت در تحقیقات پالس سایبری مایکروسافت در فوریه 2026، این واقعیت را تغییر نمی‌دهد که بیش از نیمی از آنها بدون نظارت امنیتی یا ثبت گزارش کار می‌کنند.

یک موجودی به شما می گوید که چه اتفاقی افتاده است. مجری تصمیم می گیرد چه اتفاقی بیفتد.

منظور از اجرا برای هوش مصنوعی چیست؟

Enforcement توانایی تغییر نتیجه یک اقدام هوش مصنوعی در حین انجام آن است، نه گزارش در مورد آن پس از آن. برای یک نماینده، این به معنای یکی از چهار مداخله است: مانع از اجرای ابزار، محدود کردن آنچه می‌تواند به آن برسد، یک اقدام خاص را پشت سر تأیید قرار دهید، یا فرآیند را در اواسط اجرا خاتمه دهید.

اینها قابل تعویض نیستند: انتخاب بین آنها بیشتر کار است. مسدود کردن صریح است و بیشترین شکایت را ایجاد می کند. Scoping بادوام ترین و سخت ترین پیکربندی است. گیتینگ تا زمانی کار می‌کند که صف تأیید به صورت رسمی تبدیل شود که مردم روی آن کلیک می‌کنند. فسخ آخرین راه حل است. قبل از اینکه عملیات کامل شود باید فرود بیاید.

چرا مسدود کردن شبکه همچنان با شکست مواجه می شود؟

مسدود کردن دامنه های هوش مصنوعی در لبه شبکه اولین کنترلی بود که اکثر سازمان ها به آن دست یافتند. استقرار و توضیح آن برای هیئت مدیره آسان است و کاهش سهم ریسک واقعی را متوقف می کند. هوش مصنوعی دیگر یک وب سایت نبود.

مدل‌های محلی هیچ تماس خروجی برای بازرسی برقرار نمی‌کنند. کوپیلوت‌های جاسازی‌شده در داخل برنامه‌های دارای مجوز اجرا می‌شوند، بنابراین ترافیک آنها شبیه فروشنده‌ای است که شما تأیید کرده‌اید. عامل های IDE و خط فرمان و سرورهای MCP در لوکال هاست هرگز از مرز شبکه ای که شما کنترل می کنید عبور نمی کنند. دستگاه های شخصی قدیمی ترین شکاف باقی می مانند، بدتر از این که ابزارهای هوش مصنوعی در همه جا رایگان هستند.

مشکل مجوزهای زیر

در اینجا چیزی است که اجرای هوش مصنوعی را سخت تر از مشکلات کنترل دسترسی قبل از آن می کند: یک نماینده با استفاده از هویت و حقوق یک انسان عمل می کند. گزارش به کارمند نشان می‌دهد که فایل را خوانده یا اعتبارنامه متعلق به شخص یا حساب خدماتی است که برای چیز دیگری تهیه شده است. کنترل‌های هویت موجود فقط می‌پرسند که آیا آن مدیر مجاز به انجام عملیات است یا خیر، و پاسخ معمولا مثبت است.

زیرساخت هویت این سوال هرگز برای پاسخگویی ساخته نشد این است که آیا این اقدام که توسط نرم‌افزار از طرف انسان انجام می‌شود، اقدامی است که انسان آن را تحریم می‌کرد. به همین دلیل است که استانداردهای نوظهور مانند AIUC-1 اقدامات غیرمجاز عامل، اجرای امتیاز دسترسی و فراخوانی ابزار ناامن را به عنوان کنترل‌های جداگانه در نظر می‌گیرند، نه اینکه در مدیریت دسترسی عمومی قرار بگیرند. این جدایی غریزه درستی است.

جایی که مجری باید بنشیند

اجرا باید در نقطه ای باشد که یک عمل اجرا می شود، تنها جایی که تصمیم قطعی است. کنترل‌های لایه دستورالعمل، فیلترهای ورودی و حفاظ‌های سریع، متن را قبل از رسیدن به مدل ارزیابی می‌کنند. آنها ارزش استقرار را دارند و حجم را کاهش می دهند، اما احتمالی هستند و جدا کردن دستورالعمل ها از داده های داخل یک مدل زبان هنوز حل نشده است.

بنابراین برای موردی بسازید که دستورالعمل از طریق آن انجام می شود. اگر فراخوانی ابزار عامل در لحظه شروع به کار با محدوده، دروازه یا متوقف شود، منشاء دستورالعمل دیگر اهمیتی ندارد. یک پیام مخرب، یک سند مسموم، و یک اشتباه صادقانه، همگی همان اقدام مسدود شده را ایجاد می کنند. این خاصیتی است که شما می خواهید: نتیجه ای که به طبقه بندی صحیح قصد بستگی ندارد.

همچنین به همین دلیل است که مکان پایانی و زمان اجرا همچنان بر استدلال معماری پیروز می شود: تقریبا هر تعامل هوش مصنوعی در نهایت به فرآیندی در یک دستگاه تبدیل می شود، جایی که یک مدل محلی، یک کوپایلوت تعبیه شده و یک برگه مرورگر همگی شبیه آنچه هستند: اجرای کد.

چگونه بدون شکستن چیزی شروع کنیم

پروژه‌های اجرایی با صدای بلند شکست می‌خورند، بنابراین آنها را به‌طور بی‌صدا ترتیب دهید: یک دسته را انتخاب کنید، نه کل موجودی: گروه کوچکی از ابزارهای ممنوعه با جایگزینی آشکار.

به مدت دو هفته در حالت مانیتور اجرا شود. شما جریان کاری قانونی را خواهید یافت که کسی در مورد آن به شما نگفته است. همیشه یکی هست

قبل از اعمال قانون برای هر عامل، مالکی را نام ببرید. یک عامل بی مالک نمی تواند مستثنی یا رفع شود، و این یک بلوک را به یک حادثه تبدیل می کند.

مسدود کردن را برای کوچکترین دامنه قابل اجرا روشن کنید، سپس قبل از گسترش، میزان شکایت را اندازه بگیرید.

ورود به سیستم اجرایی را از روز اول به خط لوله شواهد خود متصل کنید. مقاوم سازی سخت تر از ساخت آن است. به رهبری چه بگویم

با شماره ای که دوست ندارند پیشروی کنید: تعداد عوامل هوش مصنوعی که بدون مالک، بدون ثبت و بدون کنترل کار می کنند. معمولا آنقدر بزرگ است که به تنهایی برنامه را تأمین مالی کند. سپس به شماره دوم متعهد شوید: اقدامات اجرایی انجام شده در سه ماهه اول، تقسیم به بلوک ها و تاییدیه ها. کنترلی که هرگز چیزی را متوقف نمی کند، کنترل نیست. این یک گزارش با برندسازی بهتر است.

کشف یک لیست است. اجرا یک تصمیم است.

موجودی ارزش ساخت داشت. این فقط قابل تحویل نیست. یک عامل هوش مصنوعی سریعتر از هر انسانی در زنجیره تأیید شما حرکت می کند و منتظر بررسی فصلی نمی ماند. سازمان‌هایی که از این دوران در شرایط خوبی بیرون می‌آیند، سازمان‌هایی هستند که می‌توانند قبل از تکمیل یک عمل متوقف شوند و بعدا ثابت کنند که دقیقا کدام قانون آن را متوقف کرده است. آنها را پیدا کنید، سپس بتوانید آنها را متوقف کنید.

ما بهترین نرم افزار حفاظت نقطه پایانی را معرفی کرده ایم.

این مقاله به عنوان بخشی از TechRadar Pro Perspectives، کانال ما برای معرفی بهترین و باهوش ترین ذهن ها در صنعت فناوری امروز تهیه شده است.

نظرات بیان شده در اینجا نظرات نویسنده است و لزوما نظرات TechRadarPro یا Future plc نیست. اگر مایل به مشارکت هستید، اطلاعات بیشتری را در اینجا بیابید: https://www.techradar.com/pro/perspectives-how-to-submit