امنیت عامل چالش میلیارد دلاری است که برخی استارتاپ های هوشمند باید آن را حل کنند

وقتی صحبت از مدل‌های هوش مصنوعی به میان می‌آید، امنیت به‌عنوان یک فکر بعدی عمل می‌کند، همانطور که با افزایش موارد هک کردن سازمان‌ها و افراد توسط ماموران و سایر موارد ناگوار امنیتی با عوامل سرکش، مشهود است. همچنین در اینجا فرصتی برای شرکت ها وجود دارد که راه حل های جدیدی ارائه دهند. به گفته سرمایه گذاران امنیت سایبری و مدیران شتاب دهنده، این نباید برای کسی شوکه کننده باشد.

مت هارتمن، مدیر ارشد استراتژی در گروه مرلین، به The Register گفت: «از یک طرف، ما نباید تعجب کنیم که عواملی که به طور فزاینده ای توانمند هستند، راه های خلاقانه و گاهی غیرمنتظره ای برای دستیابی به اهداف خود پیدا می کنند. از سوی دیگر، ما نمی توانیم رفتار مضر را به عنوان اجتناب ناپذیر یا غیرقابل کنترل بپذیریم. تاد گراهام، شریک مدیریتی در صندوق سرمایه گذاری M12 مایکروسافت، گفت: این همان داستانی است که با هر فناوری در حال ظهور، از لپ تاپ گرفته تا فضای ابری، اتفاق می افتد. گراهام به The Register گفت: «هر بار که یک زیرساخت جدید ساخته‌ایم، امنیت را به راحتی فراموش کرده‌ایم.

در اینجا فرصتی برای شرکت های امنیتی در مراحل اولیه وجود دارد. گراهام گفت: "اگر لپ تاپ ها به طور پیش فرض ایمن بودند، ما CrowdStrike را نداشتیم." "اگر ابر به طور پیش فرض ایمن بود، ما Wiz را نداشتیم. اگر هویت به طور پیش فرض ایمن نبود، ما مجموعه ای از افزونه های Active Directory و Okta را نداشتیم." وقتی صحبت از امنیت هوش مصنوعی به میان می آید، "کشتی های زیادی با این جزر و مد بالا می روند." آنچه با هوش مصنوعی متفاوت است سرعت پیشرفت مدل ها است.

در حالی که شرکت‌ها فناوری‌های ابری را طی سال‌ها پذیرفته‌اند، سازمان‌ها با سرعت تمام به سمت جلو حرکت می‌کنند تا عوامل و سایر ابزارهای هوش مصنوعی را در محیط‌های تولید خود بگنجانند و به آن‌ها اجازه دهند به داده‌ها و برنامه‌های کاربردی حیاتی برای تجارت دسترسی داشته باشند. با این حال، آن‌ها در مورد نحوه مدیریت، ایمن کردن یا حتی شناسایی عواملی که در حال حاضر در سیستم‌هایشان می‌گردند، کنترل قوی ندارند.

گراهام گفت: «این یک انتقال است که ماه به ماه اتفاق می‌افتد، و با توجه به نرخ تغییراتی که در بازار مشاهده می‌کنیم، من به هیچ وجه تعجب نمی‌کنم که این موضوع به شکلی نسبتا چشمگیر مطرح شده است. "حوادثی که رخ داده است - من قرار نیست از آنها دفاع کنم، اما آنها باید زنگ بیداری باشند.

این لحظه ای از زمان است که ما باید امنیت را وارد کنیم، و فقط باید آن را سریعتر وارد کنیم." "کشتی ها در حال افزایش هستند" با جزر و مد هوش مصنوعی هارتمن پس از یک حرفه طولانی در امنیت سایبری فدرال، از جمله نقش های ارشد در آژانس امنیت سایبری و امنیت زیرساخت ایالات متحده، به مرلین پیوست. او در نقش خود در بخش خصوصی، به تعیین اینکه گروه در کدام شرکت‌های امنیت سایبری در مراحل اولیه تا رشد سرمایه‌گذاری می‌کند، کمک می‌کند و سپس با این شرکت‌ها همکاری می‌کند تا فناوری‌شان را در سراسر دولت، زیرساخت‌های حیاتی و سایر بازارهای بسیار تنظیم‌شده مقیاس‌بندی کنند.

او گفت: «ما به ویژه به لایه امنیتی که بر رفتار نماینده حاکم است علاقه‌مندیم: هویت برای بازیگران غیر انسانی، محدودیت‌های واضح در مورد آنچه که آنها می‌توانند به آن دسترسی داشته باشند و انجام دهند، و دنباله حسابرسی برای اقدامات انجام شده از طرف یک آژانس.» "آژانس ها فقط نمی پرسند که چگونه نمایندگان را بپذیرند، بلکه می پرسند چگونه آنها را محدود کرده و ثابت کنند که در ساعت 2 صبح روز سه شنبه چه کاری انجام داده است." اما در حالی که «فرصت بسیار زیاد است»، بنیان‌گذاران استارت‌آپ باید بیش از ساختن یک محصول امنیتی هوش مصنوعی عاملی انجام دهند.

هارتمن گفت: «هوش مصنوعی ساخت یک محصول را سریع‌تر و ارزان‌تر از همیشه کرده است، بنابراین نوار تمایز همچنان در حال افزایش است. با کاهش هزینه فناوری ساختمان، ارزش به سمت قابلیت‌های متمایز و توانایی عرضه آنها به بازار تغییر می‌کند. بنیان‌گذارانی که می‌توانند هر دو را انجام دهند، فرصت واقعی برای تعریف این مقوله دارند.» گراهام همچنین می‌گوید که کاربران نهایی به‌دنبال محصولات هویتی و حاکمیتی هستند - «من واقعا معتقدم که کسی قرار است Okta بعدی را بسازد، درست همانطور که SaaS Okta را تولید کرد» - اما می‌افزاید که چندین بنیان‌گذار را می‌بیند که «خیلی کوچک فکر می‌کنند». من تعداد زیادی کام را می بینم

گراهام گفت: "و واقعیت این است که اگر من یک CISO برای یک شرکت Fortune 500 باشم، به هیچ وجه نمی توانم 15 چیز را برای انجام یک کار بخرم. اگر به پشته هویت استانداردی که برای مدتی طولانی برای انسان ها داشتیم نگاه کنید، می دانید، کنترل دسترسی، مجوز، دسترسی دارد. برای نمایندگان، یک نفر باید با راه حلی که همه کارها را انجام می دهد به سراغ ما بیاید.» هویت عامل، تک‌شاخ بعدی است، اما وقتی صحبت از هویت‌های غیرانسانی به میان می‌آید، این یک سوال واقعا بزرگ و سخت است.

حساب‌های سرویس همچنان هدف اصلی هکرها هستند، زیرا معمولا دارای امتیازات و رمزهای عبور بالایی هستند که هرگز منقضی نمی‌شوند. ایمن سازی این حساب های غیرانسانی هنوز تیم های امنیتی را آزار می دهد - و این حتی قبل از ورود ماموران به این ترکیب است. گراهام گفت، فراتر از هویت عامل، امنیت نقطه پایانی هوش مصنوعی - این را به عنوان CrowdStrike برای هوش مصنوعی در نظر بگیرید - حوزه دیگری است که برای استارت آپ های مبتکر آماده شده است. او می‌گوید که این چالشی است که شخصا به‌عنوان موسس با آن مقابله می‌کند، اما از راه‌اندازی شرکت‌های دیگری منع شده است، بنابراین این اتفاق نخواهد افتاد.

گراهام گفت: «اگر نقضی دارید و می‌دانید که برای توضیح اینکه چرا آنتی‌ویروس [یا] EDR را روشن نکرده‌اید، به جلوی کنگره برده می‌شوید، می‌خواهید خیلی سریع نقطه پایانی هوش مصنوعی را به این فهرست اضافه کنید. "اگر کسی بخواهد راه حلی با کیفیت بسازد، مانند یک منطقه بسیار گرم است که هنوز به اندازه کافی زود است." او افزود که فروشندگان نقطه پایانی و آنتی‌ویروس‌های موجود «کاملا» محصولاتی را برای پر کردن این خلأ خواهند ساخت.

اما احساس می‌کنم دوباره لحظه‌ای در زمان وجود دارد که اختلال برای همه به وجود می‌آید، به‌ویژه آن‌هایی که تعهدات قبلی را می‌دانند که باید حل شوند.» گراهام اعتراف می کند که در مورد رفتار بد اخیر در دنیای واقعی توسط عوامل هوش مصنوعی "نگران" است. او گفت: "اگر به حال خود رها شود، من بسیار نگران این هستم که نقطه پایانی برای این کار کجا باشد." با این حال، او «آرامش» است، زیرا قبلا شاهد اجرای این سناریو بوده است، با تلاش های امنیتی برای همگام شدن با توسعه زیرساخت.

گراهام همچنین از مقاله بدنام داریو آمودی، مدیر عامل آنتروپیک، «ما باید در مرز قدم برداریم» به طرز خوشایندی شگفت زده شد. او به ما گفت: «من این دیدگاه بدبینانه را قبول ندارم که نوعی توطئه بزرگ برای دور زدن ضدانحصار است. گراهام گفت: "من معتقدم که هوش مصنوعی ابزار فوق العاده ای است که اساسا زندگی بسیاری را به سمت بهتر شدن تغییر می دهد. اما ما اکنون باید کار را انجام دهیم." "ما قوطی امنیتی را به اندازه کافی در مسیر قرار داده ایم و اکنون باید آن را حل کنیم." ®