این استارت‌آپ ۲۱ میلیون دلار برای پاکسازی شرکت‌های نابسامان عامل هوش مصنوعی جمع‌آوری کرد

جرمی میلن، جیمز فام و اوز واسرمن از بنیانگذاران Opsin هستند. کریستوفر دنیز/اپسین Opsin 21 میلیون دلار برای نظارت و کنترل عوامل هوش مصنوعی که شرکت ها استفاده می کنند جمع آوری کرد.

این استارت‌آپ امیدوار است بتواند رونق عاملی را که توسط OpenAI، مایکروسافت، آنتروپیک و دیگران ایجاد شده است، تکمیل کند.

در فضای داغ امنیت سایبری، Opsin در حال افزایش رتبه های فروش و مهندسی خود است. تعداد عوامل هوش مصنوعی در بسیاری از محیط‌های کاری با فناوری پیشرفته از انسان‌ها بیشتر شده است و نظارت بر آنها بسیار دشوارتر است.

Opsin، یک استارت آپ امنیت و مدیریت هوش مصنوعی، روز پنجشنبه اعلام کرد که 21 میلیون دلار برای رسیدن به این لحظه جمع آوری کرده است. از آنجایی که کارمندان در سراسر جهان شرکت‌ها عوامل هوش مصنوعی مانند OpenAI و مایکروسافت را به کارهای بیشتری متصل می‌کنند، این شرکت به مبارزه با محصول جدید افراد بالقوه خطرناک کمک می‌کند.

استقرار عوامل برای کارگران غیر فنی هرگز آسان نبوده است - نرم افزار مستقل ساخته شده بر روی هوش مصنوعی که می تواند وظایف را کامل کند. همانطور که کارمندان نرم افزار را به کار، کد و پایگاه داده شرکت خود پمپ می کنند، می توانند آنچه را که هوش مصنوعی در واقع انجام می دهد از دست بدهند.

جیمز فام، مدیرعامل و یکی از بنیانگذاران Opsin، متوجه شد که ترس های امنیتی استفاده از هوش مصنوعی را کاهش می دهد، او به این نتیجه رسید که زمان آن رسیده است که شرکت خود را افزایش دهد.

فام می‌گوید: «عامل‌ها در واقع بیشتر از آنچه فکر می‌کنید شبیه انسان‌ها هستند. و دلیل آن این است که شما نمی‌دانید در سر انسان چه می‌گذرد، اما می‌توانید آنها را با اعمالشان قضاوت کنید.»

هدف Opsin ارائه یک دید جامع از آنچه که عوامل هوش مصنوعی در یک سازمان انجام می دهند و خطراتی که رفتار ممکن است ایجاد کند، ارائه می دهد. SYN Ventures و Race Capital دور جدید سرمایه گذاری این شرکت تقریبا 20 نفره را رهبری کردند که به سمت گسترش تیم های فروش و مهندسی آن خواهد رفت.

متخصصان امنیتی باید کاستی از عوامل هوش مصنوعی را پاک کنند

فام، دانش آموخته MIT، و یکی از بنیانگذاران او، اوز واسرمن، در شرکت Abnormal Security ملاقات کردند و هر کدام در سال 2022 آنجا را ترک کردند. وقتی تصمیم گرفتند شرکتی را راه اندازی کنند، فام گفت که با صدها نفر صحبت کردند تا نگرانی های مربوط به ورود هوش مصنوعی به کسب و کارها را درک کنند.

موضوع داده‌های حساس مطرح شد. فام گفت که شخص به فرد این نگرانی را مطرح کرد که عوامل هوش مصنوعی ممکن است به اطلاعات شخصی یا محرمانه دسترسی داشته باشند و از آنها سوء استفاده کنند.

اکنون، Opsin به مشتریان کمک می کند تا نشان دهند که عوامل در کجا فعال هستند، به کدام ابزار و داده ها دسترسی دارند، در ابتدا برای انجام چه کاری ساخته شده اند، و کدام یک ممکن است نیاز به پاکسازی داشته باشند. سپس، شرکت پیشنهاد می کند که به طور مداوم بر کار شرکت ها نظارت داشته باشد، مراقب نمایندگان باشد و رفتار مخاطره آمیز را نشان دهد.

فام گفت: «در پایان، همه چیز به رفتارهای کاربران و رفتار نماینده مربوط می شود.

او گفت که مقیاس نمایندگی‌ها، حتی در شرکت‌های نسبتا کمتر با فناوری، برخی از مشتریان را متحیر کرده است. فام گفت، در یکی از شرکت‌هایی که Opsin با آن کار می‌کرد، یک نماینده که توسط یک مدیر ارشد مالی ساخته شده بود، سهوا به سایر کارمندان سطح بالا دسترسی به اطلاعات مالی داد.

تهدیدات سایبری هوش مصنوعی می تواند به معنای رونق باشد

صنعت امنیت سایبری در یک جنون بوده است و اکنون رشد عوامل نیز بر این طوفان افزوده است. گلن چیشولم، یک سرمایه گذار سایبری که از Opsin با SYN Ventures حمایت می کند، به Business Insider گفت که با استفاده بیشتر شرکت ها از محصولات هوش مصنوعی، هکرها اهداف بیشتری پیدا خواهند کرد.

Chisholm گفت: "هرچه افراد بیشتری این کار را انجام دهند، دسترسی و خرید برای مهاجم آسان تر است."

سهام دفاع سایبری امسال افزایش یافته است و چیشولم گفت که شاهد سرمایه گذاری خطرپذیر بیشتری بوده است. Anthropic و OpenAI هر کدام به شدت در امنیت سایبری استخدام می کنند.

Opsin امیدوار است که بتواند شرکت‌ها را با استفاده از Microsoft Copilot، ChatGPT Enterprise و سایر محصولات احساس امنیت بیشتری کند. Chisholm خوشبین است که صنعت با هوش مصنوعی سازگار شود.

او می‌گوید: «در چند سال آینده به جای ترس از مفهوم آن، تلاش می‌کنیم چگونه بیشترین بهره را از آن ببریم.

نکته ای دارید؟ با این خبرنگار از طریق ایمیل به آدرس scouncil@businessinsider.com یا از طریق پیامک، سیگنال، تلگرام یا واتساپ به شماره 415-757-8198 تماس بگیرید. از یک آدرس ایمیل شخصی، یک شبکه WiFi غیر کاری و یک دستگاه غیر کاری استفاده کنید. در اینجا راهنمای ما برای به اشتراک گذاری ایمن اطلاعات است.

مقاله اصلی را در Business Insider بخوانید