این استارت‌آپ ۲۰ میلیون دلار جمع‌آوری کرد تا عوامل هوش مصنوعی را با عوامل بیشتر هوش مصنوعی حفظ کند. عرشه زمین را بخوانید.

تیم اجرایی WhiteMatter شرط می‌بندد که عوامل بیشتر هوش مصنوعی پاسخی به عوامل سرکش هوش مصنوعی باشند. WhiteMatter WhiteMatter 20 میلیون دلار برای کنترل عوامل هوش مصنوعی یک شرکت جمع آوری کرده است.

این استارت‌آپ برای هر عامل هوش مصنوعی در یک شرکت «عامل نگهبان» ایجاد می‌کند تا اطمینان حاصل کند که آنچه را که باید انجام می‌دهد.

Business Insider نگاهی انحصاری به زمین بازی WhiteMatter مورد استفاده برای بالا بردن دور سری A خود داشت. یک استارتاپ که از عوامل هوش مصنوعی برای حفظ هوش مصنوعی سرکش استفاده می کند، 20 میلیون دلار جمع آوری کرده است.

WhiteMatter که در سال 2024 تأسیس شد و قبلا QuilrAI نام داشت، نمایندگانی ساخته است که بر آنچه که عوامل هوش مصنوعی موجود یک شرکت می توانند دسترسی داشته باشند، انجام دهند و به اشتراک بگذارند، نظارت می کنند.

این استارت‌آپ برای هر عامل هوش مصنوعی در یک شرکت، یک «عامل نگهبان» ایجاد می‌کند، که تضمین می‌کند عامل اصلی همانطور که در نظر گرفته شده عمل می‌کند.

قبل از اینکه یک شرکت به یک نماینده اجازه دسترسی به فایل‌ها، استفاده از نرم‌افزار، تصمیم‌گیری یا انجام یک اقدام را بدهد، نماینده WhiteMatter بررسی می‌کند که آیا این کار مجاز است یا خیر. به اصطلاح نگهبان نیز بر نتایج نظارت می کند.

عوامل نگهبان به طور خودکار مقیاس می شوند - وقتی یک شرکت یک عامل هوش مصنوعی جدید ایجاد می کند، یک عامل نگهبان جدید نیز ظاهر می شود.

ویدیت آرورا، بنیانگذار و مدیر عامل 35 ساله استارتاپ، به Business Insider گفت: «پشته موجود ما برای عواملی که بازیگر اصلی داستان باشند ساخته نشده است. سازمان‌ها اکنون از انسان‌ها به عنوان بازیگر اصلی به عواملی تبدیل می‌شوند که بازیگر اصلی هستند، و کل مجموعه ابزار ما برای این کار ساخته نشده است.

آرورا گفت که شرکت او به مشتریان کمک کرده است که از سازمان‌های انسان‌اول به سازمان‌های عامل اول شوند. او می‌گوید در مورد حملات و مصالحه‌های عوامل، چه از سوی عوامل خارجی و چه از سوی عوامل داخلی، «حتی در نوک کوه یخ هم نیستیم».

امنیت عامل به یک موضوع مهم تبدیل شده است زیرا شرکت ها به کارمندان غیر فنی بیشتری اجازه دسترسی به عوامل هوش مصنوعی را می دهند که قادر به تکمیل وظایف هستند. یک رشته اخیر از حوادث امنیتی مبتنی بر عامل، فوریت جدیدی را به فضای امنیت سایبری که WhiteMatter در آن فعالیت می کند، وارد کرده است.

استارت آپ های دیگر به فرصت های تجاری در زمینه امنیت عامل حمله کرده اند. WhiteMatter که نام جدیدش اشاره به بافت همبند مغز است، از Prompt Security، Lakera و Protect AI به عنوان برخی از رقبای خود در وب سایت خود نام می برد.

عوامل نگهبان بر روی توکن‌های مشتریان کار نمی‌کنند، بلکه بر روی مدل هوش مصنوعی و پردازنده‌های گرافیکی خود میزبان WhiteMatter کار می‌کنند. این شرکت بر اساس یک نسخه فنی از AUM: نمایندگان تحت مدیریت، یک نرخ ثابت از مشتریان دریافت می کند.

آرورا گفت، رشد کسب و کار ارگانیک است، زیرا شرکت ها به سرمایه گذاری در نمایندگی های بیشتری ادامه می دهند و بنابراین به نمایندگان نگهبان بیشتری نیاز دارند. مشتریان فعلی عبارتند از شرکت های Fortune 200 و Fortune 500، مانند شرکت مدیریت دارایی Alter Domus. این شرکت می گوید تا به امروز 2.25 میلیون نماینده تحت مدیریت دارد و بر بیش از 116 میلیارد تعامل هوش مصنوعی نظارت داشته است.

Blumberg Capital بودجه ۲۰ میلیون دلاری WhiteMatter سری A را رهبری کرد و سرمایه‌گذاران فعلی Crew Capital و Sprout & Oak نیز در آن شرکت کردند. آرورا قصد دارد بخش بزرگی از پول را برای استخدام در نقش های فروش و فروش استفاده کند و انتظار دارد که تیم 80 نفره اش در 12 ماه آینده 50 درصد رشد کند. او همچنین قصد دارد از سرمایه تازه برای سرمایه گذاری در تیم تحقیقاتی خود استفاده کند.

عرشه زمینی WhiteMatter که برای بالا بردن دور سری A خود استفاده کرد را بخوانید.

WhiteMatter بر کل چرخه عمر عامل نظارت دارد.

WhiteMatter

این استارتاپ تقریبا یک تیم 80 نفره دارد.

WhiteMatter

بسیاری از عوامل هوش مصنوعی اقداماتی را انجام می دهند که قرار نیست انجام دهند.

WhiteMatter

ماموران نگهبان بر هر اقدامی که یک نماینده انجام می دهد نظارت می کنند.

WhiteMatter

WhiteMatter AUM را اندازه گیری می کند: عوامل تحت مدیریت.

WhiteMatter

مشتریان شامل شرکت‌هایی در صنایع بسیار تحت نظارت، مانند مراقبت‌های بهداشتی هستند.

WhiteMatter

WhiteMatter تا به امروز بر 116 میلیارد تعامل هوش مصنوعی نظارت داشته است.

WhiteMatter

مقاله اصلی را در Business Insider بخوانید