OpenAI محصولات امنیتی را راه اندازی می کند و به سازمان ها می گوید که اگر از آنها استفاده نکنند محکوم به فنا هستند

OpenAI دو محصول امنیتی جدید را راه اندازی کرده است، یکی برای تست نفوذ و دیگری برای دفاع، و به سازمان ها هشدار داده است که کسب و کار آنها تنها در صورتی ایمن هستند که از ابزارهایی مانند این استفاده کنند.

گرگ براکمن، رئیس OpenAI در طی سخنرانی روز پنجشنبه گفت: «اکنون در نقطه‌ای هستیم که شرکت‌ها تنها به اندازه مدل مرزی که برای دفاع از خود استفاده می‌کنند و به خوبی از آن استفاده می‌کنند، ایمن خواهند بود.

یکی از بنیانگذاران شرکتی که امنیت را شکسته است اعتراف کرد که "مبانی امنیت مهم هستند و نباید از آنها کاسته شود."

با این حال، براکمن با کنایه‌ای کامل گفت: «شما باید واقعا عملکرد امنیتی خود را در مورد آنچه که این مدل‌ها می‌توانند انجام دهند، تغییر دهید، و احتمالا در مورد استفاده از مدل‌های هوش مصنوعی برای دفاع صحبت می‌کند - نه برای هک سازمان‌های دیگر. "همچنین محصول بسیار مهم است."

البته این محصول باید از OpenAI باشد و برای این منظور، شرکت Daybreak Red Team و Daybreak Defense Factory را که هر دو بخشی از پلتفرم امنیتی Daybreak OpenAI هستند، راه اندازی کرد.

Red Team که در دسترسی اولیه در دسترس است، از مدل‌های OpenAI برای آزمایش برنامه‌های وب شرکت‌ها برای آسیب‌پذیری استفاده می‌کند. نانسی وانگ، که رهبری هوش مصنوعی کاربردی سایبری را بر عهده دارد، آن را به عنوان «آزمون قلم ابرانسانی در مقیاس اسکن مداوم خودکار» با ناوگانی از عوامل با استفاده از کد منبع و زمینه برنامه برای بررسی و آزمایش مسیرهای حمله توصیف کرد.

همچنین به تیم‌های امنیتی کمک می‌کند تا آسیب‌پذیری‌های گزارش‌شده - از اسکنرهای کد، برنامه‌های پاداش باگ و گزارش‌های افشا را تأیید کنند و سپس وصله‌ها را برای این نقص‌ها آزمایش کنند.

محصول دوم، Daybreak Defense Factory، «حلقه دفاعی» را با «یافتن، اعتبارسنجی و رفع آسیب‌پذیری‌ها در مقیاس» خودکار می‌کند. این یکی همچنین از عوامل ساخته شده بر روی آخرین مدل های سایبری OpenAI استفاده می کند - در حال حاضر، GPT-6 Cyber ​​است. عامل ها پایگاه های کد سازمان ها را اسکن می کنند، آسیب پذیری ها را جستجو می کنند و وصله ها را توسعه می دهند. مهندسان اصلاحات پیشنهادی را قبل از شروع تولید بررسی و تایید می کنند.

وانگ گفت: "به این ترتیب مهندسان یک درخواست کشش آماده ادغام با وصله و آزمایشی دریافت می کنند که نشان می دهد کار می کند."

در همین حال، زمانی که مدیران OpenAI محصولات امنیتی جدید را تبلیغ می‌کردند، ائتلافی از سازمان‌های غیرانتفاعی شکایتی را در دادگاه عالی سانفرانسیسکو تنظیم کردند و از یک قاضی خواستند تا کسب‌وکارهای OpenAI، Anthropic، Google، Meta و SpaceX را از توسعه یا استقرار سیستم‌های هوش مصنوعی با توانایی‌تر از پیشرفته‌ترین مدل‌های موجود خود باز دارد.

این شکایت که توسط صندوق آموزش غیر قابل تعویض، شهروند عمومی، ابتکار عمل گرما، و اتحاد برای هوش مصنوعی امن تنظیم شده است، به حوادث مربوط به دسترسی عوامل OpenAI به Hugging Face، دسترسی غیرمجاز به پورتال دولتی استرالیا حاوی آمار مدیکر و سایر حوادث مربوط به امنیت سایبری مرتبط با هوش مصنوعی اشاره می کند.

اسناد دادگاه ادعا می‌کنند: «مدافعان به ما می‌گویند که فناوری هوش مصنوعی که در حال توسعه آن‌ها هستند، خطرات فاجعه‌باری را برای مردم به همراه دارد، از جمله با فعال کردن حملات سایبری مبتنی بر هوش مصنوعی و سلاح‌های زیستی،» و افزود که شرکت‌های هوش مصنوعی «اشتباه نمی‌کنند». ®