راه حل بحران ایمنی هوش مصنوعی هوش مصنوعی بیشتر است

مدیران و محققان صنعت می گویند که هوش مصنوعی بیشتر مطمئن ترین راه حل برای یک بحران امنیتی در حال ظهور هوش مصنوعی است.

چرا اهمیت دارد: افشاگری در Axios مبنی بر اینکه محققان ده‌ها هزار حادثه مشکل‌ساز امنیتی هوش مصنوعی را بررسی می‌کنند - به جای ده‌ها موردی که به طور عمومی فاش شده بودند - سؤالاتی را در مورد اینکه آیا رهبران هوش مصنوعی بر فناوری خود کنترل دارند یا خیر ایجاد کرد. جنسن هوانگ، مدیر عامل انویدیا، با اعلام یک پلتفرم ایمنی منبع باز برای نظارت و قرنطینه بالقوه عوامل هوش مصنوعی، به دنبال کاهش ترس های فزاینده در سراسر دولت ها، بازارها و صنایع بود.

او روز دوشنبه در مصاحبه ای در CNBC گفت: همه ما باید امیدوار باشیم که این یک مشکل مهندسی است. اگر مشکل مهندسی نباشد، قابل حل نیست». او گفت که این واقعیت که شرکت ها به پیشبرد مرز ادامه می دهند به این معنی است که آنها همچنین معتقدند این مشکلی است که می توانند حل کنند. بین خطوط: چالش اساسی که انسان ها در نظارت بر هوش مصنوعی قدرتمند با آن روبرو هستند این است که از آنها می خواهد تمام روش هایی را که مدل ها ممکن است به روش های غیرمنتظره ای برای رسیدن به اهداف تعیین شده خود رفتار کنند، تصور کنند. یکی از مدیران ارشد هوش مصنوعی این فرآیند را با یافتن راه‌هایی برای جلوگیری از فرار مخفیانه یک نوجوان در شب مقایسه کرد.

یکی از والدین ممکن است قوانینی را وضع کند، مانند اینکه از درهای جلو یا عقب خارج نشوید، گاراژ را باز نکنید یا از هیچ پنجره ای خارج نشوید.

اما اگر نوجوان بتواند یک بولدوزر بسازد و از آن برای شکستن یک دیوار آجری استفاده کند و اجازه فرار بدهد، چه؟ آیا هیچ والدینی به این فکر می کرد که به آنها بگوید این کار را نکنید؟ به گفته مدیران، محققان و متخصصان امنیت سایبری، راه حل استفاده از هوش مصنوعی برای کمک به ایجاد آن نرده‌های محافظ، کمک به بررسی و توقف عوامل سرکش، کمک به سیستم‌های امن و ایجاد محیط‌های آموزشی امن‌تر است.

تصویر بزرگ: رویکرد هوش مصنوعی در مقابل هوش مصنوعی در سراسر امنیت سایبری شکل گرفته است زیرا هکرها و عوامل سرکش از قابلیت‌های پاسخ‌دهی فقط برای انسان پیشی گرفته‌اند. شرکت‌ها به طور فزاینده‌ای به هوش مصنوعی روی می‌آورند تا تشخیص تهدید، تیم قرمز و وصله‌سازی خودکار را انجام دهند. پلتفرم انویدیا این رویکرد را به عامل های در حال اجرا سیستم می آورد. مایکروسافت، سیسکو، گوگل و CrowdStrike مدل های هوش مصنوعی متمرکز بر سایبری را معرفی کرده اند. Palo Alto Networks اخیرا سرویسی را راه‌اندازی کرده است که از مدل‌های مرزی و وزن باز برای یافتن نقص‌های امنیتی و توصیه به رفع آن استفاده می‌کند.

براد گاستویرث، رئیس جهانی تحقیقات و اطلاعات بازار در Circular Technology، می‌نویسد: «اگر عوامل امنیتی یا مدل‌های اعتبارسنجی در کنار عوامل تولید اجرا شوند، حجم کار استنتاج دیگری ایجاد می‌شود که قبلا وجود نداشت». این پویایی اخیرا زمانی که عوامل OpenAI از محیط آزمایشی فرار کردند و Hugging Face را نقض کردند، به نمایش گذاشته شد. پلتفرم AI منبع باز سپس از یک مدل هوش مصنوعی چینی برای ارزیابی حمله پس از برخورد به نرده های محافظ هنگام تلاش برای استفاده از مدل های ایالات متحده استفاده کرد.

Hugging Face از استفاده از Anthropic's Mythos که برای محدود کردن پاسخ‌های آن به برخی درخواست‌های امنیت سایبری برای جلوگیری از استفاده بالقوه مضر طراحی شده بود، مسدود شد. به عبارت دیگر، هوش مصنوعی هوش مصنوعی را بررسی کرد. سطح تهدید: حوادث امنیتی اخیر یک بحران اعتماد در ایمنی هوش مصنوعی ایجاد کرده است. مدل‌ها به دنبال دور زدن نرده‌های محافظ، فرار از جعبه‌های ماسه‌بازی، ربودن وب‌سایت‌ها، درخواست خود و تلاش برای فرار از مانیتورها بوده‌اند.

شرکت ها همچنین در حال کار بر روی راه هایی برای درس گرفتن از این شکست ها هستند. علاوه بر پلتفرم امنیتی عامل جدید که بیش از 100 شرکت را علاوه بر انویدیا درگیر می کند، بازیگران صنعت چارچوبی را برای گزارش حوادث و حفظ سوابق پیشنهاد کرده اند. ایده این است که به بازرسان نوعی ضبط کننده پرواز برای عوامل هوش مصنوعی داده شود. بله، اما: ابزارهای دفاعی بیشتر هوش مصنوعی به این معنی نیست که هر شرکتی می تواند آنها را به سرعت بپذیرد. برخی از تیم‌های امنیتی در حال حاضر تحت تأثیر تغییر چشم‌انداز تهدید و انتخاب‌هایی در مورد خرید قرار گرفته‌اند.

بررسی واقعیت: هوش مصنوعی برای کنترل هوش مصنوعی مورد نیاز است، اما این بدان معنا نیست که به طور خودکار اتفاق می افتد. انسان ها باید با موفقیت اولویت ها و اهدافی را برای ایمن نگه داشتن مدل های قدرتمند تعیین کنند.