مدل های رایگان هوش مصنوعی چینی در هک شدن ترسناک می شوند

Vals، شرکتی که قابلیت‌های هوش مصنوعی را اندازه‌گیری می‌کند، آزمایش کرد که مدل‌های مختلف هوش مصنوعی چقدر می‌توانند دستورالعمل‌های پیچیده و چند مرحله‌ای شبکه را در شبکه‌های شرکتی ساختگی انجام دهند. نیکیل راو، محقق در Vals می‌گوید: «بهترین مدل‌های مرزی، که در آزمایشگاه‌ها قفل شده‌اند و فقط از طریق برنامه‌های دسترسی قابل اعتماد در دسترس هستند، اکنون با مدل‌های باز که همه می‌توانند دانلود کنند، مطابقت داده می‌شوند. یافته‌های این شرکت نشان می‌دهد که مدل‌های بسته دیگر برتری قطعی در مهارت‌های سایبری ندارند، یعنی تلاش‌های اخیر آزمایشگاه‌های مرزی برای محدود کردن دسترسی به مدل‌های خود و در نتیجه کاهش سرعت گسترش

n از چنین قابلیت هایی، ممکن است به طور بالقوه قابل بحث باشد. این یافته‌ها همچنین با توجه به اینکه آزمایشگاه‌های مرزی ایالات متحده، به‌ویژه Anthropic، عرضه محدود مدل‌های جدید را پیش‌بینی کرده بودند - با شروع پیش‌نمایش کلود میتوس در آوریل - با این ایده که دسترسی دروازه‌ای فقط قبل از اینکه قابلیت‌های هک پیشرفته به طور گسترده در دسترس باشد، زمان می‌برد. لوگان گراهام، سرپرست تیم قرمز مرزی آنتروپیک، در ماه آوریل به WIRED گفت که پروژه Glasswing این شرکت، که دسترسی مطمئن به قابلیت‌های کامل مدل‌های جدید را فراهم می‌کند، بر این متمرکز شده است که این ابزارها را «در دست مدافعان برای شروع کار» قرار دهد. "

اکنون باید برای جهانی آماده شویم که در آن این قابلیت ها به طور گسترده در 6، 12، 24 ماه در دسترس باشد. او در آن زمان به WIRED گفت، خیلی چیزها در مورد امنیت متفاوت خواهند بود. هفت ماه بعد، به نظر می رسد که این انتقال طبق برنامه انجام شده است. Vals مدل‌های هوش مصنوعی را در دو سناریو شبیه‌سازی شده آزمایش کرد و به آن‌ها وظایف خاص مختلفی را برای دستیابی به آنها داد. سناریوی اول شامل یک شبکه شرکتی ساختگی بود که از طریق یک وب سایت عمومی قابل دسترسی بود.

دومی شامل دو شبکه شرکت متفاوت بود. یک مدل برای به خطر انداختن اولین مورد نیاز بود تا به دومی دسترسی پیدا کند. محققان دریافتند که پیشرفته‌ترین مدل سایبری OpenAI، Daybreak، که فقط برای شرکای مورد اعتماد در دسترس است، تواناترین است و 81 درصد از وظایفی را که به طور میانگین در دو آزمایش انجام می‌شود، انجام می‌دهد. مدل وزن باز چینی DeepSeek نیز چندان عقب نبود و به طور متوسط ​​73 درصد از اهداف را تکمیل کرد.

محققان Vals خاطرنشان کردند که در برخی کارها، این دو مدل امتیاز مساوی گرفتند. این تحقیق همچنین نشان داد که استفاده از مدل وزن باز برای این نوع کار چقدر ارزان تر است. Vals می گوید برای GPT-6-Sol برای انجام یک حمله 17 تا 46 دلار توکن در مقایسه با 2 تا 3 دلار برای DeepSeek هزینه دارد. مدل‌های باز معمولا ارزان‌تر هستند، زیرا می‌توانند روی سخت‌افزار شخصی خود اجرا شوند.

رایان کریشنان، مدیر عامل Vals، می‌گوید این نیز انگیزه‌ای قوی برای کسانی است که در دفاع بازی می‌کنند تا از مدل‌های باز به جای مدل‌های اختصاصی استفاده کنند. OpenAI بلافاصله به درخواست نظر پاسخ نداد. بیشتر سال در امنیت سایبری همانطور که پیش‌بینی می‌شد انجام می‌شود و هوش مصنوعی وظایف هک هسته‌ای را خودکار می‌کند تا به مهاجمان و مدافعان کمک کند تا تعداد زیادی آسیب‌پذیری جدید در کد پیدا کنند و به سرعت شبکه‌ها را برای نقاط ضعف بررسی کنند.

در حالی که سرعت و مقیاس یافته‌ها، و شدت رفع نقص‌های نرم‌افزاری کشف‌نشده، همگی افزایش یافته‌اند، کارشناسان هنوز در حال بحث هستند که آیا هوش مصنوعی اساس مفهومی و اصول دفاع از امنیت سایبری را تغییر داده است یا خیر. به عبارت دیگر، هنوز مشخص نیست که آیا ابزارهای هوش مصنوعی نوع جدیدی از تهدید را ایجاد می‌کنند یا چالش‌های امنیتی را که مدت‌هاست وجود داشته‌اند، تقویت می‌کنند. این واقعیت که مدل‌های وزن باز اکنون شروع به مطابقت با مدل‌های بسته شده‌اند، برای درک اینکه چگونه هکرهای جنایتکار می‌توانند هوش مصنوعی را مهار کنند و شرکت‌ها و توسعه‌دهندگان چگونه باید پاسخ دهند، بسیار مهم است.

اما در عمل، مشاهده در دنیای واقعی از فعالیت‌های هکری مجرمان سایبری و تحت حمایت دولت، در ماه‌های اخیر بارها نشان داده است که مهاجمان همان کاری را که همیشه انجام می‌دهند، با حفظ منابع خود انجام می‌دهند و عموما در بیشتر فعالیت‌های خود به مدل‌های قدیمی‌تر و کمتر توانا - اعم از اختصاصی و باز - بسنده می‌کنند.

و حتی با کنترل‌های دقیق، مدافعان باید تصور کنند که مهاجمان با بهترین بودجه و با انگیزه‌ترین مهاجمان در تمام این مدت حداقل به مدل‌های بسته دسترسی داشته‌اند. الکس زنلا، یکی از بنیانگذاران و مدیر فناوری شرکت امنیت ابری Edera، می گوید: «من به طور کلی موافق هستم که مدل های وزن باز می توانند حملات و آسیب پذیری های پیشرفته ای را ایجاد کنند، به خصوص وقتی مدل های حذف شده را در نظر بگیرید که آموزش ایمنی را با تغییر وزن ها غیرفعال می کنند.

"اخطار من در این مورد این است که احتمالا آزمایشگاه‌های بسته مدل‌های منتشر نشده بیشتری را آموزش داده‌اند که بیش از این قابلیت‌ها هستند. بنابراین من این را بسیار شبیه یک بازی موش و گربه می‌دانم. آزمایشگاه‌ها خود را به سرعت در حال حرکت برای پیشی گرفتن از مدل‌های وزن باز می‌دانند تا بتوانند آسیب‌پذیری‌ها را قبل از اینکه این مدل وزن باز را پیدا کنند، ایمن کنند. چشم انداز."