Tencent مدل هوش مصنوعی آموزش دیده با داده های امنیتی سایبری محدود را در میان ترس از هک ارائه می کند.

Tencent گفت که در طول آموزش، محتوا را فیلتر کرده تا قابلیت‌های بالقوه «تهاجمی» Hy4 را محدود کند.

Tencent در 4 نوامبر Hy4، مدل منبع باز جدید خود را منتشر کرد، که به گفته این شرکت با داده های محدود امنیت سایبری برای محتوای "دفاعی" آموزش داده شده است تا خطرات توانایی مدل برای کمک به حملات سایبری را کاهش دهد.

این راه‌اندازی پس از حملات سایبری مبتنی بر هوش مصنوعی در سراسر جهان انجام شد که نگرانی‌هایی را در مورد قابلیت‌های مدل‌های پیشرفته و تهدیدی که برای زیرساخت‌های اینترنتی جهانی ایجاد می‌کند، ایجاد کرد.

Tencent گفت که در طول آموزش هایی مانند توسعه اکسپلویت، مهندسی معکوس و تست نفوذ، محتوا را فیلتر کرده تا قابلیت های بالقوه «تهاجمی» Hy4 را محدود کند.

هوش مصنوعی Moonshot در ماه اکتبر قابلیت‌های تهاجمی سایبری جدیدترین مدل خود را محدود کرد، زیرا شرکت‌های هوش مصنوعی چینی برای جلوگیری از خطرات از دست دادن کنترل به شرکت‌های آمریکایی می‌پیوندند.

تنسنت در بیانیه‌ای گفت: «ما خطرات بالقوه ایمنی ناشی از قابلیت‌های سایبری و بیولوژیکی پیشرفته را می‌شناسیم و متعهد به رویکردی مسئولانه‌تر برای آموزش مدل، منبع‌دهی باز و انتشار هستیم». رویترز