گزارش تحقیقاتی: هوش مصنوعی چینی نحوه ساخت سلاح‌های زیستی را آموزش می‌دهد
شرکت چینی مون‌شات پس از انتشار گزارش‌هایی درباره‌ی ارائه‌ی آموزش‌های خطرناک توسط مدل‌های هوش مصنوعی «کیمی»، بررسی داخلی گسترده را آغاز کرد.
شرکت چینی مون‌شات پس از انتشار گزارش‌هایی درباره‌ی ارائه‌ی آموزش‌های خطرناک توسط مدل‌های هوش مصنوعی «کیمی»، بررسی داخلی گسترده را آغاز کرد.
شرکت چینی مون‌شات در پی دستیابی پژوهشگران به روش‌هایی برای دورزدن محدودیت‌های امنیتی دو مدل هوش مصنوعی این شرکت، فرایند بررسی داخلی خود را کلید زد . محققان موفق شده بودند مدل‌های Kimi K2.6 و K3 Swarm را وادار به ارائه‌ی راهکارهایی درباره‌ی ساخت سلاح‌های بیولوژیکی و انجام عملیات ترور کنند.
شرکت مایندگارد که در زمینه‌ی ارزیابی امنیت سامانه‌های هوش مصنوعی فعالیت دارد، متوجه شد که امکان نادیده گرفتن تدابیر ایمنی در این دو مدل وجود دارد. چنین رخدادی در فرایندی به نام «جیل‌بریک» رقم خورد که در آن کارشناسان با ارائه‌ی دستورهای پیچیده، ساختارهای حفاظتی ابزارهای هوش مصنوعی را به چالش می‌کشند.
پیتر گاراگان ، بنیان‌گذار مایندگارد، در برنامه‌ی رادیویی تک لایف می‌گوید: «وقتی جیل‌بریک اثر می‌کند، سیستم درباره‌ی هر موضوعی حرف می‌زند؛ حتی توصیه‌هایی خودجوش درباره‌ی دیگر موضوعات شرورانه ارائه می‌دهد و در این مسیر بسیار مبتکر و خلاق عمل خواهد کرد.»
کارشناسان امنیتی هشدار می‌دهند که مدل‌های قفل‌شکسته می‌توانند بستری برای هکرها فراهم کنند تا کدهای دلخواه را روی منابع پردازشی اجرا کرده و به اینترنت متصل شوند؛ مسئله‌ای که امکان تبدیل آن‌ها به سکوی پرتاب حملات سایبری را تقویت می‌کند.