محققان می گویند OpenAI، گوگل مدل های جدید هوش مصنوعی را به راحتی فریب داد تا برهنه شوند
روش حمله، نقص‌های OpenAI را آشکار می‌کند، Google از برهنه‌های هوش مصنوعی محافظت می‌کند.
محققان ایمنی همچنان هشدار می‌دهند که حجم زیادی از محتوای صریح تولید شده توسط هوش مصنوعی بدون کنترل منتشر می‌شود، در حالی که تنظیم‌کننده‌ها کاری برای متوقف کردن معنی‌دار آن انجام نمی‌دهند.
این محتوای غیر توافقی معمولا در پیام‌های متنی و مستقیم به اشتراک گذاشته می‌شود یا در ابرهای خصوصی ذخیره می‌شود، جایی که احتمال شناسایی یا گزارش آن کمتر است، مطالعه‌ای که توسط Google در ژوئیه امسال روی کاربران اینترنت در سراسر ایالات متحده، استرالیا و بریتانیا انجام شد نشان داد. به همین دلیل است که "بحرانی ترین نقطه مداخله" در منبع باقی می ماند: ابزارهای مضر هوش مصنوعی که برای ساختن تصاویر جنسی جعلی استفاده می شود، محققان گوگل نتیجه گرفتند.
با این حال، تیم قرمز در ماه‌های اخیر نشان می‌دهد که وقتی برخی از تولیدکننده‌های تصویر هوش مصنوعی گوگل و OpenAI توانمندتر می‌شوند، ممکن است در مسدود کردن خروجی‌های صریح بدتر شوند.
مقاله کامل را بخوانید
نظرات
متن اصلی (انگلیسی)
OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say
Attack method exposes flaws in OpenAI, Google safeguards against AI nudes.