OpenAI یک واترمارک دیجیتال به متن و کد تولید شده در اتحادیه اروپا اضافه می کند

این برای مطابقت با قوانین جدید شفافیت هوش مصنوعی منطقه است.

OpenAI به تازگی برنامه های خود را برای مطابقت با بخشی از قوانین شفافیت هوش مصنوعی جدید اتحادیه اروپا اعلام کرده است. این شرکت به زودی شروع به اضافه کردن واترمارک نامرئی به متن و کد تولید شده در اتحادیه اروپا خواهد کرد. این به دنبال اقدام مشابهی توسط آنتروپیک در اوایل سال جاری است.

OpenAI از یک سیستم اختصاصی به نام textGrain استفاده می کند که "یک سیگنال آماری نامرئی را به گزینه های انتخابی مدل اضافه می کند." پس از افزودن، یک آشکارساز می‌تواند این سیگنال‌ها را شناسایی کرده و مشخص کند که آیا واترمارکی وجود دارد یا خیر.

این شرکت می‌گوید که این سیستم با عملکرد سایر رویکردها، مانند SynthID برای متن، مطابقت دارد یا از آن فراتر رفته است. با این حال، همچنان هشدار می دهد که "عملکرد قوی در شرایط ایده آل، تشخیص قابل اعتماد در استفاده روزمره را تضمین نمی کند."

این حرف شرکتی است که "ممکن است همیشه کارساز نباشد." اعتراف می‌کند که تشخیص متن کوتاه‌تر سخت‌تر است و میزان موفقیت آن حدود ۸۰ درصد است. همین امر در مورد «محتوای مانند ریاضیات» نیز صدق می کند. به نظر می رسد حتی ویرایش متن نیز میزان موفقیت را کاهش می دهد. OpenAI قصد دارد این فناوری را به صورت متن باز در دسترس قرار دهد تا دیگران بتوانند آن را تغییر دهند.

واترمارک به‌طور پیش‌فرض فعال نمی‌شود، به‌جز «خروجی متن ChatGPT و Codex واجد شرایط در اتحادیه اروپا». مشتریان می‌توانند «برای مدل‌های منتخب» انتخاب کنند، اگرچه مشخص نشده است که کدام مدل‌ها برای عموم مردم جهانی در دسترس هستند.

OpenAI در مورد نرم افزار تشخیص کمی محتاط تر است. دسترسی در ابتدا محدود به "محققان و سازمان های خبره تایید شده" خواهد بود. همچنین، آشکارساز کاربر را شناسایی نمی‌کند یا پیام‌ها یا مکالمات را آشکار نمی‌کند.

ماده 50 قانون هوش مصنوعی اتحادیه اروپا موظف است که ارائه دهندگان سیستم های هوش مصنوعی مولد خروجی های متن را به روشی قابل خواندن توسط ماشین قابل شناسایی کنند. این در حال حاضر مربوط به شرکت های جدیدی است که وارد بازار می شوند، اما نهادهای از قبل موجود تا 2 دسامبر فرصت دارند تا از آن پیروی کنند. این شامل سازمان‌هایی مانند OpenAI و Anthropic، البته مایکروسافت، گوگل و متا، و غیره می‌شود.