OpenAI برای اضافه کردن واترمارک نامرئی به متن ChatGPT در اتحادیه اروپا

این شرکت روز دوشنبه اعلام کرد OpenAI در هفته‌های آینده شروع به اضافه کردن واترمارک‌های نامرئی به متن ایجاد شده توسط ChatGPT و Codex در اتحادیه اروپا خواهد کرد.

این اقدام در حالی صورت می‌گیرد که قانون هوش مصنوعی اتحادیه اروپا، ارائه‌دهندگان سیستم‌های هوش مصنوعی مولد را ملزم می‌کند تا متن تولید شده توسط هوش مصنوعی را در قالب قابل‌خواندن ماشینی قابل شناسایی کنند.

OpenAI گفت فناوری آن، به نام textGrain، یک سیگنال آماری نامرئی را در کلمات انتخاب شده توسط مدل‌هایش تعبیه می‌کند. سپس یک آشکارساز می‌تواند به دنبال سیگنال باشد تا ارزیابی کند که آیا یک گذر حاوی علامت OpenAI است یا خیر.

این شرکت هشدار داد که واترمارکینگ و تشخیص متن، فناوری‌های اولیه با محدودیت‌های قابل توجه باقی می‌مانند.

تشخیص متون کوتاه‌تر سخت‌تر است، در حالی که ویرایش، بازنویسی یا ترجمه می‌تواند واترمارک را ضعیف کند.

OpenAI همچنین تاکید کرد که تشخیص واترمارک ثابت نمی کند که یک متن کاملا توسط هوش مصنوعی تولید شده است، در حالی که عدم وجود آن ثابت نمی کند که توسط یک انسان نوشته شده است.

این شرکت در حال باز کردن برنامه‌های کاربردی برای دسترسی به آشکارساز واترمارک خود است که در ابتدا محدود به محققان و سازمان‌های متخصص تایید شده است.

OpenAI گفت که عرضه تدریجی هم الزامات قانون هوش مصنوعی اتحادیه اروپا و هم محدودیت های فناوری واترمارک فعلی را منعکس می کند.