OpenAI خروجی های ChatGPT را به طور پیش فرض واترمارک می کند - اما فقط در اتحادیه اروپا
مانند راه حل های دیگر، به خصوص قابل اعتماد نیست و دور زدن آن آسان است.
این شرکت اعلام کرده است که OpenAI به طور خودکار متن های تولید شده با ChatGPT را در اتحادیه اروپا شروع خواهد کرد. همچنین ویژگی واترمارکینگ را در مناطق دیگر ارائه می دهد، اما به طور پیش فرض در خارج از اتحادیه اروپا خاموش خواهد بود.
این حرکت در اروپا ناشی از نیاز به رعایت قانون هوش مصنوعی اتحادیه اروپا است که در ماه اوت اجرایی شد. این نیاز به علامت گذاری محتوای تولید شده توسط مدل های هوش مصنوعی دارد به گونه ای که ابزار دیگری بتواند آن را تشخیص دهد. متأسفانه هنوز هیچ راه کاملا مؤثر و قابل اعتمادی برای انجام این کار وجود ندارد. چند استاندارد از قبل وجود دارد، مانند SynthID و پروژه C2PA، اما دور زدن آنها برای هر کسی که دانش اولیه دارد نسبتا آسان است.
همین امر احتمالا در مورد واترمارک OpenAI نیز صادق است. روش آن اختصاصی است. این شرکت آن را textGrain می نامد و یک مقاله فنی منتشر کرده است که نحوه عملکرد آن را توضیح می دهد. اما به طور کلی، این ابزار مانند سایر ابزارهای واترمارک LLM که در گذشته دیده‌ایم کار می‌کند: الگوهایی را در انتخاب کلمات قرار می‌دهد که برای خواننده انسانی واضح نیست، و کیفیت کلی خروجی را به‌طور معنی‌داری تغییر نمی‌دهد، اما شخصی که کلید دارد می‌تواند از یک آشکارساز تخصصی برای یافتن آن استفاده کند.
OpenAI می‌گوید دسترسی به آشکارساز را به تعداد محدودی از محققان و سازمان‌ها می‌دهد و فرآیند درخواست تأیید را برای دیگران فراهم می‌کند تا در طول زمان اضافه شوند.
مقاله کامل را بخوانید
نظرات
متن اصلی (انگلیسی)
OpenAI will watermark ChatGPT outputs by default—but only in the EU
Like other solutions, it is not especially reliable, and it's easy to circumvent.