OpenAI در حال اضافه کردن واترمارک های متنی در اتحادیه اروپا است زیرا مقررات کار می کند

گذراندن کار ChatGPT به عنوان کار شما در شرف سخت‌تر شدن است – حداقل اگر در اتحادیه اروپا زندگی می‌کنید. روز دوشنبه، OpenAI اعلام کرد که شروع به درج یک واترمارک نامرئی، غیرمسلح با چشم غیرمسلح، اما قابل شناسایی توسط ماشین، در تمام خروجی‌های متنی تولید شده توسط مدل‌های هوش مصنوعی خود، از جمله ChatGPT و عامل کدگذاری آن Codex خواهد کرد.

واترمارک OpenAI را با قانون هوش مصنوعی اتحادیه اروپا مطابقت می دهد، که به متن مدل ساخته شده نیاز دارد که دارای شناسه قابل خواندن ماشین باشد که محتوا را به عنوان تولید شده توسط هوش مصنوعی پرچم گذاری می کند. طبق این شرکت، واترمارک در ابتدا یک ویژگی انتخابی خواهد بود و کاربران در سراسر جهان می توانند از امروز آن سوئیچ را برگردانند. در هفته‌های آینده، واترمارک به «خروجی متن ChatGPT و Codex واجد شرایط در اتحادیه اروپا» اضافه می‌شود، که اختیاری نخواهد بود - به‌طور خودکار و بدون کلید خاموش ظاهر می‌شود.

پس چه کسی می‌تواند واترمارک را ببیند؟ طبق گفته OpenAI، محققان و سازمان های متخصص به آشکارساز دسترسی خواهند داشت که می تواند نشانگر نامرئی را تشخیص دهد. OpenAI تصمیم گرفت که ابزار شناسایی را در هنگام راه اندازی در دسترس عموم قرار ندهد به دلیل خطرات مثبت کاذب. در عوض، گفت که برای حمایت از ارزیابی، دسترسی «بر اساس مورد به مورد» اعطا خواهد شد.

OpenAI جدیدترین شرکتی است که مسیر واترمارکینگ را طی کرده است. Anthropic یک نشانگر مشابه و قابل خواندن توسط ماشین را در ماه آگوست راه‌اندازی کرد (که باعث شد مردم بلافاصله به دنبال راه‌حل‌ها و راه‌هایی برای پاک کردن متن خود از نشانگر هوش مصنوعی باشند). و Google DeepMind چند سالی است که یک واترمارک در خروجی های خود قرار داده است. (به طرز عجیبی، گوگل در این مورد عقب نشینی کرده است و در ماه آگوست اعلام کرد که کاربران می توانند واترمارک ها را از تصاویر، ویدیوها و آهنگ ها در کشورهایی که نیازی به آن نیست حذف کنند).

قابل توجه است که واترمارک آن شرکت های دیگر برای کاربران ایالات متحده اعمال می شود (یا اعمال می شود). با وجود نگرانی فزاینده در کشور در مورد تکثیر محتوای تولید شده توسط هوش مصنوعی، OpenAI اینطور نیست. یک نظرسنجی اخیر از مرکز راینی نشان داد که تقریبا هشت نفر از هر 10 نفر از الزامات واترمارک کردن هوش مصنوعی حمایت می کنند، از جمله 82٪ از دموکرات ها و 75٪ از جمهوری خواهان.

اما حمایت عمومی سیاست گذاری نمی کند و ایالات متحده همچنان در مقررات فدرال مرتبط با هوش مصنوعی عقب مانده است. با وجود هیچ الزامی برای شرکت‌های هوش مصنوعی مرزی برای گنجاندن واترمارکی که به کاربران و پلتفرم‌ها کمک می‌کند محتوای تولید شده توسط هوش مصنوعی را به سرعت شناسایی کنند، واقعا هیچ انگیزه‌ای برای OpenAI وجود ندارد که فعالانه از قانونی که وجود ندارد پیروی کند. به نظر می رسد که اگر فقط آنها را تصویب کرده و اجرا کنید، قوانین کار می کنند.