OpenAI شروع به واترمارک کردن متن ChatGPT در اتحادیه اروپا خواهد کرد

این شرکت روز دوشنبه در یک پست وبلاگی اعلام کرد که OpenAI شروع به اضافه کردن واترمارک نامرئی به متن ایجاد شده توسط ChatGPT و Codex در اتحادیه اروپا خواهد کرد تا با قانون هوش مصنوعی اتحادیه اروپا مطابقت داشته باشد.

قوانین شفافیت قانون هوش مصنوعی اتحادیه اروپا، که از 2 آگوست اجرایی شد، شرکت‌های هوش مصنوعی را ملزم می‌کند محتوای تولید شده توسط هوش مصنوعی را به گونه‌ای علامت‌گذاری کنند که سایر سیستم‌ها بتوانند آن را شناسایی کنند.

OpenAI گفت این واترمارک در هفته‌های آینده برای کاربران واجد شرایط ChatGPT و Codex در همه برنامه‌ها، اما فقط در اتحادیه اروپا، عرضه خواهد شد. توسعه‌دهندگانی که از OpenAI’s API در هر کجای دنیا استفاده می‌کنند، می‌توانند از امروز آن را برای مدل‌های منتخب روشن کنند. به طور پیش فرض خاموش است OpenAI گفت که در زمان راه اندازی، واترمارک متن را به یک پیش فرض جهانی تبدیل نمی کند.

واترمارک یک نماد واقعی نیست، اما با شکل‌دهی نامحسوس کلمات انتخابی مدل کار می‌کند، و الگویی را که خوانندگان نمی‌توانند ببینند، اما آشکارساز می‌تواند تشخیص دهد، کار می‌کند. از آنجایی که در خود کلمات زندگی می کند، هنگام کپی و پیست کردن با متن همراه می شود. OpenAI گفت واترمارک کاربر را شناسایی نمی‌کند و با روشن بودن هیچ تغییر معنی‌داری در عملکرد مدل‌هایش مشاهده نمی‌کند.

OpenAI همچنین یک گزارش فنی برای روش خود به نام textGrain در کنار اعلامیه منتشر کرد. این مقاله که با همکاری محققان دانشگاه پنسیلوانیا و ییل نوشته شده است، نمونه‌ای از استفاده از کلید مخفی برای مرتب‌سازی پیش‌بینی‌های کلمه بعدی برای تکمیل جمله را بررسی می‌کند. صدها مورد از این تلنگرها را با هم اضافه کنید، و آشکارساز می تواند محتوای تولید شده توسط هوش مصنوعی را تنها با استفاده از متن و کلید تشخیص دهد.

آیا می توان واترمارک را با ویرایش حذف کرد؟ تست های OpenAI نشان می دهد که بله. در یک آزمایش، جایگزینی 10٪ از کلمات با مترادف، تشخیص را از حدود 92٪ به 66٪ کاهش داد. این شرکت همچنین گفت که تشخیص متن های کوتاه، پاسخ های ریاضی و متن ترجمه شده سخت تر است.

این شرکت می‌گوید: «این محدودیت‌ها به تصمیم ما برای ارائه دسترسی آشکارساز اولیه فقط به محققان و سازمان‌های خبره تأیید شده کمک می‌کند که می‌توانند به ما در ارزیابی قابلیت اطمینان و استفاده‌های مسئولانه کمک کنند.»

OpenAI همچنین هشدار داد که یک واترمارک از دست رفته «نویسندگی انسان را ثابت نمی‌کند». متن ممکن است خیلی کوتاه یا به شدت ویرایش شده باشد، یا ممکن است از هوش مصنوعی شرکت دیگری باشد.

این شرکت گفت: «[واترمارک‌ها] می‌توانند نشان دهند که یک سیستم OpenAI بخشی از یک متن را تولید یا پردازش کرده است، اما نه اینکه چقدر قضاوت، ویرایش یا خلاقیت انسان در آن انجام شده است.

این اعلامیه دو ماه پس از آن صورت می گیرد که Anthropic اعلام کرد متن تولید شده توسط کلود را واترمارک می کند، اقدامی که در سراسر جهان اعمال می شود. این تصمیم با واکنش برخی از کاربران کلود مواجه شد که استدلال می‌کردند «دستورالعمل‌ها، زمینه، تصمیم‌ها» را ارائه کرده‌اند در حالی که کلود فقط «ابزار» بود.

وال استریت ژورنال در سال 2024 گزارش داد که OpenAI قبلا یک واترمارک متنی ساخته بود، اما از انتشار آن خودداری کرد، تا حدی به دلیل نگرانی از اینکه کاربران به رقبایی که واترمارک نمی‌زنند روی آورند.

Anthropic، Google، Meta، Microsoft و OpenAI از جمله شرکت هایی هستند که متعهد به پیروی از قوانین اتحادیه اروپا در مورد محتوای تولید شده توسط هوش مصنوعی هستند.

وقتی از طریق پیوندهای موجود در مقالات ما خرید می کنید، ممکن است کمیسیون کمی کسب کنیم. این بر استقلال تحریریه ما تأثیر نمی گذارد.

قاضی فدرال، آنتونی ها را "نظارت جمعی بی رویه" می نامد

آمازون در پاسخ به عکس العمل مرکز داده، می گوید دیگر از NDA آنتونی ها استفاده نمی کند

متا می‌خواهد ابزار بعدی شما Kirsten Korosec باشد

گوگل فکر می کند استارشیپ اسپیس ایکس باید 1800 بار قبل از اینکه مراکز داده فضایی از زمین خارج شوند تیم فرنهولز

اولین نیروگاه زمین گرمایی پیشرفته جهان تنها در 23 ماه تکمیل شد تیم دی چانت

گوگل Gemini 4 Argon را منتشر کرد که قدرتمندترین مدل خود را Lucas Ropek می نامند

پنتاگون از ایلان ماسک و پالمر لاکی استفاده می کند تا به تصمیم گیری در مورد اینکه ارتش بعدی دومینیک مادوری دیویس چه کاری باید انجام دهد کمک کند.