ChatGPT به زودی شروع به واترمارک کردن مخفیانه پاسخ‌های خود می‌کند - معنی این متن برای متنی که کپی و به اشتراک می‌گذارید چیست.

اوایل سال جاری درباره تصمیم کلود برای پیروی از قانون هوش مصنوعی اتحادیه اروپا نوشتم، که مستلزم آن است که تمام متون تولید شده توسط هوش مصنوعی به عنوان هوش مصنوعی قابل شناسایی باشند و شروع به درج واترمارک در متن آن کنند. با این حال، آنتروپیک به جای محدود کردن این موضوع به مشتریان اتحادیه اروپا، تصمیم گرفت این ویژگی را در سطح جهانی عرضه کند، که در آن زمان کمی بیش از حد به نظر می رسید.

OpenAI اکنون اعلام کرده است که از این روش پیروی می کند، اما مناطق جغرافیایی تأثیر را فقط به اتحادیه اروپا محدود می کند. قرار است واترمارک ها را در متن تولید شده وارد کند، اما فقط برای مشتریان ChatGPT که در اتحادیه اروپا زندگی می کنند. این بدان معناست که کاربران ایالات متحده و بریتانیا به هیچ وجه تحت تأثیر قرار نخواهند گرفت.

OpenAI این تغییر را در 5 اکتبر اعلام کرد و گفت: "در هفته های آینده، ما یک واترمارک نامرئی را به خروجی متن ChatGPT و Codex واجد شرایط در اتحادیه اروپا اضافه خواهیم کرد."

درج واترمارک

برای درج واترمارک، که شامل تغییر نامحسوس کلمه انتخابی متن تولید شده است، OpenAI از سیستمی به نام textGrain استفاده می کند. یادداشتی در وب‌سایت OpenAI می‌گوید: "فناوری واترمارک متن ما، textGrain، یک سیگنال آماری نامرئی را به گزینه‌های انتخابی مدل اضافه می‌کند. آشکارساز ما به دنبال آن سیگنال است تا ارزیابی کند که آیا یک متن دارای واترمارک OpenAI است یا خیر. جزئیات بیشتر در مورد نحوه عملکرد textGrain را می‌توان در گزارش فنی ما پیدا کرد که در هفته‌های آینده با جزئیات بیشتر به‌روزرسانی خواهد شد."

مانند بسیاری از مردم، من این ایده را که انتخاب کلمه هوش مصنوعی که برای استفاده از آن هزینه می‌کنم تحت تأثیر یک الگوریتم واترمارک قرار می‌گیرد، تاسف‌آور می‌دانم، نه آنچه که برای من مشتری بهینه است. من نمی گویم که متن به دست آمده به دلیل واترمارک به طور خودکار بدتر می شود، اما مطمئنا بهینه نخواهد بود.

همچنین به نظر می رسد که این یک محلول به راحتی شکسته است که پر از سوراخ است. برای تشخیص متن هوش مصنوعی که با استفاده از واترمارکینگ textGrain تولید شده است، باید از ابزار تشخیص هوش مصنوعی ویژه ای استفاده شود که در حال حاضر برای عموم در دسترس نیست. OpenAI می گوید دسترسی آشکارساز را برای محققان و سازمان های خبره فراهم می کند و محققان و سازمان های خبره تایید شده می توانند از امروز درخواست دهند.

مقاله OpenAI ادامه می‌دهد: «ابزار بدون شناسایی کاربر یا فاش کردن پیام‌ها یا مکالمات او، گزارش می‌دهد که آیا واترمارک OpenAI را تشخیص می‌دهد یا خیر. با توجه به خطر عدم واترمارک و موارد مثبت کاذب، ما آن را در زمان راه‌اندازی در دسترس عموم قرار نمی‌دهیم».

بنابراین اگر ابزار آشکارساز عمومی نمی شود، این سوال مطرح می شود که قرار است این کار چه کاری انجام دهد؟

(اعتبار تصویر: Shutterstock/Daniel Chetroni) یک عمل تیک تیک؟

مقاله OpenAI به طور خاص می گوید که آشکارسازها مستعد خطا هستند. اینکه «تشخیص متن کوتاه‌تر یا محدودتر سخت‌تر است» و «ویرایش می‌تواند واترمارک را ضعیف کند». از قبل ناقص به نظر می رسد، اما چه اتفاقی می افتد اگر سعی کنید و با درخواست از ChatGPT به گونه ای که قابل شناسایی باشد ننویسد یا از textGrain استفاده نکنید، آن را به طور کامل دور بزنید. آیا آن را انجام خواهد داد؟

همه این‌ها من را به این نتیجه می‌رسانند که حرکت OpenAI بسیار شبیه تمرین تیک تاک برای مطابقت با قانون هوش مصنوعی اتحادیه اروپا است، که مجبور به انجام آن است، زیرا از ارائه‌دهندگان هوش مصنوعی می‌خواهد متن تولید شده را به روشی قابل‌خواندن توسط ماشین قابل شناسایی کنند.

شنیدن اینکه این تغییرات فقط در اتحادیه اروپا اجرا می شوند و اینکه متن در هنگام استفاده از آشکارساز خصوصی خواهد ماند، مایه اطمینان است، اما من گمان می کنم که اکثر کاربران ChatGPT ترجیح می دهند OpenAI بر تولید بهترین پاسخ های ممکن تمرکز کنند تا این که آن پاسخ ها را به راحتی به عنوان AI شناسایی کنند.

همچنین چیزی اساسا عجیب در مورد سیستمی وجود دارد که عمدا کلماتی را که هوش مصنوعی انتخاب می‌کند تغییر می‌دهد، بدون اینکه به شما بگوید کدام یک را برای درج واترمارکی که به طور بالقوه می‌تواند به سادگی با ویرایش متن حذف شود، تغییر می‌دهد. اگر هدف شفاف‌تر کردن محتوای تولید شده توسط هوش مصنوعی است، مطمئنا پاسخ باید چیزی باشد که واقعا کار کند، نه یک سیگنال نامرئی که هیچ‌کس خارج از یک گروه منتخب حتی نمی‌تواند آن را بررسی کند.