OpenAI در حال اضافه کردن واترمارک های نامرئی به متن ChatGPT و Codex در اتحادیه اروپا است
OpenAI در حال آماده شدن برای اضافه کردن واترمارک نامرئی به متن تولید شده توسط ChatGPT و Codex در اتحادیه اروپا است. [...]
OpenAI در حال آماده شدن برای اضافه کردن واترمارک نامرئی به متن تولید شده توسط ChatGPT و Codex در اتحادیه اروپا است.
هنگامی که متن را می خوانید یا کپی می کنید، واترمارک قابل مشاهده نخواهد بود. درعوض، OpenAI می‌گوید که فناوری جدید textGrain انتخاب کلمات مدل را کمی تغییر می‌دهد تا یک الگوی آماری ایجاد کند که بعدا قابل شناسایی باشد.
OpenAI توضیح داد: "در هفته های آینده، ما یک واترمارک نامرئی را به خروجی متن ChatGPT و Codex واجد شرایط در اتحادیه اروپا اضافه خواهیم کرد."
OpenAI هنوز این را به صورت پیش فرض جهانی تبدیل نکرده است.
از امروز، توسعه دهندگان API در سراسر جهان می توانند واترمارکینگ برای مدل های پشتیبانی شده را انتخاب کنند، اما به طور پیش فرض غیرفعال می ماند.
این شرکت همچنین در حال باز کردن برنامه‌های کاربردی برای آشکارساز واترمارک خود است، اگرچه دسترسی در ابتدا محدود به محققان و سازمان‌های خبره تایید شده خواهد بود.
واترمارکینگ متن بسیار کامل نیست و آزمایشات خود OpenAI نشان می دهد که ویرایش نسبتا معمولی می تواند توانایی آن را در تشخیص متن تولید شده توسط هوش مصنوعی به میزان قابل توجهی کاهش دهد.
OpenAI خاطرنشان کرد: "در یک ارزیابی از متن 400 نشانه، جایگزینی 10٪ از کلمات با مترادف تشخیص را از حدود 92٪ به 66٪ کاهش داد. جایگزینی 25٪ از کلمات آن را به 17٪ کاهش داد."
در یک هدف مثبت کاذب 1 درصد، OpenAI این واترمارک را در حدود 80 درصد از پاسخ های روانشناسی 200 توکنی شناسایی کرد، در مقایسه با تقریبا 95 درصد زمانی که متن به 400 توکن رسید.
تشخیص حتی برای موضوعاتی مانند ریاضیات بدتر بود، جایی که مدل آزادی کمتری برای انتخاب کلمات مختلف دارد.
OpenAI هشدار داد: "عدم وجود واترمارک شناسایی شده، نویسندگی انسان را ثابت نمی کند." «متن تولید شده با ابزار OpenAI ممکن است خیلی کوتاه، ویرایش یا ترجمه شده باشد تا تشخیص داده شود که قابل اعتماد نباشد.»
OpenAI همچنین می‌گوید واترمارک شناسایی‌شده نشان نمی‌دهد که چه کسی متن، حساب، پیام یا مکالمه آنها را ایجاد کرده است و نمی‌تواند بگوید چه مقدار از کار نهایی توسط یک انسان نوشته یا ویرایش شده است.
جالب اینجاست که OpenAI می‌گوید واترمارکینگ به‌طور معنی‌داری بر کیفیت GPT-6 Astra تأثیر نمی‌گذارد و نتایج بنچمارک زمانی که textGrain فعال می‌شود تقریبا مشابه باقی می‌ماند.
به میکو هیپونن و رهبران امنیتی NFL، CHANEL و Atlassian بپیوندید تا در یک نشست دیجیتالی دو ساعته در مورد اینکه حملات با سرعت هوش مصنوعی چه تغییراتی می‌کنند، مدافعان چه کارهایی را باید انجام ندهند و چگونه اعتبار، تصمیم‌گیری، اصلاح و تأیید مجدد با سرعت ماشین را انجام دهند، بپیوندید.
OpenAI تبلیغات بصری را در ChatGPT نشان می دهد در حالی که شما تصاویر را تولید می کنید
OpenAI در حال آماده سازی "o" است، یک دستیار ChatGPT همیشه روشن که می تواند ایمیل را مدیریت کند
عوامل هوش مصنوعی OpenAI به طور تصادفی تصاویر ارائه شده توسط کاربر را در سایت های شخص ثالث آپلود کردند.
OpenAI می‌گوید GPT-6 Astra می‌تواند روزهای صفر را پیدا کند، اما نظارت بر آن نیز سخت‌تر است
متن اصلی (انگلیسی)
OpenAI is adding invisible watermarks to ChatGPT and Codex text in the EU
OpenAI is preparing to add invisible watermarks to text generated by ChatGPT and Codex in the European Union. [...]