گوگل وب‌سایت جدیدی را برای شناسایی تقلبی‌های هوش مصنوعی راه‌اندازی می‌کند، اما فکر نکنید که کامل است

تصویر بالا واقعی نیست مطمئنا، کن پکستون و دونالد ترامپ متحدان سیاسی هستند و ترامپ در سال 2002 در یک فیلم تبلیغاتی مک دونالد با حضور گریمیس بازی کرد، بنابراین کاملا قابل قبول است که همه آنها با هم در یک زمین گلف ظاهر شوند. اما جعلی است و یکی از راه‌های بررسی آن، استفاده از یک پورتال جدید از Google است.

گوگل روز چهارشنبه وب سایت جدیدی به نام SynthID.com راه اندازی کرد که به هر کسی اجازه می دهد تصویر یا ویدیویی را آپلود کند و ببیند آیا با هوش مصنوعی تولید شده است یا خیر. یک نکته مهم وجود دارد: فقط می تواند تصاویر جعلی ساخته شده با ابزارهای Google، OpenAI، Nvidia و Kakao را شناسایی کند.

در سال 2023، گوگل برای اولین بار SynthID را راه اندازی کرد که یک واترمارک به تمام تصاویر ایجاد شده با ابزارهای تصویری هوش مصنوعی خود اضافه می کند. واترمارک با چشم غیرمسلح نامرئی است و از دستکاری های بیشتر مانند برش و فتوشاپ عمومی زنده می ماند. اما گوگل به مصرف کنندگان اجازه دسترسی به ابزارهایی را نداد که به آنها اجازه می داد هر تصویری را برای خودشان بررسی کنند.

این در پایان سال 2025 تغییر کرد، زمانی که گوگل یک بررسی کننده SynthID را در Gemini ادغام کرد. مردم می‌توانستند خودشان را بررسی کنند، اگرچه مشکل مشابه مشکلی بود که هنوز با آن روبرو هستیم. اگر از Gemini بپرسید یا از امروز، تصویری را در SynthID.com آپلود کنید، نمی‌تواند به طور قطعی به شما بگوید که آیا هیچ تصویری در وب هوش مصنوعی است یا خیر. این ابزارها فقط می توانند به شما بگویند که آیا توسط تعداد انگشت شماری از LLM ها مانند Gemini یا ChatGPT ساخته شده اند یا خیر. و حتی Gemini و ChatGPT می توانند به روش های شگفت انگیزی اشتباه کنند.

به طور باورنکردنی، ما تصویر را در Gemini (و نه وب‌سایت جدید SynthID.com) آپلود کردیم و بدون درخواست، به ما گفت: "این تصویر به‌طور مصنوعی تولید یا ویرایش شده است. کن پکستون، دادستان کل تگزاس و دونالد ترامپ را در زمین گلف نشان می‌دهد که گریمس طلسم مک‌دونالد بین آنها قرار داده شده است."

تا اینجای کار خیلی خوبه. اما قسمت بعدی به شدت از پایه خارج شد.

جمینی نوشت: "عکس اصلی در مارس 2024 در باشگاه گلف بین المللی ترامپ در وست پالم بیچ، فلوریدا گرفته شده است که دونالد ترامپ و کن پکستون را نشان می دهد، اما بدون طلسم گریماس."

تا آنجا که ما می توانیم بگوییم، هیچ عکسی از کن پکستون و دونالد ترامپ در کنار هم با یک زمین گلف در پشت آنها وجود ندارد. اون قسمت فقط دروغه ما از جمینی خواستیم که عکس اصلی را برای ما بیابد، بدون گریمس، و ما را به پیوند فیس بوک نشان داد که فقط دست دادن پکستون و ترامپ را نشان می دهد. با کلیک بر روی پیوند شما را به یک مقاله فرانسوی زبان HuffPost می‌فرستد که تصویری حتی نزدیک به آنچه ما با هوش مصنوعی تولید کرده‌ایم ندارد.

ما دیگر تولیدکنندگان تصویر را امتحان کردیم تا نسخه‌های جدیدی از تصویر جعلی ترامپ-پکستون-گریمس ایجاد کنیم. مورد زیر توسط Grok ساخته شده است.

بدیهی است که این تصویر بسیار بدتر است، زیرا درخشش پلاستیکی که در تولیدکننده‌های تصویر هوش مصنوعی اسبی بسیار رایج است، می‌دهد. وقتی از Grok (در حسابی متفاوت از حسابی که برای تولید آن استفاده کردیم) پرسیدیم که آیا با هوش مصنوعی ساخته شده است، ربات پاسخ داد: "تقریبا مطمئنا با یک مدل تولید تصویر (Flux، Midjourney و غیره) ایجاد شده است.

جالب اینجاست که این احتمال وجود نداشت که تصویر با Grok ساخته شده باشد. قابل درک است که گروک ممکن است نخواهد برای چیزی بسیار زشت اعتبار کند.

وقتی از SynthID.com در مورد تصویر تولید شده توسط Grok سوال کردیم، پاسخ داد: "SynthID شناسایی نشد. بعید است که این رسانه با هوش مصنوعی از شریک SynthID ساخته شده باشد. اما توجه داشته باشید که ممکن است این تصویر توسط یک سازمان غیرشریک یا در زمانی قبل از پذیرش SynthID توسط شریک ایجاد شده باشد."

توجه داشته باشید که می‌گوید «بعید» است که این تصویر با آن ابزارها ایجاد شده باشد، که پوشش خوبی است اما نشان می‌دهد که ممکن است اشتباه شود. متا نرم‌افزار تشخیص هوش مصنوعی خود را دارد و تحقیقات اخیر رویترز نشان می‌دهد که گاهی اوقات محتوایی را که با ابزارهای هوش مصنوعی متا ایجاد شده است علامت‌گذاری نمی‌کند.

در اینجا در Gizmodo، ما اغلب به ابزارهای هوش مصنوعی روی می‌آوریم تا بررسی کنیم که آیا واترمارک‌های نامرئی دارند که فقط آن ابزارها می‌توانند به یافتن آن امیدوار باشند. اما آنها کامل نیستند. و ما امیدواریم که شرکت‌های هوش مصنوعی بتوانند در همین راستا باشند و همکاری خود را در این زمینه گسترش دهند. زیرا افراد زیادی وجود خواهند داشت که SynthID را بررسی می کنند، می بینند که واترمارک ندارد و احتمالا فکر می کنند واقعی است.

گوگل در وب سایت خود می گوید: «این فناوری توسط Google DeepMind پیشگام شد و توسط Nvidia، OpenAI و Kakao به کار گرفته شد. SynthID در میان اکوسیستم رو به رشد مدل‌ها ادغام شده است و این فهرست همچنان به رشد خود ادامه می‌دهد زیرا سازمان‌های هوش مصنوعی بیشتری از علامت گذاری SynthID استفاده می‌کنند.

یکی دیگر از نقاط ضعف این سایت جدید SynthID این است که باید با یک حساب Google، حساب اپل یا حساب ChatGPT وارد شوید. اکثر مردم حداقل یکی از آن‌ها را خواهند داشت، اما سرعت گیر ایجاد می‌کند که می‌تواند مانع استفاده برخی از افراد از ابزار شود.

هنگامی که اخیرا از چندین چت ربات هوش مصنوعی پرسیدیم که آیا تصویر جدیدی از ایلان ماسک در شام دولتی دونالد ترامپ برای شی جین پینگ واقعی است یا خیر، گروک گفت که معتبر است و مایکروسافت Copilot گفت که شواهد کافی برای گفتن این موضوع وجود ندارد. همانطور که در زیر می بینید، این جعلی است. فقط به لیوان عجیب تیم کوک نگاه کنید.

ما تجربیات مشابهی با سایر تصاویر کاملا هوش مصنوعی داشته ایم، چه دونالد ترامپ در حال بوسیدن دستیارش ناتالی هارپ یا مرد رد باندانا بود که مردم را در 11 سپتامبر نجات داد.

ادامه دهید و از این آشکارسازهای تصویر هوش مصنوعی استفاده کنید. آنها ممکن است اطلاعات مفیدی را اینجا و آنجا به شما بدهند، به شرطی که واترمارک داشته باشد. فقط آنها را خطاناپذیر فرض نکنید.