از Substack تا YouTube، در اینجا پلتفرم‌های اجتماعی هستند که با هوش مصنوعی مقابله می‌کنند

شرکت‌هایی که پلتفرم‌های اجتماعی را اجرا می‌کنند، دستورالعمل‌های خود را در مورد محتوای تولید شده با هوش مصنوعی، به‌ویژه برای حساب‌های پولی به‌روزرسانی می‌کنند. میلان سورکالا/گتی ایماژ پلتفرم های اجتماعی در حال به روز رسانی دستورالعمل های خود در مورد محتوای تولید شده توسط هوش مصنوعی هستند.

هوش مصنوعی سال‌هاست که محل تنش در جامعه سازندگان بوده است.

در اینجا نحوه مدیریت محتوای تولید شده توسط هوش مصنوعی و کسب درآمد توسط پلتفرم های اجتماعی آمده است. در حالی که شرکت‌های فناوری در تلاش هستند تا هوش مصنوعی را در هر اینچ از محصولات خود بگنجانند، آنها در می‌یابند که مرز باریکی بین استقبال از فناوری جدید و هجوم کاربران به محتوای کم کیفیت و تولید شده توسط ماشین وجود دارد.

دستورالعمل های تغییر نشان دهنده تنش گسترده تری در سراسر اقتصاد مبتکر است. چندی پیش، پلتفرم‌های اجتماعی به‌شدت برای تأثیرگذاران با سرمایه‌های سازنده، برنامه‌های انحصاری و ابزارهای کسب درآمد رقابت کردند. بسیاری از همین شرکت‌ها در حال حاضر میلیاردها دلار در محصولات و زیرساخت‌های هوش مصنوعی سرمایه‌گذاری می‌کنند و برخی از سازندگان را نگران می‌کنند که در پلتفرم‌هایی که به رشدشان کمک کرده‌اند، محوریت کمتری پیدا کنند.

در اینجا نحوه برخورد پلتفرم های اجتماعی اصلی که به سازندگان، از جمله YouTube و Substack متکی هستند، با تکثیر محتوای هوش مصنوعی می پردازند.

یوتیوب

تصویرسازی توسط Avishek Das/SOPA Images/LightRocket از طریق Getty Images

یوتیوب در حال تشدید موضع خود در مورد محتوای تولید شده توسط هوش مصنوعی است.

در یک به‌روزرسانی از تیم اعتماد و ایمنی این شرکت، در 20 جولای، یوتیوب گفت که می‌خواهد به سازندگانی که از هوش مصنوعی برای تقویت داستان‌سرایی اصلی استفاده می‌کنند، جایزه بدهد، برخلاف کسانی که محتوای عمومی یا شخصیت‌های هوش مصنوعی طراحی شده برای بازی این پلتفرم را تولید می‌کنند.

یکی از سخنگویان YouTube به Business Insider گفت که این خط‌مشی جدید نیست، بلکه توضیح مهمی درباره خط‌مشی طولانی مدت «محتوای غیراصیل» YouTube است که هدف آن کاهش ابهام برای سازندگان محتوا است که به دلیل ویدیوهای تکراری، کم تلاش یا دستکاری عاطفی از پول خارج شده‌اند.

در ماه اکتبر، YouTube Music همچنین برچسب هایی برای شناسایی موسیقی تولید شده توسط هوش مصنوعی یا موسیقی هایی که هوش مصنوعی مولد در آن نقش مهمی ایفا می کند، راه اندازی کرد. شنوندگان می‌توانند روی یک برچسب روی صفحه پخش ضربه بزنند تا یاد بگیرند که چگونه این فناوری به آهنگ، از جمله آهنگسازی یا آواز آن کمک می‌کند.

شرکای موسیقی می‌توانند فاش کنند که آیا محتوای آنها به طور کامل یا جزئی از هوش مصنوعی مولد استفاده می‌کند، اما YouTube می‌تواند این افشاگری‌ها را با سیگنال‌های خود تکمیل کند. تصحیح زیر و بمی استاندارد، مانند تنظیم خودکار، تحت خط‌مشی‌های YouTube به‌عنوان هوش مصنوعی مولد به حساب نمی‌آید.

یوتیوب سال‌ها وقت صرف کرده است تا خود را به تبلیغ‌کنندگان به‌عنوان آینده تلویزیون معرفی کند و افزایش هرزنامه‌های تولید شده توسط هوش مصنوعی این پیام را تهدید می‌کند. در ژانویه، این پلتفرم بیش از ده ها کانال محبوب را که میلیون ها بازدید را جمع آوری کرده بودند، با پخش ویدیوهای تولید شده توسط هوش مصنوعی با شخصیت هایی مانند گربه ها و عیسی حذف کرد. پلتفرم ویرایش ویدیو Kapwing گزارشی منتشر کرد که تخمین می‌زند ۲۱ درصد از فید یوتیوب ویدیوهای تولید شده توسط هوش مصنوعی است.

TikTok

تصویر توسط توماس فولر/SOPA Images/LightRocket از طریق Getty Images

TikTok از هوش مصنوعی مولد ابایی ندارد. این شرکت و مالک آن، ByteDance، مجموعه‌ای از ابزارهای هوش مصنوعی را برای سازندگان محتوا در برنامه marquee و ویرایشگر ویدیوی CapCut خود ارائه می‌کنند. سازندگانی که در پلتفرم تجارت الکترونیک آن، فروشگاه TikTok، پست می‌گذارند، امسال استفاده از هوش مصنوعی را برای فروش محصولات افزایش داده‌اند. بسیاری از فناوری های این شرکت مبتنی بر مدل ویدیویی هوش مصنوعی ByteDance، Seedance 2.0 است.

با این حال، TikTok در حال انجام اقدامات مختلفی برای تحت کنترل نگه داشتن هوش مصنوعی در سراسر اکوسیستم خود است. این شرکت از سازندگان می‌خواهد محتوای تولید شده توسط هوش مصنوعی را برچسب‌گذاری کنند و یک واترمارک نامرئی به ابرداده‌های برخی ویدیوها اضافه می‌کند تا نشان دهد که آنها به‌طور مصنوعی تولید شده‌اند. در ماه نوامبر، این شرکت این قابلیت را برای کاربران معرفی کرد که میزان محتوای هوش مصنوعی را که در فیدهایشان ظاهر می‌شود تغییر دهند. در ماه جولای، این شرکت گفت که شروع به آزمایش "سیستم های تشخیص بهبود یافته برای هدف قرار دادن حساب های اختصاص داده شده برای ارسال هرزنامه های تولید شده توسط هوش مصنوعی است که سازندگان اصلی را از بین می برد."

زیر پشته

بلومبرگ/گتی ایماژ

پلت فرم خبرنامه در 21 ژوئیه اعلام کرد که به خوانندگان کمک می کند تا محتوای تولید شده توسط هوش مصنوعی را شناسایی کنند.

Substack اکنون به خوانندگان اجازه می دهد محتوا را اسکن کنند تا تخمین بزنند که چه مقدار از هوش مصنوعی ممکن است در نوشتن آن استفاده شده باشد. Substack با Pangram، یک ابزار آشکارساز هوش مصنوعی، همکاری می کند تا ابزارهای شناسایی هوش مصنوعی خود را تقویت کند.

سازندگان در Substack همچنین می‌توانند اطلاعاتی را به محتوای خود اضافه کنند و توضیح دهند که چگونه آن را ساخته‌اند، مثلا توجه داشته باشند که از Claude برای ویرایش استفاده کرده‌اند یا اینکه اصلا از هوش مصنوعی استفاده نمی‌کنند.

با این حال، کاربران می توانند به راحتی این ابزار را برای محتوای Substack خود با خاموش کردن تجزیه و تحلیل هوش مصنوعی در تنظیمات انتشارات خود غیرفعال کنند. سازندگان می‌توانند از اسکن خودکار پانگرام انصراف دهند، به این معنی که خوانندگان دیگر تخمین استفاده از هوش مصنوعی را در آن پست‌ها نخواهند دید.

پینترست

مجموعه اسمیت/گادو/گتی ایماژ

پینترست با AI slop غریبه نیست.

در سال 2025، این پلتفرم شروع به اضافه کردن برچسب های هوش مصنوعی به محتوا کرد. Pinterest به سازندگان این امکان را می‌دهد که محتوا را به‌عنوان اصلاح‌شده یا تولید شده با هوش مصنوعی برچسب‌گذاری کنند و سیستم‌های تشخیص خاص خود را برای پرچم‌گذاری محتوایی دارد که ممکن است با هوش مصنوعی تولید شده باشد.

Pinterest همچنین ابزاری را اضافه کرده است که به کاربران امکان می دهد میزان محتوای تولید شده توسط هوش مصنوعی را که در فیدهای آنها ظاهر می شود محدود کنند.

در ماه ژوئن، بیل ریدی، مدیر اجرایی Pinterest به سردبیر Business Insider، جیمی هلر، در Cannes Lions گفت که در حالی که "کاربردهای بسیار خوبی از هوش مصنوعی وجود دارد"، اما "تحرک کمی در مقابل آن در مصرف کنندگان وجود دارد."

یکی از سخنگویان پینترست به Business Insider گفت: «ما کنترل‌هایی را در اختیار کاربران قرار می‌دهیم تا تصمیم بگیرند که آیا می‌خواهند بیشتر یا کمتر محتوای GenAI را در فید خود ببینند. «به‌علاوه، دستورالعمل‌های انجمن ما برای محتوای GenAI اعمال می‌شود و سیستم توصیه‌های ما محتوای باکیفیت را در اولویت قرار می‌دهد، صرف نظر از اینکه ساخته‌شده توسط انسان باشد یا GenAI».

متا

جاناتان راا/نور عکس از طریق گتی ایماژ

متا از کاربران می‌خواهد که محتوای ساخته شده با ابزارهای هوش مصنوعی خود را ایجاد کنند و با آن درگیر شوند، بنابراین، در بیشتر موارد، به محتوایی مانند میگوی معروف مسیح اجازه می‌دهد رایگان اجرا شود.

با این حال، این شرکت از سال 2024 محتوای تولید شده توسط هوش مصنوعی را برچسب‌گذاری کرده است. متا در فیس‌بوک، اینستاگرام و Threads برچسب "اطلاعات هوش مصنوعی" را به محتوایی که تشخیص می‌دهد به‌عنوان تولید شده با هوش مصنوعی اضافه می‌کند، اضافه می‌کند. با این حال، به طور خودکار برای محتوایی که با هوش مصنوعی اصلاح شده است، همین کار را انجام نمی دهد. ممکن است متا برچسب‌های هوش مصنوعی خود را بر روی محتوای دارای «ویدئوی واقعی یا صدای واقعی که به صورت دیجیتالی ایجاد، تغییر یا تغییر داده شده است، از جمله با هوش مصنوعی»، در صفحه راهنمای شرکت که خط‌مشی‌های هوش مصنوعی آن را توضیح می‌دهد، الزامی کند. افراد همچنین می توانند به طور داوطلبانه این برچسب را به محتوای خود اضافه کنند.

در ماه ژوئن، متا شروع به گذاشتن برچسب "اطلاعات هوش مصنوعی" خود بر روی تبلیغاتی کرد که از هوش مصنوعی استفاده می کنند، خواه توسط ابزارهای متا ایجاد شده باشند یا خدمات ویرایش شخص ثالث.

لینکدین

تصویرسازی توسط Avishek Das/SOPA Images/LightRocket از طریق Getty Images

اگر پست‌های لینکدین شما کمی بیش از حد صیقلی به نظر می‌رسند، خوانندگان ممکن است توجه داشته باشند.

آشکارساز هوش مصنوعی Pangram تخمین می‌زند که 41 درصد از پست‌های طولانی‌مدت لینکدین و 30 درصد از پست‌های کوتاه‌مدت از آوریل تا ژوئن با هوش مصنوعی تولید شده‌اند که بالاترین سهم را در میان پلتفرم‌هایی که آنالیز کرده است، از جمله X، Reddit، Substack و Medium است.

برخی از سازندگان در حال تغییر مسیر هستند. شرکت رسانه ای استیون بارتلت، FlightStory، پس از نتیجه گیری به روزرسانی های معتبر و نوشته شده توسط انسان، استفاده از پست های لینکدین نوشته شده با هوش مصنوعی را متوقف کرد.

لینکدین به طور فعال ابزارهای نوشتن هوش مصنوعی را ترویج می کند، از جمله دکمه ای که به کاربران کمک می کند پست ها را با هوش مصنوعی بررسی کنند. با این حال، این شرکت در پستی در ماه ژوئن اعلام کرد که اقداماتی را در برابر "شیب" انجام خواهد داد.

این شرکت می نویسد: «در حالی که هوش مصنوعی می تواند ابزار مفیدی برای اصلاح زبان باشد، ما شاهد افزایش چیزی هستیم که بسیاری آن را «تغییر هوش مصنوعی» می نامند، محتوایی که تلاش کم و محتوای تولید شده توسط هوش مصنوعی است که ممکن است در ظاهر صیقلی به نظر برسد اما فاقد هر گونه چشم انداز یا ماده منحصر به فرد واقعی است.

اسنپ چت

ماتیاس بالک/تصویر اتحاد از طریق گتی ایماژ

اسنپ در حال پیوستن به عقب نشینی فزاینده علیه شیب هوش مصنوعی است.

این شرکت در 31 ژوئیه گفت که دیگر ویدیوهای کاملا تولید شده با هوش مصنوعی را در Spotlight، فید کوتاه مانند TikTok خود توصیه یا جایزه نمی دهد، زیرا الگوریتم خود را به سمت اولویت بندی محتوای ساخته شده توسط افراد واقعی تغییر می دهد.

اسنپ ​​در یک پست وبلاگی گفت: «اسپات لایت باید مکانی باشد که مردم بتوانند خلاقیت واقعی را از افراد واقعی کشف کنند.

اسنپ ​​گفت که سازندگان همچنان می‌توانند از ابزارهای هوش مصنوعی اسنپ برای بهبود یا ویرایش ویدیوها استفاده کنند، اما محتوای کاملا تولید شده توسط هوش مصنوعی واجد شرایط توصیه‌ها نخواهد بود.

مقاله اصلی را در Business Insider بخوانید