دیپ‌فیک‌های هوش مصنوعی: بیایید «منظور ما این نبود» را از کتاب بهانه‌های شرکت‌های فناوری حذف کنیم

Deepfake Ireland شرکت Virgin Media هرگز ساعت آسانی نخواهد بود. موضوع خزیدن پوست بود: مشکل رو به رشد تصاویر عمیق و برهنگی که عمدتا به عنوان سلاحی علیه زنان و دختران استفاده می شود.

دیدن آن به این شکل واضح نشان داده شده بود هوشیار بود.

این برنامه در ابتدا بر تجربه خود مجری گرین سئویج از ایجاد تصویری عمیق از او در حالی که در انتخابات عمومی سال 2024 کارزار تبلیغاتی می کرد، تمرکز می کند. دو سال بعد، ناراحتی ناشی از آن مشهود بود.

اما اوضاع بدتر شد. او با کمک Ceartas، یک شرکت فناوری که به عنوان یک سرویس رایگان برای مقابله با به اصطلاح پورن انتقام جویانه شروع به کار کرد، به میزان واقعی مشکل پی برد. به سئویج که به وضوح ناراحت بود گفته شد که آنها محتوای بیشتری را کشف کرده اند، تصاویری که او از آنها اطلاعی نداشت.

داستان هایی از دیگرانی وجود داشت که به طور مشابه تحت تأثیر قرار گرفته بودند - ماریا مک گویگان مدل و مجری، نوئل فلمینگ شاعر و یک دختر 15 ساله ناشناس - هر کدام به شیوه خود وحشتناک بودند.

پیام واضح بود: این یک مسئله منفرد نیست و به این زودی ها از بین نمی رود.

انتظار می‌رود تا پایان سال، اپلیکیشن‌های برهنگی در اتحادیه اروپا ممنوع شوند. اما رسیدن به این نقطه خیلی طول کشیده است. برنامه‌های برهنگی در ژانویه در کانون توجه قرار گرفتند، زمانی که تصاویری از زنان و گاه افراد زیر سن قانونی که توسط چت ربات Grok xAI به صورت دیجیتالی برهنه شده بودند در پلتفرم رسانه اجتماعی X منتشر شد.

اگر به دلیل دیگری برای حذف خود از پلتفرم نیاز داشتید، پاسخ شرکت - ابتدا آن را نادیده بگیرید، سپس دسترسی به ویژگی ویرایش تصویر را فقط برای مشترکین پولی در دسترس قرار دهید - ممکن است شما را از مرز خارج کرده باشد. در نهایت، X توانایی گروک را برای تغییر تصاویر افراد واقعی در مکان‌هایی که قانون را نقض می‌کرد، قطع کرد، اما تنها پس از فشار شدید مقامات. این حرکت برای زنان - و کودکان - که از این حادثه متاثر شده بودند بسیار دیر انجام شد و راه حلی برای این مشکل نیست.

کمیسیون حفاظت از داده ها X را در مورد "برهنه سازی" تصاویر از طریق Grok بررسی می کند

در حالی که حادثه Grok ممکن است نشان دهد که جعل چنین تصاویری چقدر آسان است، اما اولین باری نبود که این کار را انجام داد، و نه بدترین متخلف بود. فقط قابل مشاهده ترین بود. من از یک ویرایشگر تصویر هوش مصنوعی استفاده کردم تا یک عکس بی ضرر از خودم را که کاملا در یک رویداد ورزشی لباس پوشیده بودم، به عکسی که در آن با بیکینی ضعیف ژست گرفته بودم، تغییر دادم. این نرم افزار از انجام هر کاری افراطی تر از این خودداری کرد، اما کافی است. ویرایشگر تصویر یک ابزار رایگان بود که در جستجوی سریع گوگل ظاهر شد. تصور کنید اگر بخواهید زمانی را برای یافتن سست ترین نرم افزارهای موجود صرف کنید، چه چیزی می توانید پیدا کنید.

چند کلیک دیگر مرا به یک خالق دوست دختر هوش مصنوعی و یک تولید کننده تصویر NSFW (برای کار امن نیست) رساند.

این فقط سطح مسئله را خراش می دهد. همانطور که در قیاس وجود دارد، اگر دو مورچه در خانه خود ببینید، مشکل دو مورچه ندارید. جایی یک لانه وجود دارد و تا زمانی که با آن مقابله نکنید، همچنان مشکل خواهید داشت.

مشکل اینجاست که ریشه کن کردن لانه تقریبا غیرممکن است. در حالی که اتحادیه اروپا ممکن است برنامه‌های برهنگی را ممنوع کند و قانون ایرلند می‌تواند علیه کسانی که تصاویر صریح غیرقابل توافق را به اشتراک می‌گذارند اقدام کند، نمی‌تواند فناوری پشت آن را خنثی کند. برنامه‌ها را می‌توان – و – از فروشگاه‌های برنامه حذف کرد تا کمتر دیده شوند. اما همانطور که می‌دانیم، همه چیز می‌تواند در گوشه‌های ساکت‌تر اینترنت، دور از چشم اما همچنان در دسترس باشد. همانطور که مهارت‌های هوش مصنوعی رشد می‌کنند، مدل‌های هوش مصنوعی می‌توانند و توسط کاربران مطابق با نیازهای آن‌ها اصلاح شوند.

اگر یک تلاش جهانی هماهنگ برای مقابله با این مشکل وجود نداشته باشد، برنامه ها و کسانی که پشت آنها هستند به سادگی از دسترس قانون خارج می شوند.

این به این معنی است که این ممنوعیت بدون کاهش یا به چالش کشیده شدن به نوعی تصویب شده است. در مینه سوتا، جایی که اقدامات مشابه در مورد چنین نرم‌افزاری تقریبا به اتفاق آرا توسط سیاستمداران حمایت شده است، قانون پیشنهادی در حال حاضر پس از شکایت قانونی xAI علیه آن متوقف شده است و ادعا می‌کند که «ممنوعیت گسترده و مبتنی بر محتوا بر آزادی بیان و ابزارهای بیان بصری» را اعمال می‌کند.

بگذارید آن یکی برای یک دقیقه غرق شود. یک شرکت هوش مصنوعی که متعلق به یک میلیاردر است، ادعا می‌کند که قانونی که برنامه‌ها و وب‌سایت‌هایی را که از هوش مصنوعی برای ایجاد تصاویر و ویدیوهای جنسی غیرموافقانه از افراد استفاده می‌کنند، ممنوع می‌کند، حقوق آزادی بیان را نقض می‌کند. حتی در جایی که اراده سیاسی برای انجام آن وجود دارد، چالش هایی وجود دارد که باید بر آن غلبه کرد.

تحقیقات نشان می‌دهد که ماموران هوش مصنوعی زنانه در دفتر مجازی دستمزد کمتری نسبت به مردان دریافت می‌کنند

چه کسی این را خواسته؟ چرا به آن نیاز داریم؟ شرکت‌های هوش مصنوعی که عمدا یا غیرعمدا این امکان را فراهم کرده‌اند، باید نگاهی طولانی و سخت به خود در آینه بیندازند. یک بار از یکی از مدیران اجرایی در یک شرکت فناوری پرسیدم که چرا با توجه به پتانسیل آشکار برای سوء استفاده، این شرکت ابزارهایی را برای تولید تصاویر واقعی‌تر ایجاد می‌کند.

پاسخ؟ زیرا رقبای شرکت این کار را انجام می دهند.

تنها سلاحی که باید با آن مقابله کنیم آموزش است. این ایده که تصویر جعلی است بنابراین تأثیری ندارد یا عواقب قانونی ندارد با برنامه هایی با هدف آموزش کودکان ریشه کن می شود. شاید باید روی بزرگسالان هم تمرکز کنیم. "من نمی دانستم" را به عنوان یک دفاع نامعتبر در برابر ایجاد تصاویر تبدیل کنید.

و در حالی که در حال انجام آن هستیم، "منظور ما این نبود" را از کتاب بهانه های شرکت های فناوری پاک کنید.