اینها جعلی‌های هوش مصنوعی هستند که باید به دوستان و خانواده خود در مورد آنها هشدار دهید

من الان یک سال و نیم است که از هوش مصنوعی گزارش می دهم. در طول آن زمان، من به طور منظم از جامعه r/isthisAI Reddit بازدید کرده ام. اینجا جایی است که مردم عکس‌ها، ویدیوها و پیام‌های مشکوک را به اشتراک می‌گذارند و از سایر کاربران می‌خواهند که به آنها کمک کنند تا بفهمند واقعی هستند یا با هوش مصنوعی.

به نظر من دیدن اینکه هوش مصنوعی در کجای زندگی روزمره خود را نشان می‌دهد بسیار جذاب است. اما برخی از پست ها نیز بسیار نگران کننده هستند. من افرادی را دیده‌ام که می‌پرسند آیا عکس‌های آسیب به املاک اجاره‌ای جعلی بوده‌اند، آیا کسی که از بستگانشان قرار می‌گیرد واقعا وجود دارد، آیا سونوگرافی واقعی است یا اینکه آیا توله سگ دوست‌داشتنی که می‌خواهند بخرند، فقط یک توهم است.

البته کلاهبرداری و فریبکاری از این دست سالهاست که وجود دارد. اما آنچه نگران‌کننده است این است که چگونه هوش مصنوعی می‌تواند هم راحت‌تر و هم تشخیص آن‌ها را سخت‌تر کند. من آنقدر به این موضوع علاقه مند شدم که حتی یک سری آزمایش های خودم را انجام دادم و سعی کردم گواهی ها، فسیل ها و رسیدهای جعلی ایجاد کنم تا ببینم آیا ChatGPT مانع من می شود یا خیر. بیشتر اوقات، اینطور نبود.

در حالی که بسیاری از ما عادت کرده‌ایم آنچه را که آنلاین می‌بینیم زیر سوال ببریم، همه نمی‌دانند محتوای تولید شده توسط هوش مصنوعی چقدر قانع‌کننده شده است. این ممکن است به ویژه در مورد دوستان و خانواده ای که کمتر با این فناوری آشنا هستند صادق باشد.

بنابراین من برخی از نگران‌کننده‌ترین نمونه‌هایی را که با آن برخورد کرده‌ام، همراه با چند راه عملی برای محافظت از خود و افرادی که به آنها اهمیت می‌دهید، انتخاب کرده‌ام. زیرا من فکر می کنم همه ما می توانیم از دانستن کمی بیشتر در مورد اینکه چگونه می توان از هوش مصنوعی برای فریب دادن ما استفاده کرد، بهره مند شویم.

1. خسارت اموال اجاره ای

(اعتبار تصویر: Reddit) من تعداد زیادی پست را دیده‌ام که در مورد اینکه آیا هوش مصنوعی برای آسیب‌های جعلی به املاک اجاره‌ای مانند کاشی‌های کف ترک‌خورده، فرش‌های لکه‌دار و اخیرا یک توالت پر از آب استفاده شده است یا خیر، دیده‌ام.

نگرانی این است که صاحبخانه‌ها یا میزبان‌های اجاره‌ای تعطیلات می‌توانند از عکس‌های دستکاری شده برای ادعای اینکه مهمان‌ها و مستاجران خسارت وارد کرده‌اند استفاده کنند و برای پوشش تعمیرات پول بخواهند.

برخی از نمونه‌هایی که من دیده‌ام به‌طور شگفت‌انگیزی متقاعدکننده هستند و فکر می‌کنم دلیل اینکه تشخیص آنها بسیار دشوار است این است که بسیاری از اتاق‌های اطراف کاملا عادی به نظر می‌رسند. این فقط آسیب فرضی است که مشکوک است.

توصیه می‌کنم هنگام رسیدن به کرایه تعطیلات و دوباره قبل از خروج، عکس‌های زیادی بگیرید. به این ترتیب، اگر تا به حال متهم به ایجاد آسیبی شده اید که نمی شناسید، شواهد خود را برای حمایت از شما دارید.

2. اعلامیه ها، هشدارها و اعلامیه های جعلی

(اعتبار تصویر: Reddit) من طی چند ماه گذشته اعلامیه های مشکوک زیادی را دیده ام که در فضای مجازی منتشر شده است. همه چیز، از اخطارهایی که ظاهرا توسط مدارس و شوراها صادر می‌شود تا پوسترهای مفقود شده حیوانات خانگی و اعلامیه‌های عجیب و غریب که به تابلوهای اعلانات چسبانده شده‌اند.

درست است، من همچنین بسیاری از اعلامیه های عجیب و غریب در طبیعت دیده ام که واقعی هستند. اما هوش مصنوعی ساخت جعلی‌های متقاعدکننده را بسیار آسان می‌کند و حتی جزئیات کوچکی که ممکن است زمانی آنها را از بین ببرد، مانند متن دست‌نویس، خودکار نشانگر یا کاغذ مچاله شده، واقعی‌تر می‌شوند.

مشکل این است که این اعلان‌ها اغلب شبیه چیزی هستند که شخصی از آنها عکس گرفته است، که می‌تواند باعث شود آنها نیز معتبرتر احساس کنند. این اطلاعیه در مورد یک بطری نوشیدنی نمونه‌ای است که برای مدتی واقعا Reddit را تحت تأثیر قرار داد، اما معلوم شد که هوش مصنوعی است.

اگر اخطار یا اطلاعیه هشدار دهنده ای مشاهده کردید، به خصوص هشداری که به طور گسترده در رسانه های اجتماعی به اشتراک گذاشته می شود، ابتدا منبع اصلی آن را پیدا کنید. اگر ادعا می کند که از یک مدرسه، شورا یا سازمان است، بررسی کنید که آیا آنها آن را از طریق کانال های رسمی خود منتشر کرده اند یا خیر.

3. رویدادهای دنیای واقعی

(اعتبار تصویر: Reddit) این یکی از آزاردهنده ترین کاربردهای تصاویر تولید شده با هوش مصنوعی است که اخیرا با آن روبرو شده ام. همه ما تصاویر جعلی از چیزهایی دیده ایم که هرگز اتفاق نیفتاده اند. اما من همچنین متوجه تصاویر و ویدیوهای بیشتری شده‌ام که ادعا می‌کنند رویدادهایی را نشان می‌دهند که واقعا رخ داده‌اند.

که من فکر می کنم آنها را به خصوص گمراه کننده می کند. ممکن است کسی بررسی کند که آیا یک حادثه واقعا اتفاق افتاده است یا خیر، و متوجه شود که این اتفاق افتاده است، بنابراین آنها فرض می‌کنند که عکس‌های همراه نیز باید معتبر باشند. یکی از نمونه‌های ناراحت‌کننده شامل تصاویر تولید شده توسط هوش مصنوعی بود که ادعا می‌کردند یک حادثه غم انگیز را در پارک حیات وحش یورکشایر نشان می‌دهند. این تصاویر می توانند به سرعت پخش شوند زیرا به داستان هایی متصل شده اند که مردم قبلا به آنها علاقه مند هستند.

اگر با تصاویر دراماتیک یک خبر فوری مواجه شدید، بررسی کنید که آیا آنها توسط سازمان های خبری معتبر استفاده می شوند یا توسط یک منبع رسمی منتشر شده اند. و به یاد داشته باشید که تأیید یک رویداد به طور خودکار تأیید نمی کند که هر عکس یا ویدیویی که ادعا می کند آن را نشان می دهد واقعی است.

4. کلاهبرداری های عاشقانه

(اعتبار تصویر: Reddit) این یکی از ناراحت کننده ترین نوع کلاهبرداری هایی است که من در r/isthisAI متوجه شده ام. مردم مرتبا عکس‌هایی از شخصی که والدین، پدربزرگ و مادربزرگشان یا سایر بستگانشان با آنها ملاقات کرده‌اند را به صورت آنلاین ارسال می‌کنند و از آنها می‌پرسند که آیا واقعا وجود دارد یا خیر. افرادی هستند که نگران خاله‌ها، باباها و پدربزرگ‌ها و مادربزرگ‌های دوستانشان هستند.

یک الگوی آشنا کسی است که ادعا می کند در خارج از کشور کار می کند یا دائما سفر می کند، اغلب با یک عکس قانع کننده در فرودگاه یا محل کار. در نهایت، یک اورژانس پزشکی یا مشکلی در دسترسی به پول وجود دارد، بنابراین آنها درخواست کمک مالی می کنند.

البته کلاهبرداری های عاشقانه ده ها سال است که وجود داشته است. اما عکس‌ها، پیام‌ها و حتی ویدیوهای تولید شده توسط هوش مصنوعی می‌توانند راه‌های بیشتری را برای ایجاد هویت باورپذیر در اختیار کلاهبرداران قرار دهند. بخش سخت این است که افراد می توانند از نظر احساسی در این روابط سرمایه گذاری کنند. گفتن اینکه ممکن است کسی که او را دوستش داشته اند وجود نداشته باشد بسیار دردناک است و من از خواندن حکایات افرادی که هنوز هم عزیزان نگرانشان را باور نمی کنند، حتی وقتی شواهد غیرقابل انکاری به آنها نشان داده شده است، شگفت زده شده ام.

اگر نگران دوست یا خویشاوندی هستید، سعی کنید به آرامی به گفتگو بپردازید. آنها را تشویق کنید تا هویت فرد را به طور مستقل تأیید کنند، مراقب بهانه‌هایی برای ملاقات حضوری نباشید و مهمتر از همه، هرگز برای کسی که نمی‌توانند هویت او را مشخص کنند، پول نفرستید.

5. کلاهبرداری از حیوانات خانگی

(اعتبار تصویر: Reddit) چه کسی یک عکس توله سگ شایان ستایش را دوست ندارد؟ و دقیقا به همین دلیل است که این کلاهبرداری ها می توانند بسیار مؤثر باشند. من افرادی را در Reddit دیده‌ام که می‌پرسند آیا عکس‌های سگ‌هایی که قصد خرید آن‌ها را دارند، توسط هوش مصنوعی تولید شده است یا خیر. در یک مثال، شخصی نگران بود که مادرش کلاهبرداری شود. در مورد دیگری، شخصی سعی می کرد از طریق فیس بوک یک توله سگ بخرد، اما آنها نگران بودند که برخی از جزئیات در عکس های پسر کوچولوی ناز کاملا با هم جمع نشود.

خطر این است که یک عکس با ظاهر واقعی می تواند به کسی کمک کند که یک توله سگ وجود دارد و برای خرید در دسترس است، حتی زمانی که فروشنده قانونی نیست. کلاهبرداران ممکن است قبل از ناپدید شدن، درخواست سپرده یا هزینه تحویل کنند.

برای من، این نکته مهمی است که باید به دوستان و خانواده منتقل کنم. به‌جای تمرکز کامل بر روی مشاهده جزئیات واضح در تصاویر تولید شده توسط هوش مصنوعی، به آنچه که کسی از شما می‌خواهد نگاه کنید. آیا آنها پیشاپیش تقاضای پول می کنند و دلایلی برای هزینه های اضافی ابداع می کنند؟ آنها باید پرچم های قرمز بزرگ را برافراشتند.

همیشه سعی کنید قبل از پرداخت یک توله سگ را شخصا ببینید و اعتبار فروشنده را بررسی کنید. یک عکس قانع کننده، مهم نیست چقدر زیبا، تضمینی برای خرید یک حیوان نیست. حتی تضمینی برای وجود آن نیست.

6. امتیاز سیاسی با اطلاعات نادرست

(اعتبار تصویر: Reddit) امیدوارم اکثر مردم اکنون بدانند که تصاویر تولید شده توسط هوش مصنوعی اغلب برای انتشار اطلاعات غلط سیاسی استفاده می شود. اما با قضاوت بر اساس برخی از چیزهایی که هنوز در رسانه های اجتماعی منتشر می شوند، دلایل زیادی برای نگرانی وجود دارد.

من پست‌هایی را دیده‌ام که در مورد واقعی بودن تصاویر سیاسی سوال می‌کنند، از جمله این مثال که توسط صفحه فیس‌بوک کمیته اقدام سیاسی محافظه‌کاران اوهایو به اشتراک گذاشته شده است.

این تصاویر می توانند به ویژه زمانی موثر باشند که چیزی را که شخصی قبلا به آن باور دارد، تقویت کنند. به این معنی که اگر تصویری نظر شما را در مورد یک سیاستمدار، اعتراض یا جنبش سیاسی تایید می‌کند، ممکن است کمتر تمایلی به زیر سوال بردن آن داشته باشید.

توصیه من این است که به خصوص به تصاویری که واکنش عاطفی فوری را برمی انگیزند، مشکوک باشید، خواه خشم، ترس یا حتی رضایت. به دنبال منبع اصلی بگردید، بررسی کنید که آیا سازمان‌های خبری معتبر این ادعا را تأیید کرده‌اند یا خیر و در مقابل وسوسه اشتراک‌گذاری چیزی صرفا به این دلیل که باورپذیر به نظر می‌رسد مقاومت می‌کنند.

7. اسناد جعلی مانند عکس های پزشکی، رسید و بلیط هواپیما

(اعتبار تصویر: Reddit) دسته دیگری که من متوجه شده ام شامل افرادی است که می پرسند آیا اسناد یا عکس هایی برای حمایت از یک دروغ ایجاد شده اند یا خیر. به عنوان مثال، یکی از کاربران Reddit پرسید که آیا سابق آنها از هوش مصنوعی برای ساخت بلیط هواپیما جعلی استفاده کرده است یا خیر و دیگری می خواست بداند آیا سونوگرافی با هوش مصنوعی جعلی شده است یا خیر.

این به ویژه برای من جالب است زیرا آزمایش خودم را انجام دادم تا ببینم آیا ChatGPT به من کمک می کند تا شواهد جعلی، از جمله رسیدها و گواهی ها را ایجاد کنم. و در بسیاری از موارد اینطور شد.

اسنادی که زمانی ممکن بود به مهارت های واقعا خوب فتوشاپ نیاز داشته باشند، اکنون می توانند بسیار ساده تر ساخته شوند. و از آنجایی که هوش مصنوعی در تولید متن و طرح‌بندی‌های متقاعدکننده بهتر می‌شود، تشخیص جعلی صرفا با نگاه کردن به آن به مراتب کمتر قابل اعتماد می‌شود.

اگر شخصی برای شما سندی را به عنوان اثبات مطلب مهمی ارسال کرد، به این فکر کنید که آیا راه دیگری برای تأیید آن وجود دارد یا خیر. به عنوان مثال، مرجع رزرو ممکن است چیزی باشد که می توانید مستقیما با شرکت مربوطه بررسی کنید. و عکس یک مدرک پزشکی نیز هرگز نباید به عنوان مدرک قطعی سلامت یا شرایط فردی تلقی شود.

چگونه بررسی کنیم که آیا چیزی هوش مصنوعی است یا خیر

ما راهنمای عمیق تری برای شناسایی تصاویر متقاعد کننده هوش مصنوعی، دیپ فیک ها و کلاهبرداری ها داریم، اما چند نکته ساده وجود دارد که ارزش به خاطر سپردن دارد.

در مرحله اول، می‌توانید عکس‌های مشکوک را با Google Lens جستجوی عکس معکوس کنید. همچنین می توانید بررسی کنید که یک داستان یا تصویر از کجا آمده است و هرگونه ادعا را از طریق منابع مستقل تأیید کنید.

ابزارهایی نیز وجود دارد که می تواند کمک کند. گوگل اخیرا دسترسی به SynthID Detector خود را گسترش داده است، که می تواند واترمارک های نامرئی را در محتوای تولید شده توسط هوش مصنوعی از برخی ابزارهای هوش مصنوعی شناسایی کند، اما نه همه آنها. فقط به یاد داشته باشید که اگر واترمارک را تشخیص ندهد، لزوما به معنای واقعی بودن چیزی نیز نیست.

اما من فکر می‌کنم مفیدترین چیزی که می‌توانیم به دوستان و خانواده‌مان بیاموزیم این است که به چیزی فراتر از شباهت هوش مصنوعی نگاه کنیم و سؤال مهم‌تری بپرسیم: کسی در تلاش است که من را به چه چیزی باور کند یا انجام دهم؟

زیرا چه یک توله سگ تقلبی باشد یا درخواست فوری پول از یک غریبه جذاب، این اغلب بزرگترین علامت هشدار است. و موردی که باید بیشتر به آن توجه کنیم زیرا تشخیص هوش مصنوعی از واقعی دشوارتر می شود.