آیا هوش مصنوعی یک تهدید است؟ بله - در حال حاضر حساب های بانکی آمریکایی ها را خالی می کند.

در چند هفته گذشته، بحث در مورد هوش مصنوعی و پادمان‌ها بر روی سؤالات ترسناک متمرکز شده است - یعنی آیا سیستم‌های هوش مصنوعی می‌توانند تهدیدی برای وجود انسان ما باشند؟ این نگرانی‌ها مشروع است و سال‌هاست توسط محققان ایمنی هوش مصنوعی و کارشناسان امنیت ملی به اشتراک گذاشته شده است. اما پس از هشدار یک محقق Anthropic در مورد اینکه این فناوری پس از استعفای او به کجا می رود، آنها واقعا مورد توجه قرار گرفتند. این هشدارها در مورد خطرات وجودی باید جدی گرفته شود.

اما ما فقط باید پیام های متنی، فیدهای رسانه های اجتماعی و تبلیغات آنلاین خود را بررسی کنیم تا متوجه شویم که خطرات ناشی از هوش مصنوعی - یعنی کلاهبرداری ها و کلاهبرداری های مبتنی بر هوش مصنوعی - از قبل وجود دارد. در حالی که کنگره درباره آنچه که هوش مصنوعی ممکن است روزی برای بشریت انجام دهد بحث می کند، آمریکایی ها در حال حاضر مبالغ هنگفتی را به خاطر کلاهبرداری های آنلاین از دست می دهند. به همین دلیل است که در 30 سپتامبر، به بیش از 35 سازمان حمایت از مصرف‌کننده، مسئولیت‌پذیری فناوری، حمایت از سالمندان و سایر سازمان‌های جامعه مدنی ملحق شدیم تا متحد برای توقف کلاهبرداری‌های آنلاین را با یک روز ملی اقدام متمرکز بر هوش مصنوعی و کلاهبرداری مبتنی بر فناوری راه‌اندازی کنیم.

با مشارکت صندوق فیلم و تلویزیون، یک PSA قدرتمند را در جریان پخش زنده با حضور سناتور مارک کلی (D-Ariz.) و نماینده وال فوشی (D-N.C.) منتشر کردیم که بیش از 50000 بازدید داشت، در حالی که صدها نفر در رویدادها در سراسر کشور شرکت کردند. ما از آمریکایی‌ها می‌خواهیم که از قانون‌گذاران ایالتی و فدرال خود بخواهند که پلتفرم‌های آنلاین را به خاطر نقششان در گسترش کلاهبرداری و کلاهبرداری آنلاین پاسخگو نگه دارند. فدراسیون مصرف کنندگان آمریکا تخمین می زند که آمریکایی ها در سال 2025 148 میلیارد دلار به دلیل کلاهبرداری و جرایم آنلاین از دست داده اند.

این بیش از 1100 دلار برای هر خانوار ایالات متحده است و تقریبا 26 درصد افزایش نسبت به سال قبل دارد. همین گزارش تاکید می‌کند که تقلب‌های مبتنی بر هوش مصنوعی تنها در سال گذشته بیش از ۶ میلیارد دلار ضرر داشته است. آمریکایی‌های مسن‌تر به شدت آسیب دیده‌اند. به گفته FBI، تلفات گزارش شده در میان افراد 60 ساله و بالاتر در سال 2025 بیش از 59 درصد افزایش یافته است که به طور متوسط ​​​​38500 دلار در هر حادثه گزارش شده است. کلاهبرداری مبتنی بر هوش مصنوعی کلاهبرداری را به طرز قابل توجهی آسان کرده است که در گذشته انجام آن زمان و تلاش قابل توجهی را می طلبید.

کلاهبرداران زمانی مجبور بودند هزاران ایمیل ناشیانه را یکی یکی پیش نویس و ارسال کنند، به این امید که حداقل یک فرد آسیب پذیر طعمه را بگیرد. امروزه، هوش مصنوعی می‌تواند پیام‌ها، صداهای شبیه‌سازی شده، تصاویر واقع‌گرایانه تولیدی، حتی نقاط ضعف را متناسب با آسیب‌پذیری افراد تولید و ارسال کند. مجرمان از هوش مصنوعی برای ایجاد کلاهبرداری های فزاینده متقاعد کننده با تلاش اندک استفاده می کنند، از ویدیوهای جعلی چهره های عمومی که مزایای جعلی Medicare را تبلیغ می کنند تا صداهای شبیه سازی شده که خود را شبیه به عزیزان در مضیقه می کنند. اما کلاهبرداران تنها بخشی از مشکل هستند.

برخی از بزرگ‌ترین شرکت‌های فناوری در جهان، زیرساخت‌هایی را که این کلاهبرداران برای دسترسی به آمریکایی‌ها استفاده می‌کنند، اداره می‌کنند، و آنها نقش خود را برای ایمن نگه داشتن همه ما انجام نمی‌دهند. آخرین گزارش ردیاب ریسک کلاهبرداری Better Business Bureau نشان می‌دهد که رسانه‌های اجتماعی روش تماس با بیشترین درصد گزارش‌ها (بیش از 87 درصد) مربوط به زیان‌های پولی بوده و فیس‌بوک، اینستاگرام و TikTok به عنوان برترین پلتفرم‌های گزارش‌شده که در آن کلاهبرداری‌ها منشا می‌گیرند، هستند.

اسناد داخلی متا نشان می‌دهد که شرکت پیش‌بینی می‌کند که تقریبا 16 میلیارد دلار از درآمد تبلیغاتی آن در سال 2024 از کلاهبرداری یا کالاهای ممنوعه حاصل شده است. حتی نگران‌کننده‌تر این است که تبلیغ‌کنندگان کلاهبرداری ممکن است با ده‌ها تخلف مواجه شوند قبل از اینکه متا آنها را برای همیشه حذف کند. کلاهبرداری های مبتنی بر هوش مصنوعی به همان اندازه که یک مشکل فناوری است، یک مشکل مدل کسب و کار است. اکوسیستم آنلاین ما به کلاهبرداران اجازه می دهد تا از ابزارهای هوش مصنوعی برای تولید فریب استفاده کنند. پلتفرم‌های رسانه‌های اجتماعی به کلاهبرداران کمک می‌کنند تا این فریب را مستقیما به مخاطبان هدفی که به دنبال فریب آنها هستند ارائه دهند.

شرکت‌هایی که این پلتفرم‌های رسانه‌های اجتماعی را اداره می‌کنند، از تبلیغات کلاهبرداری که به این قربانیان راه پیدا می‌کنند، سود می‌برند. در تمام این مدت، بار اجتناب از کلاهبرداری به طور کامل بر دوش مصرف کنندگان است. آموزش مصرف کننده در مورد نحوه شناسایی و محافظت از خود در برابر کلاهبرداری بخش مهمی از گفتگو است. اما اغلب، این بحث مسئولیتی را که Big Tech باید در وهله اول در پیشگیری از این آسیب ها داشته باشد نادیده گرفته است. آمریکایی ها وظیفه دارند در پزشکی قانونی دیجیتال متخصص شوند تا فقط در فضاهای آنلاین حرکت کنند.

اما شرکت‌هایی که این فناوری‌ها را به کار می‌گیرند و پرداخت‌هایی را از تبلیغ‌کنندگان کلاهبرداری می‌پذیرند، منابع بسیار بیشتری برای ایجاد حفاظت‌هایی دارند که به سادگی دنبال نمی‌کنند. هوش مصنوعی و شرکت‌های رسانه‌های اجتماعی باید اقدامات معقولی را برای جلوگیری از استفاده از سیستم‌هایشان برای کلاهبرداری انجام دهند یا اگر این کار را نکردند، پاسخگو باشند. شرکت‌های رسانه‌های اجتماعی بر درآمد تبلیغ‌کنندگان متکی هستند و باید انتظار داشت که تبلیغ‌کنندگان را تأیید کنند و کمپین‌های تبلیغاتی تقلبی را شناسایی و متوقف کنند.

و هنگامی که شرکت‌های رسانه‌های اجتماعی متوجه می‌شوند که یک تبلیغ‌کننده کلاهبردار است، کلاهبردار باید فورا حذف شود و از پلتفرم منع شود - نه اینکه فقط به حالت تعلیق درآمده یا اجازه داده شود با نام کاربری دیگری ظاهر شود. خطرات ناشی از رفتار غیرمنتظره سیستم‌های هوش مصنوعی و ایجاد آسیب‌های فاجعه‌بار مستحق توجه جدی دولت است. اما این خطر نیز وجود دارد که صرفا در مورد پیامدهای هوش مصنوعی صحبت کنیم که گویی آنها منحصرا در آینده هستند. برای میلیون ها آمریکایی، یک بحران آسیب هوش مصنوعی در حال حاضر اینجاست.

فرقی نمی‌کند که یکی از اعضای خانواده درخواست پول کند، یا یک هم‌روح از راه دور که می‌خواهد بلیط هواپیما برای ملاقات حضوری داشته باشد، یا تبلیغی در فیس‌بوک که آنقدر خوب است که واقعیت داشته باشد، وقتی قربانیان متوجه می‌شوند که فرد طرف مقابل هرگز واقعی نبوده است، پولشان از بین رفته است و اغلب از درخواست کمک خجالت می‌کشند. شعبه JB مدیر سیاست‌گذاری فدرال هوش مصنوعی و فناوری برای بخش دیده‌بان کنگره عمومی شهروندان است. ریچارد فیستا مدیر اجرایی اتحاد برای بازنشستگان آمریکایی است.