گروه‌های چین، ایران و اسرائیل از هوش مصنوعی برای اولین کمپین‌های نفوذ رسانه‌های اجتماعی در نوع خود سلاح استفاده می‌کنند.

بر اساس تحقیقات منتشر شده توسط نیویورک تایمز، ایران، چین و گروه‌هایی از اسرائیل از هوش مصنوعی برای راه اندازی هزاران حساب جعلی استفاده کردند و اولین کمپین‌های نفوذ مبتنی بر هوش مصنوعی را در رسانه‌های اجتماعی ایجاد کردند. مقامات آمریکایی به NYT گفتند که کشورها و شرکت‌ها از هوش مصنوعی برای تشدید مقیاس کمپین‌های آنلاین بیشتر از آنچه که کاربران تایید شده گزارش شده استفاده کردند. دانلود و برای اهداف سفارشی تغییر دهید.

شرکت‌ها سپس از آن مدل‌های منبع باز برای ایجاد «عامل‌ها» استفاده کردند، ربات‌هایی با خودمختاری برای اجرای نرم‌افزار و انجام وظایف خود به تنهایی و بدون درخواست مداوم. نیویورک تایمز توضیح داد که وقتی صدها نفر از این عوامل هوش مصنوعی در اینترنت رها شدند، به‌طور مستقل شبکه‌های حساب‌های جعلی را در پلتفرم‌هایی مانند اینستاگرام، فیس‌بوک، X/Twitter باز کردند. پروفایل های جعلی با اطلاعات نادرست مربوط به سیاست و رویدادهای جاری. برای اولین بار از مدل های چینی مانند این استفاده شد مقامات آمریکایی به NYT گفتند که این موارد در

از اولین بارهایی است که عوامل هوش مصنوعی از مدل‌های تولید چین برای مدیریت هر مرحله از یک کمپین نفوذ آنلاین، از ایجاد حساب‌های جعلی جدید گرفته تا هماهنگ کردن پیام‌ها و کادربندی آنلاین استفاده شد. کارشناسان امنیت سایبری، گروه‌هایی را که پشت کمپین‌های مبتنی بر هوش مصنوعی بودند، بررسی کردند و این تلاش‌ها را به چینی‌های تحت حمایت دولت ردیابی کردند.

گروه‌های ایرانی، و همچنین کمپین‌های اسرائیلی ناشی از دو شرکت خصوصی. کایل کرایتون، یکی از همکاران مرکز امنیت و فناوری جورج تاون که در زمینه هوش مصنوعی و امنیت سایبری مطالعه می‌کند، به NYT گفت که «کمپین‌های تحت رهبری عامل» احتمالا با گسترش فناوری رایج‌تر خواهند شد. کاربر انسانی.» او گفت. این تحقیقات در پی سایر اخبار مهم فناوری منتشر شد، زیرا رهبران هوش مصنوعی نسبت به خطرات توسعه هوش مصنوعی خیلی سریع و بدون پشتوانه هشدار دادند.

اقدامات ایمنی این هشدارها به دنبال نگرانی عمومی در مورد داستان‌های اخیر مدل‌های هوش مصنوعی و هک شرکت‌های دیگر بود. متا در گزارشی در ماه گذشته گفت که شاهد "توسعه فنی قابل توجهی" از بازیگران بدی بوده است که از هوش مصنوعی برای اهداف مخرب استفاده می‌کنند. هوش مصنوعی اکنون در سیستم‌های خودکاری جاسازی شده است که می‌توانند محتوا را با کمترین مداخله انسانی تولید، تطبیق و توزیع کنند. یک شرکت مستقر در تل‌آویو که توسط کارمندان سابق گروه NSO تأسیس شده است، تقریبا 1000 دستگاه AI را اداره می‌کند.

حساب‌های ake در رسانه‌های اجتماعی برای دستکاری گفتمان سیاسی در مورد انتخابات آتی اسرائیل. این شرکت از DeepSeek، یک مدل منبع باز چینی هوش مصنوعی، برای ایجاد عوامل خود استفاده کرد. بر اساس تحقیقات، ربات‌ها سپس محتوایی را منتشر کردند که هم در حمایت و هم در مخالفت با بنیامین نتانیاهو، نخست‌وزیر بنیامین نتانیاهو بود. اینتل‌آی ادعاهایی مبنی بر اینکه هدف از کارش برای تأثیرگذاری بر بحث‌های آنلاین است را رد کرد و اظهار داشت که این شرکت در حال انجام یک آزمایش تحقیقاتی دفاعی برای افشای ضعف‌های سیستم‌های هوش مصنوعی است. ماور سلک، یکی از بنیان‌گذاران کمپین‌های نفوذ، به تایم گفت: «IntelEye کمپین‌های نفوذ را اجرا نمی‌کند.

«کار ما با DeepSeek برای تحقیقات و آزمایش‌های دفاعی انجام شد، تا بفهمیم چگونه می‌توان از مدل‌هایی با پادمان‌های ناکافی استفاده کرد و تشخیص آن فعالیت را بهبود بخشید.» سلک گفت که IntelEye 10000 حساب رسانه اجتماعی خرید و کنترل را به عوامل هوش مصنوعی سپرد، اگرچه او اضافه کرد که تنها حدود 1000 حساب‌ها برای عملیات‌های حساب‌ها استفاده می‌شوند. پست هایی برای تقویت تعامل، اگرچه سلک گفت که آنها چندان موفق نبودند. متا به نیویورک تایمز گفت که اکثریت قریب به اتفاق عوامل مبتنی بر هوش مصنوعی در فیس بوک و اینستاگر راه اندازی می کنند.

am توسط IntelEye، سایر شرکت‌ها و گروه‌های تحت حمایت دولت توسط سیستم‌های تشخیص و تأیید خودکار آن حذف شدند.