OpenAI می گوید حساب های مرتبط با عملیات نفوذ روسیه و ایران را ممنوع کرده است

OpenAI روز پنجشنبه اعلام کرد حساب‌های مرتبط با عملیات نفوذ مخفی در روسیه و ایران را که از ابزار هوش مصنوعی خود در تلاش برای شکل دادن به افکار عمومی خارج از کشور استفاده می‌کردند، ممنوع کرده است.

این شرکت در یک پست وبلاگی اعلام کرد که این عملیات هوش مصنوعی را با تکنیک‌های نفوذ سنتی ترکیب کرده و از پلتفرم‌های تحقیقاتی به ظاهر قانونی و هویت‌های روزنامه‌نگار ساختگی برای انتشار پیام‌های ژئوپلیتیکی استفاده می‌کند.

کمپین مرتبط با روسیه از یک پلتفرم تحقیقاتی ظاهرا متمرکز بر آمریکای لاتین استفاده می‌کرد، در حالی که عملیات مرتبط با ایران از پروفایل‌های جعلی روزنامه‌نگار برای ارسال مقالات به نشریات آنلاین استفاده می‌کرد.

OpenAI گفت: "چیزی که در مورد این عملیات بسیار قابل توجه است این است که آنها بسیار شبیه عملیات نفوذ پیچیده دوران قبل از هوش مصنوعی بودند، اما از هوش مصنوعی برای تسهیل برخی از گردش کارها استفاده می کردند."

این شرکت گفت که دسته‌ای از حساب‌های ChatGPT مرتبط با هر دو عملیات را ممنوع کرده و اطلاعات مربوط به آنها را با مقامات مربوطه به اشتراک گذاشته است.

OpenAI گفت که عملیات مرتبط با ایران از هفت هویت جعلی روزنامه نگار برای ارائه مقالات طولانی به نشریات آنلاین استفاده کرده است.

این شرکت تقریبا 100 مقاله منتشر شده تحت عنوان روزنامه نگاران جعلی را در بیش از ده ها رسانه شناسایی کرد.

این مقالات به مسائل بین المللی، ژئوپلیتیک و خاورمیانه پرداختند. OpenAI گفت که انتشارات پس از شروع درگیری آمریکا و ایران به شدت افزایش یافت.

طبق گفته OpenAI، اپراتورها از ChatGPT برای ویرایش مقالات، بررسی پیش‌نویس‌ها بر اساس الزامات ارسالی تک تک رسانه‌ها و تهیه ایمیل‌هایی که داستان‌هایی را برای سردبیران ارائه می‌کنند، استفاده می‌کنند.

این شرکت گفت که پروفایل های جعلی خود را به عنوان روزنامه نگاران غربی با تخصص در سیاست بین المللی، خاورمیانه، حقوق بشر یا درگیری معرفی می کردند.

این عملیات همچنین نظرات رسانه های اجتماعی را به زبان های انگلیسی و فارسی ایجاد کرد.

OpenAI گفت: «کاربران درباره موضوعاتی مانند حملات موشکی، آتش‌بس، و مانورهای دیپلماتیک نظر خواستند و نتایجی را مشخص کردند که ایالات متحده را متجاوز، اسرائیل را متحد غیرقابل اعتماد ایالات متحده و ایران را قربانی سرکش اما انعطاف‌پذیر نشان می‌داد.

با این حال، این شرکت گفت که نظراتی که به طور عمومی شناسایی کرده است، عموما تعامل کمی داشتند. برخی از لایک‌ها از حساب‌های مرتبط با خود عملیات به دست آمده است.

OpenAI گفت که عملیات مرتبط با روسیه مخاطبان را در سرتاسر آمریکای لاتین هدف قرار داده است و بیشتر فعالیت های آن ظاهرا با هدف "تضعیف اعتبار اوکراین" بوده است. دیگر تلاش ها بر سیاست داخلی در آرژانتین و بولیوی متمرکز بود.

ظاهرا در این عملیات از مرکز تحقیقات اجتماعی استفاده شده است، یک پلت فرم تحقیقاتی خود توصیف شده که آمریکای لاتین را پوشش می دهد. OpenAI گفت گزارش‌های داخلی حاکی از آن است که اپراتورهای روسی این پلتفرم را از طریق شخصی ساختگی به نام «میا کلارک» کنترل می‌کنند.

این شرکت گفت شواهد موجود نشان می‌دهد که کارمندانی که برای پلتفرم در آمریکای لاتین کار می‌کنند نمی‌دانستند که برای یک گروه روسی کار می‌کنند. به نظر می رسد که آنها با کارشناسان منطقه ای مصاحبه کرده و مقالات تحقیقاتی را با حسن نیت تولید می کنند.

گزارش‌های داخلی اپراتورها تلاش‌هایی را برای انتشار داستان‌های ساختگی، اسناد و ضبط‌های صوتی با هدف قرار دادن اوکراین و شخصیت‌های سیاسی در منطقه توصیف می‌کند.

OpenAI گفت که تحقیقاتش موادی را پیدا کرده است که با برخی کمپین های گزارش شده مطابقت دارد، از جمله ادعاهای نادرستی که باعث بررسی واقعیت و انکار رسمی شده است. هشدار داد که برخی از ادعاهای موجود در گزارش های داخلی قابل تایید نیستند.

OpenAI گفت که هر دو عملیات محتوا را در رسانه ها قرار می دهند و به طور بالقوه دامنه آنها را فراتر از حساب های رسانه های اجتماعی جعلی گسترش می دهند.

این شرکت می‌گوید: «هوش مصنوعی می‌تواند مقیاس، کارایی، تسلط زبانی و توانایی ویراستاری بیشتری را به چنین عملیات‌های جبهه دروغین بدهد.

OpenAI گفت که این یافته ها را برای کمک به محققان و سایر سازمان ها در شناسایی و اختلال در کمپین های مشابه منتشر کرده است.