OpenAI در گزارش جدیدی اظهار کرده از ابتدای ۲۰۲۵ تا بحال موفق شده دست‌کم ۱۰ کمپین مخرب را که با سوءاستفاده از چت‌بات ChatGPT طراحی شده بودند، متوقف کند. این شرکت مدعی است ایران، روسیه و چین هم در این کمپین‌ها دست داشته‌اند.

مطابق گزارش منتشرشده با گفتن «مقابله با سوءاستفاده‌های مخرب از هوش مصنوعی: ژوئن ۲۰۲۵»، تعداد بسیاری از این فعالیت‌ها را عوامل دولتی یا گروه‌هایی وابسته به دولت‌ها انجام داده‌اند.

توقف کمپین‌های مخرب هوش مصنوعی توسط OpenAI

۴ مورد از این کمپین‌ها منشأ چینی داشته‌اند و شامل عملیات مهندسی اجتماعی، تهدیدهای سایبری و نفوذ پنهانی به فضای آنلاین بوده‌اند. در یکی از این موارد که OpenAI آن را «Sneer Review» نامیده، گروهی از کاربران چینی با ارسال نظرات منفی درمورد بازی «Reversed Front» که حاوی مطلب‌هایی ضدحزب کمونیست چین می بود، تلاش کردند اعتبار آن را زیر سوال ببرند. سپس همین شبکه مقاله‌ای ساختگی در انجمن آنلاین انتشار کرد و مدعی شد این بازی با موجی از انتقادات روبه رو شده تا به اعتبار آن و در کنارش استقلال تایوان خدشه داخل کند.

در کمپینی دیگر به نام «Helgoland Bite»، عوامل روسی با منفعت گیری از ChatGPT محتوایی به زبان آلمانی تشکیل کرده‌اند که از ایالات متحده و ناتو انتقاد می‌کند. این گروه این چنین درمورد انتخابات ۲۰۲۵ آلمان محتوای متنی انتشار کرده و جستوجو تأثیرگذاری بر فضای سیاسی این سرزمین بوده‌اند.

OpenAI مدعی است عوامل تهدیدی که به گمان زیادً به ایران مرتبط بوده‌اند، توییت‌هایی به زبان اسپانیایی و انگلیسی درمورد سیاست‌های مهاجرتی آمریکا، استقلال اسکاتلند، اتحاد مجدد ایرلندی‌ها و مذاکرات ایران و آمریکا تشکیل کرده‌اند.

در یکی از موارد مهم، مهاجمان با پشتیبانی ChatGPT فعالان ناموافق و وبلاگ‌نویسان را شناسایی کرده‌اند، و مطلب‌هایی ساخته‌اند که در آنها به انتشار کردن هماهنگ مطالب در شبکه‌های اجتماعی و حتی پرداخت پول به این افراد اشاره شده است.

این چنین حساب‌های کاربری مرتبط با کمپینی به نام «Uncle Spam» که تلاش می‌کردند بر فضای سیاسی آمریکا تأثیر بگذارند، شناسایی و مسدود شده‌اند. در برخی موارد، کاربران چینی با ساخت حساب‌هایی که محتوای تفرقه‌انگیز درمورد مسائل سیاسی آمریکا ازجمله تعرفه‌ها انتشار می‌کردند، تلاش داشتند شکاف‌های سیاسی این سرزمین را تشدید کنند. آنها حتی صفحاتی همانند انجمن‌های حمایتی مخصوص سربازان بازنشسته آمریکایی ساخته بودند تا مطمعن کاربران را جلب کنند.

OpenAI قبلاً نیز با کمپین فیشینگ گروه هکری چینی «SweetSpecter» مقابله کرده می بود که کارکنان این شرکت را مقصد گرفته می بود. این حملات با همکاری شرکای امنیتی شناسایی و خنثی شدند.

OpenAI در آخر هشدار داده همه آنچه در اینترنت دیده می‌شود، الزاماً از طرف انسانی واقعی انتشار نشده است؛ به این علت امکان پذیر حتی فردی که در شبکه‌های اجتماعی با او او گفت و گو می‌کنید، در واقع بخشی از عملیات سازمان‌یافته برای تشکیل اختلاف و درگیری باشد.