Час читання: < 1 хв.
Компанія OpenAI розповіла, що Китай використовує ChatGPT для прихованих інформаційних операцій у соціальних мережах. За словами дослідників, боти генерують як пропагандистські пости, так і коментарі до них, а також створюють звіти про виконану роботу – теж за допомогою ШІ.
Компанія заблокувала десять подібних мереж, причому щонайменше чотири з них, за її оцінкою, “ймовірно, походили з Китаю”. Серед інших країн, помічених у схожих зловживаннях – росія, Іран і Північна Корея.
Реклама
Одна з кампаній, що отримала назву Sneer Review, публікувала повідомлення в TikTok, X, Facebook, Reddit та інших майданчиках англійською, китайською та урду. Теми варіювалися від критики і похвали реформ при адміністрації Трампа до нападок на тайванську гру, в якій користувачі борються з Комуністичною партією Китаю. При цьому ChatGPT використовувався і для написання коментарів у відповідь до цих же постів.
Іронічно, що частина скомпрометованих акаунтів за допомогою ChatGPT писала службові записки та оцінки ефективності операцій, розкриваючи деталі роботи: кроки із запуску ботів, правила поведінки в соцмережах та інше. OpenAI зазначає, що реальні дії акаунтів повністю збігалися з описаним у “звітах” алгоритмом.
У рамках іншої активності ChatGPT застосовували для написання листів журналістам, аналітикам і політикам – імовірно, з метою збору розвідувальної інформації.
Ці дані стали частиною нового звіту OpenAI про загрози, в якому компанія підкреслює, наскільки різноманітними і потайливими стають спроби впливати на громадську думку за допомогою генеративних ШІ-моделей.
