Російська дезінформаційна мережа активно маніпулює ШІ-чатботами, поширюючи в інтернеті фейкові новини та пропаганду, згідно з новим звітом NewsGuard. Дослідження свідчить про те, що прокремлівські наративи спотворюють роботу штучного інтелекту, впливаючи на мільйони користувачів у всьому світі, пише Axios.
Звіт ідентифікує Pravda, московську дезінформаційну мережу, як основну силу, що стоїть за цією кампанією. Її мета – не безпосередньо переконати людей, а впливати на відповіді ШІ-чатботів, засмічуючи пошукові системи та вебкраулери великою кількістю дезінформаційного контенту.
За даними NewsGuard:
- У 2023 році російська мережа Pravda опублікувала понад 3,6 мільйона статей, які потрапили у популярні ШІ-чатботи, від таких компаній як Microsoft, Google, OpenAI, xAI, Meta, Anthropic, Mistral, Perplexity та You.com;
- Мережа поширила щонайменше 207 доведених фейків, основна частина яких пов’язана з Україною;
- Третина відповідей провідних чатботів відтворювала аргументи, спочатку опубліковані мережею Pravda, що підтверджує вразливість моделей ШІ до маніпуляцій.
Шляхом домінування у пошукових запитах прокремлівська кампанія спотворює навчальні набори даних, які використовують великі мовні моделі (LLM), впливаючи на те, як ШІ резюмує новини та відповідає на запити користувачів.
Мережа запущена у квітні 2022 року, після повномасштабного вторгнення росії в Україну. Відтоді вона розрослася до 49 країн і працює десятками мов. За даними NewsGuard:
- 150 вебсайтів ідентифіковані як частина мережі, з яких 40 мають доменні імена, пов’язані з регіонами України;
- Деякі сайти зосереджені на конкретних темах, а не на регіональній дезінформації;
- Pravda не створює власного контенту, а агрегує матеріали з російських державних ЗМІ та прокремлівських блогерів, посилюючи їхній вплив.
Звіт підтверджує побоювання щодо ролі ШІ у поширенні дезінформації. Зі зростанням популярності згенерованого за допомогою штучного інтелекту контенту зловмисники можуть навмисно "навчати" моделі, наповнюючи інтернет пропагандою.
NewsGuard також посилається на виступ у січні 2023 року Джона Марка Дуґана, американця, який утік до Москви та став прокремлівським пропагандистом. На конференції російських урядовців він відкрито заявив: "Якщо просувати російські наративи з російської точки зору, ми можемо фактично змінити світовий ШІ".
Дослідження опубліковане на тлі повідомлень про згортання зусиль США з протидії російським кібератакам. Експерти попереджають, що дезінформація та ненавмисні помилки ШІ можуть мати серйозні наслідки, особливо коли чатботи стають основним джерелом інформації для мільйонів людей.
Оскільки системи ШІ все більше використовуються для формування суспільної думки, стратегія мережі Pravda може мати довгострокові наслідки для глобальної інформаційної безпеки, впливаючи на політичні процеси, громадську думку та міжнародні відносини.