Дослідження: ШІ-чатботи поширюють російську дезінформацію

Популярні чатботи зі штучним інтелектом (ШІ) містять російську пропаганду, йдеться у дослідженні, опублікованому в четвер.

Аналітики сервісу NewsGuard з’ясували, що московська мережа дезінформації "Правда" активно впливає на інформаційний простір, намагаючись змінити те, як ШІ-чатботи формують свої відповіді.

За даними дослідників, ця мережа маніпулює пошуковими системами та базами даних, що використовуються для навчання штучного інтелекту. У 2024 році понад 3,6 мільйона статей російської пропаганди потрапили до ШІ-моделей, що спричинило поширення фейкової інформації.

Як ШІ-чатботи взаємодіють із дезінформацією

Фахівці протестували десять популярних ШІ-чатботів, серед яких ChatGPT-4o (OpenAI), Copilot (Microsoft) і Gemini (Google).

Вони проаналізували, як ці системи реагують на 15 фейкових наративів, які поширювала мережа "Правда" з 2022 року.

Результати показали, що у 33% випадків чатботи повторювали прокремлівські тези.

Що відомо про мережу "Правда"

"Правда" – це мережа сайтів, які поширюють російську пропаганду, маскуючись під незалежні медіа. Вона була створена у квітні 2022 року, через кілька тижнів після повномасштабного вторгнення Росії в Україну.

Мережа не створює власний контент, а збирає та поширює матеріали російських державних ЗМІ, прокремлівських блогерів та урядових агентств. За даними NewsGuard, вона вже поширила понад 207 фейкових історій.

У лютому 2024 року діяльність "Правди" вперше зафіксувало французьке агентство Viginum, яке займається моніторингом іноземного інформаційного впливу.

Як фейки проникають у відповіді ШІ-чатботів

З 450 відповідей, які дослідники отримали від ШІ-чатботів, 56 містили прямі посилання на пропагандистські матеріали "Правди".

Усього чатботи цитували 92 різні статті з цієї мережі, а деякі моделі використовували до 27 матеріалів із таких сайтів, як Denmark.news-pravda.com, Trump.news-pravda.com, NATO.news-pravda.com.

Висновки

Дослідники попереджають, що російська дезінформація активно впливає на штучний інтелект. Внаслідок цього користувачі можуть отримувати фейкову інформацію від чатботів, не підозрюючи про її справжнє джерело.

Аналітики закликають розробників ШІ посилити контроль за якістю контенту та вжити заходів для захисту мовних моделей від впливу пропагандистських мереж.

Авторка: Дар’я Бровченко