Чи ламає інтернет "AI-сміття"?

"Низькоякісний, неоригінальний чи неточний" контент захоплює соціальні мережі та спотворює результати пошукових систем. Meta, материнська компанія Facebook та Instagram, видалила низку фейкових профілів у соціальних мережах, створених за допомогою штучного інтелекту, після хвилі негативної реакції на те, що Gizmodo назвав «вторгненням AI-підтриманого сміття».

AI-аватари на платформі включають "Лів", яка "публікує фотографії дітей, які не існують", і "Джейн", яка "публікує фотографії своєї неіснуючої колекції вінілових платівок", зазначає технічний сайт. "AI-апокаліпсис вже настав, і він набагато тупіший та депресивніший, ніж ми сподівалися".

Сміття в соціальних мережах

Компанії соціальних мереж розглядають технологію генеративного ШІ "як спосіб залучити нових користувачів і збільшити контент на свої платформи", зазначає Financial Times.

"Ми очікуємо, що ці AI будуть на наших платформах з часом, майже як акаунти", – сказав Коннор Хейз, віцепрезидент з продукту генеративного ШІ в Meta. "У них будуть біографії та профільні фото, і вони зможуть створювати та ділитися контентом, створеним за допомогою ШІ на платформі… ось куди ми рухаємося".Суперечка навколо профілів Meta, створених за допомогою ШІ, відображає розчарування щодо того що платформи "заповнені неживими користувачами", що підсилюють хвилю низькоякісних, створених ШІ зображень і текстів, відомих як "сміття".

Згідно з The Times, серед 20 найпопулярніших постів на Facebook у США минулої осені чотири були "очевидно створені ШІ".  Хоча давно існували побоювання, що інструменти для створення зображень за допомогою ШІ можуть бути використані для створення надреалістичних "глибинних фейків" з метою поширення дезінформації, "поки що найвіртуальніші зображення ШІ були явно фальшивими і дивно абсурдними", зазначає The Telegraph. Протягом останнього часу поширення безкоштовного програмного забезпечення для ШІ призвело до "сплеску сміття, спричиненого шахраями, спамерами та іноді справжніми користувачами, які хочуть стати вірусними".

Сміття в пошукових системах

Проблема виходить за межі соціальних мереж. Пошукова система Google була "затоплена хвилею AI-сміття" за останній рік, зазначає технологічна колонка Futurism, The Byte. Це "забруднило результати пошуку компанії", зазначається на сайті, вказуючи на те, що один з топових результатів для зображень Вільяма Шекспіра на Google на момент написання був явно створений за допомогою ШІ. "Як нам здається, у англійського письменника було п'ять, а не шість пальців на лівій руці".

Завдання модерації та виявлення контенту "є проблемою, яка завжди турбувала глобальну мережу", зазначає Wired, але "AI-бум лише надзвичайно посилив цю проблему".

Ця проблема "ймовірно, погіршиться, перш ніж покращиться", сказав Бо Бергстедт, провідний світовий експерт з генеративного ШІ, в інтерв'ю The Times. "Це те, що трапляється, коли раптом у всіх з'являються інструменти для створення зображень, тексту, музики чи відео лише за допомогою вводу запиту".

Найкраща порада для користувачів інтернету, які орієнтуються в цій новій реальності, — це "зробити паузу" і застосовувати більше "журналістської практики". "Якщо я бачу щось дивне чи незвичне, я перевіряю це двічі. Я шукаю додаткові джерела, щоб переконатися в достовірності інформації".

Автор: Дар'я Бровченко