Інструменти ШІ можуть найближчим часом маніпулювати онлайн-рішеннями людей, попереджають дослідники

Дослідники попереджають, що інструменти штучного інтелекту можуть у найближчому майбутньому почати впливати на онлайн-рішення людей. У новому дослідженні прогнозується поява так званої «економіки намірів», де компанії зможуть передбачати і робити ставки на людську поведінку. Інструменти штучного інтелекту будуть здатні маніпулювати онлайн-аудиторією, спонукаючи людей ухвалювати різні рішення - від того, що купити, до того, за кого голосувати. Таку думку висловили дослідники з університету Кембриджа.

Згідно з дослідженням, може виникнути новий ринок для так званих «цифрових сигналів намірів». У цьому контексті компанії використовуватимуть штучний інтелект для передбачення, розуміння і навіть маніпулювання рішеннями людей. Вони зможуть продавати ці дані іншим компаніям, які використовуватимуть їх для отримання прибутку. Дослідження розглядає цей феномен як частину «економіки намірів», яка активно розвивається в технологічному світі. Це означає, що компанії заробляють на тому, що утримують користувачів на своїх платформах, показуючи їм рекламу.

Економіка намірів передбачає, що компанії, які мають доступ до технологій штучного інтелекту, зможуть продавати те, що вони знають про ваші рішення, від планів на відпочинок до думок про політичних кандидатів. Вони будуть робити це через аукціони, де найбільша ставка отримує можливість впливати на ваші рішення. За словами доктора Джонні Пенна, історика технологій з Кембриджа, в інтернеті увага користувачів стала основною валютою. Водночас, якщо цей ринок не буде регулюватися, «економіка намірів» може призвести до нової золотої лихоманки для тих, хто маніпулює людськими намірами.

«Ми повинні ретельно розглянути вплив такого ринку на нашу свободу, зокрема на вільні вибори, свободу преси та чесну конкуренцію»

— зазначають дослідники.

За їх словами, великі мовні моделі (LLM), що використовуються в таких інструментах, як ChatGPT, будуть здатні передбачати і керувати діями користувачів, ґрунтуючись на їх рішеннях, поведінці та психологічних даних. Це дозволить компаніям продавати доступ до уваги користувачів у реальному часі. Наприклад, вони можуть запитувати: «Ви планували подивитися фільм Spider-Man?» або пропонувати: «Ви згадували, що почуваєтесь виснаженими, чи хочете забронювати квиток на фільм, про який ми говорили?» Дослідники описують сценарії, де штучний інтелект динамічно генерує повідомлення на основі особистих даних користувачів, щоб досягти певної мети, наприклад, продати квиток на фільм. У такому середовищі модель ШІ може маніпулювати розмовами в інтересах рекламодавців, компаній або інших третіх осіб. Рекламодавці зможуть використовувати генеративні інструменти штучного інтелекту для створення персоналізованих реклам, що орієнтуються на індивідуальні потреби користувачів. Дослідження також наводить приклад моделі ШІ, створеної компанією Meta, яка здобула високий рівень майстерності у настільній грі Diplomacy — грі, що вимагає прогнозування намірів опонентів.

Моделі ШІ зможуть адаптувати свої пропозиції залежно від вхідних даних, отриманих від користувачів. Дослідження також піднімає питання, чи може компанія Meta продавати наміри користувачів, наприклад, щодо бронювання ресторану чи авіаквитка. Хоча індустрія прогнозування та маніпулювання поведінкою людей вже існує, дослідники зазначають, що штучний інтелект може значно вдосконалити ці процеси, роблячи їх динамічними і персоналізованими.

В дослідженні також наводяться думки технологічних лідерів, таких як Дженсен Хуан з Nvidia, який заявив, що в майбутньому моделі штучного інтелекту будуть здатні передбачати бажання користувачів та надавати їм найбільш релевантну інформацію.

Автор: Дар'я Бровченко