ШІ не зміг виявити загрозу для життя пацієнтів

Штучний інтелект, розроблений для прогнозування ризику смерті госпіталізованих пацієнтів, виявився неефективним у виявленні погіршення їхнього стану, свідчить нове дослідження.

Чому це важливо

Деякі моделі машинного навчання, які навчаються виключно на основі наявних медичних даних, не змогли розпізнати приблизно 66% травм, що могли призвести до смерті пацієнтів у лікарні, повідомляється в дослідженні, опублікованому в журналі Nature Communications Medicine.

Поточний стан

Лікарні все частіше застосовують інструменти на основі машинного навчання — галузі штучного інтелекту, що вдосконалюється за рахунок постійного аналізу нових даних. Окреме дослідження, опубліковане в журналі Health Affairs, виявило, що близько 65% американських лікарень використовують прогнозні моделі на основі ШІ, переважно для визначення можливих сценаріїв розвитку стану пацієнтів.

Деталі дослідження

Науковці проаналізували кілька поширених моделей машинного навчання, які використовуються для прогнозування погіршення здоров'я пацієнтів. Вони надали цим моделям відкриті набори даних, що містили інформацію про стан хворих у відділеннях інтенсивної терапії або пацієнтів із діагнозом рак.

Дослідники створили тестові ситуації, в яких змінювали певні показники здоров'я пацієнтів, щоб перевірити, наскільки ефективно моделі можуть передбачати потенційні загрози. Виявилося, що алгоритми для прогнозування смертності в лікарні змогли розпізнати в середньому лише 34% травм.

Що кажуть експерти

"Ми покладаємо на ці моделі прийняття важливих рішень, тому необхідно точно визначити, в яких умовах вони дійсно ефективні", — зазначила Дафне Яо, співавторка дослідження та професорка комп'ютерних наук у Вірджинському політехнічному інституті.

Яо наголосила, що для прийняття рішень у сфері охорони здоров’я технології мають враховувати медичні знання. "Навчання, яке базується виключно на даних, є недостатнім", — додала вона.

На що звернути увагу

Великі мовні моделі, подібні до ChatGPT, можуть стати кориснішими у медичних установах, якщо їх навчати на спеціалізованій медичній літературі. Втім, перш ніж такі технології будуть впроваджені в клінічну практику, необхідні подальші дослідження їхньої надійності та точності.

Авторка: Дар’я Бровченко