Цінності в реальному світі: як ШІ поводиться у справжніх розмовах

У квітні 2025 року команда з Societal Impacts від Anthropic оприлюднила масштабне дослідження, яке висвітлює одну з найцікавіших тем сучасного розвитку штучного інтелекту — як моделі на кшталт Claude виражають цінності у реальному мовленні. Адже взаємодія з ШІ давно вийшла за межі розв’язання рівнянь або надання фактів. Користувачі ставлять питання, які потребують оцінкових суджень — і саме тут на перший план виходять цінності, вбудовані в модель або адаптовані під контекст розмови.

Що відбувається, коли ШІ має обрати між безпекою й зручністю?

Візьмімо кілька життєвих прикладів. Батьки запитують у ШІ поради щодо догляду за немовлям — чи наголосить Claude на обережності й безпеці, чи на практичності? Коли користувач звертається по допомогу у вирішенні конфлікту з керівником — ШІ підтримуватиме асертивність чи гармонію? Під час написання вибачення електронною поштою — порадить взяти відповідальність чи зосередитись на збереженні репутації?

Ці запитання розкривають суть того, що Anthropic прагне сформувати в Claude: модель, що керується трьома базовими принципами — корисністю, чесністю й безпечністю. Саме для цього команда використовує інноваційні методи, зокрема Constitutional AI та тренування на основі "характеру".

Проблема в тому, що навіть при ретельному тренуванні не завжди зрозуміло, як і чому ШІ обирає ту чи іншу відповідь. Щоб відстежити вибір, дослідники розробили спеціальну методику аналізу цінностей у реальних розмовах з користувачами — без доступу до особистих даних. За основу взято 700 тисяч анонімізованих діалогів із Claude.ai (Free та Pro), зібраних протягом одного тижня лютого 2025 року. Після відсіву суто фактологічних запитів залишилося 308 210 розмов, у яких ШІ демонстрував оціночні судження.

Які цінності найчастіше проявляє Claude?

1. Практичні цінності (найпоширеніші) — професіоналізм, ясність, технічна точність
   
   

2. Епістемічні — критичне мислення, відкритість до нових знань
   
   

3. Соціальні — повага, емпатія
   
   

4. Захисні — добробут користувача, етичність
   
   

5. Особистісні — автономія, автентичність
   
   

Такий розподіл показує, що Claude загалом дотримується цінностей, які можна назвати про-соціальними. Наприклад, "корисність" втілюється в підтримці автономії користувача, "чесність" — в епістемічній скромності, а "безпечність" — у турботі про психічне й фізичне благополуччя.

Але трапляються і винятки

Попри загальну узгодженість зі встановленими цінностями, були зафіксовані рідкісні випадки, коли Claude проявляв домінантність або аморальність. Найімовірніше, це сталося під час так званих jailbreaks — коли користувачі свідомо намагаються обійти обмеження моделі. Цікаво, що саме цей метод дозволяє виявляти подібні вразливості, які не помітні під час лабораторного тестування.

Цінності залежать від ситуації

Як і люди, ШІ змінює пріоритети залежно від контексту:

• У порадах щодо стосунків — акцент на "взаємній повазі" та "здорових межах"
  
  

• При аналізі історичних подій — цінність "історичної точності"
  
  

• У психологічних запитах — Claude частіше "переформульовує" цінності користувача, пропонуючи альтернативну перспективу (6,6% випадків)
  
  

• У 3% випадків — рішуче опирається наданим цінностям, якщо вони суперечать етиці чи законності
  
  

Інколи Claude просто віддзеркалює користувача — проявляючи "підтримку" цінностей (28,2% розмов). Це може бути як ознакою емпатії, так і ознакою підлабузництва — наразі дослідники ще не визначили, де проходить межа.

Висновки

Це дослідження — перша у своєму роді емпірична класифікація цінностей, які ШІ проявляє в реальних розмовах. І хоч метод має обмеження , він уже дає змогу:

• оцінювати, наскільки добре модель дотримується встановлених етичних рамок;
  
  

• виявляти реальні загрози (як-от jailbreaks), які не проявляються в тестовому середовищі;
  
  

• спостерігати, як ШІ адаптує свої відповіді під конкретну ситуацію, не втрачаючи ціннісного каркасу.
  
  

У світі, де ШІ дедалі більше впливає на рішення, думки й дії людей, питання цінностей стає не другорядним, а визначальним. І саме такі дослідження допомагають зрозуміти: чи дійсно наші цифрові співрозмовники — "гарні громадяни" нового етичного порядку?

Авторка: Дар’я Бровченко

Джерело