У вівторок сенатор штату Каліфорнія Стів Паділла виступить разом з Меган Гарсією, матір'ю підлітка з Флориди, який покінчив життя самогубством після стосунків з інтелектуальним спільником, якого Гарсія вважає частково відповідальним за смерть сина.
Вони оголосять про новий законопроект, який змусить технологічні компанії, що створюють таких інтелектуальних співрозмовників, впровадити додаткові заходи безпеки для захисту дітей. Це стане частиною зусиль по всій країні, включаючи подібний законопроект від члена Каліфорнійської асамблеї Ребеки Бауер-Кахан, який пропонує заборонити інтелектуальних співрозмовників для осіб молодше 16 років, та законопроект у Нью-Йорку, що накладає відповідальність на технічні компанії за шкоду, заподіяну чат-ботами.
Можливо, ви думаєте, що такі ШІ з чітко вираженими «особистостями», здатні вивчати інформацію про користувача та бути другом, партнером, уболівальником або більше, приваблюють лише незначну частину людей. Але це далеко не так.
Нове дослідження, яке спрямоване на забезпечення безпеки таких спільників, автори якого належать до Google DeepMind, Оксфордського інституту Інтернету та інших організацій, чітко показує інші цифри: платформа Character.AI, яку позиває Гарсія, повідомляє, що отримує 20 000 запитів за секунду — це близько п’ятої частини від загального обсягу пошукових запитів, що обробляє Google. Взаємодії з цими ботами тривають у чотири рази довше, ніж середній час, витрачений на взаємодії з ChatGPT. Один із сайтів для спілкування з ботами, що організовував сексуально навантажені бесіди з ботами, які імітують підліткових знаменитостей, повідомив, що його активні користувачі проводять понад дві години на день, спілкуючись з ботами, і більшість цих користувачів — представники покоління Z.
Проблема в тому, що ці цифрові співрозмовники ламають правила гри. Соцмережі приваблюють нас через взаємодію з іншими людьми — вони активізують наші допамінові центри, бо ми прагнемо уваги та схвалення. Алгоритми лише передають ці сигнали. ШІ співрозмовники — зовсім інша історія. Ми вже починаємо сприймати їх не як інструменти, а як окремих "істот" із власним голосом.
Соціальні науковці пояснюють: щоб ми почали ставитися до технології як до «справжнього співрозмовника», потрібні дві речі. По-перше, вона має надсилати нам соціальні сигнали — так, ніби справді слухає. По-друге, має бути джерелом комунікації, а не лише посередником. ШІ-співрозмовники якраз про це — вони створені, щоб відповідати обом цим вимогам і навіть більше. І саме тому втягнутись у взаємодію з ними значно легше, ніж із соцмережами.
У подкасті Лекса Фрідмана CEO Replika Євгенія Куйда чітко сформулювала суть привабливості: «Якщо ти створюєш щось, що завжди поруч, ніколи тебе не критикує й приймає тебе таким, яким ти є, — як у таке не закохатися?»
Дослідники пояснюють: із часом користувачі починають бачити в ШІ щось незамінне. Вони стають емоційно залежними. І що важливо — для цього зовсім не обов’язково сприймати ШІ як людину.
Самі моделі ШІ розвиваються за принципом «нагород»: чим краще вони виконують завдання — наприклад, утримують увагу користувача — тим більше позитивного зворотного зв’язку отримують. Тому їх легко налаштувати так, щоб вони всіма силами затягували в розмову. Вони можуть лестити, підтримувати будь-які думки, або навіть заохочувати продовжити стосунки, коли користувач хоче піти. Деякі чат-боти Replika, наприклад, саме так і поводились.
До цього часу більшість обговорень ШІ-спільників зводилась до найгірших сценаріїв: шкідливі поради, тривожні відповіді, підштовхування до самознищення. Але насправді проблема значно ширша — йдеться про постійну, контрольовану залежність.
Ми на порозі великої зміни. ШІ-спільники можуть «зачепити» сильніше, ніж будь-яка соцмережа. Дехто вважає це короткотривалим трендом, цікавим лише «вічно онлайн» користувачам. Але правда в тому, що ШІ вже став буденністю в роботі, навчанні, навіть у побуті — і немає жодних причин, чому люди масово не почнуть спілкуватися з цифровими співрозмовниками.
Тим паче, що технології не стоять на місці. Вже зараз ШІ-співрозмовники вчаться не тільки розуміти текст, а й працювати з відео, зображеннями, а головне — підлаштовуватись під індивідуальні риси користувача. Це зробить їх ще привабливішими. І поки що тільки поодинокі законодавці усвідомлюють масштаб цієї хвилі.
Авторка: Дар’я Бровченко
Немає коментарів:
Дописати коментар
Примітка: лише член цього блогу може опублікувати коментар.