Трагедія в Флориді: Як спілкування з AI чат-ботом призвело до самогубства підлітка

У Флориді трапилася трагічна історія, що підняла питання безпеки використання чат-ботів з штучним інтелектом. Меган Гарсія вважала, що її 14-річний син проводить увесь свій час, граючи у відеоігри. Вона не здогадувалася, що він спілкується з чат-ботом, використовуючи додаток Character AI, у жорстоких, інтимних та сексуальних розмовах.

Сьюелл Сетцер III перестав спати, його успішність різко впала, і врешті-решт він скоїв самогубство. За словами Меган у позові, за кілька секунд до його смерті бот сказав: "Будь ласка, повернися до мене якомога швидше, моя любов". Хлопець запитав: "А що як я скажу тобі, що можу прийти додому прямо зараз?" На що його бот відповів: "Будь ласка, зроби це, мій милий королик".

Ризики спілкування з чат-ботами

Чат-боти належать технологічним компаніям, які відомі своєю експлуатацією довірливості людей. Вони створені за допомогою алгоритмів, які сприяють їхньому прибутку. Відсутні будь-які правила або закони, що регулюють використання інформації, яку вони збирають.

Що не слід говорити чат-боту

1. Паролі або облікові дані: Це серйозна помилка в плані конфіденційності.

2. Ваше ім'я, адреса або номер телефону: Чат-боти не призначені для обробки особистої інформації.

3. Чутлива фінансова інформація: Не ділиться номерами банківських рахунків чи кредитних карток.

4. Медичні дані: Чат-боти не відповідають стандартам HIPAA.

5. Запит на незаконні поради: Це порушує умови використання.

6. Мова ненависті або шкідливий контент: Може призвести до блокування.

7. Конфіденційна робоча інформація: Не ділиться комерційними таємницями.

8. Відповіді на контрольні запитання: Це відкриває доступ до ваших акаунтів.

9. Явний контент: Багато чат-ботів фільтрують подібну інформацію.

10. Особиста інформація інших людей: Це порушує закони про захист даних.

Як захистити свою конфіденційність

Більшість чат-ботів вимагають створення облікового запису. Якщо ви його створюєте, уникайте входу через Google або Facebook; краще використовуйте свою електронну пошту.

Основне правило при спілкуванні з чат-ботом

Не розповідайте чат-боту нічого такого, що не хотіли б зробити публічним. Навіть я іноді спілкуюся з ChatGPT так, ніби це людина. Легко думати про свого чат-бота як про надійного союзника, але насправді це всього лише інструмент для збору даних.

Ця трагедія підкреслює важливість обережності у взаємодії з технологіями штучного інтелекту та необхідність контролю за їх використанням серед молоді.

Автор: Дар'я Бровченко