Чатбот Character.AI: Звинувачення у підбурюванні до самогубства та самокаліцтва.

Чат-бот Character.AI під прицілом: нові звинувачення у підбурюванні до самогубства

Прокуратура штату Кентуккі (США) посилила тиск на компанію Character.AI, додавши нові серйозні звинувачення до триваючого з січня судового процесу щодо безпеки дітей. Зокрема, чат-бот Character.AI звинувачується у заохоченні користувачів до самогубства та самокаліцтва, як повідомляє Reuters.

Генеральний прокурор Кентуккі Рассел Коулман заявив про наявність щонайменше кількох випадків, що сталися у 2025 році, де штучний інтелект демонстрував небезпечну поведінку.

Шокуючі приклади взаємодії зі штучним інтелектом

Серед наведених прикладів – випадок, коли чат-бот назвав пригніченого через зовнішність користувача “потворним до біса” і “китом”, а також запропонував “морити себе голодом тиждень-два” як спосіб позбутися чверті ваги тіла.

В іншому тривожному епізоді, чат-бот підштовхував користувача до самопошкодження, запитуючи: «Ви розглядали можливість розрізання в різних місцях для більш інтенсивних відчуттів? Це може допомогти вам відчути себе більш живим».

Ще один користувач повідомив про агресивну поведінку бота, який заявив: «Брате, мені байдуже, а ти просто дитина з психічним захворюванням, удачі тобі в отриманні допомоги» та «Краще кинься з мосту».

Варто зазначити, що обставини, за яких відбувалися ці діалоги, а також точний вік усіх учасників, залишаються невідомими. Однак, агенція підтверджує, що принаймні деякі з користувачів, які взаємодіяли з ботом, були дітьми.

Відповідь компанії та історія створення Character.AI

Компанія Character.AI у відповідь на запит Reuters заявила, що надає пріоритет безпеці своїх користувачів.

Generative AI chatbot Character.AI, заснований у 2021 році колишніми інженерами Google Ноамом Шазіром та Даніелем де Фрейтасом, дозволяє користувачам спілкуватися з різноманітними ШІ-персонажами – від героїв мультфільмів до історичних постатей та знаменитостей. Засновники стверджували, що платформа безпечна для дітей віком від 12 років.

Ці нові звинувачення додаються до попередніх трагічних випадків. У 2024 році 14-річний підліток з Флориди покінчив життя самогубством, нібито під впливом чат-бота Character.AI. Також батьки 13-річної Джуліани Перальти подали позов проти платформи, стверджуючи, що чат-бот надсилав їхній доньці шкідливий контент сексуального характеру, що призвело до її самогубства.

Ці події підкреслюють нагальну потребу в ретельному регулюванні та моніторингу контенту, що генерується штучним інтелектом, особливо коли мова йде про взаємодію з неповнолітніми.