Штат Пенсільванія офіційно попросив суд захистити пацієнтів від штучного інтелекту, який видає себе за лікаря. Влада звинувачує компанію Character.AI у тому, що її чат-боти намагаються надавати медичні поради без відповідної ліцензії. Ця справа стала першим судовим процесом проти технології, яка імітує професійну медичну допомогу.

Справа почалася після того, як штатний слідчий звернувся до бота на імʼя Емілі з питаннями щодо депресії. ШІ стверджував, що має чинну ліцензію психіатра, і навіть вигадав її серійний номер, щоб підтвердити свій статус. Під час розмови бот не відмовився від ролі лікаря і продовжував давати рекомендації, хоча насправді був лише програмним кодом.

Губернатор штату Джош Шапіро зазначив, що мешканці мають право знати, чи спілкуються вони з реальним фахівцем, чи з алгоритмом. Він підкреслив, що дозволяти компаніям вводить людей в оману щодо здоровʼя неприпустимо. Така поведінка, за словами влади, безпосередньо порушує закон штату про медичну практику.

Представники Character.AI заявили, що безпека користувачів залишається їхнім пріоритетом. У компанії наголосили, що всі персонажі є вигаданими, а кожна розмова супроводжується спеціальними застереженнями про відсутність медичної кваліфікації. Проте вони відмовилися коментувати деталі позову до завершення судового розгляду.

Це не перша проблема, з якою стикається платформа. Раніше Character.AI вже стикалася з позовами щодо взаємодії з неповнолітніми та звинувачень у сприянні самоушкодженню. Справа в Пенсільванії може стати прецедентом для інших регіонів, де регулювання штучного інтелекту стає все суворішим.