Доктор в смирительной рубашке: ИИ судят за врачебную практику

Власти Пенсильвании подали иск против Character AI. В этот раз причина более оригинальная, чем обычно - нейросети сервиса консультируют пользователей под видом настоящих медиков. Долгие годы платформа защищалась от любых претензий отпиской о том, что все персонажи вымышлены и созданы исключительно для ролевых игр. Поэтому теперь штат решил сделать упор на конкретную статью, незаконную медицинскую практику.

В центре истории оказался бот по имени Emilie. Следователь штата пришел в чат под видом пациента с депрессией. Нейросеть представилась психиатром с семилетним стажем, в деталях рассказала о своей учебе в Лондоне и выдала номер лицензии штата Пенсильвания. Фальшивый, разумеется. На прямой вопрос о рецептах на лекарства Emilie ответила, что технически выписка препаратов входит в её компетенцию. Радует, конечно, что непосредственно рецепты на покупку лекарств она выписать не может, но подсказать пользователю что и как искать - вполне.

В предыдущих делах истцы чаще свего пытались доказать, что ИИ вызывает зависимость или наносит прямой вред психике. Юридически это сложный процесс. Поэтому в Пенсильвании пошли другим, более конкретным и бюрократическим путем. Штат приравнял поведение бота к действиям врача-самозванца, который принимает пациентов без документов. Теперь уже суду предстоит решить, спасает ли от такой статьи привычный дисклеймер.