ИИ оклеветал человека, и компании пришлось заплатить штраф

В сентябре 2024 года нанкинский адвокат Ли Сяолян ввёл своё имя в поисковую строку Baidu и обнаружил, что стал преступником. Новый блок умных ответов Baidu сообщил, что адвокат Ли осужден на три года лишения свободы за совершение взрыва. Нейросеть, засучив рукава, добавила к коллажу из нескольких криминальных историй фотографию адвоката и презентовала это пользователю.

Юристы Baidu выстроили в суде любопытную линию обороны: по версии компании, истец задавал каверзные вопросы и сам спровоцировал нейросеть. Да и вообще галлюцинации ИИ неизбежны, непредсказуемы и разработчики не могут нести за них ответственность, а наказание за случайные ошибки парализует развитие индустрии. Судья, впрочем, парировал этот аргумент логичным вопросом: почему при аналогичном сценарии конкуренты так не делают? Может, виноват всё-таки конкретный продукт, а не абстрактный ИИ?

В марте 2026 года Нанкинский городской суд окончательно отклонил аргументы о непредсказуемости ИИ и провёл границу между поисковой индексацией и генерацией ответов. В суде пришли к выводу, что разместив ложное уголовное обвинение от своего лица, платформа выступила в роли полноценного издателя и несёт за него ответственность. А поскольку извиняться Baidu отказалась, в мае 2026 года Ли направил решение на принудительное исполнение судебными приставами.

Звучит подозрительно знакомо. И точно: юрист, Baidu и иск за клевету в ИИ-ответах - один в один такой же судебный кейс мы видели в конце 2025 года. Есть подозрение, что совпадения не случайны и появился вид судебных троллей профессиональных истцов, которые хакают ИИ и пытаются отсудить деньги у компании. Что, кажется, вполне логично, ведь если ИИ работает настолько плохо, то не надо интегрировать его в продукт. Теперь разработчикам придётся либо перестраховываться ещё больше и внедрять долгие и дорогие системы перепроверки ответов... либо забить и выплачивать штрафы.