ИИ монетизировал чужое имя и репутацию

Продавать проверку орфографии за 12 долларов в месяц всё сложнее — особенно учитывая, что почти все нейросети делают это бесплатно. Чтобы удержать премиум-пользователей, сервис Grammarly добавил в свой продукт виртуальных «менторов» из числа знаменитостей. Клиентам предложили редактировать тексты, получая советы якобы от писателей вроде Стивена Кинга, известных журналистов и историков. Авторов об этом никто не предупредил.

Функцию назвали Expert Review. Подход избрали максимально топорный — судя по описанию, ИИ на вход просто давали публичные (во всяком случае, так говорят) тексты авторов и просили «писать в стиле Стивена Кинга». Делал это ИИ механически и плохо — журналисты ради эксперимента просили систему проанализировать бессмысленный текст lorem ipsum, и всё равно получили правки по стилистике с кучей аргументации и советами, выданными под именем условного Стивена Кинга. Пользователи, правда, о такой особенности платформы не знали.

Компания сразу предложила авторам писать в поддержку с просьбой убрать их стиль из списка. Учитывая, что никто авторов не спрашивал изначально, схема выглядит как минимум странно. Дальше лучше — пользователи обнаружили в списке доступных менторов историка Дэвида Абулафию, который умер за месяц до скандала. Не сложно догадаться, что мёртвый человек не может прислать отказ, а монетизировать таким образом имя и репутацию умершего, ещё и рискуя испортить эту репутацию из-за архитектуры продукта — как минимум некрасиво. В итоге против компании подан коллективный иск, а функцию пришлось удалить — как только попытка замять скандал провалилась