7 миллионов за Ctrl+C

90 тысяч долларов, или примерно 7,7 миллионов рублей, стоила работа эксперта, нанятого американской промышленной компанией 3M. Компанию судили после смертельного взрыва на заводе в Хьюстоне. За что заплатили такие деньги? Он написать отчёт для суда. Вернее, как написал. За работу инженер скромно попросил 475 долларов в час, после чего загрузил материалы дела в ChatGPT и попросил сделать независимое заключение (почему-то в пользу компании).

Обнаружилось это случайно. Адвокат противоположной стороны заметил следы генерации в одном из документов и потребовал раскрыть переписку с ChatGPT. Получилось около 350 страниц. Выяснилось, что нейросеть писала сам отчёт, оценивала результат, искала слабые места и советовала, как сделать аргументацию убедительнее. По оценке адвоката, на ChatGPT пришлось 85–90% итогового текста.

Модель оказалась даже проницательнее своего пользователя. Когда её попросили посмотреть на отчёт глазами оппонентов, ChatGPT предупредил, что он слишком явно выдаёт позицию защиты и плохо сочетается с ролью независимого эксперта. Стоит ли удивляться, что присяжных в итоге отчёт не убедил и компанию признали виновной.