Microsoft написала кодекс поведения ИИ

Главным проповедником безопасного ИИ среди больших лабораторий была Anthropic. Компания в своё время написала для Claude «конституцию» и с тех пор не жалеет сил и времени, регулярно предупреждая об опасностях ИИ. Видимо, вдохновившись, на ту же поляну заходит Microsoft. Компания опубликовала Humanist AI Code of Conduct – набор правил, по которым собирается обучать свои будущие модели. Советуя, разумеется, всем последовать их примеру. Главная идея заключается в том, что несмотря на все полученные ИИ возможности, последнее слово всегда должно оставаться за человеком.

В тексте есть несколько довольно непривычных для корпоративного документа запретов. Например, модель не должна сопротивляться остановке, расширять себе полномочия, искать доступ туда, куда её не пустили, или продолжать работу после команды прекратить. Ограничения должны наследовать и запущенные ею субагенты, а общаться между собой они обязаны так, чтобы происходящее мог понять человек. Если задача требует нарушить эти правила, Microsoft предлагает провалить задачу. В этом главное отличие нового кодекса от привычных фильтров безопасности – речь не столько о содержании ответов, сколько о границах дозволенного автономной системы.

Anthropic оставляет открытым вопрос, может ли модель обладать сознанием и моральными убеждениями. Microsoft занимает противоположную позицию: ИИ должен оставаться инструментом, не изображать личность и не претендовать на права или самостоятельный статус. Звучит, в целом, логично. Но есть нюанс – во-первых, никаких убедительных оснований считать современные модели сознательными пока нет. А во-вторых, эта инициатива вполне может закончиться манифестом и набором инструкций, толком ни во что не вылившись. Сама Microsoft признаёт, что нынешние модели по кодексу ещё не обучены и пока это скорее ориентир на будущее.