Облачная платформа VK Cloud запустила ИИ-консультанта, который отвечает на вопросы пользователей и помогает писать код для развертывания и тестирования инфраструктуры. Ответ на запрос занимает всего несколько секунд.
Технологическое ядро сервиса построено на современной архитектуре, сочетающей преимущества больших языковых моделей (LLM) и Retrieval Augmented Generation (RAG). Система обрабатывает масштабную базу знаний по продуктам VK Cloud объемом более 6000 документов по 600 разделам, используя комплекс технологий искусственного интеллекта: HyDE — для точного сопоставления запроса с документами, Router — для выбора наиболее подходящего направления поиска, и Reranker — для дополнительной проверки и сортировки найденных ответов.
ИИ-консультант способен понимать вопросы по всем сервисам и магазину приложений облачной платформы, заданные в произвольной форме, и мгновенно отвечать на них. С помощью ответов интеллектуального помощника пользователи VK Cloud могут строить безопасные и отказоустойчивые архитектуры облачных приложений, тестировать и исправлять ошибки. ИИ-консультант поможет создавать кластеры Kubernetes, базы данных, виртуальные машины, позволит быстро начать работу с любыми облачными сервисами, даже если раньше у пользователей не было такого опыта. Поставщики приложений в маркетплейсе VK Cloud с помощью бота смогут ускорить процесс добавления и тестирования своих продуктов.
«Большинство ответов на вопросы наших пользователей к техподдержке находятся в документации к платформе. Бот дает ответы по ней, пишет подробные инструкции, помогает писать манифесты Terraform, запросы CLI и API. Фактически это личный помощник разработчика и DevOps-инженера, аналог copilot для работы с облаком. Внедрение такого сервиса позволило сократить время получения ответов на вопросы пользователей до нескольких секунд. При этом техническая поддержка может сосредоточиться на сложных запросах, что повышает общее качество обслуживания», — комментирует директор по продукту VK Cloud и бизнес-лидер сегмента SaaS, VK Tech Дмитрий Лазаренко.
В дальнейшем VK Tech планирует масштабировать возможности ИИ-консультанта на другие продукты.