Корпоративный ИИ-ассистент в закрытом контуре

WIZICO Private AI — корпоративный ИИ-ассистент, который работает на сервере организации без доступа в интернет. Вы загружаете в систему свои документы: регламенты, инструкции, договоры, техническую документацию, базы знаний, нормативные акты. Сотрудник задаёт вопрос своими словами, текстом или голосом, а ассистент находит ответ в этих документах и ставит ссылку на источник. Под разные задачи можно настроить отдельных ассистентов со своей базой документов, например для юристов, кадровой службы или техподдержки. Ассистент находит сведения и готовит ответ, решение принимает сотрудник.

Публичный ИИ-чат обрабатывает запросы на серверах провайдера, как правило за рубежом, поэтому служебные данные туда отправлять нельзя. Он отвечает из «памяти» модели, не знает ваших внутренних документов и не показывает, откуда взят ответ. WIZICO Private AI работает внутри вашей сети без интернета, отвечает только по загруженным документам, у каждого утверждения показывает источник, а если ответа в документах нет, прямо говорит об этом.

Любые документы с текстом: регламенты, приказы, инструкции, договоры, техническую и проектную документацию, базы знаний, шаблоны ответов, нормативные акты. Поддерживаются PDF, Word, Excel и текстовые файлы, сканы распознаются при загрузке. Документы можно разделить на базы по подразделениям и задать, у кого к какой базе есть доступ. Документы загружает и обновляет ваш администратор: новая редакция заменяет прежнюю, и после загрузки ассистент отвечает уже по ней.

Ассистент построен по схеме RAG (retrieval-augmented generation): сначала находит фрагменты в ваших документах, а языковая модель пишет ответ только по ним. Если подходящего фрагмента нет, ассистент сообщает, что в документах ответа нет, а не придумывает его. Программа сверяет каждую ссылку с найденными фрагментами и помечает цифры без источника, расхождения попадают в журнал обращений для разбора. Окончательное решение всегда остаётся за сотрудником.

Русский и казахский: ассистент понимает вопросы на обоих языках и ищет ответ в документах на каждом из них. Для казахского учитывается морфология, поэтому слово находится в любой словоформе, а голосовой ввод работает с моделью, дообученной на казахской речи. Узбекский, английский и другие языки подключаются под проект: для них настраиваются поиск, правила разбора слов и распознавание речи.

Для пилота достаточно рабочей станции с видеокартой NVIDIA от 8 ГБ памяти. Для постоянной работы 20–30 сотрудников одновременно рекомендуем сервер с одной видеокартой от 48 ГБ памяти, процессором от 16 ядер, 64 ГБ оперативной памяти и двумя NVMe-дисками в RAID1. Если планируется рост нагрузки или более крупная языковая модель, подойдёт конфигурация с 96 ГБ видеопамяти и 128 ГБ оперативной памяти. Можем подобрать сервер под ваши задачи или установить ассистента на имеющееся оборудование.

Начинаем с бесплатной демонстрации: вы присылаете типовые вопросы сотрудников, мы показываем, как ассистент отвечает со ссылками на источники, на открытых документах — например, на законах и стандартах вашей отрасли. Ваши документы на этом шаге не нужны: ответы по ним проверим на пилоте. Затем проводим пилот на вашем оборудовании: устанавливаем ассистента без интернета, загружаем ваши документы, настраиваем роли и доступ и проверяем качество на контрольных вопросах. Стоимость зависит от числа пользователей и подразделений, объёма документов и оборудования, поэтому рассчитываем её после короткого звонка. Сопровождение оформляется отдельным договором.