On-Premise & Fine-Tuning

Развертывание защищенной LLM в закрытом контуре банка для автоматизации кредитного андеррайтинга

Клиент: Топ-30 российский коммерческий банк | Срок реализации: 3.5 месяца

Проблема и бизнес-вызов

Строгие требования 152-ФЗ, банковской тайны и регулятора исключали использование любых облачных AI-сервисов (OpenAI, Anthropic). Требовалось независимое On-Premise решение.

Реализованное ИИ-решение

Развернули и дообучили открытую модель Qwen 2.5 72B на защищенном серверном кластере банка с GPU NVIDIA A100. Модель анализирует кредитные досье юридических лиц, финансовую отчетность и формирует проект кредитного заключения.

Достигнутые бизнес-результаты

100%
изоляция контура: данные не покидают периметр безопасности банка
3.2x
ускорение рассмотрения кредитных заявок корпоративных клиентов
75 мин
полный цикл подготовки кредитного заключения (вместо 8 часов)
152-ФЗ
полное соответствие всем нормативным требованиям ЦБ РФ

Технологический стек

Qwen 2.5 72B vLLM NVIDIA Triton TensorRT-LLM Docker Kubernetes

Хотите аналогичный результат?

Мы изучим процессы вашей компании и предложим архитектуру внедрения с оцифрованным ROI.

Направление услуги:
Тонкая настройка и On-Premise LLM →

Другие кейсы агентства

Транспортно-логистическая компания (автопарк 1 200+ тягачей)
Ручное распределение 3 000+ заявок в сутки приводило к срывам окон доставки, нерациональным холостым пробегам (до 18%) и перегрузке диспетчеров в пиковые сезоны.
Срок: 2.5 месяца Читать кейс →
Крупный добывающий и инжиниринговый холдинг
Инженеры тратили до 4 часов в день на поиск регламентов, спецификаций оборудования и протоколов испытаний в разрозненных архивах сканов, чертежей и PDF-документов за 15 лет.
Срок: 3 месяца Читать кейс →
Сеть из 24 медицинских центров в ЦФО
В утренние часы до 35% звонков пациентов сбрасывались из-за перегрузки колл-центра. Пациенты уходили к конкурентам, а стоимость привлечения лида росла.
Срок: 1.5 месяца Читать кейс →