Банк ВТБ решил поставить работу искусственного интеллекта под контроль другого искусственного интеллекта. Совместно с учёными МГУ компания разрабатывает систему, которая будет следить за тем, что и как говорят нейросети банка клиентам. Внутри проекта её уже прозвали "этическим цензором". ⚙️ Что это за система Суть проста. Цензор — это ИИ-модель над другими ИИ-моделями. Она проверяет ответы нейросетей в сервисах ВТБ до того, как они попадут к пользователю. Задача новой системы — отсеивать: То есть, прежде чем клиент банка получит ответ, его уже проверит ИИ-редактор. 💬 Почему это важно Финансовые сервисы не могут позволить себе фантазии ИИ — любая неточность может стоить клиенту денег, а банку репутации. Поэтому в ВТБ решили встроить дополнительный уровень защиты, который повысит точность, надёжность и этичность коммуникации с пользователями. 🧩 Как это будет работать Сегодня в ВТБ уже используется несколько языковых моделей для обслуживания клиентов и анализа данных. Будущая разработка МГУ станет вторым слоем контроля — она будет не отвечать, а проверять ответы других моделей на ошибки. Учёные из МГУ сейчас: Запуск первой модели запланирован на 2026 год. 💰 Во сколько это обойдётся По предварительным оценкам, первая фаза проекта обойдётся ВТБ в 100–270 млн рублей. Цифра внушительная, но вполне логичная, если учитывать, что рынок корпоративных ИИ-решений в 2024 году уже превысил 300 млрд рублей. Для ВТБ это не просто инвестиция в технологию, а способ выстроить прозрачную и безопасную систему ИИ, где каждый ответ можно проверить и объяснить. 🧠 ИИ под надзором — новый тренд Создание "этического цензора" отражает новую эру искусственного интеллекта. Если раньше компании гнались за скоростью генерации, то теперь — за надёжностью и ответственностью. Для банков и финансовых структур это особенно критично — одна неверная цифра в ответе может повлиять на кредитное решение или инвестицию. 📈 Что дальше После отладки и тестов, цензор может стать основой для контроля корпоративных ИИ-платформ — не только в банке, но и в смежных отраслях, где важны точность и достоверность. ВТБ и МГУ фактически работают над системой качества для искусственного интеллекта, которая не просто следит за правильностью слов, а учит ИИ быть ответственным — и это, пожалуй, важнее, чем любая новая функция.