ВТБ и учёные из Центра искусственного интеллекта МГУ создали уникальную систему для проверки ответов цифровых помощников. Проект был представлен на Казанской цифровой неделе — одном из ключевых форумов по инновациям.
В основе разработки лежат два основных инструмента. Первый — детектор токсичности — следит за запросами клиентов. Он моментально выявляет запрещённые темы, нарушения закона, нецензурную лексику и информацию для взрослых. Если система обнаруживает что-то из этого, запрос сразу блокируется, и его больше не рассматривают.
Второй инструмент — детектор галлюцинаций — анализирует ответы цифровых ассистентов. Он проверяет их на логичность, выявляет противоречия и ошибки. Если в ответе найдутся неточности, специалисты могут отправить его на доработку или даже заблокировать. Галлюцинации — это когда искусственный интеллект уверенно выдаёт выдуманные данные, и такая проблема встречается довольно часто.
Эти инструменты уже планируют внедрить в сервисы розничного бизнеса ВТБ, где цифровые помощники общаются с клиентами напрямую. Сергей Путятинский, советник первого заместителя президента-председателя правления банка, подчеркнул: главная задача — обеспечить высокое качество обслуживания в эпоху активного внедрения искусственного интеллекта.
По его словам, готовые решения с рынка не подходили банку по требованиям, поэтому специалисты ВТБ и эксперты МГУ разработали собственные детекторы. Они должны защитить клиентов от недостоверной информации и предотвратить некорректные рекомендации по финансовым продуктам.
