МГУ займется устранением «галлюцинаций» у ИИ

Исследовательский центр искусственного интеллекта (ИИ) МГУ имени Ломоносова приступил к созданию инструментов для контроля достоверности ответов, генерируемых языковыми моделями. Проект направлен на решение проблемы так называемых «галлюцинаций» ИИ, когда система выдает вымышленные факты вместо точных данных.

Как пояснил директор центра Григорий Боков, разработка позволит безопаснее применять технологии искусственного интеллекта в бизнесе, банковской сфере и государственных услугах. Это один из шести прикладных проектов, которые реализует университет после победы в конкурсе исследовательских центров ИИ.

Параллельно ученые МГУ работают над созданием мультимодальной системы для беспилотного транспорта. Технология будет координировать работу различных сенсоров, повышая надежность автономных транспортных средств.

Центр искусственного интеллекта МГУ вошел в число семи победителей конкурса, организованного Минэкономразвития. Всего на отбор подавали заявки 15 университетов. Победители получат государственное финансирование на развитие своих проектов.