ИИ научился признавать свои ошибки и сомнения

Современные системы искусственного интеллекта (ИИ), такие как ChatGPT, умеют давать убедительные ответы на любые вопросы. Однако они не всегда признают свои ошибки или указывают на зоны неопределенности в своих знаниях. Это становится проблемой, особенно когда ИИ применяют в важных сферах — например, для разработки лекарств, анализа данных или управления автономными автомобилями.

Новая платформа Capsa, созданная компанией Themis AI, помогает решить эту задачу. Она может работать с любыми моделями машинного обучения и быстро выявлять сомнительные или ошибочные ответы, корректируя их до того, как они вызовут серьезные проблемы. Capsa «оборачивает» модель и анализирует, где она может ошибаться или испытывать неуверенность, помогая повысить точность и надежность работы ИИ.

Themis AI основана в 2021 году учеными из Массачусетского технологического института (MIT). Уже сейчас компания сотрудничает с компаниями из разных отраслей: от телекоммуникаций и добычи нефти до фармацевтики. Их технологии позволяют уменьшить ошибки в прогнозах и сделать работу ИИ более прозрачной и предсказуемой.