Сбер и Сколтех разработали метод выявления галлюцинаций ИИ по картам внимания

Исследователи Центра практического искусственного интеллекта Сбера и «Сколтеха» предложили новый метод для обнаружения галлюцинаций в больших языковых моделях, работающих с внешними источниками (RAG). Разработка под названием TOHA (Topological Divergence on Attention Graphs) опубликована в материалах конференции ACL 2026. В её основе — анализ топологической структуры карт внимания модели, что позволяет выявлять недостоверные ответы без обучения дополнительных классификаторов и при минимальном объёме размеченных данных.