OpenAI рассказали о галлюцинациях в LLM и почему они происходят Представьте, вы проходите тест и вам попадается вопрос, на который вы не знаете ответа. Есть два пути: 1) Не отвечать и со 100% вероятностью получить 0 баллов за этот вопрос 2) Ответить случайным образом и иметь какую-то вероятность успеха А теперь представьте, что вы отвечаете на тысячи таких вопросов, какая стратегия будет более выигрышной? Очевидно, нужно выбирать второй путь - это повысит шансы набрать больше баллов То же происходит и с моделями при обучении. После тысяч итераций обучения модель, уверенно отвечающая на любой вопрос, набирает больше баллов, чем та, что допускает неопределенность В качестве примера приведено сравнение моделей gpt-5-thinking-mini и o4-mini. o4-mini имеет бóльшую точность в ответах, но при этом и бóльший коэффициент ошибок, в то время как gpt-5-thinking-mini сомневается в 52% вопросов и, соответственно, меньше галлюцинирует