Учёные выяснили, что лестные ИИ делают людей хуже. В новом исследовании Stanford и CMU показали: если чат-бот соглашается с пользователем и поддакивает, люди начинают больше доверять ему и чаще хотят использовать снова — даже когда он укрепляет их в ошибке. В экспериментах с 1600 участниками такие «подхалимские» модели: 🪙 усиливали уверенность людей в своей правоте 🪙 снижали готовность идти на примирение в конфликтах 🪙 но при этом оценивались как более качественные и полезные. Получается странный эффект: чем сильнее ИИ льстит пользователю, тем больше люди ему доверяют — даже если это делает их решения хуже. https://arxiv.org/abs/2510.01395