⚙️ Из «песочницы» в Production: как мы масштабировали RAG-систему для эксперта по охране труда Привет друзья 👋 наша команда LLM-разработки написала на Habr статью, которая родилась из боли, знакомой многим, кто пробовал строить промышленные RAG-системы. 🤔Помните этот этап эйфории, когда сходу все получается и достаточно быстро? Вы загружаете десяток PDF в, например, ChromaDB или аналог, пишете простую цепочку на LangChain - и система неплохо работает! Бот отвечает, эксперты в восторге, MVP готов за выходные. Но до определенного момента. 🤯А потом в базу знаний прилетает уже тысяча документов вместо 10, и все начинает рушиться на глазах - в разы падает скорость, существенно ухудшается точность, начинаются галлюцинации! 📈Именно через это прошёл наш проект «Марк» — ИИ-эксперт по охране труда @AI_assistantOT_bot до момента, пока не достиг определенного уровня зрелости - именно об этих шагах эволюции нашего решения и итеративных его улучшениях пойдет речь в статье. ✔️Статья будет полезна LLM-разработчикам, архитекторам, ИИ-энтузиастам и всем, кто так или иначе работает с GenAI-решениями и занимается построением промышленных RAG и LLM-driven систем. 👀Данная статья может сэкономить месяцы самостоятельных погружений и экспериментов, через что ранее прошла наша команда, пока не достигла приемлемой высокой точности ответов у Марка. 📊80% успеха в RAG — это данные и ETL, и только 20% - модели и промпты. Промпты и модели могут улучшать работу системы, но не так значительно, как это может казаться. Читайте статью на Habr 📎Больше о наших готовых ассистентах: https://duc-technologies.ru/aiassistant ❤️ DataUnderControl #ОхранаТруда #RAG #LLM #GenAI #Mark #Habr #AI_assistantOT_bot #LLMasaJudge