​​Нлпшники делятся на два основных класса: тех, кто понимает, о чем пишет Love.Death.Transformers. и все еще смеется (или плачет) над очередной вариацией пасты мой батя ебашит вообще и тех, кто пилит RAG. Я пилю раг. И сейчас стоит титаническая задача, как из всех чат-ботов, которых я наклепал за последний год, сделать что-то хорошее, т.е, перейти от наивного и полунаивного рага к более современным архитектурам. Собираю сейчас разные материалы по этой теме. Из того, что накопилось, могу отметить несколько источников: - Retrieval-Augmented Generation for Large Language Models Общий обзор подхода, наверное, самое системное изложение рага, которое мне встречалось. - Advanced RAG Techniques Практическое руководство по конкретным методикам улучшения пайплайна: чанкинг, обогащение контекста, методика синтетических вопросов (HyDE), реранкинг итд. - Mastering RAG Про грамотное построение энтерпрайз архитектуры: основные точки отказа, базовые компоненты и их оптимизацию, сбор обратной связи. - AI Cookbook. Набор гайдов от обнимающего лица. Например, можно посмотреть на реализацию семантического кеша для бота. - Building and Evaluating Advanced RAG Applications Миникурс по продвинутым методам построения RAG. Разбираются две техники ретриверов: sentence window и auto-merging, а также способ измерения улучшений с помощью trulens (аналог RAGAS) Накидайте в комментарии, какие еще годные материалы встречали по этой теме.