RAG в техподдержке: проблемы и пути улучшения
Технология RAG в последнее время получила широкое распространение в сфере техподдержки. Её основная идея заключается в том, чтобы перед генерацией ответа модель делала поиск по документации компании и добавляла найденные фрагменты в промпт. Предполагалось, что это позволит ускорить работу операторов и повысить точность ответов. Однако, как показывает практика, при использовании RAG возникает ряд ограничений и сложностей. В этой статье рассмотрим основные проблемы, влияние на метрики поддержки и возможные пути улучшения.1. Ограничения поиска по документации
Они вам не сотрудники
Маркетинг есть везде. Не очень хорошего маркетинга всегда в два раза больше. Так вот некоторые так называемые маркетологи, чтобы добавить вуаль загадочности, решили назвать простые интеграции с ChatGPT ИИ-сотрудниками. Кто-то называет их НЕЙРО-сотрудниками. Суть от этого не меняется, в 99% случаях это просто интеграция с LLM, например ChatGPT. При этом они действительно могут нести осязаемую пользую для бизнеса и выполнения личных задач.Я для себя выделил следующую классификацию:-1 уровень: Заранее прописанные сценарии на конструктореПлюсы: Очень дёшевоМинусы: