Попытка внедрить RAG-систему на «сырых» корпоративных данных снижает точность ответов AI на 30–50% из-за галлюцинаций и конфликтов версий. Качество знаний нейросети напрямую зависит не от мощности модели, а от чистоты индексации: мусор на входе гарантирует мусор на выходе.
Инвентаризация и фильтрация данных
Первая критическая ошибка — загрузка всего архива документов. В среднем до 40% корпоративного контента является избыточным: старые версии регламентов, дубликаты, черновики и технический мусор. Перед индексацией необходимо внедрить жесткий фильтр: удаление файлов старше 2 лет (если это не нормативные акты) и отсечение документов короче 100 символов, которые не несут смысловой нагрузки.
Кейс: При очистке базы знаний техподдержки (15 000 документов) удаление дублей и устаревших инструкций сократило объем индексируемых токенов на 22%, что снизило стоимость каждого запроса к LLM на 15–20% за счет сокращения контекстного окна.
Экспертный вывод: Начинайте с удаления. Лучше иметь 100 актуальных страниц, чем 1000 противоречивых. Приоритет — актуальность версии, а не полнота архива.
Структурирование и машиночитаемый формат
Нейросети плохо работают с многоколоночными PDF, сложными таблицами и изображениями с текстом. Оптимальный формат для RAG — Markdown. Он позволяет четко обозначить иерархию заголовков (# H1, ## H2), что критически важно для семантического поиска. Перевод данных из PDF в Markdown с сохранением структуры таблиц повышает точность извлечения фактов на 25–30% по сравнению с простым извлечением текста (Plain Text).
- PDF/Docx → Очистка от колонтитулов → Конвертация в Markdown → Проверка разметки.
- Таблицы: перевод из визуальных сеток в формат Markdown Table или JSON для сохранения связей «ключ-значение».
Экспертный вывод: Забудьте про PDF как формат хранения знаний для AI. Только Markdown или структурированный JSON. Это стандарт, который минимизирует риск «склеивания» несвязанных абзацев при чанкинге.
Стратегия чанкинга и семантическая разметка
Разбиение текста на фрагменты (чанки) — точка самого высокого риска. Слишком короткий чанк (до 200 токенов) теряет контекст, слишком длинный (более 1000 токенов) размывает смысл. Практика показывает, что оптимальный размер чанка для бизнес-документации составляет 512–800 токенов с перекрытием (overlap) в 10–15%. Это гарантирует, что важная мысль не будет разрезана пополам.
Пример: В регламенте по кредитованию фраза «Ставка составляет 10%, если залог недвижимости» при неудачном разрезе может превратиться в два разных фрагмента, и AI ответит «Ставка 10%» без учета условия залога. Решение — использование RecursiveCharacterTextSplitter с привязкой к знакам абзаца и заголовкам.
Экспертный вывод: Используйте семантический чанкинг. Разделяйте текст по смысловым блокам (заголовкам), а не по количеству символов. Это единственный способ избежать фактических ошибок в ответах.
Очистка от шума и нормализация
Корпоративные данные перегружены стоп-словами, внутренним сленгом и ссылками на внутренние ресурсы (например, «см. приложение №4 к приказу от 2012 года»), которые бесполезны для LLM. Необходимо заменить внутренние сокращения полными терминами и удалить навигационный шум. Очистка текста от повторяющихся элементов (шапки, подвалы страниц) сокращает расход токенов и убирает «шум» из векторного пространства.
Сравнение: Внедрение бота по HR-политике без очистки приводило к тому, что 10% ответов содержали фразы «Перейдите по ссылке на внутренний портал», которая в чате была некликабельна. После нормализации данных точность полезного действия выросла до 98%.
Экспертный вывод: Проводите нормализацию терминов. Создайте глоссарий соответствий «сленг → термин», чтобы модель одинаково понимала «оффер», «предложение о работе» и «приглашение».
Валидация данных и итерационный цикл
Проверка качества данных должна быть количественной. Используйте метод «золотого набора» (Golden Dataset): создайте 50–100 пар «вопрос-эталонный ответ» на основе ваших документов. После каждой итерации очистки прогоняйте эти вопросы через систему и замеряйте точность (Hit Rate). Повышение точности с 60% до 90% обычно требует 3–4 циклов переработки данных и уточнения стратегии чанкинга.
Сроки: Подготовка базы из 1000 документов занимает от 2 до 4 недель работы одного аналитика с использованием инструментов автоматизации (Python-скрипты для очистки). Попытка сделать это «на лету» приводит к бесконечным правкам промптов, которые не решают проблему плохого качества данных.
Экспертный вывод: Не пытайтесь лечить плохие данные промптами. Если AI ошибается в фактах — чистите данные, а не меняйте системную инструкцию. Это экономит сотни часов разработки.
Вывод
Главный вывод: успех внедрения AI в бизнес зависит от дисциплины подготовки данных, а не от выбора модели. Начинайте с конвертации всего в Markdown, внедряйте семантический чанкинг с перекрытием 10% и обязательно создайте Golden Dataset для проверки. Избегайте загрузки «сырых» PDF и попыток автоматизировать всё без предварительной ручной фильтрации дублей. Рекомендую инвестировать 70% времени проекта в Data Cleaning и только 30% в настройку LLM — это единственный путь к промышленной точности ответов.