Что такое граундинг
Языковая модель знает мир по обучающим данным. Про ваш каталог, сегодняшние цены и остатки на складе она не знает ничего — и без внешних данных отвечает правдоподобной догадкой, то есть галлюцинирует. Граундинг — привязка ответа к проверяемым данным, которые передаются модели в момент запроса. Ответ заземлён, если каждое его утверждение можно подтвердить источником: карточкой товара, записью в базе, страницей правил.
Способы граундинга
| Способ | Как работает | Для каких данных |
|---|---|---|
| RAG | Поиск по индексу базы знаний, найденные фрагменты — в контекст модели | Характеристики, описания, FAQ, правила возврата |
| Вызов инструментов и API | Модель вызывает функцию (function calling) и получает ответ системы | Цена, наличие, сроки доставки — то, что меняется в течение дня |
| Поиск в интернете | Результаты веб-поиска со ссылками — в контекст | Внешние факты; в Gemini API функция так и называется — Grounding with Google Search |
| Данные сессии | Корзина, открытая карточка, история заказов — в промпт | Контекст конкретного покупателя |
RAG — самый распространённый способ, но не синоним граундинга: ассистент может брать описания из RAG, а цену — прямым запросом к API в момент ответа.
Как понять, что ответ заземлён
- Ссылки на источники. В ответе видны карточки товаров, по которым он построен, — покупатель и оператор могут проверить.
- Метрика faithfulness (groundedness). Доля утверждений ответа, подтверждённых переданным контекстом. Обычно её считают автоматически: отдельная модель разбивает ответ на утверждения и сверяет каждое с контекстом.
- Полнота поиска. Если нужный товар не попал в контекст, заземлённый ответ всё равно будет неполным — поиск проверяют отдельно.
Важно: устаревшие данные тоже «заземляют» ответ. Если в индексе вчерашняя цена, модель уверенно назовёт её со ссылкой на источник.
Граундинг в магазине: чек-лист
- Для каждого типа факта назначьте источник истины: характеристики — продуктовый фид, цены и остатки — API в момент ответа, доставка и возврат — база знаний.
- Обновляйте индекс вслед за фидом, а не по расписанию раз в сутки.
- В системном промпте требуйте отвечать только по контексту и говорить «не знаю», если данных нет.
- Показывайте в ответе карточки товаров со ссылками, а не только текст.
- Меряйте faithfulness на эталонных диалогах перед каждым релизом в рамках оценки LLM, а остаток ошибок перехватывайте гардрейлами.