Что такое генеративный ИИ
Генеративный ИИ — зонтичное название для моделей, которые создают новый контент, а не выбирают ответ из готовых вариантов. Массовым термин стал после публичного запуска ChatGPT 30 ноября 2022 года: у языковых моделей появился интерфейс, которым пользуется любой человек, а не только разработчик.
Для e-commerce важнее всего различать генеративные и предиктивные модели — они решают разные задачи и проверяются по-разному.
| Предиктивный (дискриминативный) ML | Генеративный ИИ | |
|---|---|---|
| Что выдаёт | Класс, вероятность, ранг | Новый объект: текст, изображение, код |
| Типичный вопрос | «Купит ли этот пользователь?» | «Опиши товар», «Подбери и объясни выбор» |
| Примеры в магазине | Рекомендации, сортировка категорий, прогноз оттока | Ассистент, описания товаров, креативы |
| Как проверять | Метрики на размеченных данных + A/B | Фактическая точность ответов + A/B |
Основные типы генеративных моделей
- Большие языковые модели (LLM) — предсказывают следующий токен и за счёт этого пишут связный текст и код. На них строятся ассистенты и генерация описаний.
- Рассуждающие модели — LLM, которые перед ответом строят цепочку рассуждений; подробнее в статье «Рассуждающая модель».
- Диффузионные модели — генерируют изображение, постепенно убирая шум из случайной картинки (например, Stable Diffusion). Используются для баннеров и фонов.
- Мультимодальные модели — принимают и выдают несколько типов данных: например, описывают товар по фотографии.
Где генеративный ИИ работает в e-commerce
- Шопинг-ассистент — отвечает на вопросы о товарах и подбирает варианты в диалоге. Ответы строятся на данных каталога через RAG.
- Описания товаров — черновики текстов для карточек без описания, особенно в длинном хвосте ассортимента.
- Поиск — разбор длинных разговорных запросов вроде «подарок папе, который любит рыбалку, до 5000 рублей».
- Саммари отзывов — короткая выжимка сотен отзывов на карточке товара.
- Креативы — варианты баннеров и заголовков для A/B-тестов.
Ограничения и как с ними работать
- Галлюцинации. Модель может уверенно выдумать характеристику или цену. Лечится привязкой к каталогу, правилами в системных инструкциях и сценарием «не нашёл».
- Стоимость и задержка. Каждый ответ — это инференс, который оплачивается по токенам. Размер запроса ограничен контекстным окном, а его наполнение — предмет отдельной дисциплины, контекст-инжиниринга.
- Память. Модель не помнит покупателя между запросами; всё, что нужно учесть, приложение хранит само — это память агента.
- Контроль качества. Сгенерированные описания проверяют выборочно вручную, а ассистента — на наборе типовых вопросов до запуска и A/B-тестом после.
Важно: генеративный ИИ не заменяет данные магазина. Качество ответа ассистента ограничено качеством фида: если в карточке нет размера или состава, модель не сможет честно ответить на вопрос о них.