Почему HITL важен в агентной коммерции

ИИ-агент, который полностью автономно делает покупки, — это удобно, но страшно. Ошибка алгоритма, галлюцинация модели или неоднозначная инструкция могут привести к реальным финансовым потерям: не тот товар, не та сумма, не тот адрес доставки.

Human-in-the-loop — архитектурный принцип, который говорит: агент делает работу, но человек сохраняет контроль над критичными решениями. Это не признак слабости агента, а осознанный дизайн доверия.

Спектр автономии

Агентные системы существуют на спектре между «полным HITL» и «полной автономией»:

Полный HITL                                    Полная автономия
│                                                          │
│  Агент готовит,     Агент делает,     Агент делает всё   │
│  человек решает     человек          в рамках мандата    │
│  каждый шаг        подтверждает                         │
│                     финальный шаг                        │

В зрелых агентных продуктах точки HITL выбираются осознанно: только для действий, которые необратимы, дороги или выходят за пределы обычного поведения.

HITL в покупательских сценариях

Действие агента Нужен ли HITL Почему
Поиск товаров, сравнение Нет Обратимо, нет последствий
Добавление в корзину Нет Обратимо (можно удалить)
Применение промокода Нет или «мягкий» (уведомление) Обратимо
Оформление заказа Да Необратимо, финансовые последствия
Повторная покупка (reorder) Зависит от суммы Может быть автоматическим в рамках мандата
Изменение адреса доставки Да Высокий риск ошибки
Возврат товара Да Необратимо после подтверждения

Реализация HITL

Явное подтверждение

Агент завершает подготовку заказа и ждёт нажатия «Подтвердить» от пользователя. Самый строгий вариант — понятный, но замедляет сценарий.

«Окно отмены»

Агент сообщает о предстоящем действии и выполняет его через N секунд, если пользователь не нажал «Отмена». Снижает трение при стандартных действиях.

Лимиты и мандаты

Пользователь заранее задаёт параметры: «разрешаю покупки до 5 000 ₽, только из вишлиста, только со скидкой». В рамках этих параметров агент автономен; вне них — требует подтверждения.

Совет: при проектировании агентного сценария начинайте с максимального HITL и постепенно убирайте точки подтверждения по мере роста доверия пользователей и надёжности агента. Обратный путь — от автономии к HITL после инцидента — значительно сложнее.