ИИ-агенты в ретейле: ответственность за ошибки автоматических систем

ИИ-агент назначил неверную цену или сообщил покупателю условия, которых нет в договоре. Претензию получит ретейлер: алгоритм не стал самостоятельной стороной сделки, а специальная модель ответственности за ошибки ИИ в российском праве пока не действует.

Минцифры предложило изменить этот порядок с 1 сентября 2027 года. Но опубликованный документ пока проходит общественное обсуждение. Его требования нельзя считать действующим правом.

Первый шаг для руководителя — найти процессы, где ИИ сам формирует цену, обещание или отказ покупателю, и поставить перед отправкой проверку сотрудником.

Пока перед покупателем отвечает ретейлер

Российское право не признаёт ИИ самостоятельным участником отношений. Если компания использует алгоритм в продажах, риск ошибки перед клиентом несёт сама компания. Управленческое решение также считают решением человека, даже когда сотрудник опирался на рекомендацию системы.

Из-за отсутствия специальных правил применяются общие нормы гражданского права. Компания, которой причинил вред дефектный продукт или услуга, может обосновывать требование к виновному лицу через ст. 1095–1098 ГК РФ. Конкретное основание зависит от договора, характера ошибки и доказанной связи между работой системы и потерями.

Если покупатель — гражданин и приобретает товар для личных нужд, дополнительно применяют Закон РФ «О защите прав потребителей». Этот материал касается рисков ретейлера, а не порядка разрешения потребительского спора.

Практический вывод для продавца: ответ покупателю нельзя строить на фразе «ошибся алгоритм». Сначала проверьте, какую информацию получил клиент, повлияла ли она на покупку и кто разрешил системе отправить ответ без проверки.

Требование к разработчику зависит от дефекта и договора

Перенести потери на поставщика ИИ автоматически не получится. Для требования к разработчику нужно доказать дефект продукта и связь этого дефекта с убытками. Причиной могут стать недостаток архитектуры модели, некачественные данные для обучения или отсутствие предупреждения об известных ограничениях.

Одних скриншотов с неверным ответом мало. Они показывают результат, но не объясняют, почему система его выдала. Для спора понадобятся версия модели, исходный запрос, полученный ответ, настройки интеграции и сведения о действиях сотрудника после ответа.

Договор с поставщиком может сузить требование ещё сильнее. В соглашениях об использовании ИИ встречаются условия о предоставлении решения «как есть» и предел ответственности в размере платежей за последние 12 месяцев. Тогда даже доказанная ошибка не означает, что разработчик возместит все потери.

До запуска системы проверьте четыре условия договора:

• за какие дефекты отвечает поставщик;
• обязан ли он сообщать об ограничениях модели;
• как компания передаёт сведения об ошибке;
• какой суммой ограничена ответственность.

Это договорные условия, а не единое правило закона. Их содержание нужно проверять в конкретном соглашении и связанных с ним правилах использования сервиса.

Решения, которые связывают компанию, должен подтверждать человек

Человеческая проверка нужна там, где ответ ИИ создаёт для ретейлера обязательство: устанавливает цену, обещает скидку, меняет условия возврата или содержит решение по претензии.

Сотрудник должен увидеть результат до покупателя и подтвердить его отправку. Такой порядок не освобождает компанию от ответственности. Он помогает остановить ошибку и восстановить ход принятия решения, если спор уже возник.

Закон пока не устанавливает отдельной обязанности вести журнал работы коммерческого ИИ. Но компании стоит сохранять:

• версию модели и настройки системы;
• запрос и полный ответ;
• дату и время операции;
• данные сотрудника, который проверил результат;
• известные ограничения модели;
• последующее исправление или сообщение покупателю.

Это практическая мера для доказывания, а не самостоятельное требование закона. Без журнала будет труднее установить, ошиблась ли модель, интеграция или сотрудник, который подтвердил ответ.

Что может измениться с 1 сентября 2027 года

Минцифры опубликовало проект федерального закона о регулировании ИИ для общественного обсуждения. Планируемая дата вступления в силу — 1 сентября 2027 года. До принятия и официального опубликования проекта его положения не обязательны.

Для ретейла в проекте есть два заметных изменения. Продавцам, которые используют ИИ, предлагают сообщать об этом покупателям. Ответственность за противоправный результат хотят распределять между разработчиком, оператором системы, владельцем сервиса и пользователем соразмерно их вине.

Такой подход потребует доказательств от каждого участника цепочки. Продавцу придётся показывать, как он проверял ответы системы. Разработчику — какие ограничения модели раскрыл. Владельцу сервиса — какие меры принял после сообщения об ошибке.

Проект также обязывает операторов тестировать безопасность систем и сообщать пользователям об ограничениях. При этом он не вводит общих обязательных требований ко всем способам применения ИИ в коммерческом секторе. Редакция документа ещё может измениться.

Отдельно действует Федеральный закон от 26 июля 2026 года № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации». Он формирует законодательный контекст для развития ИИ, но имеющиеся положения не дают оснований приписывать ему специальную модель ответственности ретейлера за неверную цену или ответ алгоритма.

Что сделать до следующего релиза ИИ-агента

1. Составьте список операций, где система сообщает цену, условия продажи, решение по возврату или ответ на претензию.

2. Назначьте владельца каждого процесса со стороны бизнеса. Для решений, которые создают обязательства перед покупателем, включите подтверждение сотрудником до отправки.

3. Проверьте договор с поставщиком: основания ответственности, предел возмещения, оговорку «как есть», порядок сообщения об ошибках и обязанность раскрывать ограничения модели.

4. Настройте журнал запросов, ответов и человеческих подтверждений. Срок хранения определите с учётом договоров, претензионного порядка и правил обработки персональных данных.

5. Следите за редакцией проекта до 1 сентября 2027 года. Макет уведомления покупателей можно подготовить заранее, но называть такую обязанность действующей пока нельзя.

Перед клиентом компания не сможет оправдаться тем, что ошибся алгоритм. Поэтому начинать нужно не с новой оговорки в пользовательском соглашении, а с контроля тех операций, где ИИ говорит от имени продавца.