Раньше нам было достаточно просто задавать ИИ вопросы. Теперь мы можем назначить ему цель — и он сам достигнет результата. Такой ИИ называют агентом.

Можно написать в чат-бот, чтобы он подготовил текст ответа клиенту. А можно доверить всё агенту — он сам найдёт обращение, проверит CRM, запросит недостающее, сформирует ответ и передаст сотруднику или отправит, если это разрешено.

McKinsey описывает развитие агентных технологий как переход от реактивных инструментов к проактивным системам, способным самостоятельно двигаться к заданной цели.

Поэтому главный вопрос для бизнеса постепенно меняется. Раньше компании выясняли, может ли ИИ выполнить задачу в принципе. Теперь определяют, какие действия можно поручить ИИ-агенту без постоянной верификации человеком.

Спойлер: универсального ответа пока нет. Начинается всё с контекста: если системе не хватает данных о процессе, об автономности говорить рано. А когда контекст есть, мера самостоятельности зависит от трёх вещей — цены ошибки, возможности исправить последствия и насколько формализуемо конкретное действие.

Классический анализ бизнес-процессов (Process Mining) больше про ретроспективу. Сначала нарушается срок, растёт очередь или возникает лишняя доработка. Бизнес восстанавливает ход процесса и находит причину. Без такого анализа невозможно понять фактическую работу компании, но он отвечает на вопрос «почему возникла проблема», когда последствия уже наступили.

Следующий уровень — контроль во время выполнения процесса. Система видит, что заявка приближается к предельному сроку, документ повторно возвращается на доработку или нагрузка на участок превышает его возможности. Она собирает контекст и сообщает ответственному сотруднику, что произошло, почему возник риск и какие действия доступны. Система здесь как помощник: готовит решение и отдает его человеку.

На третьем уровне система сама корректирует — запрашивает недостающие сведения, повторно запускает техническую проверку, меняет приоритет или передает заявку свободному специалисту. Это — та самая агентная история.

В большинстве корпоративных проектов, с которыми мы сталкиваемся, пока преобладает второй уровень.

Частая ошибка — обсуждать автономность как единый режим, то есть либо система действует сама, либо каждое ее решение подтверждает человек.

На практике полномочия нужно определять для каждого действия отдельно. Есть три критерия:

• Масштаб последствий. Автоматическая отправка напоминания и изменение условий договора несут разный риск, даже если технически выполняются одним агентом.
• Обратимость. Ошибочно изменённый приоритет заявки можно быстро вернуть. Проведённую выплату, раскрытые данные или принятое юридически значимое решение отменить намного сложнее.
• Формализуемость. Можно ли однозначно описать правила действия, получить необходимые данные, учесть основные исключения и проверить результат? Чем больше решение зависит от неоднозначной оценки, профессионального суждения или неполного контекста, тем меньше оснований для полной автономности.

Низкорисковые и обратимые действия система может выполнять сама. Например, запросить отсутствующий документ, повторно провести техническую проверку или перенаправить обращение по установленному правилу. Если последствия заметны, но действие можно исправить, возможен автоматический запуск с последующим контролем. Ответственный сотрудник получает информацию о выполненной операции и вмешивается только при отклонении.

Для решений с высокой ценой ошибки нужно сохранить предварительное подтверждение человека. Это касается ситуаций, влияющих на права клиента, крупные финансовые обязательства, условия договора или безопасность.

Чтобы ИИ мог действовать самостоятельно, недостаточно добиться высокой точности модели. Бизнесу нужно подготовить сам сценарий:

• Процесс должен иметь понятные границы. Система должна знать, какое событие запускает работу, каких целей нужно достичь и в какой момент задача считается выполненной. Например, формулировка «следить за качеством обслуживания» слишком абстрактная, а вот «обнаруживать обращения, которые могут выйти за установленный срок, и перераспределять их по заданным правилам» уже можно контролировать.
• Для действия нужен контекст. ИИ должен получать данные не только о текущей операции, но и о предшествующих событиях, ограничениях и возможных последствиях. Заявку нельзя автоматически перенаправлять только потому, что один сотрудник свободен. Нужно учитывать его полномочия, специализацию, текущую загрузку, приоритет клиента и влияние на другие задачи. Если система видит лишь часть процесса, автономное действие может устранить локальную проблему и создать новую на следующем этапе.
• Результат должен быть проверяемым. Нужно заранее определить, по каким признакам компания поймёт, что действие было корректным. Система перераспределила заявки — изменилось ли число нарушений срока? Запросила недостающие сведения — сократилось ли количество возвратов? Повысила приоритет — не выросла ли очередь по другим категориям? Без этого бизнес контролирует сам факт выполнения операции, но не её влияние на процесс.
• Каждое действие должно оставлять след. Для автономной системы необходимо фиксировать, что она сделала, на основании каких данных, какие правила применила и к какому результату пришла. Без истории действий невозможно разобрать ошибку, определить её источник и изменить сценарий.
• У процесса должен оставаться владелец. Нужно конкретно определить, кто утверждает границы полномочий агента, кто имеет право остановить сценарий, кто разбирает ошибки и кто отвечает за решения с существенными последствиями.

В добровольной рамке NIST по управлению рисками ИИ отдельно оговаривается необходимость разграничивать роли тех, кто использует систему, и тех, кто контролирует её работу. Я бы добавил сюда еще одну роль — кто отвечает за решения, принятые на основании результатов. Без такого разделения ответственность быстро становится фактически ничьей.

Для корпоративного применения возможности наблюдать и останавливать систему должны быть базовыми.

Передавать системе сразу весь сценарий необязательно. Надёжнее последовательно расширять ее полномочия.

• Сначала ИИ обнаруживает отклонение и собирает контекст. Ответственный сотрудник самостоятельно выбирает действие.
• Затем система начинает предлагать конкретную реакцию и объяснять, почему считает её подходящей.
• После проверки на реальном потоке ей можно разрешить выполнять действие с предварительным подтверждением.
• Следующий этап — самостоятельное выполнение обратимых операций с последующим контролем.

Такой подход может показаться осторожным, но на практике он позволяет быстрее расширять автоматизацию. Компания накапливает историю решений, видит реальные исключения и понимает, какие ограничения можно ослабить без увеличения риска.

Рост автономности меняет роль человека в процессе. Вместо ручной проверки каждого случая сотрудник:

• формулирует цель;
• задаёт правила и ограничения;
• определяет допустимый риск;
• контролирует исключения;
• оценивает сквозной результат;
• корректирует сценарий по мере изменения процесса.

Агент берет на себя наблюдение, сбор информации и стандартные действия. Человек сохраняет экспертизу и ответственность там, где решение нельзя свести к устойчивому и проверяемому правилу.

Поэтому я бы не ставил перед бизнесом цель добиться максимальной автономности. Более зрелая задача — добиться минимального ручного участия при сохранении управляемости.

Уровень развития ИИ-системы определяется тем, насколько точно компания провела границу между разрешенным автоматическим действием и обязательной человеческой ответственностью.