Узнайте, как оркестрация и BPMN помогают решать самые распространённые ограничения и проблемы, связанные с внедрением AI-агентов.
-
Визуализация критической информации
-
Повышение доверия к результатам
-
Вовлечение человека в процесс
-
Ограничение важных выборов
-
Адаптивное вмешательство человека
-
Будущее дизайна AI-агентов
Я много читал о потенциале добавления функциональности AI-агентов в существующие процессы и программные приложения. В основном встречаются предостерегающие истории и предупреждения о недостатках AI-агентов. Поэтому я решил взять некоторые из наиболее распространённых ограничений и объединить их с самой популярной предостерегающей историей, чтобы рассказать о том, как оркестрация с помощью BPMN способна значительно помочь в решении этих проблем.
Давайте начнем с объяснения нашей предостерегающей истории: здравоохранение. Очень часто статьи об агентном ИИ вызывают у читателей опасения, задавая вопрос: «Доверили бы вы свое здоровье искусственному интеллекту?». Я, как и вы, не стал бы. Люди называют очень конкретные причины, и я задался вопросом, могу ли я использовать BPMN для создания шаблонов, которые облегчат эти опасения? Идея в том, что если это работает для сценария здравоохранения, где ставки так высоки, то, наверняка, это сработает и для любого другого процесса.
Итак, я начал с этой простой BPMN-репрезентации процесса диагностики. Пациент сталкивается с какой-либо медицинской проблемой, и после сбора всей необходимой информации врач подтверждает диагноз и назначает какой-либо вид лечения. Затем подтверждение отправляется пациенту. Эту модель, а также все остальные, на которые я буду ссылаться в этом посте, можно найти здесь.
Так с чего же начать мой путь к оптимизации этого процесса с помощью искусственного интеллекта?
Визуализация критической информации
Проблема: При добавлении агента как обеспечить аудит его действий?
Я сразу перейду к делу и изменю модель так, чтобы одновременно добавить функциональность AI-агента и решить проблему аудита.
BPMN по своей природе визуализирует выполнение действий, которые происходят или уже произошли. Это обеспечивает прозрачный аудит — как в виде внутреннего журнала событий в движке, так и в самой модели процесса. Хотя BPMN в первую очередь известен как структурированный способ моделирования процессов, он также позволяет добавлять в процесс недетерминированные сегменты.
Для этого используется ad-hoc подпроцесс. Этот элемент позволяет процессу перейти в неструктурированную область, где AI-агент может действовать более свободно. Он анализирует контекст запроса и выбирает подходящие действия. (Изменения выделены ниже зеленым.)
Используя этот механизм, агент получает свободу выполнять те действия, которые кажутся ему необходимыми в данном контексте. При этом пользователю полностью видно, какие решения были приняты и почему. Каждое задание, сервис или событие, запущенное AI, визуализируется прямо в BPMN-модели. После завершения работы AI процесс возвращается в предсказуемый поток выполнения.
Повышение доверия к результатам
Проблема: Искусственный интеллект может ошибаться. Как гарантировать, что ошибки будут обнаружены и их последствия устранены?
Теперь процесс изменён так, что AI-агент принимает решения и действует на их основе. Очевидный вопрос — можно ли доверять его результатам? Конечно же, нет. Поэтому в следующей итерации процесса я добавил механизм проверки правильности решения и возможность отмены выполненных действий, если решение оказалось ошибочным.
Ранее я писал о том, как это можно реализовать через анализ цепочки рассуждений, но этот подход идёт дальше. Во-первых, проверка корректности решений выполняется параллельно с действием. Во-вторых, если обнаружена ошибка, система может отменить уже совершённые действия.
Как это работает: после завершения подпроцесса «Выбор лечения» возможны два варианта:
-
Назначено лечение, пациент записан на прием.
-
Лечение не требуется, запись не создается.
В обоих случаях параллельно запускается проверка, логично ли принятое решение. Если всё корректно — процесс завершается. Если обнаружена ошибка, запускается событие компенсации. Это мощная возможность BPMN: механизм анализирует, какие действия были совершены (например, завершено задание «Создать запись на лечение») и, если необходимо, отменяет их (в этом случае активируется задание «Отменить запись»).
Этот подход решает сразу две проблемы. Во-первых, ошибки фиксируются. Во-вторых, если ошибка привела к неправильным действиям, они отменяются. При этом процесс не замедляется, так как всё выполняется параллельно!
Добавление человека в процесс
Проблема: В некоторых случаях в принятии решений должен участвовать человек.
Ключевые бизнес-процессы оказывают значительное влияние на людей и успех компании. Сообщество пользователей Camunda использует её не для простых процессов, а для сложных, требующих гибкости. В этом контексте появление AI-агентов вызывает опасения, связанные с необходимостью контроля со стороны человека.
В обновлённой модели добавлена новая функциональность. Во-первых, если выясняется, что рассуждения AI привели к неверному решению, запускается событие эскалации. Оно создаёт задачу «Требуется проверка врача», передавая её в подпроцесс. Врач получает всю информацию: информацию о пациенте, предложенное AI-решение и объяснение ошибки, после чего принимает окончательное решение.
Второе изменение даёт пользователям возможность отменить принятое AI-решение даже спустя время. Для этого добавлен шлюз на основе событий, ожидающий команду от врача. Если врач решает пересмотреть лечение, его команда отменяет запись и запускает тот же процесс эскалации, передавая контроль врачу. Таким образом, участие человека интегрировано как на этапе принятия решения AI, так и после него.
Ограничение критически важных решений
Проблема: AI может принимать решения, не соответствующие базовым правилам.
Хотя проверка человеком помогает контролировать процесс, она не является ни безошибочной, ни масштабируемой. Поэтому, когда AI-агент принимает важное решение, нельзя полагаться только на человека или проверку одних агентов другими. Необходимы строгие бизнес-правила, исключающие ошибки.
Стандарт DMN (связанный с BPMN) позволяет визуально определить сложные бизнес-правила и интегрировать их в процесс. Если AI нарушает одно из них, ошибка фиксируется до выполнения действий, что предотвращает потенциальный ущерб. Это ещё и экономически выгодно, так как не требует вызова AI для стандартных решений. Кроме того, событие ошибки в BPMN гарантирует, что любое нарушение будет зарегистрировано, проанализировано и исправлено.
В модели добавлена DMN-таблица, срабатывающая после задачи «Подтвердить решение о лечении». В ней прописаны правила, запрещающие определённые назначения при наличии противопоказаний. Эти правила легко обновлять по мере появления новых методов лечения. Если AI нарушает правило, инициируется событие ошибки, фиксирующее инцидент. Это помогает AI улучшаться, снижая число нарушений в будущем.
Экстренное вмешательство человека
Проблема: Должна быть возможность привлечь человека в любой момент.
Обычно AI-агенты работают как чёрный ящик: им дают задачу, и они либо успешно её завершают, либо полностью проваливают. В таком подходе агент не может запросить помощь человека в процессе размышления, так как он не умеет “ждать” ответа. Однако AI-агенты, встроенные в BPMN и Camunda, работают иначе.
По мере роста сложности процессов важно, чтобы AI мог динамически привлекать людей для проверки или уточнения решений. BPMN-события позволяют вызывать пользователя по мере необходимости, что повышает доверие к процессу и минимизирует нагрузку на экспертов.
В финальной версии модели диагностики добавлено событие эскалации — «Требуется мнение врача», которое AI-агент может активировать в любой момент, если ему не хватает данных. В отличие от предыдущих случаев, здесь решение не передаётся врачу, а лишь запрашивается его совет. Агент ждёт сигнала с ответом, после чего продолжает работу. В теории, AI может использовать этот механизм столько раз, сколько потребуется, пока не соберёт всю необходимую информацию для решения.
Будущее дизайна AI-агентов
AI-агенты вскоре станут повсеместными помощниками в рутинных задачах, но для критически важных бизнес-процессов их внедрение займёт больше времени. Передача права на принятие решений системам без надзора несёт серьёзные риски. Переход от детерминированных процессов к недетерминированным потребует переосмысления подходов к их проектированию.
Когда это начнётся, влияние на бизнес будет колоссальным. Пока ещё рано делать окончательные выводы, но уже сейчас понятно, что BPMN станет ключевым инструментом для проектирования AI-агентов в ответственных областях. Как уже говорили Якоб и Даниэль, те компании, которые начнут этот путь, будут использовать для этого лучшие доступные технологии — а это, без сомнения, Camunda.
Подписывайтесь на наши телеграм каналы:
Jmix.ru — платформа быстрой разработки B2B и B2G веб-приложений на Java.
BPM Developers — про бизнес-процессы: новости, гайды, полезная информация и юмор.
Автор: stas_makarov
