Сравнение low-code редакторов для разработки приложений на основе LLM

Привет, Habr! Наша команда LLM-разработки подготовила статью с анализом low-code редакторов для разработки пайплайнов на базе LLM-моделей. Тема сравнения пайплайнов назревала давно, так как мы активно используем данные редакторы в своей работе и зачастую сталкиваемся с различными ограничениями решений. Данная статья будет полезна командам, которые только выбирают среду разработки пайплайнов для своих LLM-приложений и ИИ-агентов, а также тем, кто ищет лучший редактор для решения своих задач.

Введение

В эпоху стремительного развития технологий, когда скорость вывода продуктов на рынок становится ключевым фактором успеха (TTM), традиционные методы разработки программного обеспечения сталкиваются с новыми вызовами. Одним из наиболее перспективных решений является использование low-code платформ — инструментов, позволяющих создавать приложения с минимальным количеством написания кода вручную. Особенно интересными становятся low-code редакторы, интегрированные с большими языковыми моделями (LLM),которые позволяют автоматизировать разработку и повысить эффективность работы разработчиков.

Цель данной статьи — провести сравнительный анализ четырех популярных low-code редакторов: Flowise, LangFlow, n8n и Dify. Эти платформы предоставляют различные подходы к созданию приложений на основе LLM, каждая из которых имеет свои уникальные особенности и преимущества.

1. Описание приложений на основе LLM (основные виды, обзор рынка)

Приложения на основе больших языковых моделей (LLM) представляют собой относительно новый класс программного обеспечения, которое способно решать множество задач благодаря использованию мощных алгоритмов машинного обучения. В контексте low-code редакторов, LLM играют ключевую роль в автоматизации процессов разработки, позволяя создавать функциональные приложения с минимальными затратами времени и усилий.

Основные виды приложений на основе LLM:

• Чат-боты и виртуальные ассистенты –  одни из самых распространенных типов приложений на основе LLM.С помощью LLM чат-боты могут вести полноценный диалог, генерировать разнообразны ответы, определять эмоции и намерения пользователя с помощью анализа его реплик, предоставлять справочную информацию.

• Анализ текста и обработка естественного языка (NLP): приложения, использующие NLP, способны извлекать смысл из текста, классифицировать его, распознавать эмоции, переводить на другие языки и многое другое. Такие решения применяются в маркетинге, анализе отзывов клиентов, автоматической генерации контента и научных исследованиях.

• Рекомендательные системы: рекомендательные системы на основе LLM помогают пользователям находить релевантную информацию, продукты или услуги. Например, системы рекомендаций фильмов, музыки, книг или товаров в онлайн-магазинах.

• Автоматизация бизнес-процессов: LLM интегрируются в корпоративные системы для оптимизации рабочих процессов. Это включает автоматизацию документооборота, управление проектами, логистику и финансовые операции.

• Генерация контента: приложения на основе LLM могут автоматически создавать тексты различных форматов: от статей и постов в социальных сетях до технических документов и отчетов.

• Обучение и образование: образовательные приложения используют LLM для персонализации учебного процесса, адаптации материалов под уровень знаний учащихся и предоставления интерактивной обратной связи.

Рынок приложений на основе LLM стремительно растет, благодаря широкому спектру возможностей, которые эти технологии предлагают.

2. Обзор редакторов

Ключевые игроки рынка low-code редакторов для разработки приложений на основе LLM — Flowise, LangFlow, n8n и Dify.  Предлагаем их рассмотреть и выявить сильные и слабые стороны.

2.1 Flowise — это визуальный инструмент пользовательского интерфейса с открытым исходным кодом, который помогает создавать индивидуальный процесс на основе LLM с использованием LangchainJS. Платформа предоставляет обширные возможности для интеграции с популярными облачными сервисами и автоматизации рабочих процессов.

Основные функции:

• Визуальная разработка с поддержкой drag-and-drop.

• Широкий набор готовых узлов для триггеров, действий, преобразований, логики и интеграции.

• Поддержка пользовательских узлов на JavaScript.

Сильные стороны:

• Высокая степень интеграции с внешними сервисами.

• Удобный интерфейс для новичков и опытных разработчиков.

Слабые стороны:

• Ограниченные возможности для редактирования кода непосредственно из интерфейса.

• Отсутствие поддержки Python для создания пользовательских узлов.

• Нет явной функции для пошагового выполнения пайплайна.

В open-source версии не доступны:

• Рабочие пространства и ролевая модель доступа;

• Функции оценки выполнения запросов.

Платформа активно используется в корпоративных средах для автоматизации различных бизнес-процессов, включая управление проектами, обработку данных и взаимодействие с клиентами.

2.2 LangFlow — это инновационная low-code платформа, ориентированная на использование Python для расширения функциональности и создания пользовательских компонентов. Платформа сочетает в себе мощные возможности LLM с удобством визуального интерфейса.

Основные функции:

• Полная поддержка Python для создания пользовательских компонентов.

• Встроенный редактор кода для модификации существующих компонентов.

• Интеграция с популярными облачными сервисами и API.

• Множество готовых узлов для обработки данных, логики и уведомлений.

Сильные стороны:

• Глубокая интеграция с Python, что открывает огромные возможности для кастомизации.

• Простота использования и высокая степень настраиваемости.

• Наличие функции редактирования кода из интерфейса.

Слабые стороны:

• Ограниченное количество поддерживаемых внешних сервисов по сравнению с конкурентами.

• Отсутствует явная поддержка для пошагового выполнения пайплайна.

LangFlow широко применяется в научных исследованиях, образовательных проектах и стартапах, где важна гибкость и возможность быстрого прототипирования.

2.3 n8n — это open-source low-code платформа, известная своей гибкостью и широким набором интеграций с внешними сервисами. Платформа предоставляет удобный интерфейс для создания автоматизированных рабочих процессов.

Основные функции:

• Поддержка произвольного кода на JavaScript и Python через узел “Code”.

• Огромное количество интеграционных узлов для взаимодействия с популярными сервисами.

• Режим отладки для пошагового выполнения пайплайнов.

• Расширяемость за счет сообщества и поддержки пользовательских узлов.

Сильные стороны:

• Большая библиотека готовых узлов для автоматизации.

• Открытый исходный код и активное сообщество разработчиков.

• Возможность выполнения пайплайна пошагово и наличие режимов отладки.

Слабые стороны:

• Сложнее в освоении для новичков по сравнению с другими платформами.

• Некоторые ограничения при работе с Python через Pyodide.

В open-source версии не доступны:

• Пользовательские переменные;

• Разграничение доступа пользователей на уровне проектов;

• Совместное использование;

• История изменений рабочих потоков;

• Технология единого входа (SSO).

n8n популярен среди разработчиков и компаний, которым необходима высокая степень автоматизации и интеграция с разнообразными внешними сервисами.

2.4 Dify — это low-code платформа, ориентированная на работу с данными и создание пользовательских функций на Python. Платформа предлагает интуитивно понятный интерфейс и богатые возможности для анализа и обработки данных.

Основные функции:

• Использование Python для написания пользовательских функций и работы с данными.

• Поддержка создания собственных нод с уникальным поведением и интеграциями.

• Функция пошаговой отладки и выполнения пайплайнов.

• Интеграция с популярными облачными сервисами и API.

Сильные стороны:

• Мощные инструменты для работы с данными и аналитики.

• Простота создания и редактирования пользовательских нод.

• Поддержка пошаговой отладки и выполнения пайплайнов.

Слабые стороны:

• Ограниченная поддержка внешнего кода в стандартных нодах.

• Более узкая специализация по сравнению с универсальными платформами вроде n8n.

В open-source версии не доступны:

• Аутентификация через аккаунт Google, Github, SSO.

Dify находит применение в компаниях, работающих с большими объемами данных.

3 Результаты сравнения нодовых редакторов.

Мы выделили для себя наиболее важные критерии оценки и провели сравнительных анализ нодовых редакторов, результаты которого отразили в данной таблице (в скобках указаны оценки по каждому критерию):

* – подключение моделей GigaChat, YandexGPT в каждом редакторе осуществляется с помощью создания пользовательской ноды.

** – лицензия позволяет использовать или изменять программное обеспечение только в собственных внутренних деловых целях или для некоммерческого или личного использования.

На основе полученной матрицы оценок посчитали средний балл для каждого инструмента и вывели итоговый рейтинг.

Итоговая таблица рейтинга:

Эта таблица демонстрирует сравнительные сильные стороны платформ на основе выделенных нами критериев. Однако выбор платформы должен быть основан на задачах организации, поэтому реальная ситуация может отличаться от представленного рейтинга.

4. Наш опыт работы с нодовыми редакторами. 

В своих проектах для реализации определенных кейсов нам нередко приходится использовать нодовые редакторы.

Например, с помощью платформы  Flowise для одного крупного ресторанного холдинга мы разработали систему, которая автоматически обрабатывает списки номенклатур товаров, принимая во внимание заранее установленные критерии. Пользовательский интерфейс был реализован через мессенджер Telegram, где ассистент  принимал файлы Excel (.xlsx) с номенклатурой товаров. После получения файла он обрабатывал список  по заданным критериям для каждой группы и на выходе предоставлял ранжированный список с определенной категорией в каждой строке. Подробнее об этом кейсе  можно почитать в этой статье: https://habr.com/ru/articles/878762/

4.1 Кейс с форматированием резюме

Помимо вышеописанного кейса, мы использовали Flowise при реализации проекта для небольшой IT-компании, целью которой было ускорение процесса обработки резюме. 

Мы интегрировали в нашу систему DUC SmartSearch нодовый редактор, что позволило создавать новые индивидуальные пайплайны оркестрации LLM и ИИ-агентов для любой предметной области. Также  в системе был создан дополнительный цифровой помощник «HR-ассистент», разработан и добавлен специальный инструмент – ResumeTool. Данный инструмент позволял цифровому помощнику работать с файлами: загружать исходное резюме, отправлять его в пайплайн обработки, заполнять файл шаблона извлеченными данными и сохранять форматированное резюме в объектном хранилище. Пользователи с ролью администратор могли загружать свой шаблон резюме или других документов в настройках инструмента. Подробнее узнать об этом проекте можно в этой статье: https://habr.com/ru/articles/850998/

4.2 n8n для бота продаж

Low-code редактор n8n мы использовали для создания бота продаж, способного вести полноценный диалог с клиентом, выявлять потребности, презентовать продукт через выгоды, преодолевать возражения и доводить клиента до целевого действия (демо, звонок, обсуждение внедрения и др. действия). ИИ-агент в боте собирает всю актуальную информацию и передает в Google Sheets для менеджера. Также при бронировании встречи он обращается к Google Calendar, чтобы предложить свободные слоты для проведения демо-встречи. Затем, создав встречу в календаре, направляет ссылку на нее клиенту. Помимо линейного взаимодействия с ботом клиент может задавать любые вопросы о продукте, который бот презентует.

Выводы

В ходе данной статьи мы сравнили  low-code редакторы для разработки приложений на основе LLM:  Flowise, LangFlow, n8n и Dify. Каждый из них обладает своими уникальными сильными сторонами и областью применения.

Flowise выделяется своей мощной интеграцией с внешними сервисами и удобным интерфейсом, делая её отличным выбором для автоматизации бизнес-процессов. Однако редактор больше подходит разработчикам, знающим JavaScript. На наш взгляд, данный скил может быть полезен в рамках LLM-команды, однако точно не будет ключевым, и наличие разработчиков с данными компетенциями при внедрении AI-агентов скорее редкость. Поэтому мы, сделав несколько пилотов на базе данного инструмента, стратегически уходим в сторону других решений.

LangFlow, с другой стороны, идеально подходит для тех, кто ценит глубокую интеграцию с Python и возможность тонкой настройки функционала. С учетом открытой MIT-лицензии, считаем этот инструмент идеальным кандидатом для использования в рамках нашего продукта и последующей коммерциализации.

n8n привлекает внимание своим открытым исходным кодом и активным сообществом, предоставляющим большое количество интеграций и поддержку пользовательских узлов. Однако при желании коммерциализировать решение могут возникнуть лицензионные ограничения, поэтому для этой цели инструмент может не подойти.

Наконец, Dify выделяется своими возможностями для работы с данными и аналитики, а также поддержкой пошаговой отладки и выполнения пайплайнов.

В заключение отметим, что выбор конкретного редактора зависит от потребностей проекта и команды. Мы стараемся развивать компетенции в нескольких решениях, чтобы иметь возможность сравнения и не быть зависимыми полностью от одного инструмента.

А каким редактором пользуетесь вы при разработке AI-агентов и приложений на основе LLM? Делитесь в комментариях!

Всем добра и быстрых качественных внедрений ИИ-агентов с помощью low-code редакторов!

Наш телеграм-канал: http://t.me/dataundercontrol