RAG и мультиагентный подход: самые востребованные направления на российском рынке ИИ

Издание ComNews проанализировало результаты исследования об использовании российскими компаниями решений на основе искусственного интеллекта. Его провела технологическая группа Рексофт.

Исследование показало, что в 2024 году объем проектов по работе с данными и искусственным интеллектом в России вырос на 40%. Главной причиной роста эксперты считают активизацию импортозамещения и переход многих заказчиков на модели, снижающие возможность вендор-лока.

Основными направлениями внедрения опрошенные компании назвали ИИ для общения и анализа, мультиагентный подход и внедрение генераторов кода в процесс разработки. Отмечен и рост популярности генеративного ИИ в различных бизнес-процессах. Среди наиболее востребованных технологий названы техники, дополняющие знания больших языковых моделей внутренними данными, такие как RAG.

Как отметил ведущий менеджер продукта Content AI Антон Фролов, этот подход полезен при разработке приложений, обрабатывающих частные данные или данные, полученные после обучения модели:

«При создании LLM модель обучается на больших объемах открытых данных. Это долгий и ресурсоемкий процесс. Повторить его на данных из внутренних источников нельзя по причине высокой стоимости необходимых аппаратных ресурсов, а также из-за необходимости учета прав доступа при обращении к документам. Каждый сотрудник должен получать ответ от модели с учетом своих прав. Выходом из этой ситуации и стала технология RAG, при которой сначала выполняется поиск документов, релевантных запросу пользователя, а затем, на основе этих фрагментов и технологии LLM, формируется полноценный ответ. Это позволяет учитывать необходимые права и применять доступные LLM без дообучения. Именно такой подход мы сегодня применяем в своем продукте Content AI Intelligent Search"‎.

Востребованным у бизнес-заказчиков становится и мультиагентный подход.

«Это способ использования больших языковых моделей, когда обученная на данных компании нейросеть берет на себя роль одного из сотрудников, — подчеркнул Антон Фролов. — Применение мультиагентного подхода является необходимостью для преодоления ограничений текущих LLM-моделей. Не всегда можно описать алгоритм решения сложной задачи в рамках одного промта. В этом случае проводят декомпозицию исходной задачи на более мелкие, каждая из которых выполняется на основе своего промта или агента. В случае RAG такой подход применяется, например, для предварительной валидации найденных фрагментов документов и сформированного ответа. Можно сказать, что в этом случае у нас есть агент по генерации ответа и два агента по его проверке, чтобы снизить вероятность галлюцинаций. Если мы хотим, например, сформировать дайджест по некоторой теме, потребуется больше агентов: агент поиска, агент фильтрации лишних документов, агент формирования отчета и агент, выполняющий роль выпускающего редактора. Можно сказать, что подобный подход уже является типовым и также поддерживается в нашем продукте Content AI Intelligent Search».

Полную версию материала ComNews читайте по ссылке.