KNOWLEDGE SPACE · ДОКУМЕНТАЦИЯ

ИИ-агент: как система выбирает и выполняет действия

На этой странице

ИИ-агент — это система, которая в рамках поставленной цели выбирает последовательность действий, использует доступные инструменты и учитывает полученные результаты. Степень самостоятельности зависит от приложения: агент может только исследовать данные или выполнять разрешённые изменения.

В современных текстовых приложениях выбор шагов часто поручают языковой модели. Однако агентный подход шире LLM, а само наличие модели в чате ещё не делает приложение агентом.

Как устроен цикл работы

Система получает задачу и контекст, выбирает следующий шаг, вызывает инструмент и оценивает результат. После этого она может продолжить работу, уточнить вопрос или остановиться. Инструментом бывает поиск, расчёт, чтение записи или операция в рабочей системе.

Для цикла нужны пределы: доступные действия, время, число шагов и условия завершения. Если источник недоступен, агент не должен превращать предположение в подтверждённый результат. Повторение неудачного действия без ограничения способно лишь увеличить затраты.

Отличие от ассистента и заданного сценария

Ассистент помогает человеку по запросу; в агентном сценарии системе доверяют выбор части последующих шагов. Эти возможности могут сочетаться. Помощник способен выполнять действия, а агент может останавливаться для подтверждения, поэтому строгая граница по одному названию ненадёжна.

В заранее описанном процессе порядок переходов задаёт разработчик. Агент получает больше свободы выбирать ход работы по ситуации. Такая свобода полезна не всегда: для устойчивой повторяемой операции простой сценарий бывает удобнее проверять и сопровождать.

Условный пример в планировании

Сотрудник просит подготовить материалы к обсуждению отклонений плана. Агент находит нужные версии, получает расчёт разницы и собирает комментарии ответственных. Затем формирует справку, отделяя установленные значения от отсутствующих объяснений.

Изменение утверждённого плана остаётся отдельным действием с отдельными полномочиями. Возможность прочитать данные и подготовить проект корректировки не должна автоматически давать право записать её. Пример описывает возможный процесс, а не готовую функцию KS.

Полномочия и участие человека

Права проверяются приложением и рабочей системой. Инструкция модели может описывать границы, но не заменяет запрет на недоступную операцию. Для значимых действий задают подтверждение и способ восстановить состояние при ошибке.

Документы и результаты поиска содержат данные, в том числе текст, похожий на команды. Их нельзя автоматически считать новыми полномочиями агента. Контроль должен сохраняться даже тогда, когда найденный материал требует обойти правила задачи.

Что проверять на пилоте

Проверяют достижение цели, корректность промежуточных действий, соблюдение доступа и поведение при отказе инструмента. В журнале полезно сохранять основание действия, вызванный инструмент и использованную версию данных, учитывая требования к конфиденциальности.

Быстрый итоговый текст не является достаточным показателем. Агент мог получить его через неверный расчёт или недопустимое изменение. Поэтому оценивают всю последовательность, затраты и возможность остановить процесс, а не только последнее сообщение.

Связь с Knowledge Space

В материале Knowledge Space об AI-ready архитектуре работа агентов связана с метамоделью, корпоративным контекстом, правами и границами действий. Это основа для оценки конкретного сценария. Набор доступных операций и необходимость подтверждения определяются в выбранном решении.

Корпоративный контекст и границы действий

FAQ

Любой чат-бот является агентом?

Нет. Для агентного сценария важен выбор действий в рамках цели, а не только диалоговый интерфейс.

Агенту обязательно разрешать изменения?

Нет. Он может работать только на чтение и готовить материалы для сотрудника.

Агент работает полностью без человека?

Не обязательно. Приложение может требовать уточнения или подтверждения значимых действий.

Промпт может заменить права доступа?

Нет. Полномочия проверяют приложение и рабочая система независимо от текста инструкции.

Смежные термины

Была ли страница полезна?