АГЕНТНЫЙ ИИ
Что такое агентный ИИ?
Простое и честное определение ИИ, который преследует цель и действует сам, а не только отвечает.
Термин распространился быстро и часто используется небрежно, поэтому его стоит определить точно. Эта страница объясняет, что такое агентный ИИ, как он работает, чем он отличается от того, с чем его путают, где он применяется и в чём его пределы. Это определение, а не рекламный питч.
Агентный ИИ, определение
Агентный ИИ это системы ИИ, которые действуют как автономные агенты: они берут цель, разбивают её на шаги, выполняют эти шаги с помощью инструментов или других систем, проверяют, достигается ли цель, и по ходу дела корректируют свой подход. Слово «агентный» происходит от «агента», то есть чего-то, что действует в мире, а не просто отвечает.
Яснее всего это видно в контрасте с обычной языковой моделью. Языковая модель порождает ответ на запрос и останавливается. У неё нет цели помимо ответа, она не предпринимает действий и не продолжает работу сама. Агентный ИИ помещает модель внутрь более крупной структуры, которая даёт ей цель, способность действовать и возможность продолжать, пока задача не выполнена. Модель даёт интеллект, агентный слой даёт инициативу.
В одном предложении: агентный ИИ это разница между системой, которая отвечает Вам, и системой, которая делает работу за Вас.
Как работает агентный ИИ
Большинство агентных систем прогоняют один и тот же цикл в том или ином виде. Понять этот цикл это самый быстрый способ понять всю категорию, потому что именно он отделяет агентный ИИ от всего, что было раньше.
- Цель
- Системе дают задачу, а не сценарий. «Выясни, почему на прошлой неделе упали регистрации». Как именно, решает она сама.
- План
- Она разбивает цель на шаги: проверить аналитику, сравнить с прошлыми неделями, поискать изменения, которые коррелируют. План выбирается, а не прописан заранее.
- Действие
- Она использует инструменты, чтобы выполнить каждый шаг: делает запросы к данным, читает страницы, вызывает API. Это реальные действия, а не только текст.
- Наблюдение
- Она читает результат каждого действия и оценивает, приблизил ли он к цели. Она замечает, когда что-то идёт не так.
- Адаптация
- Если шаг провалился или открыл что-то новое, она пересматривает план и продолжает. Она повторяет цикл, пока цель не достигнута или пока не понадобится человек.
Три способности, которые делают этот цикл возможным, это рассуждение (решить, что делать), использование инструментов (умение действовать через подключённые системы) и память (сохранять то, что произошло, чтобы на этом строить дальше). Система, в которой не хватает хотя бы одной из них, не является полностью агентной: без рассуждения она не может планировать, без инструментов не может действовать, без памяти не может улучшаться от шага к шагу или от запуска к запуску.
Чем агентный ИИ не является
Поскольку термин в моде, его цепляют к системам, которые на самом деле ему не соответствуют. Четыре разграничения снимают большую часть путаницы.
Не чат-бот.
Чат-бот отвечает на сообщения и останавливается. Он может быть беглым и полезным, но он не преследует цель и не предпринимает действий в мире сам. Добавление слова «агент» в название не меняет того, что он делает.
Не обычная языковая модель.
Большая языковая модель это движок рассуждений, который агентный ИИ часто использует, но сама по себе она лишь порождает текст. Агентный ИИ это то, что получается, когда Вы даёте этому движку цели, инструменты и цикл. Модель это компонент, а не целое.
Не автоматизация.
Автоматизация прогоняет фиксированную последовательность, заданную человеком, одинаково каждый раз. У неё нет суждения, и она не адаптируется. Агентный ИИ сам выбирает шаги и меняет их, когда меняются обстоятельства. Если задача никогда не варьируется, автоматизация это более удачный и дешёвый инструмент, и об этом честно стоит помнить.
Не RPA.
Роботизированная автоматизация процессов имитирует фиксированные клики человека в программах. Она мощна для повторяющихся задач по правилам и ломается, когда меняется интерфейс или ситуация, потому что она следует записанному пути, а не рассуждает о цели. Агентный ИИ рассуждает, RPA повторяет.
Почему агентный ИИ важен именно сейчас
Причина, по которой об агентном ИИ говорят повсюду, в том, что он меняет то, какую работу софт может снять с Вас. Прежний ИИ мог выдать черновик, ответ, резюме, но работа по сшиванию этих результатов в готовый итог оставалась за человеком. Агентный ИИ это первая категория, нацеленная именно на это сшивание, на оркестровку, которая раньше была неизбежно человеческой.
Для бизнеса это сдвиг от ИИ как более быстрой печатной машинки к ИИ как чему-то более близкому к работнику: не просто «напиши это за меня», а «займись этим за меня». Справляется ли нынешнее поколение с этим в полной мере, зависит от задачи и системы, и честный ответ в том, что сегодня оно делает это неровно. Но направление ясно, и именно поэтому термин так быстро перешёл из научных статей в повседневный язык продуктов.
Одноагентные и мультиагентные системы
Агентный ИИ бывает двух общих форм. Одноагентная система это один агент, прогоняющий цикл над одной задачей. Она проще и хорошо подходит для ограниченной работы: разобрать этот ящик писем, изучить этот вопрос, следить за этой метрикой.
Мультиагентная система это несколько агентов, работающих вместе, у каждого своя роль, и они координируются ради общей цели. Один может собирать информацию, пока другой её анализирует, а третий готовит результат. Агенты могут передавать работу друг другу и, в более продвинутых схемах, оспаривать выводы друг друга, прежде чем прийти к ответу. Мультиагентные системы более способны на сложной работе, потому что разделение труда и внутренний спор ловят ошибки, которые один агент упустил бы.
Ни одна из форм не лучше повсеместно. Одиночные агенты легче и дешевле для узких задач. Мультиагентные системы отрабатывают свои накладные расходы, когда работа действительно сложна или выигрывает от более чем одной точки зрения.
Где применяется агентный ИИ
Агентный ИИ применяют везде, где ценная часть работы это не порождение контента, а доведение работы до результата. Несколько распространённых областей показывают весь диапазон.
В разработке кодовые агенты берут описанную функцию, пишут код, запускают его, читают ошибки и исправляют их, итерируя к работающему софту. В исследованиях агенты собирают источники, перекрёстно проверяют их и синтезируют выводы, а не отвечают из одного запроса. В операциях агенты следят за системами и предпринимают корректирующие действия, когда что-то отклоняется. В поддержке бизнеса агенты обрабатывают запрос клиента от начала до конца, подтягивая данные аккаунта и выполняя нужное действие, а не просто предлагая ответ.
Общая нить это инициатива ради результата. Везде, где человеку сейчас приходится сшивать несколько инструментов и решений, чтобы завершить задачу, агентный ИИ это категория, нацеленная именно на этот разрыв.
Пределы и риски агентного ИИ
Честное определение включает оговорки, потому что агентный ИИ действительно сложнее сделать правильно, чем чат-бот. Автономность режет в обе стороны: система, которая может действовать сама, может и ошибаться сама, в масштабе и на скорости, которых человек не допустил бы.
Вот почему границы важны не меньше, чем способности. Хорошо спроектированная агентная система имеет чёткие пределы того, что ей позволено делать без одобрения человека: она свободно продолжает на обратимых, малорисковых действиях и останавливается, чтобы спросить, на значимых. Ей также нужен надзор: способ для человека увидеть, что она сделала и почему. Агентный ИИ без границы не более продвинут, он менее безопасен.
Другой честный предел в том, что агентный ИИ хорош ровно настолько, насколько хороши его цель, его инструменты и его суждение. Расплывчатая цель порождает блуждающее поведение. Отсутствующие инструменты порождают тупики. А нынешние системы всё ещё делают ошибки в рассуждении, и именно поэтому граница и надзор это не дополнительные излишества, а часть того, что вообще делает эту категорию пригодной к использованию.
Краткая история термина
«Агентный» это недавний ярлык для более старой идеи. Понятие программного агента, то есть чего-то, что воспринимает свою среду и действует в ней, существует в информатике десятилетиями. Изменилось то, что большие языковые модели стали достаточно способными, чтобы служить ядром рассуждений такого агента, и внезапно агенты смогли справляться с открытыми целями, выраженными на обычном языке, а не с узкими задачами, прописанными вручную.
Именно этот скачок в способностях сделал «агентный ИИ» отдельным термином примерно в середине 2020-х. Он отмечает сдвиг от ИИ, который отвечает, к ИИ, который действует, ставший практичным благодаря моделям, достаточно хорошим, чтобы планировать и решать, какой инструмент использовать. Идея не нова, нова способность заставить её работать на реальных, запутанных целях.
Понимание этой истории помогает пробиться сквозь хайп. Агентный ИИ это не единичное изобретение и не продукт, это шаблон проектирования: обернуть способную модель рассуждений в цели, инструменты, память и цикл. Любой инструмент, который делает это, агентен, любой инструмент, который пропускает цикл и просто вызывает модель, нет, как бы он себя ни рекламировал.
Где место Crew Studio
Crew Studio это прикладной пример агентного ИИ, сделанный для людей, которые ведут бизнес, а не для инженеров. Она прогоняет мультиагентные системы, команды специалистов, которые берут цель, планируют, используют подключённые инструменты, спорят и действуют, в пределах уровней автономности, заданных пользователем. Это один экземпляр категории, определённой на этой странице, нацеленный именно на операторов, которым нужно, чтобы работа была выполнена, а не чтобы строить агентов.
ЧИТАЙТЕ ДАЛЬШЕ
Читайте также
ВОПРОСЫ
Частые вопросы об агентном ИИ
Что такое агентный ИИ простыми словами?
Агентный ИИ это ИИ, который преследует цель, самостоятельно предпринимая действия, а не просто отвечает на запросы. Вы даёте ему задачу, а он выбирает шаги, использует инструменты для их выполнения, проверяет результат и адаптируется, пока цель не достигнута. Ключевое отличие от чат-бота в том, что он действует, а не только отвечает.
В чём разница между агентным ИИ и большой языковой моделью?
Большая языковая модель порождает текст в ответ на запрос и останавливается. Агентный ИИ использует языковую модель как движок рассуждений, но добавляет цели, инструменты и цикл, чтобы планировать, действовать и адаптироваться ради результата. Модель даёт интеллект, агентный слой даёт инициативу и способность действовать.
Агентный ИИ это то же самое, что автоматизация?
Нет. Автоматизация прогоняет фиксированную последовательность, заданную человеком, одинаково каждый раз, без суждения. Агентный ИИ сам выбирает шаги и адаптируется, когда меняются обстоятельства. Если задача никогда не варьируется, автоматизация проще и дешевле. Агентный ИИ для работы, которая требует решений, а не просто повторяемого сценария.
Каковы риски агентного ИИ?
Поскольку агентный ИИ может действовать сам, он может и ошибаться сам, на скорости. Главные предохранители это границы, ограничивающие то, что он может делать без одобрения человека, и надзор, способ видеть, что он сделал и почему. Хорошо спроектированная агентная система свободно действует на малорисковой работе и останавливается, чтобы спросить человека, на значимых решениях.
Может ли агентный ИИ работать как команда агентов?
Да. Мультиагентные системы используют несколько агентов с разными ролями, которые координируются ради общей цели, передавая работу и, в продвинутых схемах, оспаривая друг друга, прежде чем прийти к ответу. Это, как правило, превосходит одного агента на сложной работе. Crew Studio это пример, она прогоняет команды специализированных агентов для людей, которые ведут бизнес.