Bus Factor AI-агента: кто понимает процесс, кроме него

Bus Factor AI-агента: кто понимает процесс, кроме него

Всю неделю мы говорили о долге понимания в коде. Но с AI он появляется не только там.

Представим, команда автоматизировала процесс через агента.

Агент знает нужные промпты, использует MCP, ходит во внутренние системы, выполняет инструкции и закрывает заметную часть работы.

Формально Bus Factor вырос: процесс больше не зависит от одного Васи.

Фактически Вася просто стал цифровым.

Раньше говорили:

«Это знает только Вася».

Теперь:

«Это делает агент. Лучше его не трогать».

Получился тот же knowledge silo, только теперь он спрятан между системным промптом, конфигурацией MCP и особенностями конкретной модели.

Я бы проверял такую автоматизацию несколькими вопросами:

— Где хранятся инструкции агента?

— Версионируются ли промпты и конфигурация?

— Понятно ли, какие инструменты он вызывает и с какими правами?

— Можно ли восстановить логику процесса по шагам?

— Кто владеет агентом и отвечает за изменения?

— Что сломается при смене модели?

— Сможет ли человек проверить результат и разобраться, почему агент принял такое решение?

Необязательно уметь вручную повторить каждое действие агента за то же время. Но команда должна понимать входы, решения, ограничения и точки контроля.

Иначе агент ускоряет процесс, одновременно увеличивая долг понимания. Всё работает быстро, пока не меняется модель, API, сотрудник или исключение в бизнес-правиле. После этого начинается археология, только раскапывать приходится не код, а цепочку промптов и вызовов инструментов.

Автоматизация должна убирать ручную работу, а не превращать знание процесса в чёрный ящик.

Если завтра ваш основной AI-агент перестанет запускаться, команда восстановит процесс по документации или начнёт изучать его поведение по логам?