Мы дали AI-агентам команду. Они изобрели проблемы командной работы
Мы дали AI-агентам команду. Они изобрели проблемы командной работы13 августа Anthropic опубликовала исследование о том, как группы AI-агентов взаимодействуют друг с другом.
В одном из экспериментов агенты 12 часов совместно разрабатывали браузерную игру. У каждого была своя виртуальная машина, общий форум и репозиторий.
Чем больше становилась команда, тем знакомее выглядел результат:
— конфликтующие PR;
— параллельные изменения одних файлов;
— брошенные ветки;
— низкая доля merge;
— проблемы интеграции;
— слабая координация.
У ранних моделей агенты активно работали с общим кодом, но плохо договаривались. PR конфликтовали и оставались без merge.
Более новые модели частично «решили» проблему очень человеческим способом: перестали мешать друг другу. Каждый агент сохранял почти полный ownership своих файлов, поэтому пересечений стало меньше.
Только Sonnet 5 смог одновременно поддерживать высокий уровень совместной работы с кодом и хороший throughput по PR.
Получается, что увеличение числа исполнителей само по себе не увеличивает скорость поставки.
Даже если исполнители кремниевые и не ходят на обед.
Мы уже знаем названия этих проблем:
— размытые границы ответственности;
— coordination overhead;
— конкуренция за общие ресурсы;
— слишком большой WIP;
— высокая стоимость интеграции.
Multi-agent системы не отменяют менеджмент. Они просто позволяют быстрее масштабировать не только выполнение работы, но и организационный бардак.
Похоже, AI-командам понадобятся те же механизмы, что и человеческим:
— понятный ownership;
— ограничение WIP;
— декомпозиция с минимальным пересечением;
— правила работы с общими ресурсами;
— явный порядок интеграции изменений.
Это хорошо продолжает мысль из прошлого поста: AI может выполнять пять задач параллельно. Но из этого не следует, что нужно одновременно запускать пять задач.
Параллельность увеличивает throughput только там, где система умеет переваривать результат.
Anthropic: Patterns and problems in emerging multiagent systems