Зачем компании исполнители, если агентами можно управлять как людьми

По статистике, руководители извлекают пользу из ИИ намного чаще, чем рядовые сотрудники. И тому есть причины:

• Управление ИИ-агентами во многом похоже на управление сотрудниками, отделами, продуктами. Для этого полезны менеджерские навыки, которым невозможно научиться по учебнику, например, делегирование, декомпозиция целей, принятие решений в условиях неопределенности или конфликта интересов.
• Эффективные руководители не микроменеджат ИИ — например, просят агента самого обновлять свои инструкции.
• Менеджеры относительно легко могут построить прозрачный процесс, в котором агент сам предлагает решения, но согласовывает их с человеком. Например, см. продвинутый вариант такого процесса на индивидуальном уровне.

Отсюда можно было бы сделать вывод: если агентами можно управлять как людьми, то компании будущего нужна лишь "команда менеджеров" с хорошими ИИ-навыками, а люди-исполнители становятся лишним звеном 😱 Вывод соблазнительный. Но, по моим наблюдениям, такой "команды без исполнителей" достаточно далеко не всегда:

1. Для MVP, исследования или иного краткосрочного проекта ИИ-агенты действительно убирают потребность в людях-исполнителях.
2. Если же это продакшен-система или другая работа с повышенными требованиями к качеству на длинной дистанции, «прирождённые менеджеры» могут вывезти её лишь при условии: у них должен быть немалый опыт подобной работы своими руками, без ИИ.

Когда я говорю "прирождённые менеджеры", я имею в виду людей с определенными качествами (врожденными и приобретенными), а не только тех, кто работает на руководящей должности. У исполнителей с такими качествами в эпоху ИИ будет меняться содержание работы, и это не вызывает ни сомнений, ни негативных эмоций (да, ИИ — это их шанс на повышение дохода).

Сомнения и беспокойство вызывает судьба того большинства исполнителей, кто такими качествами не обладает или кому активно не нравится управлять кем-либо или чем-либо.

Я насчитал 6 причин, по которым хорошие профессионалы в своей узкой области все же будут востребованы (шестая — самая главная). Но в конце статьи также приведу несколько факторов, из-за которых им зачастую придется существенно менять суть выполняемой работы.

1. Дьявол в деталях: контекст

Человек, который делал эту работу руками, ставит задачу агенту иначе, чем менеджер, знакомый с ней лишь по отчётам и разговорам. Он знает ограничения, исключения и подводные камни, о которых руководитель обычно не в курсе. А такие детали часто меняют смысл задачи: без них агент уверенно и качественно сделает не то.

Аналитик, который сам собирал квартальный отчёт, знает, что выручка из CRM и из биллинга может расходиться из-за разных часовых поясов, и сразу скажет агенту, какую систему считать источником правды. Менеджер попросит «собрать отчёт как обычно» и получит красивую таблицу с расхождением, которое всплывёт в самый неподходящий момент.

С клиентской работой примерно то же самое, только помноженное на вариабельность потребностей разных клиентов.

• Продавец знает или чувствует, что данный клиент, когда просит скидку, на самом деле боится не уложиться в бюджет квартала. И он может обучить ИИ разным вариантам, включая рассрочку клиенту вместо скидки; для такого обучения в нашей методике Oper8 ему помогает конвейер фиксации решений.
• Руководитель же склонен упрощать все до нескольких типов клиентов... так что под его руководством агенты, общающиеся с клиентами, сами не начнут думать про подобные варианты.

И речь здесь совсем не про те приемы указания контекста, которым учили на курсах по промпт-инжинирингу 😊.

2. Обнаружение дефектов

Вторая половина того же преимущества специалистов-исполнителей — еще важнее. Опытный исполнитель замечает недостатки результата ИИ с одного взгляда — например, выделяя признаки возможного дефекта при сканировании многословного отчета ИИ. Менеджер без такого опыта видит правдоподобный текст или "работающее" приложение, глубже не смотрит и пропускает ошибку, потому что ему не с чем сравнивать. Убедительный вид результата агента становится ловушкой для проверяющего.

Ярко это проявляется в случае разработки серьезного ПО. Любой может навайбкодить приложение и проверить его работоспособность глазами. Но это либо приложение "для себя и друзей", либо сайт, недостатки которого видно сразу. А для серьезной системы нужны многие невизуальные проверки — безопасность, нагрузочные тесты, матрицы сценариев для сложной логики и т.п.

Так что инженер — даже если он не смотрит код — заставит агента сделать все проверки, подходящие к данной фиче или ситуации. А менеджер может даже не знать подходящих для этого слов, не говоря уже о тонкостях разных типов фич. Плюс иногда и "посмотреть код" может быть самым быстрым и правильным способом проверки.

Разработчики здесь тоже показательный пример: они умеют организовывать циклы зачастую лучше менеджеров, особенно тех, кто не проходил через Scrum. Зацикленное ревью кода одного агента другим (с повторным ревью исправлений), зацикленная работа с тестами (написание, прогон, мутационные проверки, исправления)... Такая агентная обвязка (harness) от инженера ловит большинство ошибок ИИ до того, как результат вообще дойдёт до человека.

Для нетехнических же задач, по моему опыту, вместо сложных обвязок достаточно двух вещей:

1. Перед выполнением задачи получать от агента список критериев приемки, корректировать их, а в конце агент будет проверять результат на соответствие этим критериям. Андрей Карпати указывает критерии успеха в числе самых важных практик работы с ИИ.
2. Создать для агента чек-лист критериев готовности, которые подходят для большинства задач данного типа (Definition of Done).

Оба указания стоит прописать в AGENTS.md (если вы не знаете, что это такое, то в системном промпте проекта). Тогда агент будет не только сверяться с этими общими критериями готовности в конце выполнения задачи, но и в начале будет предлагать более адекватные критерии приемки.

Правда, если всю практику проверок по критериям специалисты будут отдавать агентам, возникает вопрос: на чём следующие специалисты научатся замечать ошибки? Но это сложная тема для отдельной статьи.

3. Актуальность информации и приоритизация

Когда ИИ-модель проверяет себя рассуждением (reasoning), она опирается на доступные ей данные. Она может заметить противоречие, но если устаревшая информация выглядит согласованной, рассуждение легко приведёт к убедительному неверному выводу. Обширная база знаний маскирует низкое качество этих знаний, в частности — позволяет модели уверенно делать выводы, даже если где-то в базе есть противоречащая им информация.

К тому же полной и актуальной базы знаний компании не бывает, особенно когда в эту базу начинаем включать текущие проекты. Регламенты отстают от реорганизаций, зафиксированные приоритеты отстают от текущей недели, а «цель квартала» может быть заморожена, но этот факт еще не оцифрован. А вот сотрудник читает те же документы с пониманием: «это писали до смены поставщика», «этот регламент никто не соблюдает с весны».

• Человек, привыкший делать работу сам, с переходом на агентов будет замечать в отчетах агента признаки таких проблем.
• Менеджер, не делавший это руками, — не будет замечать.

Этот же личный опыт помогает расставлять приоритеты: понимать, что из вороха информации важно сейчас, а что можно отбросить. Например, "мелочь" нужно делать срочно, если из-за нее придётся переносить релиз версии продукта, а "более важная" фича может подождать. Человек проходил это неоднократно.

Агента тоже можно научить таким "правилам здравого смысла", но очень сложно: если забить его память кучей таких тонких правил, это приведет лишь к неверной интерпретации правил и еще большим проблемам. Я многократно это наблюдал в своем проекте по замене легаси-системы компании.

Сейчас посмотрим, что нужно еще.

4. Чутьё, критическое мышление и человечность

Опыт работы даёт ещё и чутьё: человек чувствует, что с решением что-то не так, раньше, чем может объяснить почему. Он узнаёт знакомую проблему и чувствует, куда нужно смотреть, без полного перебора вариантов. Как и многие другие, Дэниел Пинк называет такое качество "вкусом" — taste. Когда создавать результат с ИИ всё проще, становится всё важнее уметь быстро решать, хорош или плох результат.

У руководителя, не проходившего путь специалиста в конкретной области, не сформировано чутьё на соответствующие задачи, так что его критическому мышлению обычно не за что зацепиться. Он умеет организовать циклы обратной связи, но если не чувствует, что именно в результатах требует проверки, эти циклы могут увести не туда. Агент будет старательно улучшать решение по критериям, которые не затрагивают главную проблему.

В работе с клиентами к профессиональному чутью добавляется ещё ценность самого человеческого контакта. Исследование Communications Psychology подтверждает очевидное: люди предпочитают получать сообщения от людей — несмотря на то, что ответы ИИ они оценивают выше по качеству. В продажах, клиентской поддержке и подобных сферах для сохранения доверия клиентов нужен сотрудник, а не его аватар. Даже если ИИ пишет черновики всех сообщений, отправляемых сотрудником.

5. Инновации снизу

Живые сотрудники очень разные, тогда как ИИ-агенты слишком предсказуемы, даже если использовать одновременно несколько разных моделей и назначать агентам разные персоны. Люди по-разному замечают проблемы, по-разному выбирают, какие из них стоит решать, и как именно решать.

Кроме того, многие люди изобретательны и многие умеют действовать в своих интересах: сэкономить время, получить прибавку, выиграть внутреннее соревнование или просто самоутвердиться. Внутренние стимулы + изобретательность + разнообразный опыт сотрудников = много удачных решений, которые не возникнут в связке "один менеджер с большим числом ИИ-агентов".

Для компании это важнейший источник инноваций снизу, а без инноваций невозможно выживание бизнеса в текущих быстро меняющихся условиях. Польза для компании здесь зависит и от того, выгодно ли сотруднику делиться своими находками, об этом см. в заключении.

6. Распределение ответственности

Это главное, особенно для самих руководителей. Человеку можно делегировать ответственность, а агенту нет. Поэтому собрать эффективную команду из одних менеджеров не получится: ресурс ответственности одного человека жёстко ограничен, а много менеджеров, да ещё сильных в ИИ, компании не по карману.

Если специфика бизнеса требует не только ответственности перед руководством или коллегами (responsibility), но и материальной/юридической ответственности перед клиентами или регулятором (liability), её придётся распределять между исполнителями еще сильнее. Исполнитель отдаёт агенту выполнение задач, но отвечает за результаты агента как за свои: за корректность платежей, за то, что голосовой аватар говорит клиенту в трубке, и т.п. Для этого у него должны быть полномочия остановить действие агента и обратная связь о последствиях.

Один менеджер за всё это отвечать не сможет физически.

Правда, соотношение числа исполнителей к числу менеджеров может немного уменьшиться. Как я и говорил в начале, рядовые сотрудники, если у них есть "менеджерские" качества и ИИ-навыки, могут становиться менеджерами нового типа. Т.е. полностью отвечать за легко ИИ-зируемые функции компании, но без живых сотрудников в подчинении.

Заключение

Итак, ИИ-агентов и управляющих ими менеджеров недостаточно, чтобы компания выживала. Как минимум, нужно значительное число разных сотрудников:

• чтобы каждому делегировался посильный кусок ответственности,
• чтобы компания могла адаптироваться и улучшаться, отбирая лучшие инновационные идеи и способы решения от сотрудников,
• чтобы клиенты доверяли компании как людям, с которыми они общаются (если общаются с агентами — доверия не будет, клиенты будут уходить, сколь бы инновационными и качественными ни были услуги компании).

Кроме того, ИИ под управлением неспециалиста пока не может учесть многое из того, что дает связка того же ИИ с опытным специалистом-исполнителем: понимание текущей ситуации вместо буквального следования накопленным знаниям, неформализуемые исключения и подводные камни, критерии качества, а также необходимое для всего этого чутьё и настоящее критическое мышление.

Однако потребность в исполнителях ещё не гарантирует потребности в прежней работе на прежних условиях. Рабочие места остаются, но их требования к людям противоречат тому, к чему люди привыкли:

1. Большинство исполнителей не хотят и не могут ставить задачи агентам и сканировать ИИшные тексты на предмет ошибок.
2. Они не любят рост ответственности и не считают своим делом оптимизацию своей работы, не говоря уже про более серьезные инновации.
3. Они любят лишь "делать свою работу сами", и делиться этой своей экспертизой обычно не намерены.

Да, противоречия 1-2 со временем ослабнут (люди привыкнут к изменению обязанностей так же, как в 1990-х годах привыкли пользоваться компьютером — потому что так потребовали работодатели). Но вот противоречие 3, кажется, лишь нарастает:

Сейчас явный тренд на то, что агенты отбирают у людей глубокую экспертизу в конкретных предметных областях независимо от их желания:

• либо на уровне компании (как компании делать это по-умному — описано в методике Oper8);
• либо даже на уровне ИИ-провайдеров (пример: решение OpenAI с готовой экспертизой для юридических фирм; а ведь еще год назад казалось, что такое невозможно).

На мой взгляд, ключевая проблема компаний в ближайшие годы — назревающий конфликт вокруг оцифровки опыта. Компания превращает приёмы талантливого сотрудника в базы знаний и скиллы агентов. И он видит: то, на чём держались его ценность и профессиональная идентичность, становится доступно всем. Если единственный понятный ему результат этой передачи — снижение собственной ценности для работодателя, у него нет причин помогать.

Тогда компания получает недоверие и саботаж от людей, на чьи суждения, инициативу и ответственность она рассчитывает.

Нужно договариваться, что из наработанного вместе с агентом принадлежит сотруднику, а что компании, и что получает человек от передачи своего опыта. Как сохранить заинтересованность опытного исполнителя, а также как выращивать новых специалистов, которым можно доверять агентов, — об этом планирую писать дальше.

Другой взгляд на эти темы — в более краткой 😊 статье Олеси Якубовой ИИ для руководителей: как освободить ресурсы команды и обойтись без сокращений