теория
Где именно ставить человека? Прикинь две оси: цена ошибки и обратимость. Прочитать статус заказа — дёшево и ничего не меняет: агент делает сам. Записать комментарий в тикет — меняет, но обратимо и копеечно: сам, с логом. Вернуть деньги, отменить заказ, пообещать компенсацию — необратимо или дорого: только с подтверждением человека. А что-то — например, менять цены — агент не делает никогда, ни с каким подтверждением. Запомни эту матрицу: в конце акта она станет главным инструментом разговора куда более серьёзного, чем возвраты.
Механика проста: инструмент помечается как требующий подтверждения. Агент готовит вызов — оркестратор вместо исполнения откладывает его и показывает человеку: вот действие, вот аргументы, вот собранный контекст. Человек подтверждает или правит. Важно, что агент при этом делает почти всю работу — HITL съедает секунды, а не возвращает задачу в очередь на сутки.
Отдельная история — встроенные инструменты, которые предлагают сами платформы: исполнение кода, поиск в вебе, чтение файлов. Это чужие руки, и они сильные. Исполнитель кода превращает агента в программиста с песочницей — мощно, но песочница должна быть настоящей. Поиск в вебе даёт агенту свежие знания — и одновременно заливает в его контекст текст, написанный неизвестно кем. Запомни это ощущение лёгкой тревоги: к нему мы вернёмся, когда будем говорить о безопасности.
Правило то же, что с данными: инструменты добавляют по потребности задачи, а не по прайс-листу платформы. Каждый инструмент — это и поверхность риска, и статья расходов, и лишний пункт в меню, где модель может ошибиться с выбором.