модуль 5 из 7 · Акт V · ~35 мин · 7 решений
сцена
Понедельник. На проекторе — пятничный диалог: оптовик спрашивает про тендер на морковь, ассистент предлагает оформить возврат клубники.
Двадцать два инструмента. Семь доменов: заказы, каталог, доставка, возвраты, тендеры, подписки, B2B. Один агент. Кто-нибудь удивлён?
Я добавлю. Описания всех двадцати двух инструментов едут в каждый вызов модели — это его меню. Мы платим за чтение этого меню на каждом шаге цикла. Треть нашего счёта — агент перечитывает список своих возможностей (и кэш префикса из двадцать шестого модуля тут не спасает: кэш живёт минуты, а меню едет в каждый вызов длинного цикла).
Я знаю, что делать. Мультиагентность! Специализированные агенты, оркестрация. Про это весь второй том документации…
(откидываясь) Поздравляю. Вы только что изобрели микросервисы. Во второй раз. Сейчас вы нарежете его на пять ботов, они начнут переспрашивать друг друга, терять контекст на передачах — и мы получим распределённый монолит из чат-ботов. Я это кино смотрел. Дважды. И знаю, чем оно кончается.
Гена прав ровно наполовину — и это лучшая половина. Резать, скорее всего, придётся. Вопрос не «резать ли», вопрос — по каким швам. И у нас, вообще-то, есть формула на этот случай.