модуль 3 из 7 · Акт V · ~30 мин · 6 решений
сцена
Понедельник. На проекторе — диалог, от которого у Леры дёргается глаз: покупательница называет номер заказа, а через две реплики ассистент вежливо спрашивает его снова.
Так, это ожидаемо. Модель ничего не помнит. Вообще ничего: каждый вызов для неё — первый в жизни. То, что выглядит как «разговор», собираем мы: берём историю реплик, приклеиваем к промпту и отправляем целиком. В пилоте я передавала только последнюю реплику — экономила токены, зная, что к памяти мы ещё вернёмся.
Подожди. То есть ваша хвалёная нейросеть — это ещё один stateless-сервис?
…да, если угодно.
Так это же прекрасно! Stateless-сервисы я люблю. У них есть только один вопрос, зато главный: где state? Кто хранит, кто хозяин, когда стирается? Я этот вопрос задаю с две тысячи двенадцатого года.
(записывая) И заметь — это тот же вопрос, что мы задавали, когда выделяли платежи. Память ассистента — это данные. А у данных в этой компании принято иметь хозяина.