теория
Разложим то, что Иван набросал на доске, — это последняя карта курса, и она короткая.
Три уровня автономии. Сам — читает данные, отвечает на вопросы, готовит черновики: дёшево, обратимо, ошибка стоит неловкости. С подтверждением — деньги, отмены, изменения заказов: агент готовит, человек ставит подпись. Никогда — обещания и обязательства от имени компании, изменение условий, всё, что создаёт у человека права и ожидания. Заметь: начинался у нас как инженерный приём против доброго агента с кассой — а дорос до этического инструмента. Это одна и та же кнопка.
Матрица та же, из двадцать пятого модуля: . Новое — понимание, что слова тоже действия: обещание необратимо с момента, когда его прочитали. Поэтому «просто разговора» не бывает — бывают высказывания с разной ценой.
Три критерия из первого эпилога переживают смену технологии без единой правки. : правило по-прежнему можно прочитать — и вдобавок человек всегда знает, что говорит с машиной. : с любого места диалога можно дойти до живого человека, и это право не спрятано за семью «а вы уверены?». Отсутствие вреда уязвимым: агент не использует слабость собеседника — спешку, незнание, отчаяние — как рычаг.
Подотчётность. «Модель так решила» — то же размывание ответственности, что «алгоритм посчитал» год назад, только теперь у алгоритма приятный голос. Против размывания у нас уже всё построено: трейс каждого шага и журнал событий отвечают на «кто сказал и почему» с точностью до токена. — это подотчётность, ставшая инфраструктурой.
Но заметь, чего аудит не делает: он находит автора записи, а не автора решения. Решение «агент может обещать» или «агент не может обещать» принял не агент — его принял тот, кто проектировал границы. Или не принял, и тогда оно принялось само, наихудшим образом. — всегда чьё-то решение; вопрос лишь в том, было ли оно осознанным и стоит ли под ним подпись.