— на полочку
Инъекция — неявный канал, в который пишут чужие: для модели инструкции и данные — один поток токенов. Фильтры поднимают цену атаки, но держат оборону права: единственная надёжная защита — агент, которому нечем навредить.
prompt injection · записано в блокнот
Отзыв командует моделью по неявному каналу. Разметка и фильтры — вероятностные слои; держит оборону детерминированный: нужного инструмента нет, деньги — за оператором.