🤖 ИИ-агентам нельзя «шептать» инструкции
Инженеры Stripe провели эксперименты по управлению (steering) ИИ-агентами на базе LLM. Выяснилось, что тонкие или неявные инструкции («шепот») игнорируются агентами в сложных сценариях, особенно при конфликтах с контекстом или инструментами.
🌍 Это требует перехода от вероятностного управления через текст к детерминированным методам (например, использование JSON-схем) для построения надежных систем.
👤 Разработчикам стоит строить архитектуру через жесткие рамки, чтобы агенты не «сбивались с курса» в длинных диалогах.
Источник 1: https://stripe.dev/blog/ai-steering-experiments