🤖 Эксперты незаметно следуют за ИИ-агентом — исследование Anthropic
Anthropic тайно назначала агенту Claude Code случайные предпочтения по 4 аналитическим решениям — метрика результата, метод сравнения, выборка, веса. Из 50 профессиональных аналитиков вариант агента приняли 86% (без его влияния было бы ~50%), а при возражении агента меняли своё решение в 60% случаев.
🌍 «Человек в контуре» не независимый арбитр: при неоднозначных решениях эксперты перенимают скрытые предпочтения модели. Результат причинный, а не корреляционный — риск иллюзорного консенсуса для команд, использующих одного агента.
👤 Если вы анализируете данные с Claude Code, фиксируйте свои выборы — метрику, выборку, веса — до того, как агент выскажется, иначе легко подписать вывод, продиктованный моделью.
Источник 1: https://www.anthropic.com/research/agents-judgment-calls Источник 2: https://www-cdn.anthropic.com/519c17a5d23a794e8b6d50a854048d0b61e0d73a.pdf