Масштабный аудит, проведенный компанией Vaudit, обнаружил избыточные начисления на сумму около $1,7 млн для клиентов Anthropic и OpenAI. Проблема возникла в результате некорректной работы ИИ-агентов Claude Code, которые попадали в бесконечные циклы выполнения задач, непрерывно расходуя токены и увеличивая счета пользователей.
Что произошло
Аудит выявил, что компании, такие как Panasonic, HP и Honda, столкнулись с необоснованными списаниями средств. Причиной стали бесконечные циклы повторных попыток (retry loops) выполнения ошибочных задач в инструменте Anthropic Claude Code. По имеющейся информации, провайдеры уже вернули около 80% оспоренных сумм.
Контекст
Проблема обусловлена спецификой работы автономных ИИ-агентов и несовершенством текущей модели оплаты pay-per-token. В отличие от традиционного программного обеспечения, агентские системы могут совершать многократные итеративные попытки решения задачи без внешнего контроля качества, что превращает логические ошибки в прямые финансовые потери из-за отсутствия механизмов автоматической остановки (circuit breakers).
Почему это важно для индустрии
Инцидент подчеркивает критическую необходимость разработки новых стандартов биллинга и инструментов мониторинга агентской активности. Отрасль стоит перед вызовом создания механизмов AI Cost Governance и внедрения функций stop-loss на уровне API, чтобы перейти от простой оплаты за токены к моделям, оценивающим реальную результативность выполненных задач.
Почему это важно для пользователей
Пользователям и корпоративным клиентам рекомендуется немедленно внедрять жесткие лимиты (hard limits) на количество попыток и общий объем токенов в рамках одной сессии агента. При использовании инструментов вроде Claude Code критически важно настраивать мониторинг расходов в реальном времени, чтобы избежать неконтролируемого списания бюджета из-за зацикливания системы.
Что пока неизвестно / ограничения
Существуют различия в оценках экспертов: в то время как технические специалисты акцентируют внимание на отсутствии circuit breakers, бизнес-аналитики рассматривают этот инцидент как рыночную возможность для создания нового сегмента ПО для управления расходами на ИИ.
Источники
Автор
Look at AI, редакция