Администрация Трампа через National Design Studio (NDS) запустила масштабный проект по редизайну 27 000 государственных сайтов .gov с использованием ИИ-агентов. Однако попытка автоматизировать проектирование критической инфраструктуры обернулась техническим и юридическим кризисом.
Что произошло
Инициатива America by Design столкнулась с волной критики из-за крайне низкого качества результатов работы ИИ-агентов. Выявлены серьезные ошибки в генерации визуального контента, нарушение стандартов доступности (ADA) и критическая избыточность кода, вес страниц которой достигает 3 МБ. Кроме того, на сайтах NDS были обнаружены коммерческие трекеры, что создает потенциальные нарушения Privacy Act of 1974.
Контекст
Проект реализуется в рамках стратегии по быстрому обновлению цифрового облика государственных ресурсов США. Вместо традиционного проектирования, National Design Studio делает ставку на агентские workflow, стремясь максимально масштабировать процесс редизайна за счет автоматизации.
Почему это важно для индустрии
Этот кейс служит предостережением для разработчиков ИИ-решений о рисках модели 'AI-first without QA'. Он демонстрирует, что бесконтрольное внедрение генеративного ИИ в критическую инфраструктуру без жестких протоколов верификации (evals) и контроля качества приводит к росту технического долга, репутационным потерям и необходимости внедрения новых стандартов AI-Audit.
Почему это важно для пользователей
Для граждан использование таких ресурсов становится затруднительным из-за деградации пользовательского опыта (UX/UI) и проблем с производительностью сайтов. Людям с ограниченными возможностями доступ к госуслугам может быть ограничен из-за несоблюдения стандартов ADA, а использование трекеров ставит под угрозу конфиденциальность их данных.
Источники
Автор
Look at AI, редакция