Платформа Substack запустила инструменты прозрачности для выявления контента, созданного искусственным интеллектом, в рамках борьбы с феноменом «Claudefishing» — массовой генерацией текстов, имитирующих человеческое участие.
Что произошло
В партнерстве с сервисом Pangram Substack внедрил систему сканирования заметок, ответов и постов длиной более 100 слов для оценки доли ИИ-текста. Функционал является опциональным (opt-in): авторы могут добавлять пояснения к процессу создания контента через раздел «How I make this» и оспаривать ошибочные результаты детекции.
Контекст
Проблема «Claudefishing» представляет собой прямую атаку на экономику доверия платформ, когда полностью сгенерированный ИИ контент выдается за авторский. Внедрение подобных инструментов — это попытка создать слой верификации авторства и защитить доход создателей от ИИ-шума.
Почему это важно для индустрии
Этот шаг задает тренд для контентных платформ по внедрению механизмов верификации и разделению «чистого» человеческого контента от гибридного ИИ-помощничества. Использование Pangram вместо собственной разработки указывает на растущий спрос на специализированные API для детекции ИИ-контента.
Почему это важно для пользователей
Читатели получают возможность видеть метки ИИ-генерации, что помогает эффективнее фильтровать качественную аналитику от массового машинного спама и лучше понимать природу потребляемого контента.
Что пока неизвестно / ограничения
Существует фундаментальное противоречие: в то время как разработчики видят в этом создание новых UX-паттернов «Proof of Human», эксперты в области ML подчеркивают техническую невозможность гарантированной детекции в условиях постоянной эволюции LLM.
Источники
Автор
Look at AI, редакция