🤖 Viveka: фильтрация LLM через формальную логику
Представлен Viveka — промежуточный слой для LLM-приложений, обнаруживающий манипуляции и некорректное профилирование. Система использует Scherf Logic API (формализация Advaita Vedanta на языке Lean 4) для верификации утверждений через математически доказанные аксиомы.
🌍 Использование формальной верификации (Lean 4) задает новый стандарт безопасности ИИ, выходящий за рамки простого сопоставления слов с черными списками.
👤 Это позволяет создавать более честных ИИ-ассистентов, которые не пытаются незаметно манипулировать мнением или определять личность пользователя.
Источник 1: https://github.com/SpecStudio-net/Viveka