🛠 Millfolio: гибридный ИИ для защиты персональных данных
Разработчик представил millfolio — проект для работы с персональными данными с использованием гибридного подхода к ИИ. Вместо передачи файлов в облачную модель, система отправляет на устройство «программу» (код), написанную фронтир-моделью (например, Claude) на основе обезличенной схемы данных (метаданных). Сам код исполняется в локальной песочнице на устройстве, где локальная модель индексирует и обрабатывает реальные значения. Стек проекта построен на языке Mojo.
🌍 Демонстрирует эффективную архитектуру local-first AI, где конфиденциальность защищается путем разделения планирования (в облаке по схеме) и исполнения (локально на данных). Использование Mojo для высокопроизводительного инференса на потребительском железе показывает потенциал нового языка для AI-инфраструктуры.
👤 Это новый способ использовать мощные модели вроде Claude для анализа личных заметок или финансовых данных, не загружая сами документы в интернет. Конфиденциальность повышается, так как в облако уходят только названия столбцов и типы данных, а не сами значения.
Источник 1: https://millfolio.app/blog/send-the-program-to-your-data/