Google DeepMind и правительственное агентство GovTech Singapore представили модель, которая распознаёт мошенническую переписку прямо на устройстве пользователя и предупреждает, что не стоит спешить с переводом денег или передачей личных данных. В основе системы — дообученная открытая модель Gemma, показанная 14 октября 2026 года на Singapore International Cyber Week. Все вычисления выполняются локально, поэтому сообщения не отправляются в облако: ни Google, ни правительство Сингапура не могут прочитать их через это развёртывание.

image
image
image

Что произошло

14 октября 2026 года на Singapore International Cyber Week компании Google DeepMind и GovTech Singapore показали систему обнаружения мошеннических диалогов, целиком работающую на устройстве пользователя. Открытая модель Gemma здесь дообучена на анонимизированных местных отчётах о мошенничестве: имперсонации госорганов и банков, региональных схемах. Дообучение проходило внутри «Sovereign Sandbox» — управляемого GovTech окружения GCP, а анонс вышел в блоге DeepMind совместно с MDDI. Архитектура двухступенчатая: лёгкий классификатор с минимальным энергопотреблением просеивает весь входящий поток сообщений, и только когда он помечает переписку как подозрительную, подключается Gemma, которая разбирает более длинный фрагмент диалога и подтверждает или снимает тревогу.

Контекст

Масштаб проблемы в Сингапуре оправдывает выбор домена: по данным DeepMind, мошенничество составляет более половины зарегистрированных в стране преступлений, потери с 2019 года превысили 4 млрд сингапурских долларов, и до 80% ущерба приходится на схемы с длительным втиранием в доверие. Такие длинные манипулятивные диалоги плохо распознаются классическими фильтрами по ключевым словам, для них нужен анализ развёрнутого контекста переписки. Проект собрал в одном продуктовом цикле три элемента: открытые веса модели, национальные данные в анонимизированном виде и суверенное облачное окружение для дообучения, контролируемое государственным агентством. Это сочетание делает возможным развёртывание, совместимое с end-to-end шифрованием, поскольку инференс выполняется на устройстве.

Почему это важно для индустрии

Для индустрии это первый публичный пример, когда национальное правительство дообучает открытую LLM в собственном облачном «суверенном» окружении и разворачивает её на устройствах граждан — рабочий шаблон государственного edge-AI. Каскад «лёгкий классификатор плюс тяжёлая модель по триггеру» решает главную проблему постоянного on-device инференса, а именно расход батареи: основной поток сообщений снимает классификатор, и Gemma просыпается только при подозрении. Тот же каркас переносится на антифрод в чатах, триаж почты и другие локальные задачи, а схема дообучения открытой модели на национальных данных воспроизводима другими странами и разработчиками мессенджеров. Использовать систему «как есть» нельзя: API и SDK не представлены, доступен пока задокументированный референс-пример архитектуры. При этом DeepMind уже заявила, что рассматривает похожие проекты в других странах, — сигнал, куда смещается рынок открытых моделей: в сторону локального инференса и государственных шаблонов дообучения.

Почему это важно для пользователей

Прямого эффекта для читателей сейчас нет: конкретные приложения и сроки внедрения не названы, а запуск будет поэтапным и вместе с властями Сингапура. Если функция появится в мессенджерах, предупреждение о манипулятивной переписке будет возникать локально, без отправки сообщений в облако, и ни Google, ни правительство не смогут прочитать переписку через это развёртывание. Как будет оформлен показ предупреждений и согласие на анализ диалогов — пока неизвестно. Стоит следить за тем, в каких приложениях появится такая защита, и как она будет работать в связке с шифрованием переписки.

Что пока неизвестно / ограничения

Публичных метрик у системы нет: точность, уровень ложных срабатываний и энергопотребление не раскрыты, поэтому уверенность в её результативности методологически не обоснована — подтверждён архитектурный и продуктовый замысел, а не доказанные возможности модели. Проверяемость локальности инференса зависит от реализации конкретных приложений, и источники не описывают, как пользователь сможет убедиться, что переписка действительно не покидает устройство.

Источники

Автор

Look at AI, редакция