Google DeepMind запускает локальный ИИ для борьбы со схемами мошенничества при сохранении конфиденциальности

Сотрудничество Google DeepMind и Агентства государственных технологий Сингапура (GovTech) знаменует собой значительный прогресс в области цифровой безопасности, представив сложную модель ИИ, работающую непосредственно на устройстве. Она разработана для защиты граждан от всё более сложных мошеннических схем, при этом строго сохраняя личную конфиденциальность. Эта инициатива напрямую решает критическую и растущую угрозу в Сингапуре, где финансовое мошенничество и схемы составляют непропорционально большую долю зарегистрированных преступлений, приходясь на более половины всех заявленных правонарушений. Экономический ущерб от этих схем ошеломляет: с 2019 года потери превысили 4 млрд сингапурских долларов (S$4 billion). Особо коварной делает эту угрозу эволюция мошеннических тактик; они вышли далеко за рамки простых, легко обнаруживаемых фишинговых попыток. Вместо этого современные схемы используют продвинутые методы социальной инженерии, при которых злоумышленники тщательно манипулируют жертвами посредством убедительного, разговорного взаимодействия, прежде чем успешно выманить средства или конфиденциальные учетные данные. Этот сдвиг в методологии преступности означает, что мошенничество теперь составляет до 80% всех заявленных финансовых потерь, что требует высокоадаптивной и нюансированной системы обнаружения.

Для борьбы с этим растущим кризисом Google DeepMind и GovTech использовали своё Национальное партнёрство по ИИ с правительством Сингапура. Полученное решение — это специализированная модель обнаружения мошенничества, оптимизированная для эффективной работы на типичных смартфонах, используемых гражданами Сингапура. Основная техническая проблема, которую решает модель, заключается в внутреннем конфликте между надёжным обнаружением угроз и конфиденциальностью пользователя. Традиционно большинство передовых систем обнаружения угроз полагаются на сканирование на стороне сервера, что означает, что личные сообщения должны быть загружены на облачный сервер для проверки. Однако широкое распространение сквозного шифрования (E2EE) на основных мессенджерах делает этот традиционный метод невозможным, поскольку поставщик услуг не может проверить личный контент разговоров, не нарушив шифрование. Это создало критический пробел в безопасности: людям нужна была защита от мошенничества без ущерба для фундаментального права на частную переписку.

Прорыв, обеспечиваемый этой новой моделью, заключается в переносе всего процесса анализа угроз непосредственно на устройство пользователя. Обрабатывая данные разговора локально, система может анализировать манипулятивные разговорные паттерны в режиме реального времени, позволяя пользователям получать немедленные предупреждения и проявлять осторожность до того, как произойдёт любая финансовая или учетная утечка. Эта возможность локальной обработки имеет первостепенное значение, поскольку она гарантирует, что частная переписка остаётся полностью невидимой для третьих сторон, включая поставщика услуг или правительство, тем самым поддерживая целостность сквозного шифрования.

Чтобы гарантировать, что модель сможет справиться с высоколокализованной и разнообразной природой мошенничества, Google DeepMind не использовала общие, готовые модели ИИ. Вместо этого лёгкая модель Gemma была тщательно дообучена с использованием местных разговоров о мошенничестве. Эти обучающие наборы данных были невероятно разнообразны: от изощрённых имитаций легитимных государственных учреждений, крупных банков и местных общественных деятелей до выявления новых, трендовых региональных схем. Это специализированное тонкое настраивание позволяет модели обладать необходимым контекстуальным интеллектом для точного различения доброкачественной, случайной светской беседы и подлинных, манипулятивных попыток обмана. Такой уровень локализации имеет решающее значение для эффективных технологий общественной безопасности.

С инженерной точки зрения, запуск сложного, высокоточного классификатора мошенничества на современных смартфонах — устройствах, которые и так ограничены по энергопотреблению — является значительным техническим достижением. Для управления требовательными требованиями как к точности, так и к энергоэффективности решение использует сложный двухэтапный конвейер обработки. Первый этап включает лёгкий, высокоэффективный классификатор, который действует как быстрая первичная проверка всех входящих сообщений, потребляя минимальную мощность и фокусируясь исключительно на выявлении потенциальных индикаторов угрозы. Если эта первичная проверка выявляет подозрительный паттерн, процесс переходит ко второму, более интенсивному этапу. Этот второй этап выполняет контекстуальную оценку, используя тонко настроенную модель Gemma для анализа более крупного среза истории разговора. Именно этот более глубокий анализ позволяет системе подтвердить реальную угрозу или, что не менее важно, отклонить ложную тревогу, тем самым минимизируя трение для пользователя и поддерживая высокую надёжность.

Весь процесс разработки и внедрения регулировался строгими этическими и техническими протоколами, обеспечивая максимальную безопасность и минимальный риск. Процесс тонкой настройки проводился в Суверенной песочнице (Sovereign Sandbox) — управляемой и изолированной среде Google Cloud Platform (GCP), поддерживаемой GovTech. Крайне важно, что обучающие данные строго исключали любую личную или идентифицирующую информацию граждан. Вместо этого модель обучалась на анонимизированных наборах данных, полученных из официальных отчётов о мошенничестве и разведывательных лент. Кроме того, модель прошла тщательное стресс-тестирование не только на синтетических диалогах, но и на местных корпусах для обеспечения всестороннего охвата различных категорий мошенничества и способности адаптироваться к меняющимся тактикам имитации. Эта приверженность конфиденциальности и контролируемой разработке устанавливает глобальный стандарт развёртывания ИИ в сфере общественной безопасности.

Этот проект служит мощным доказательством концепции, демонстрируя, как передовой ИИ может быть интегрирован в мессенджер-сервисы для активной борьбы с преступностью, ни при этом ни в коем случае не ставя под угрозу основополагающий принцип конфиденциальности пользователя. Он предоставляет масштабируемую и воспроизводимую модель того, как правительства и крупные разработчики моделей могут сотрудничать для создания технологий на благо общества. Лёгкий характер модели означает, что мессенджер-платформы и поставщики операционных систем могут интегрировать этот защитный ИИ непосредственно на локальном уровне, гарантируя, что чат-взаимодействия остаются безопасными и частными, одновременно предоставляя мощный щит против сложного цифрового мошенничества, тем самым укрепляя доверие к каналам цифровой связи во всём мире.