LFM2.5-24B-A2B: Высокопроизводительный, частный AI-агент для использования на устройстве

LFM2.5-24B-A2B представлен как передовой, высокоэффективный и приватный ИИ-агент, разработанный специально для надежной работы на локальных устройствах. Модель спроектирована для превосходной работы в сложных агентных рабочих процессах, использовании инструментов и логическом рассуждении, что позиционирует ее как грозкого конкурента даже для гораздо более крупных и сложных моделей, таких как Qwen3.6-35B-A3B, которая может похвастаться примерно на 50% большим общим и активным количеством параметров. В прямых сравнениях LFM2.5-24B-A2B показала результат 48,09 на бенчмарке LiveClaw, значительно превзойдя результат Qwen3.6-35B-A3B в 38,19, что демонстрирует превосходную производительность в практических, реальных агентных задачах.

Одним из наиболее заметных архитектурных достижений является ее подход к рассуждению. В отличие от традиционных моделей, которые могут интегрировать рассуждение в свой окончательный вывод, LFM2.5-24B-A2B разработана как специализированная модель только для рассуждений. Это означает, что перед генерацией окончательного ответа модель вынуждена производить явную, пошаговую цепочку рассуждений. Этот структурированный процесс рассуждения имеет решающее значение для надежности и прозрачности, позволяя разработчикам и пользователям отследить логику модели и понять, как она пришла к выводу. Кроме того, модель поддерживает высокоэффективный механизм рассуждения, используя всего 2 миллиарда активных параметров на токен, что сохраняет вычислительную стоимость каждого шага рассуждения удивительно низкой.

С точки зрения технической эффективности, LFM2.5-24B-A2B демонстрирует исключительную скорость инференса на различных аппаратных платформах. На оборудовании Apple, в частности на M5 Max, она достигает впечатляющей скорости декодирования в 184 токена в секунду, что делает ее самой быстрой моделью Mixture-of-Experts (MoE) среди своих аналогов. Для развертывания на GPU модель достигает более 21 000 выходных токенов в секунду на одной видеокарте NVIDIA B300, укрепляя свой статус самой быстрой модели в своем классе по размеру. Эти высокие скорости в сочетании с низким потреблением памяти делают ее идеальной для развертывания в ресурсно-ограниченных, приватных или периферийных вычислительных средах, гарантируя, что сложные возможности ИИ не требуют массивной облачной инфраструктуры.

Архитектурно LFM2.5-24B-A2B основывается на своем предшественнике, LFM2-24B-A2B, сохраняя при этом надежную структуру из 40 слоев и 64 экспертов в каждом блоке MoE с использованием маршрутизации top-4. Значительные улучшения включают массивное расширение контекстного окна, увеличив его с 32 000 токенов до 131 000 токенов. Эта расширенная контекстная емкость позволяет модели обрабатывать и поддерживать когерентность в чрезвычайно длинных документах, диалогах или кодовых базах. Кроме того, расширение токенизатора "на месте" удваивает размер словаря с 65 000 до 128 000 токенов, значительно повышая ее способность обрабатывать нелатинские скрипты и разнообразные глобальные языки с улучшенной точностью токенизации.

Режим обучения LFM2.5-24B-A2B исключительно всеобъемлющий, включающий массивное масштабирование данных предварительного обучения с приблизительно 17 триллионов токенов до 33 триллионов токенов. Это фундаментальное обучение дополняется двумя критически важными фазами промежуточного обучения. Первая добавляет 2 триллиона токенов в контекстное окно 32K, специально взвешивая данные в сторону рассуждений, продвинутой математики, задач кодирования, точного следования инструкциям и мультиязычного текста. Вторая фаза добавляет существенные 300 миллиардов токенов в расширенное контекстное окно 131K, уделяя особое внимание глубокому пониманию данных с длинным контекстом. Крайне важно, что на протяжении обеих фаз промежуточного обучения модель подвергается воздействию вызовов инструментов и многоходовых диалоговых траекторий, готовя ее к сложному агентному поведению.

Превращение в полноценного агента завершается строгим пятиэтапным процесом пост-обучения. Этот процесс начинается с многодоменной онполисистической дистилляции (MOPD) для неагентных задач, извлекая знания от различных специализированных учителей. За этим следует вторая стадия MOPD, которая специально сфокусирована на улучшении агентных возможностей. Ядром обучения агента является фаза обучения с подкреплением агентов (Agentic RL). Во время этой фазы модель обучается в специализированных агентных каркасах, включая ведущие отраслевые фреймворки, такие как OpenClaw, Hermes Agent, Pi и OpenCode. Это многогранное обучение гарантирует, что модель не только обладает знаниями, но и умеет планировать, выполнять и корректировать многошаговые задачи с использованием внешних инструментов.

При оценке по 16 разнообразным бенчмаркам, охватывающим использование инструментов, агентные рабочие процессы, общие знания, следование инструкциям, математику и кодирование, LFM2.5-24B-A2B продемонстрировала замечательную конкурентную паритетность. Модель лидирует или соответствует конкурентам по пяти из восьми бенчмарков, связанных с использованием инструментов и агентными рабочими процессами, включая AutomationBench, BFCLv4, ToolSandbox, LiveClaw и τ³-Bench Banking. Ее производительность на AutomationBench особенно выдающаяся, набрав более чем в три раза более высокий балл, чем лучшая из оставшихся моделей, что подтверждает ее надежную способность выполнять автоматизированные задачи. Кроме того, она лидирует по всем трем бенчмаркам следования инструкциям, укрепляя ее надежность для разработчиков, создающих сложные приложения. Признавая, что более крупные модели могут сохранять преимущество в высокоинтенсивных по знаниям бенчмарках (таких как GPQA Diamond или AA-Omniscience) или специализированных бенчмарках кодирования (таких как SWE-Bench Verified), разработчики настоятельно рекомендуют сочетать LFM2.5-24B-A2B с возможностями Retrieval-Augmented Generation (RAG) или веб-поиска для оптимальной производительности в рабочих нагрузках, требующих большого объема знаний. В целом, LFM2.5-24B-A2B представлена как окончательная основа для создания надежных, способных к рассуждению и высокоэффективных агентов, которые могут работать автономно на локальных устройствах.

Для максимальной доступности разработчикам модель является open-weight и доступна на Hugging Face, с поддержкой с первого дня во всей экосистеме инференса. Это включает такие основные фреймворки, как llama.cpp, MLX, vLLM, SGLang и ONNX. Такая широкая совместимость означает, что разработчики могут интегрировать LFM2.5-24B-A2B в свои существующие конвейеры с минимальным трением. Модель может быть легко развернута локально за любым бэкендом, совместимым с OpenAI, что позволяет агентным каркасам, таким как Hermes Agent или OpenClaw, напрямую указывать на нее для приватной, безопасной работы. Доступность как базовой модели, так и дообученной версии агента (LFM2.5-24B-A2B-Base) обеспечивает гибкость как для фундаментальных исследований, так и для немедленного коммерческого применения. Модель также сопровождается комплексными учебными пособиями по дообучению, позволяя пользователям адаптировать ее мощные возможности для высокоспецифичных, нишевых задач, требуемых их уникальными корпоративными приложениями. Сочетание превосходной агентной производительности, лидирующей в отрасли скорости инференса на периферийных устройствах и открытой доступности делает LFM2.5-24B-A2B прорывной силой на рынке локальных ИИ-агентов.