MiniCPM5-1B, модель з одним мільярдом параметрів від OpenBMB, є останнім релізом у серії MiniCPM для пристроїв. Вона підтримує вбудований виклик інструментів і Протокол контексту моделі (MCP), поміщається в пам'ять смартфона і випереджає всі порівнянні моделі з відкритим кодом у своєму класі за результатами бенчмарків.
Ця модель є першим випуском у сімействі MiniCPM5, розробленим із самого початку для локального розгортання на апаратному забезпеченні з обмеженими ресурсами. З 1 мільярдом параметрів вона є невеликою за будь-якими сучасними стандартами. (Параметри — це те, що надає моделі ШІ широту знань, причому більша кількість зазвичай означає її більшу потужність.)
Google Gemma 4 починається з 2 мільярдів ефективних параметрів, але масштабується до 31 мільярда. Llama 4 Scout працює з 17 мільярдами активних параметрів. MiniCPM5-1B не претендує на конкуренцію з ними. Її перевага — це здатність робити більше з меншими ресурсами.
Архітектурна основа походить від MiniCPM4, детально описаної в технічному звіті команди OpenBMB з THUNLP, Університету Цінхуа та ModelBest. Ключовою інновацією є InfLLM v2, механізм уваги, що навчається і обробляє кожен токен відносно менш ніж 5% навколишніх токенів під час виводу з довгим контекстом — значно скорочуючи обчислення без значного зниження точності. («Токен» — це базова одиниця інформації, оброблювана моделлю ШІ.)
Щодо даних, команда створила UltraClean, конвеєр фільтрації, який дозволив моделі досягти конкурентоспроможної продуктивності, використовуючи 8 трильйонів навчальних токенів, порівняно з 36 трильйонами, спожитими Qwen 3. Післятренувальний етап використовував навчання з підкріпленням у поєднанні з ефективними методами дистиляції (використання більшої моделі як керівництва для меншої), що підвищило результати бенчмарків з математики, коду та виконання інструкцій на 16 пунктів, одночасно скоротивши надто довгі відповіді на 29 відсоткових пунктів.
Вікно контексту становить 128 тис. токенів — приблизно 96 000 слів безперервного тексту за один прохід. Для моделі з 1 мільярдом параметрів це значне число. Постійна пам'ять протягом тривалої сесії рольової гри, повний витяг з PDF або контекст агента, який не скидається посередині завдання, — все це в межах її можливостей.
Ми протестували і підтвердили, що MiniCPM5-1B підтримує MCP та виклики інструментів. Це ставить її до дуже короткого списку моделей з менш ніж 2 мільярдами параметрів, здатних виконувати справжні агентурні робочі процеси без хмарної інфраструктури.
Варто зазначити, що для роботи цього користувачам потрібно буде налаштувати додаткові конфігурації, всі вони перелічені в репозиторії моделі на Github.
Практичний сценарій: локальний агент на iPhone, який може запитувати календар, шукати в локальній базі даних або викликати MCP-сервер для веб-досліджень — повністю офлайн. Як ми вже писали, запуск локального ШІ вже доступніший, ніж більшість людей уявляють, і гонка за он-девайс рішеннями прискорюється. Моделі, розроблені для роботи на телефоні без хмарного бекенда, стають справжньою категорією продуктів, а не дослідницькою цікавинкою.
Вам не потрібен OpenAI, щоб перевірити календар, якщо локальний агент може просто отримати його та повідомити вам, що у вашому розкладі на сьогодні.
Для легких агентських завдань та розширених контекстів розмови MiniCPM5-1B є конкурентоспроможною. Однак, хоча OpenBMB, можливо, і не думав про це, балакучий стиль моделі робить її хорошим кандидатом для локальних рольових ігор — 128 тис. контексту означає, що історія може розвиватися протягом десятків, якщо не сотень обмінів без втрати нитки розповіді моделлю.
Невеликі агенти, які читають нотатки, підсумовують документи та відповідають на питання щодо них, цілком у межах її можливостей, особливо якщо вони поєднані з MCP-сервером для веб-досліджень для заповнення прогалин у знаннях.
Конкуренція в цьому масштабі включає Qwen3-0.6B від Alibaba, Qwen3.5-0.8B та LFM2.5-1.2B-Thinking від Liquid AI. Власний бенчмарк OpenBMB порівнює всі чотири за загальними знаннями, знаннями домену, кодуванням, дотриманням інструкцій, математичним обґрунтуванням, логічним обґрунтуванням та агентськими завданнями. MiniCPM5-1B лідирує у всіх семи категоріях, з найбільш вираженими перевагами в агентській продуктивності та загальних знаннях.
Ми провели три швидкі оцінки. Першою була класична логічна пастка: "Будь ласка, виступіть як експертний юрист та законодавець. Чи законно для чоловіка одружуватися на сестрі своєї вдови відповідно до правової системи, що діє на Фолклендських островах?"
Правильна відповідь очевидна — чоловік, що має вдову, мертвий, а мертві не підписують свідоцтв про шлюб. MiniCPM5-1B видала детальний аналіз шлюбного права Фолклендських островів і повністю пропустила пастку, розцінивши її як просте юрисдикційне питання.
«Критично важливо визначити фактичний шлюбний статус на Фолклендських островах. Це питання факту, яке має бути визначене місцевими органами влади або через судовий процес», — відповіла модель після тривалого обґрунтування.
Наш другий тест вимагав рішучого вибору між A/B. Модель не обрала жодного, ухилившись у відповідь, що враховує обидві сторони. Це відомий режим відмови серед малих моделей під тиском розмовного навантаження. MiniCPM5-1B не є винятком.
Ми попросили модель сказати, яка індустрія домінуватиме в економіці у 2100 році: крипто чи ШІ? Замість того, щоб взагалі обґрунтовувати питання, внутрішнє мислення моделі почало аналізувати інвестиції в криптовалюту та ШІ як синергічні з самого початку.
Заради справедливості, ніщо з цього не є несподіваним для моделі на 1 мільярд параметрів.
Справжня історія тут — це агентські можливості. Поєднайте MiniCPM5-1B з MCP-сервером для веб-досліджень, і його схильність до галюцинацій щодо неясних фактичних питань зникне, або, принаймні, значно зменшиться.
Ми попросили модель вказати поточну ціну біткоїна та три рекомендації щодо акцій, і інструмент був успішно викликаний, а рекомендації (Amazon, Microsoft і Nvidia) були обґрунтованими.
Балакучий, локально розгорнутий агент, який може викликати інструменти, утримувати 128 тис. контексту та повністю працювати на пристрої, є цікавішим продуктом, ніж автономна модель відповідей на запитання, що конкурує з GPT-4.
Просто не скасовуйте через це свою підписку на ШІ. Знайте, з чим маєте справу: вона має низькі знання порівняно з великими моделями, погано кодуватиме (знову ж таки, порівняно з більшими моделями) і не буде близькою до AGI, якщо ви шукаєте саме це.
MiniCPM5-1B доступна зараз на Hugging Face за ліцензією Apache 2.0, сумісна з vLLM, SGLang та стандартним виведенням Transformers.
BTC
