东说念主类历史上最锐利的压缩时间，不是 ZIP 或 JPEG，而是翰墨。

一个"火"字，就能把甩掉、温度、面目、危机、能量等复杂的元素浓缩进一个绚烂。几笔写成，信息密度极高，解码资本极低。

大模子压缩，骨子上在作念合并件事：联想一套更高遵循的"翰墨"，用最少的笔画承载最多的常识。

可是，2026 年的半导体阛阓呈现出一种极致的扯破感。一边是高盛等机构陆续调高预期，HBM（高带宽内存）供不应求，DDR5 价钱持续飙涨，"内存墙"成为算力发展的物理瓶颈；另一边，端侧 AI 开采受限于功耗与体积，内存规格无法无穷扩张，大模子在末端的落地似乎被一齐无形的资本天花板死死压住。

算力在涨，但末端装不下。"旧翰墨"太占场地了。传统大模子用 FP16 暗意参数，相配于用复杂英翰墨母写文章，篇幅浩大。产业界病笃需要一套笔画更少、信息密度更高的"新翰墨"。

5 月 23 日，BitCPM-CANN 于华为鲲鹏昇腾开发者大会（KADC 2026）初度亮相，由面壁智能 AI Infra 负责东说念主、清华大学规划机系高性能所 · 水木学者博士后李宇轩进行时间共享。

浅易来讲，面壁智能大家初度在华为昇腾平台上完成端到端 1.58-bit（极致低比特）历练栈，并将限制推至 8B 级别，相较于筹商尺寸的全精度模子，性能简直无下落。

它向外界开释了一个明信托号：在国产算力底座上，雷同能降生引颈全国的历练范式。

那么，这套"新翰墨"是若何联想出来的？它将如何改写端侧 AI 的产业法则？

在探讨面壁智能这次时间突破的真谛之前，咱们有必要先凝视当下端侧 AI 产业所靠近的实在逆境。2026 年的 AI 产业，名义上气象无穷：大模子正不甘人后从云霄向手机、PC、汽车快速下千里，多样" AI Phone "" AI PC "观念雨后春笋，仿佛东说念主东说念主都能遇到最强 AI。

可是，在这股飞扬之下，一场对于糊口资本的暗战正在打响。

问题的根源要从咱们用来承载 AI 常识的"翰墨"提及。

传统大模子用的是一套相配糜费的"翰墨系统"。每个参数用 FP16 暗意，相配于每个笔画要占 16 个格子。一个 70 亿参数的模子，光"写下来"就需要约 14GB 内存。加上操作系统和其他期骗，16GB 的旗舰手机还是写不下了。

这套"旧翰墨"不光占场地，书写资本还在飙升。高盛的最新斟酌显现，受 AI 劳动器需求拉动，存储芯片阛阓正在阅历一轮超等周期。HBM 供不应求，DDR5 等主流内存价钱涨幅预期最高被调至 280%。对端侧开采厂商而言，这是一齐炫耀的选拔题：要么招揽高潮的 BOM 资本，压缩本就通俗的利润空间；要么削减内存建树，让 AI 功能沦为"能装不成跑"的营销噱头。

固有的"内存墙"加深了这一逆境。冯 · 诺依曼架构下，规划单位与存储单位在物理上辞别，数据需要在两者之间不时搬运。即便端侧芯片的 TOPS 数值再高，要是内存带宽无法实时"喂饱"数据，大部分算力都将处于空转现象。

况且，国内 AI 大模子的历练与部署经久高度依赖 NVIDIA CUDA 生态。很长一段时刻里，许多国产大模子的历练仍需在 NVIDIA 集群上完成中枢考据，再费时不毛地迁徙至昇腾平台。这种"绕说念走"的模式，不仅拉长研发周期、提高试错资本，也让国产算力平台永久难以开脱追逐者的位置，难以确立实在自主的时间体系。

层层压力重迭下来，今天的端侧 AI，正被困在一个无法破解的不可能三角里：念念要更强的模子才智，就要付出更高的硬件资本；念念要拒绝资本、缩小功耗，就不得不砍掉模子才智。三者之间简直莫得兼顾的余步。

传统约束决策如模子蒸馏、常识剪枝骨子上都是在丢精度换内存，代价是字变得敷衍。行业实在需要的是一种笔画更少、信息密度更高的翰墨系统。而在 KADC 2026 上亮相的 BitCPM-CANN，偶合切中了这一核肉痛点。

2026 年 5 月 23 日，华为鲲鹏昇腾开发者大会上，面壁智能 AI Infra 负责东说念主李宇轩将崇拜向业界展示 BitCPM-CANN ——全都在国产算力上历练的开源三值大模子。它是 1.58-bit 极致轻量化大模子。从底层算子到历练框架，再到最终的模子输出，整条链路都在华为昇腾平台上原生完成。

好多东说念主会深嗜，1.58-bit 到底是什么？用最靠近生活的方式来说明，它就像是 AI 全国里一套止境精简的翰墨系统。

咱们熟悉的传统大模子，参数大多是 16 位浮点形状，能暗意的数值边界越过浩大，看似精度很高，可执交运行中无数精度都是过剩的，就像用字母快活的拉丁文去写一句浅易的日常用语，既占空间又没必要。BitCPM-CANN 把每个参数压缩到独一三个取值：-1、0、+1。要是把传统参数比作一整套包含大小写、绚烂、特地字体的齐全英文系统，那 1.58-bit 就像是把一切简化为"点、横、竖"三种最基础的笔画，用最少的抒发，承载最中枢的信息。

诚然，除了"笔画少"，BitCPM-CANN 还把这套新翰墨体系化了。

第一，它有一套齐全可用的字库。在这之前，行业里不是莫得过低比特模子的计划，但绝大多数后果都仅仅展示某一个固定尺寸、某一项单一目的，更像是一个孤立的演示 demo，厂商压根无法据此判断时间是否说明、能不成实在用在产物里。BitCPM-CANN 全都跳出了这种局限，一次性推 0.5B、1B、3B、8B 四档齐全模子，况且和同尺寸的全精度模子作念一双一、全维度的对都评测。在时间终了上，它采纳 STE 三值量化器，历练时保留残差保证模子不错持续学习，导出时严格输出三值权重，把精度死亡拒绝在极小边界。执行测试拒绝很有劝服力：1B、3B、8B 这三档主力模子，才智保留率达 95.7% 到 97.2%，8B 模子在 ARC/cmmlu/gsm8k 等要害任务保留全精度 93%～99%，全都达到可对外使用的水位；仅 0.5B 小模子保留率 90.1%，为后续优化明确标的。这种从小型到中型的全尺寸障翳，开云·体育就像为 AI 产业准备好了从短句、漫笔到长篇文章的齐全翰墨体系，手机、汽车、末端开采厂商不错平直按需求选用，不必再从零运转适配调试。

第二，它制定了老练说明的排版模范。好多低比特形状停步于"能跑通"，"模子能历练、数值能下落"就宣告告捷。但这么的代码常常是一次性的，换个尺寸、换个任务就要从头调参。BitCPM-CANN 则把低比特才智千里淀为 MindSpeed 历练基础要害的一部分。基于 Megatron-LM 框架，镶嵌可插拔的 QAT 并行线性层，赈济模子存储形状，还救济 32K 长序列历练。主决策采纳 QAT 加后历练蒸馏，历练微辞仅下落 5%，简直不增多罕见资本。这意味着国产 NPU 第一次领有了属于我方的 1.58-bit 低比特历练栈，不必再先跑到国外 CUDA 生态上考据，再不毛迁徙归来，实在终显然基础要害级别的时间千里淀，后续总计念念在昇腾上作念低比特历练的团队，都不错站在这个底座上平直起步。

第三，它的智能密度极高。面壁智能与华为昇腾的协同优化显现，采纳 1.58-bit 历练范式，同等内存容量下可承载约 6 倍的模子参数目。这 6 倍的红利来自三个层面：一是权重从 16-bit 压缩到 1.58-bit 带来的存储检朴；二是整数规划替代浮点规划带来的算力开释；三是昇腾团队从教唆集到算子层的深度优化。

而 BitCPM-CANN 能达到这么的限制和老练度背后是几年持续参预的拒绝。在行业对极低位宽 QAT 还持不雅望魄力的时候，面壁智能就还是选用了小于就是 2-bit 的道路。

彼时，国内算力和好意思国差距很大，全体 AI 基础要害都相对过期，国产芯片用来历练大模子不太够用。为了在有限资源下历练大模子，面壁很早就自研了散布式历练框架 BMTrain。这不仅是对标 DeepSpeed 或 Megatron 的工程终了，更是"密度定律"的体现——仅用 32 张卡以致更少的资源，就不错启动百亿级模子的历练，极地面缩小了大模子的准初学槛。

面壁智能与 DeepSeek 被业内称为两家"国内最会作念架构改革的公司"，但两者的战场千差万别：DeepSeek 紧抓云侧大算力场景，在万卡集群上榨干算力价值；面壁则聚焦单张端侧芯片，在功耗、散热、访存带宽的严苛不休下追求极致遵循。好多大模子企业，采纳保守的传统架构，通过合并批数据历练多个尺寸模子，面壁智能则针对端侧芯片特点，作念了无数寥落规划、近存规划等底层优化。在经久探索中，团队围绕学习率、蒸馏战术、数据配比等中枢变量，少许点摸索、反复考据，最终千里淀出一套说明、可迁徙的超参圭表论。

这些底层累积最终成为 BitCPM-CANN 能在昇腾上"发明新翰墨"的复古。

要是说前两部分究诘的是"旧翰墨的问题"和"新翰墨若何造"，那么这一部分咱们不妨把视野拉高，凝视 BitCPM-CANN 开源这套"新翰墨"之后的产业真谛。它不仅仅跑通了一个模子，而是把推理侧 6 倍显存红利造成可复用才智，把低比特历练造成不错迁徙、不错扩展、不错连接优化的昇腾才智底座。

先看时间层面的填补，BitCPM-CANN 领先补上了国产 AI 芯片经久存在的一块空缺。经久以来，国产 AI 芯单方靠近一个难过的景色：硬件参数可圈可点，可复古芯片运行的"翰墨体系"却永久攥在别东说念主手里。CUDA 生态就像一套老练的拉丁字母系统，好用但受制于东说念主。国产算力念念要终了全都自主，毫不成只停留在"读懂、使用"别东说念主的体系，必须领有属于我方的"造字"才智，从底层算法到历练框架都掌抓在我方手中。

BitCPM-CANN 的发布抑制了这一僵局。这是国产 NPU 平台上第一次公开、系统化的 1.58-bit 三值历练适配，限制一次推到 8B 量级，况且与面壁智能的全精度模子家眷作念了 1:1 对都评测。这意味着业界第一次不错在国产算力上看到一个低比特模子的齐全才智图谱。

再把视野转向端侧 AI 产业，时间最终要劳动于场景，BitCPM-CANN 的价值毫不仅限于昇腾平台本人。

把眼光从时间本人转向落地场景，BitCPM-CANN 的价值早已超出昇腾平台，实在触达了通盘端侧 AI 产业的中枢需求。时间最终的归宿是服求执行场景，而 BitCPM-CANN 恰好踩中了手机、PC、汽车等末端开采最病笃的痛点。对末端厂商而言，将 1.58-bit 三值模子与 MoE 时间诱骗，有望把 60B 级别的模子才智实在装动手机。更要害的是，比较传统的 BF16 形状，执行显存收益能达到 6 倍，不必罕见增多物理内存，就能让开采承载更强的 AI 才智。在大家内存价钱持续高潮、硬件资本居高不下确当下，这早已不仅仅单纯的时间上风，而是企业拒绝资本、晋升产物竞争力的势必选拔。

与此同期，行业里还存在一个彰着的供需错位。高通的新一代芯片平台还是救济 2-bit 原生推理，硬件准备好了，但阛阓上一直短缺实在可落地、说明可用的低比特权重。BitCPM-CANN 的开源恰好填补了这一空当，让芯片的硬件才智有了用武之地，让遍及开发者也能零门槛体验国产算力在低比特场景的实在性能。这种模子与芯片的"双向奔赴"才是端侧 AI 走出实验室、大限制落地的实在起跑线。

况且，手脚大家首个全都在国产算力上原生完成的三值模子，它评释昇腾不仅能训大模子、更能训极低比特大模子，改写了外界对国产芯片"重推理、轻历练"的固有解析。它终显然国产 NPU、国产 AI 模子、国产历练框架三者的齐全联动，评释了在不依赖国际算力、不依附 CUDA 生态的前提下，中国团队依然能打造出全国级的 AI "新翰墨"。

把眼光收回到面壁智能自身，BitCPM-CANN 标志着面壁智能成长弧线上的一个领略分水岭。

在这之前，面壁智能在行业中的定位是一家奋力于 AGI 的大模子公司。行业普遍还在追逐参数限制、云霄竞赛、榜单刷分的时候，面壁智能还是完成了从底层历练框架到端侧压缩道路的累积，早已成为中国端侧大模子时间道路的界说者。

这次 BitCPM-CANN 开源不仅仅一次浅易的后果发布，它同期开释了一个领略的时间信号：端侧大模子的中枢矛盾在内存与遵循；约束旅途应该指向压缩范式本人的重构。面壁智能莫得选拔奴婢国际道路作念一个适配者，而是选拔在极低比特这条更难、更底层的道路上，成为法则的书写者。

这个分水岭的实质，是面壁智能完成了从模子提供者到时间圭表论界说者的身份跃迁。

诚然，谈话权果真立，从来靠的不是单点突破，而是系统性输出。BitCPM-CANN 仅仅冰山浮出水面的那一角，水面之下是面壁智能从 BM-Train 到 MindSpeed、从低比特圭表论到端侧落地闭环的齐全体系。

回头看，BitCPM-CANN 的实在真谛在于，它为国产算力在极低比特历练方朝上提供了一个可考据的起先。这套"新翰墨"还是写出来了，字典和范文都开源了。更多伟大的作品还要看产业界的后续努力，但至少，笔还是交到了每个东说念主手里。

开云·体育