BooleanMix's Four Rounds of Iteration: Using the TOLD Tech Stack to Solve the Challenge from Heterogeneous Computing Power to Token Delivery
English text is being prepared.
Through four rounds of iteration on the BooleanMix platform, BooleanMix has built capabilities around the unified management of heterogeneous computing power and Token delivery. Its self-developed TOLD tech stack has completed real-world validation on a 10,000-GPU-scale heterogeneous cluster of NVIDIA and domestic GPUs. A report by the China Academy of Information and Communications Technology points out that inference computing power has surpassed training computing power for the first time to become the main source of demand, and that Tokens are replacing FLOPS and GPU card counts as the new yardstick for measuring the value of the AI industry. BooleanMix is simultaneously opening up two types of partnership directions, working with IDC operators, intelligent computing centers, and investors to advance large-scale delivery from computing power assets to Token production capacity.
Body
中国信通院在《面向词元(Token)服务的智算基础设施发展研究报告(2026年)》中给出了一个明确的判断:推理算力首次超越训练算力成为需求主体,Token正在取代FLOPS和GPU卡数,成为衡量AI产业价值的新标尺。报告在梳理新兴Token服务商时写道,博伦智汇“专注于异构智算平台与梯度Token工厂技术服务,自研TOLD技术栈已在万卡级别的英伟达与国产GPU异构集群上完成真实验证”。在信通院对Token赛道代表性力量的观察中,博伦智汇与硅基流动、趋境科技、清程极智、无问芯穹等企业一同进入这份产业图景,意味着“异构算力如何转化为可交付的Token”这一命题,正在从工程问题上升为基础设施层面的公共议题。
Token工厂的难点,并不在于“有没有GPU”。大量智算中心机柜上架之后处于低负载状态,异构芯片之间又因架构差异难以协同,从芯片到稳定输出Token之间横着纳管、调度、适配、运维等多道鸿沟。博伦智汇的BooleanMix平台,正是围绕这条鸿沟展开的四轮迭代。
博伦智汇四轮产品迭代:一条以Token交付为目标的演进路径
博伦智汇的BooleanMix平台第一次上线,就建立了管控中心与租户工作台的双入口。管控中心承接异构算力的统一分配与模型管理,租户工作台负责模型服务、聚合入口和基础监控。这一阶段完成的是基本链路的贯通:算力经过组织进入部署,部署形成可调用服务,服务再通过聚合层对外交付。资源总览与基础监控则让平台从“完成部署”延伸到“持续掌握运行状态”。
第二次上线把重心推向模型与国产算力的适配深度。平台建设基于Diffusers的图像、视频生成服务框架,推进天数系列、海光BR系列芯片的推理引擎适配,并引入模型服务自定义启动参数与部署验证环节——测试结果被写入Manifest,特定模型与GPU组合的启动耗时也被记录积累。运维侧同步补上了模型安装错误日志、推理Pod日志、文生视频监控与视频文件安全下载。从适配、配置、验证到日志监控,这一轮把技术工作贯穿到模型服务运行的前后。
第三次上线相对聚焦,但指向一个容易被忽略的交付环节:租户可以在工作台修改Client级别的背景、文案与Logo,底层模型服务与面向B端用户的品牌表达由此衔接。
第四次上线则回应了模型持续更新带来的连续性挑战。Inference Service增加无缝升级能力,支持模型优化后的不停服更新与无用资源清理;推理框架镜像的项目归属被规范,中心至边缘镜像仓库按需同步,减少不必要的传输与存储占用。新版服务管理组件兼容旧版服务,现有服务无需强制升级,可以逐步切换。新模型上线流程同步规范,适配、镜像准备、服务更新与版本兼容被组织进同一条持续交付链路。Benchmark测试平台、压力测试工具与Jenkins集成、ARM多架构CI/CD改造也在这一阶段进入研发配套,为后续版本积累验证工具。
TOLD技术栈:把调度顺序从“有什么用什么”翻转为“要什么给什么”
四次迭代背后是一条统一的架构主线:博伦智汇的 TOLD技术栈(Token-Oriented Large-scale Distributed Architecture)。传统算力调度是资源导向的——先看手上有什么GPU,再想办法适配部署;TOLD把顺序反过来,先理解需要交付什么样的Token,再反向推导算力、模型与调度策略。用物流来类比:资源导向像一家只有卡车的公司,无论货品属性一律用卡车配送;TOLD更接近智能调度中心,先弄清“货”的时效与属性,再决定用什么车、走什么路,必要时拆分与协同。Token就是被调度的“货”。
一条正在被行业验证的技术路径
从信通院报告对博伦智汇的引用,到IDC中国持续关注的异构算力管理与Token计量议题,一个信号是清晰的:Token经济的基础设施竞争,不会停留在“谁有更多卡”,而会落到“谁能把异构算力稳定、高效、可计量地转化为Token交付”。博伦智汇BooleanMix的四轮迭代没有试图一次性解决所有问题,而是沿着资源管理、适配验证、租户交付、持续升级的顺序逐层收敛。这条路径本身,就是对“Token工厂”从概念走向可运营基础设施的一种工程回答。
面向下一阶段,博伦智汇开放两类合作方向:一是欢迎持有优质国产GPU或英伟达GPU资产的IDC运营方、智算中心与资产方,围绕异构算力的统一纳管与梯级Token输出展开合作;二是欢迎有意共建优质Token工厂的资方与产业伙伴,共同推进从算力资产到Token产能的规模化交付。在Token逐步成为AI服务基本计量单元的背景下,异构调度层的开放协作,或许比单点算力扩张更值得下注。