寒武纪拥抱众智 Flag欧义OS 生态，打破不同架构芯片间的软件生态壁垒

IT之家 11 月 12 日消息，寒武寒武纪今日宣布拥抱众智 FlagOS 生态。纪拥件生寒武纪表示，抱众欧义单一芯片架构难以满足多元化的态打同架态壁业务需求，大模型应用厂商为部署不同类型业务往往需要引入多种不同架构 AI 芯片，破不片间造成跨芯片架构间业务代码迁移与维护工作往往耗时数月，构芯成为业务迁移流程主要瓶颈。寒武

据介绍，纪拥件生北京智源人工智能研究院联手社区伙伴启动了众智 FlagOS 项目，抱众目的态打同架态壁通过统一软件层解耦 AI 模型与异构硬件，打破不同架构芯片之间的破不片间欧义软件生态壁垒，为芯片硬件与上层 AI 应用之间搭建统一且高效衔接的构芯桥梁，系统性解决“适配难、寒武调优慢、纪拥件生协同弱”行业难题，抱众实现“一次开发，处处运行”。

寒武纪和智源研究院从 2024 年初起就开始进行 FlagGems（基于 Triton 的高性能通用 AI 算子库）的联合开发工作，后续进一步拓展到 FlagTree（统一多后端的增强版 Triton 编译器）、FlagCX（统一通信库）、FlagScale（并行训推一体框架）等组件。

寒武纪与 FlagOS 的适配与优化主要集中在算子、编译器、分布式通信库和并行框架组件等方面。

IT之家查询获悉，FlagOS 是由北京智源人工智能研究院牵头研发的面向多种 AI 芯片的开源系统软件栈，支持超 20 种国内外主流 AI 芯片型号。该系统融合并行训推框架 FlagScale、高性能算子库 FlagAttention 和 FlagGems、统一通信库 FlagCX 等技术组件，平均性能超过芯片厂商原生算子。

今年 9 月，众智 FlagOS 1.5 发布，支持超过 12 家国内外主流芯片厂商的 20 余种芯片型号，降低硬件适配的复杂性；改进并行策略与调度算法，在典型大模型任务中实现最高 36.8% 训练加速与 20% 推理加速；全面支持机器人“大脑”（如智源 RoboBrain）与“小脑”（如 VLA）模型的开发与部署等。

很赞哦!（9）