一半功耗，六倍算力提升：墨芯联手浪潮开拓稀疏化计算生态 机器之心发布机器之心编辑部 6 月 13 日，墨芯人工智能与浪潮签订元脑战略合作协议。这是在浪潮战略投资墨芯之后，双方的进一步战略合作。 墨芯将携手浪潮信息，以领先的稀疏化计算技术和产品，广阔的生态潜能，融合资源与算法，共创全栈 AI 解决方案，为各行各业 AI 应用提供强大算力引擎和生态支撑，为企业降本增效，并加速产业的人工智能化进程。 墨芯人工智能 x 浪潮元脑云签约仪式 AI 计算的新锐势力——稀疏化计算 墨芯人工智能科技创立于 2018 年，总部位于深圳，致力于通过稀疏化算法构建高性能低 TCO（总拥有成本）的 AI 算力，其产品主要是用于云端和终端的 AI 加速器方案，可广泛应用于互联网、运营商、生物医药等数据中心 AI 推理场景，并积极致力于稀疏化生态建设。今年 1 月，墨芯刚刚完成数亿元 A 轮融资。 在 AI 时代算力需求呈指数级剧增、传统摩尔定律面临失效的背景下，稀疏化计算是突破 AI 芯片算力瓶颈的创新方向之一。当前，谷歌、OpenAI、Meta 等 AI 巨头纷纷布局稀疏化计算。墨芯人工智能作为专注于稀疏化技术的先入局者，已经建立起全球领先的稀疏化核心技术以及产业化优势。 在机器学习领域中，稀疏化是一种高效的数据处理和模型压缩方式。它从人类大脑得到灵感，让神经网络在计算时仅启用所需神经元。稀疏化计算的技术原理是指在原有AI计算的大量矩阵运算中，将含有零元素或无效元素剔除，以加快计算速度。它在需要海量数据处理的 AI 加速计算中优势尤为突出，能让算力超越极限，让企业得以完成复杂的 AI 任务，同时能为企业显著降低能耗和成本。 为领先 AI 生态赋能 浪潮信息是 AI 服务器的领导厂商，「浪潮元脑」是为应对产业 AI 化的挑战、加速产业 AI 化的发展进程，与合作伙伴共同构建的 AI 生态体系，其成立于 2019 年，包含人工智能基础设施、深度学习框架与工具等产品，为人工智能提供生态支撑。 本次合作是墨芯所代表的新一代 AI 计算技术，与浪潮代表的 AI 先进生态的强势联合，有望打造面向未来的「高算力+强生态」的产业新实践。 元脑生态的生态伙伴分为两类：左手伙伴即技术型伙伴，右手伙伴即战略型伙伴、能力型伙伴，分别代表先进优化的 AI 开发能力，和实际可操作的优秀 AI 落地部署能力。墨芯作为左手伙伴加入元脑生态，将有力增强元脑的 AI 算力底座，为右手伙伴推动更多创新 AI 应用场景的实现，为 AI 生态的发展带来更多元的机会。 浪潮元脑负责人张强表示：如果说「元脑生态 1.0」是为人工智能而生，「元脑生态 2.0」就是为了智算而生，为千行百业而生。我们会特别看重左手伙伴的技术支撑实力，稀疏化计算产品以其高算力、高精度、低功耗、低 TCO（Total Cost of Ownership）的优势让我们眼前一亮。他还表示，迄今为止，我们看到墨芯 SparseOne?? S100 计算卡在浪潮内部测试中表现突出，让我们对稀疏化计算推动商业赋能的技术实力深具信心，并充满期待。 产业化提速稀疏化计算释放积极生态力量 墨芯一直在积极推进基于稀疏化算法及架构的 AI 芯片及计算卡的产业化进程。2021 年 12 月 31 日，墨芯首颗芯片 Antoum?? 顺利回片，第一次上电即点亮，仅用 24 小时就跑通主流 AI 模型 ResNet50。 墨芯人工智能 SparseOne? S100 计算卡基于 Antoum?? 芯片，专注为数据中心 AI 推理应用。实测数据显示，S100 计算卡的性能领先行业，如 ResNet50 计算速度高达 33197 FPS，BERT 计算速度达到 7832 SPS——与国际头部厂商同类产品相比，S100计算卡在满足精度要求的同时，仅以一半的功耗，便可带来 6 倍算力提升。 墨芯表示，S100可广泛应用于互联网、运营商、生物医药等众多 AI 推理场景。 墨芯 SparseRT?? 软件开发环境为快速开发提供了完整的可扩展平台并激活稀疏计算的潜力。SparseRT?? 可以高效支持通用的 AI 编程框架，如 TensorFlow、PyTorch、ONNX 和 MXNet 等。用户可以在熟悉的 TensorFlow 或 PyTorch 环境里进行开发之后再进行迁移与交付。 据介绍，在未来合作中墨芯人工智能将针对大模型、智慧医疗等的解决方案上架元脑生态平台 AIStore，并联合浪潮，探索稀疏化计算赋能各行各业的更多可能，助力浪潮元脑 AI 集成、部署和服务能力，帮助用户完成业务智能转型升级，携手步入智算生态新时代。 墨芯人工智能创始人兼 CEO 王维表示，稀疏化计算产品可以提供理想的 AI 算力，它满足人类 AI 前沿技术的计算需求，高效而又环保地驱动 AI 世界，同时能以极低的迁移成本，一键式地将稀疏计算功能添加到现有的计算设施中，在算力、成本和能耗上给 AI 世界带来惊喜。同时，稀疏化蕴含广阔的生态发展潜力，墨芯将构建涵盖软件、硬件、应用的 AI 计算平台，与研究人员、开发者、软件开发商等合作伙伴一起，为各行各业用户提供高性能 AI 计算服务，共同构筑场景丰富、生机勃勃的稀疏化生态。 ?THE END 转载请联系本公众号获得授权 投稿或寻求报道：content@jiqizhixin.com