最高配 128 核！英特尔至强 6 性能核处理器发布：运行 Llama2-7B 快了 3.08 倍 作者 | 褚杏娟 “英特尔至强 6 性能核，将是英特尔有史以来性能最强大的至强处理器。”英特尔数据中心与人工智能集团副总裁、中国区总经理陈葆立在 9 月 6 日的发布会上说道。 英特尔本次宣布上市的至强 6900P 系列处理器（代号 Granite Rapids-AP），最高配备 128 个内核，支持高达每秒 6400MT 的 DDR5 内存、每秒 8800MT 的 MRDIMM 内存、6 条 UPI 2.0 链路（速率高达每秒 24 GT），96 条 PCIe 5.0 或 64 条 CXL 2.0 通道、504MB 的 L3 缓存，支持 FP16 数据格式的英特尔?高级矩阵扩展（英特尔?AMX），可为 AI 和科学计算等内存带宽敏感型工作负载提供 MRDIMM 选择，且新增对 CXL 2.0 的支持。 英特尔至强 6900P 系列具备三个计算单元和两个 IO 单元，其中计算单元里包含了最重要的 X86 内核、内存控制器和缓存，I/O 单元里面包含了 PCle、CXL、UPI 等通用协议，也包括了英特尔独有的加速器。 “性能装备从 64 核到 128 核，单核性能 1.2 倍提升，每一个核都比以前更快。上一代平台所需电量是 350 瓦，这一代需要更多的供电（500 瓦），但我们在增加 30% 功耗的情况下，算力却拥有了双倍提升。所以我们相信，在综合考量范围下，我们能够跟厂商打造一个更新、更强大、更高效的平台，并帮助最终用户降低 30% 的 TCO。”陈葆立说道。 英特尔至强 6 性能核的处理器测试运行了 12 种不同的常见工作负载，包括通用计算、数据库、科学计算、AI 大模型（包括 Llama2，Llama3 ）等，结果显示，单颗 CPU 性能和每瓦特性能与上一代产品相比快了两倍以上。值得注意的是，70 亿参数的 Llama2 大模型推理在 AMX 加速下，至强 6 处理器相比前一代有了 3.08 倍的提升。 MRDIMM 是业界备受关注的领先内存技术，利用组装其上的数据缓冲区，实现两个列的同步操作，从而允许一次向 CPU 传输 128 字节的数据，而传统 DRAM 模块一次传输 64 字节。英特尔至强 6 性能核处理器，一个是使用标配 6400MT/s，一个是使用更快的 MRDIMM 内存，对内存非常敏感的工作负载，包括科学计算、AI 等，有 1.2-1.3 倍的提升。 另外，CXL 也是英特尔发起的一个全新的技术，通过 CXL 扩展可以在数据库或者大内存的场景里支持更多、更大的内存。当前，英特尔 CXL 2.0 支持多种设备类型（Type 1、Type 2 和Type 3）且可向后兼容 CXL 1.1；支持链路分叉 (link bifurcation)，即使一个主机端口 可以对接多个设备；提供更强的 CXL 内存 (Type 3) 分层支持，可实现容量和带宽扩展，同时支持以受控热插拔的方式添加 / 移除设备。 内容推荐2024年8月18-19日，AICon 全球人工智能开发与应用大会·上海站成功举办，汇聚超过60位大模型行业先锋，全方位剖析大模型训练与推理机制、多模态融合、智能体Agent前沿进展、检索增强（RAG）生成策略、端侧模型优化与应用等热点内容。经过嘉宾授权，「AI前线」为你独家整理了一份演讲PPT合集，不容错过。关注「AI前线」，回复关键词「PPT」免费获取。 会议推荐InfoQ 将于 10 月 18-19 日在上海举办 QCon 全球软件开发大会 ，覆盖前后端 / 算法工程师、技术管理者、创业者、投资人等泛开发者群体，内容涵盖当下热点（AI Agent、AI Infra、RAG 等）和传统经典（架构、稳定性、云原生等），侧重实操性和可借鉴性。现在大会已开始正式报名，可以享受 9 折优惠，单张门票立省 480 元（原价 4800 元），详情可联系票务经理 17310043226 咨询。 今日荐文 要求职位“世袭”、工资加倍减工时？！印度三星“打工人”大规模罢工，曝管理层虐待和歧视 大模型让汽车“开窍”了：吉利汽车强势入场，3 年AI布局从车圈里“杀出来” 英特尔 28 年老员工崩溃控诉：公司文化烂透了！员工数 5 倍于对手、市值却不及5%，何至如此？ ChatGPT 诞生663天后，奥特曼罕见发表预言长文力推超级智能：时间不多了！ 300 亿 L4 自动驾驶独角兽 CEO 跑路！大裁员 40%、被投资人抛弃，赚钱业务都停了你也「在看」吗？?? 阅读原文