最高288核的至强6+,为了Agent高密度部署还下了哪些「云功夫」?

2次阅读

共计 3275 个字符,预计需要花费 9 分钟才能阅读完成。




作者 | 陈悦琳

编辑 | 包永刚

 

一个智能体能顺利完成任务,不代表成百上千个智能体就能同时高效运行。

 

对于承载大量智能体任务的云服务器而言,除了提升计算速度,如何在任务集中到来时迅速准备好执行环境、怎样减少暂时闲置的任务对内存资源的占用,也成为亟待解决的问题。

 

对此,在一年一度的腾讯全球数字生态大会上,英特尔与腾讯云联合发布了基于至强 6 + 处理器的新一代云实例,围绕任务启动效率、内存资源利用率等关键因素进行优化后,其综合性能较上一代提升 30% 以上。

最高 288 核的至强 6 +,为了 Agent 高密度部署还下了哪些「云功夫」?

 

从此前搭载至强 6 处理器的 S9、S9e、S9pro,到如今的新一代云服务器(CVM),英特尔与腾讯云的合作并未停留在处理器性能的升级上。面对当前模型调用量持续攀升、智能体开始在实际业务中承担更多工作等趋势,CPU 如何与操作系统、内存等环节协同,正成为云服务器的新考题——而这也是双方此次联合优化的重点。

 

288 核至强 6 + 处理器,支撑 Agent 部署还需跨过内存关

AI 应用正攀升至全新的量级。中国信通院发布的《大模型词元服务性能监测报告(2026 年)》显示,2026 年 6 月,国内日均 Token 消耗量已达到约 500 万亿,是去年 12 月的近 4 倍。

 

这场有关 AI 使用的“狂欢”不止发生在中国,还在以 Agent 这一应用形态席卷全球。在麦肯锡覆盖全球 97 个国家的调查中,在年营收超过 10 亿美元的企业受访者中,40% 表示其所在企业已在至少一个业务职能中规模化部署 Agent,高于 2025 年的 27%。

 

与传统的一问一答不同,智能体能够将一项任务拆解为多个步骤,反复调用模型、使用工具、执行代码,并根据反馈调整行动。这不仅可能带来更多 Token 消耗,也让 CPU 需要承担更多模型推理之外的工作。

 

据英特尔市场营销集团副总裁、中国区总经理郭威观察,今年上半年行业仍在以 1:8、1:4 等比例讨论 CPU 与 GPU 的配置关系;进入下半年,业界对 CPU 需求继续增长的预期愈发明显,甚至有人提出未来可能向 1:1 演进。

 

在服务器 CPU 产品布局上,英特尔早在 2023 年就明确了性能核(P-core)与能效核(E-core)双线并行的方向,以满足不同工作负载对计算性能、核心密度和能效的需求。其中,性能核侧重计算性能,适合对单核性能要求较高的工作负载;能效核则强调核心密度和能效,更适合大规模并行、高吞吐量的计算任务。

 

今年 6 月,英特尔推出采用 Intel 18A 制程的至强 6 + 处理器(代号 Clearwater Forest)。该处理器最高集成 288 个能效核,支持 12 条内存通道,DDR5 最高传输速率达到 8000MT/s。英特尔还披露,单颗至强 6 + 处理器最高可支持超过1000 个智能体 稳定运行。

最高 288 核的至强 6 +,为了 Agent 高密度部署还下了哪些「云功夫」?

 

不过,CPU 核心数量增加、内存传输速度提高,并不意味着服务器就能同比例承载更多智能体。英特尔技术专家在分析智能体运行负载时发现,CPU 使用呈现明显的 突发性——智能体在启动执行环境、执行任务时,会产生短时的计算需求高峰,但从单个 Agent 的运行过程来看,CPU 整体利用率总体并不高。

 

与之形成对比的是内存。英特尔专家同时指出,即使智能体暂时没有计算任务,其运行状态仍可能持续占用内存。其在现场算了一笔账:假设每个 Agent 分配 2GB 内存,一份 vCPU 资源运行 4 个 Agent,就需要 8GB 内存;而在一颗 256 核 CPU、12 条内存通道、每通道配置 128GB 内存的示例中,平均每个 vCPU 对应的物理内存容量只有 6GB。

 

这意味着,当云厂商希望通过资源复用提高智能体部署密度时,内存容量可能比 CPU 计算能力更早成为限制因素。因此英特尔与腾讯云还将此次基于至强 6 + 的合作进一步延伸至操作系统内核、资源调度和内存管理等环节,尝试将硬件能力转化为实际业务中的性能提升。

 

内存要省下来,沙箱也要起得快

TrendForce 集邦咨询数据显示,2026 年第二季度服务器 DRAM 平均合约价环比上涨 53%—58%。尽管涨势有所放缓,该机构仍预计第三季度价格将继续上涨 13%—18%。

 

面对持续增加的采购成本,对于希望在一台服务器上运行更多 Agent 任务的云厂商而言,想办法让现有内存容纳更多数据迫在眉睫。

 

将暂时不需要频繁访问的内存数据压缩存放、等到需要时再解压使用,是提高服务器内存利用率的关键路径之一。但这带来的新问题是,在节省空间的同时,压缩和解压同样需要消耗计算与内存访问资源,尤其在大量任务同时请求解压缩时,额外的时延可能拖慢业务响应。腾讯云 TencentOS Server 产品研发团队就曾尝试利用 LZ4 软件方案进行内存压缩,但发现多路并发解压缩的最大时延长达 5 毫秒,无法满足实际业务需求。

 

为解决这一问题,腾讯云转向英特尔至强 CPU 内置的IAA(内存分析加速器),通过专用硬件执行压缩和解压缩任务,减少对 CPU 计算资源的占用,并改善处理时延。在此基础上,腾讯云团队还对 IAA 驱动进行了适配,简化不必要的调用路径,并测试了多种批量并行配置,最终选择 IAA-batch- 8 方案。

最高 288 核的至强 6 +,为了 Agent 高密度部署还下了哪些「云功夫」?

 

测试结果显示,IAA 的优势不仅在于缩短解压缩时间,还体现在高并发下的稳定性。当并发规模从 32 路增加至 256 路,LZ4 软件方案的解压缩时延随之上升,而 IAA-batch- 8 的时延基本保持稳定。在更接近实际业务的综合压力测试中,针对 2MB 内存大页的解压缩,相较软件方案,IAA 的平均时延和最大时延分别改善约 16 倍和 9 倍,且都处于微秒级别。

 

除了内存资源外,沙箱创建效率 也是影响智能体高密度部署、高并发执行的重要因素。

 

所谓沙箱(Sandbox),就是为智能体执行代码、调用工具提供的隔离环境,避免不同任务相互干扰。腾讯云 CubeSandbox 团队指出,在部分大模型强化学习场景中,一轮训练可能需要启动成千上万甚至数十万个沙箱,用于模型评测和推理。如何在短时间内完成大量执行环境的创建,同时控制资源占用,就成了云厂商需要解决的问题。

 

然而,不同的隔离技术各有局限:传统容器启动较快,但通常共享服务器的操作系统内核;完整虚拟机拥有独立内核,却需要占用更多资源。因此,腾讯云 CubeSandbox 采用微型虚拟机(MicroVM)、快照和资源复用等技术,使多个沙箱能够共享相同的基础资源,仅对发生变化的部分进行独立存储,从而减少重复的内存占用。

 

在此基础上,英特尔工程师还针对沙箱创建过程中涉及的部分操作系统内核执行路径进行优化,并将相关改进引入腾讯等企业共同发起的开源操作系统 OpenCloudOS 内核,进一步降低大量沙箱并发启动时的时延。

 

现场披露的测试数据显示,在满足 200 毫秒服务等级目标(SLA)的条件下,搭载至强 6 + 处理器的服务器在运行 CubeSandbox 时,单机可支持 350 个沙箱并发创建请求,较其他主流测试平台提升约 46%。

 

更值得关注的是负载叠加后的表现。腾讯云实测发现,即便服务器同时承载其他任务、整体负载上升,至强 6 + 仍保持相对稳定的沙箱并发创建能力。

 

不过,英特尔并不认为现有产品已经能够完全满足智能体的运行需求。英特尔技术专家在现场表示,智能体应用与软硬件生态之间仍有进一步优化的空间,团队基本每周都会将与合作伙伴开展实际负载优化时积累的经验反馈给后端 CPU 设计团队,为后续产品的改进提供参考。

 

双方的合作也将延续至下一代产品。据腾讯云高级产品经理夏士悦透露,腾讯云计划继续与英特尔合作开发基于下一代至强处理器 Diamond Rapids 的云服务器实例。按照英特尔此前公布的产品规划,Diamond Rapids 将采用 Intel 18A- P 制程,最高集成 256 个 CPU 核心,支持 16 通道内存和 128 条 PCIe 6.0 通道,并引入高级性能扩展(APX)及增强型高级矩阵扩展(AMX)等技术。

 雷峰网 (公众号:雷峰网) 雷峰网

 

 

 

雷峰网原创文章,未经授权禁止转载。详情见 转载须知。


来源:雷峰网

来源发布时间:2026-11-03T18:03:00+08:00(北京时间)

原文链接:https://www.leiphone.com/category/chips/GQisGLfVBnbQVxVo.html

正文完
 0
hermes
版权声明:本文于2026-11-04转载自雷峰网,共计3275字。
转载提示:此文章非本站原创文章,若需转载请联系原作者获得转载授权。