PIM 将计算置于内存阵列内部或紧邻内存阵列的位置。这使限制性资源从外部内存流量转变为内存组内部的本地并行性。美国能源部的一项调查指出,数据移动的能耗约为计算的两个数量级,并记录了 PIM 设计在注意力机制、数据库、高性能计算(HPC)和图工作负载中的性能与能效提升。因此,商业内存供应商纷纷推进相关实现,在保留熟悉内存接口的同时增加本地化计算。SK hynix 报告称,其 GDDR6-AiM 的运行速率达到 16 Gbps,可将数据传输功耗降低最高 80%,并使目标工作负载的吞吐量提升最高 16 倍。Samsung 报告称,在其评估的人工智能和高性能计算工作负载中,HBM-PIM 的性能提升超过两倍,能耗降低超过 70%。 [1]U.S. Department of Energy, Office of Scientific and Technical Information, A Survey on the Expanding Scope and Interdisciplinary Opportunities for Processing-in-Memory Techniques, 2024, osti.gov
市场需求日益受到电力供应约束。2024年,全球数据中心用电量为 415 TWh,预计到2030年将接近 945 TWh;国际能源署(IEA)指出,加速服务器是新增需求的主要来源之一。PIM 并非通用型 GPU 替代方案,但通过将注意力机制、向量运算或数据库谓词运算置于已存储数据附近,它能够改变内存受限层的成本曲线。 [2]International Energy Agency, Energy and AI, 2025, iea.org
北美地区引领市场,2025年市场规模为 2.55亿美元,市场份额为 41.7%;预计到2035年将达到 34.628亿美元,年均复合增长率(CAGR)为 28.9%。美国2025年的市场规模为 2.34亿美元,加拿大为 2,100万美元。该地区将超大规模推理需求与 EnCharge AI、MemryX、GSI Technology、d-Matrix 和 Mythic AI 等专业化企业集群结合起来。针对先进内存和封装的 CHIPS 激励措施,为这一总体由需求主导的市场增加了供应链层面的影响因素。 [7]U.S. Department of Commerce, Biden-Harris Administration Announces CHIPS Incentives Award with SK hynix to Advance U.S. Technological Leadership and Expand Capacity of Chips Crucial to the AI Supply Chain, December 2024, commerce.gov
内存内处理(PIM)市场规模
2025年,全球内存内处理(PIM)市场规模为 6.115 亿美元,预计2026年将达到 8.5 亿美元,并在2035年前达到 85 亿美元;2026~2035年期间的年均复合增长率(CAGR)为 29.2%。
存内处理(PIM)市场要点
市场领导者:SK hynix 以超过 29% 的市场份额在 2025 年处于领先地位。
主要企业:该市场排名前五的企业包括 SK hynix、Samsung Electronics、Syntiant、Mythic AI、d-Matrix,这些企业在 2025 年合计占据 53% 的市场份额。
这一预测反映了人工智能基础设施经济学的转变:在长上下文和低批量工作负载的推理系统中,在处理器与内存之间传输模型权重和中间数据,其重要性正日益接近算术吞吐量。
PIM 将计算置于内存阵列内部或紧邻内存阵列的位置。这使限制性资源从外部内存流量转变为内存组内部的本地并行性。美国能源部的一项调查指出,数据移动的能耗约为计算的两个数量级,并记录了 PIM 设计在注意力机制、数据库、高性能计算(HPC)和图工作负载中的性能与能效提升。因此,商业内存供应商纷纷推进相关实现,在保留熟悉内存接口的同时增加本地化计算。SK hynix 报告称,其 GDDR6-AiM 的运行速率达到 16 Gbps,可将数据传输功耗降低最高 80%,并使目标工作负载的吞吐量提升最高 16 倍。Samsung 报告称,在其评估的人工智能和高性能计算工作负载中,HBM-PIM 的性能提升超过两倍,能耗降低超过 70%。 [1]U.S. Department of Energy, Office of Scientific and Technical Information, A Survey on the Expanding Scope and Interdisciplinary Opportunities for Processing-in-Memory Techniques, 2024, osti.gov
市场需求日益受到电力供应约束。2024年,全球数据中心用电量为 415 TWh,预计到2030年将接近 945 TWh;国际能源署(IEA)指出,加速服务器是新增需求的主要来源之一。PIM 并非通用型 GPU 替代方案,但通过将注意力机制、向量运算或数据库谓词运算置于已存储数据附近,它能够改变内存受限层的成本曲线。 [2]International Energy Agency, Energy and AI, 2025, iea.org
GMI 分析师观点
PIM 的采用情况将较少取决于峰值基准测试结果,而更多取决于具体部署能否消除可识别的数据移动瓶颈,同时避免产生新的软件和资格认证负担。近期最具潜力的应用案例具有异构特征:将内存受限的注意力机制或检索工作卸载至 PIM,而将密集投影保留在 GPU 上。SK hynix 与 H100 GPU 和 vLLM 搭配进行的 AiMX 演示体现了这一实践方向。这种方法保留了既有的加速器基础设施,使运营商能够针对生产环境中的服务行为测试 PIM,而无需重新设计整个机架。
因此,市场增长逻辑建立在一种矛盾之上。不断增长的电力需求使每次有效推理的较低能耗具有商业价值,但最有能力实现这一目标的架构必须证明其准确性可预测、编程易于管理,并且内存密度经济性可以接受。将内存创新与可用运行时和系统验证相结合的供应商,应比仅展示孤立芯片指标的供应商获取更多价值。
主要驱动因素
AI 和生成式 AI 工作负载。Transformer 推理会反复在内存层级中移动权重和键值缓存数据,因此长上下文服务对带宽和能耗的敏感度明显更高。DOE 调查所研究的 PIM 注意力加速器,相较于其中引用的传统基线,性能最高提升至 2.81 倍,能效最高提升至 2.67 倍。随着加速服务器的用电量不断上升,运营商有必要按照每个已服务令牌的能耗和延迟来评估硬件,而不仅仅依据名义计算能力。
HBM 和先进内存。HBM 是一个自然的切入点,因为其带宽密度本身就面向 AI 加速器。Samsung 的 HBM-PIM 在评估中保留了 HBM2 PHY 兼容性,从而降低了现有加速器系统的集成障碍。SK hynix 的 GDDR6-AiM 展示了通过图形内存级器件实现这一目标的另一条路径。SK hynix 在 LPDDR6 PIM 标准化方面的工作表明,这一机遇最终可能从数据中心延伸至功耗受限的移动端推理,但不应将标准化与批量部署混为一谈。 [3]Samsung Electronics, Samsung Develops Industry's First High Bandwidth Memory with AI Processing Power, February 2021, news.samsung.com
CXL 内存扩展。当工作负载受内存容量而非原始计算能力限制时,内存解耦将扩大 PIM 的潜在市场。DOE 调查指出,在某些 DRAM-PIM 配置中,由 CPU 介导的通信是一个重要限制因素,并报告称,采用 CXL 相关接口的近数据处理设计能够带来显著提升。其商业意义并不在于每个 CXL 器件都会成为 PIM 器件;相反,一致性内存扩展可以提供一种系统级路径,在不放弃主机架构的情况下连接专用内存计算资源。
公共半导体投资。美国《芯片法案》总额为 500 亿美元,其中包括 390 亿美元的制造激励资金和 110 亿美元的研究与开发资金。美国商务部向 SK hynix 提供的奖励包括最高 4.58 亿美元的直接资金和最高 5 亿美元的贷款,用于支持其在印第安纳州投资 38.7 亿美元建设以先进封装和 HBM 相关能力为核心的项目。这些计划降低了先进内存产能的融资和供应链风险,但无法解决 PIM 软件准备度问题;公共制造支持和应用赋能将按照不同进度推进。 [4]National Institute of Standards and Technology, CHIPS for America, 2024, nist.gov
能效计算。当电力供应限制可用 AI 容量时,PIM 的潜在价值最为突出。其作用机制具有明确针对性:本地执行可避免部分高能耗的片外数据传输,而不仅仅是提高传统计算资源的利用率。IEA 预计数据中心用电需求将持续增长,这一特性不仅与设备采购相关,也会影响数据中心选址和容量规划。
主要制约因素
硬件成本与集成。根据 DOE 调查,将逻辑单元添加到 DRAM 中可能导致 25~50% 的密度损失。这一权衡十分重要,因为 PIM 不仅要与 GPU 竞争,还要与价格低廉的传统存储器竞争。跨存储器控制器、驱动程序、热设计和服务软件进行验证,会进一步加剧硅片成本溢价。Samsung 的 HBM-PIM 等接口兼容型方案可以减轻这一负担,但兼容性也会限制能够添加到存储器器件中的逻辑单元数量。因此,早期采用将优先集中于能够以节省的功耗、降低的延迟或基础设施支出量化对比成本溢价的工作负载。
软件兼容性。PIM 编程需要处理数据放置、存储体级并行、内核以及主机与设备协同等问题,而传统 GPU 用户通常无需管理这些事项。这一障碍不仅是技术层面的,也是商业层面的:如果硬件优势需要定制化的模型分区,那么在围绕标准化服务栈构建的云环境中可能难以部署。Mythic 的 CAMP SDK 支持 ONNX、PyTorch、TensorFlow 和 TensorRT 路径,体现了框架桥接的重要价值,但这类支持并不能让异构 PIM 行为在所有模型中都实现透明化。
GMI 分析师观点
PIM 面临的两项主要制约因素相互强化。软件可移植性有限会降低预期出货量,而出货量有限又会削弱构建成熟编译器、性能分析器和框架后端的动力。其结果是,初始市场将高度集中:超大规模云服务商、国家实验室和专业边缘系统构建商能够承担广泛企业买家不愿承担的集成工作。
因此,相比单一器件基准测试,标准和部署证据更加重要。能够保留熟悉接口、发布可重复的集成路径并展示 PIM 与 GPU 混合运行能力的硬件供应商,可以缩短验证周期。相反,如果某款器件需要采用全新的编程模型,却无法在明确界定的工作负载中展现显著优势,那么即使能效指标颇具吸引力,也很可能仍局限于技术试点。
存内处理(PIM)市场细分分析
按存储器技术
基于 DRAM 的 PIM 处于领先地位,2025 年收入为 4.2 亿美元,占比 68.7%,预计年均复合增长率(CAGR)为 27.6%。这一地位反映了其制造工艺的成熟度,以及与现有 HBM 和 GDDR 加速器供应链的紧密联系。其商业优势在于验证导入:采用成熟存储器接口的架构可以进入已经围绕高带宽存储器设计的基础设施。另一方面,与新兴技术相比,其增长速度较慢,这源于不同的制约因素:集成逻辑可能降低可用密度。 [5]SK hynix, SK hynix Develops PIM, Next-Generation AI Accelerator, February 2022, news.skhynix.com
基于 SRAM 的 PIM 规模为 9,170 万美元,占 2025 年收入的 15.0%,年均复合增长率(CAGR)为 29.2%。SRAM 适用于确定性强、低延迟的数字推理。d-Matrix 的 Corsair 平台采用数字存内计算,并报告称其内部 DIMC 带宽达到 150 TB/s,8 位计算性能达到 2,400 TFLOPs,同时公布了基于 PCIe Gen5 硬件的 Llama 3 推理性能数据。当令牌延迟和可复现的数值行为优先于存储容量时,这一特性尤为重要。 [6]d-Matrix, d-Matrix Unveils Corsair, the World's Most Efficient AI Computing Platform for Inference in Datacenters, November 2024, d-matrix.ai
非易失性技术代表了主要的增长机会。基于 MRAM 的存内计算(PIM)在 2025 年的规模仅为 3,760 万美元,但其年均复合增长率(CAGR)为 35.4%,在各类存储器技术中最高;基于 ReRAM 和 Flash 的 PIM 紧随其后,CAGR 分别为 34.3% 和 33.7%。一款采用 40 nm STT-MRAM 的存内计算宏单元在 4~16 位配置下报告了 7.02~112.3 TOPS/W 的性能、7.4~29.6 ns 的延迟,并在选定的 ResNet 和物理信息神经网络测试中达到报告的准确率目标。非易失性能够避免刷新和模型重新加载开销,但产品表现仍取决于耐久性、精度和生产一致性,而不仅仅是实验室环境中的效率。
按计算架构
数字 PIM 是最大的计算架构,2025 年市场规模为 3.754 亿美元,市场份额为 61.4%,CAGR 为 30.1%。该架构能够提供确定性算术运算,并符合生产级推理需求,包括新兴的低精度格式。模拟 PIM 的市场规模为 1.684 亿美元,市场份额为 27.5%,增长率为 28.4%。Mythic 报告称,其模拟架构可实现 120 TOPS/W 的性能和每次 MAC 运算 17 fJ 的能耗。这些数据凸显了模拟 PIM 在能源效率方面的优势,但其商业化挑战仍在于如何在不同变化因素和部署条件下保持稳定的精度。混合信号 PIM 的市场规模为 6,770 万美元,市场份额为 11.1%;该架构以部分模拟效率为代价,换取了对接口和非线性运算的数字控制。
按应用领域和最终用户
人工智能与机器学习是最大的应用领域,2025 年市场规模为 3.18 亿美元,占比为 52.0%。高性能计算与科学计算(市场规模为 1.129 亿美元)以及数据分析与数据库处理(市场规模为 7,480 万美元)提供了其他受内存带宽限制的工作负载;美国能源部的调查显示,PIM 在气候建模以及 OLTP/OLAP 测试中均可带来性能提升。计算机视觉和自然语言处理(NLP)的增长率分别为 34.7% 和 35.6%,这两类应用越来越受益于低功耗的本地化推理,尤其是在模型必须持续运行于边缘设备的场景中。IT 和云服务引领最终用户需求;消费电子、汽车、电信、工业、医疗保健、航空航天与国防等领域则分别面临不同的功耗、延迟和认证要求。由于缺乏最终用户市场规模数据,各垂直领域之间的比较应被理解为采用条件的差异,而非收入排名。
GMI 分析师观点
细分市场组合将当前收入基础与架构变革来源区分开来。基于 DRAM 的数字 PIM 受益于成熟的制造能力和加速器兼容性,而 MRAM、ReRAM 和 Flash 则适用于非易失性和低待机功耗比内存容量更为重要的场景。这一区别具有重要的商业意义:供应商可以凭借数据中心内存集成能力处于领先地位,但不一定在全天候运行的视觉、音频或嵌入式语言推理领域同样领先。
应用领域的增长进一步强化了这一分化趋势。自然语言处理和计算机视觉的增长速度快于整体市场,因为这两类应用越来越需要在靠近设备或数据源的位置执行推理。然而,可寻址机会取决于若干条件:模拟和非易失性设计必须将能源优势转化为可重复的精度和易于管理的开发者工具链。最终胜出的架构将取决于数据移动成本、可接受的精度范围,以及客户能否完成专用运行时环境的认证。
存内计算(PIM)市场区域分析
北美
北美地区引领市场,2025年市场规模为 2.55亿美元,市场份额为 41.7%;预计到2035年将达到 34.628亿美元,年均复合增长率(CAGR)为 28.9%。美国2025年的市场规模为 2.34亿美元,加拿大为 2,100万美元。该地区将超大规模推理需求与 EnCharge AI、MemryX、GSI Technology、d-Matrix 和 Mythic AI 等专业化企业集群结合起来。针对先进内存和封装的 CHIPS 激励措施,为这一总体由需求主导的市场增加了供应链层面的影响因素。 [7]U.S. Department of Commerce, Biden-Harris Administration Announces CHIPS Incentives Award with SK hynix to Advance U.S. Technological Leadership and Expand Capacity of Chips Crucial to the AI Supply Chain, December 2024, commerce.gov
亚太地区
亚太地区紧随其后,2025年市场规模为 2.414亿美元,市场份额为 39.5%;预计到2035年将以 37.776亿美元的市场规模成为最大的区域,年均复合增长率为 30.7%。中国市场规模将从 7,230万美元增至 13.146亿美元,韩国将从 6,070万美元增至 8.689亿美元,日本将从 4,200万美元增至 5.213亿美元,印度将从 2,020万美元增至 4.911亿美元,澳大利亚将从 1,000万美元增至 1.133亿美元。韩国通过 SK hynix 和 Samsung 在先进内存供应端发挥核心作用。该地区还包括 Syntiant、PIMIC、TetraMem、Witmem(Zhicun Technology)、HOUMO.AI 和 Pimchip,围绕云端、移动端和边缘应用场景形成更广泛的竞争基础。
欧洲
欧洲2025年的市场规模为 6,910万美元,预计到2035年将达到 7.657亿美元,年均复合增长率为 26.2%。德国市场规模将从 1,960万美元增至 2.527亿美元,领先于英国、法国、意大利和西班牙。工业人工智能、汽车和边缘视觉形成了不同于北美云端部署的需求结构。Axelera AI 是获得认可的欧洲竞争企业,其边缘计算定位体现了该地区在面向特定应用的推理领域,而非大规模 HBM 供应领域的潜力。
拉丁美洲
拉丁美洲市场规模将从 2,320万美元增至 2.638亿美元,年均复合增长率为 26.6%。该地区的 PIM 应用主要与云服务可用性和企业人工智能部署相关,而不是依托本土先进内存制造基础。中东和非洲市场规模将从 2,450万美元增至 2.382亿美元,年均复合增长率为 25.5%。沙特阿拉伯、阿联酋和南非是已确定的主要市场,市场规模分别从2025年的 640万美元、490万美元和 660万美元增至 7,740万美元、4,650万美元和 5,840万美元。需求可能将随着数据中心和公共人工智能基础设施投资而增长,因此产品供应能力和系统集成能力将成为决定性因素。
GMI 分析师观点
区域领导地位由基础设施需求和内存供应能力共同决定。北美在高成本推理系统方面拥有最集中的即时客户需求,并具备政策支持的先进封装基础。亚太地区当前需求几乎与北美相当,但增长轨迹更快,这是因为韩国内存行业龙头能够影响 PIM 产品供应,而中国、日本和印度则不断拓展本地人工智能及半导体活动。
欧洲的发展路径更加面向具体应用,尤其集中于工业、汽车和边缘推理领域。拉丁美洲以及中东和非洲不太可能主导内存技术路线图,但在新建数据中心容量能够绕过传统基础设施的情况下,这些地区的增长可能具有重要意义。
对于存内处理(PIM)供应商而言,这意味着其市场进入模式应有所不同:北美应侧重系统协同设计与超大规模云服务商认证;亚太地区应侧重供应链与生态系统合作;欧洲及新兴地区则应侧重以工作负载为核心的解决方案。存内处理(PIM)市场份额与竞争格局
SK hynix 以 29% 的份额领先 2025 年市场,Samsung Electronics 以 11% 的份额紧随其后;Syntiant 占 5%,Mythic AI 占 4%,d-Matrix 占 4%,其他供应商合计占 47%。这一市场结构由两类企业构成:一类是能够将计算集成到大批量存储器产品中的存储器行业巨头,另一类是针对特定推理条件进行优化的专业厂商。
SK hynix 的 GDDR6-AiM 和 AiMX 项目使其聚焦于异构数据中心推理。其 2025 年 AiMX 演示在采用 vLLM 的 Supermicro 环境中,将受内存带宽限制的注意力层部署在 AiMX 卡上,并将受计算能力限制的投影层部署在 H100 GPU 上。Samsung 的 HBM-PIM 通过位于 HBM 存储体中的存内 AI 引擎,以及与既有 HBM2 信号传输的兼容性实现差异化。如果 PIM 被纳入存储器接口标准,两家行业巨头均有望受益,但其核心挑战在于将技术兼容性转化为广泛的软件支持。 [8]SK hynix, AI Infra Summit 2025: SK hynix Showcases Innovative AiM Solution for Accelerating AI, September 2025, news.skhynix.com
Syntiant 专注于低功耗、始终在线的边缘推理。Mythic AI 聚焦模拟存内处理,并报告称其性能达到 120 TOPS/W,同时通过 CAMP 提供广泛的框架接口。d-Matrix 通过 Corsair 数字存内计算面向数据中心推理;该公司报告了 PCIe Gen5 实现方案、150 TB/s 的 DIMC 带宽,并重点采用 OCP Micro-scaling 规格。EnCharge AI、MemryX、GSI Technology、PIMIC、TetraMem、Witmem、HOUMO.AI、Pimchip、Axelera AI 和 XCENA 处于区域性、利基型或颠覆者定位。它们的差异化将取决于存储器基底、工作负载专业化、软件可访问性和渠道覆盖的具体组合,而不是某一套通用的 PIM 功能。 [9]Mythic AI, Mythic to Challenge AI's GPU Pantheon with 100x Energy Advantage and Oversubscribed USD 125M Raise, December 2025, mythic.ai
近期行业发展动态
2025 年 9 月,SK hynix 在 AI Infra Summit 上展示了基于 AiMX 的异构推理配置:在一台 Supermicro 服务器中使用四张 AiMX 卡和两块 H100 GPU,并运行 vLLM。
2025 年 12 月,Mythic AI 宣布完成一轮由 DCVC 牵头、获超额认购的 1.25 亿美元融资,Honda Motors 和 Lockheed Martin 被确定为战略参与方。该公司将融资公告与其模拟 PIM 效率及软件平台定位结合起来。
您是否需要本报告的特定章节?
您可以根据研究需求,单独购买区域分析、国家层面分析、公司概况或其他细分市场层面的洞察
。
常见问题(FAQ):
研究方法、数据来源和验证过程
本报告基于结构化的研究流程,围绕直接的行业对话、专有建模和严格的交叉验证构建,而不仅仅是桌面研究。
我们的6步研究流程
1. 研究设计与分析师监督
在GMI,我们的研究方法建立在人类专业知识、严格验证和完全透明的基础上。我们报告中的每一个洞察、趋势分析和预测都是由理解您市场细微差别的经验丰富的分析师开发的。
我们的方法通过与行业参与者和专家的直接交流整合了广泛的一手研究,并以来自经过验证的全球来源的全面二手研究作为补充。我们应用量化影响分析来提供可靠的预测,同时保持从原始数据源到最终洞察的完全可追溯性。
2. 一手研究
一手研究是我们方法论的基础,对整体洞察的贡献率近乎80%。它涉及与行业参与者的直接交流,以确保分析的准确性和深度。我们的结构化访谈计划覆盖区域和全球市场,包括来自高管、总监和主题专家的输入。这些互动提供战略、运营和技术视角,实现全面的洞察和可靠的市场预测。
3. 数据挖掘与市场分析
数据挖掘是我们研究过程的关键部分,对整体方法论的贡献率约为20%。它包括通过主要参与者的收入份额分析来分析市场结构、识别行业趋势和评估宏观经济因素。相关数据从付费和免费来源收集,以建立可靠的数据库。然后将这些信息整合起来,以支持一手研究和市场规模估算,并由分销商、制造商和协会等关键利益相关者进行验证。
4. 市场规模测算
我们的市场规模测算建立在自下而上的方法之上,从通过一手访谈直接收集的企业收入数据开始,同时结合制造商的产量数据以及安装或部署统计数据。这些输入数据在各地区市场进行汇总,以得出一个基于实际行业活动的全球估算值。
5. 预测模型与关键假设
每项预测均包含以下内容的明确文档记录:
✓ 主要增长驱动因素及其预期影响
✓ 制约因素与缓解场景
✓ 监管假设与政策变动风险
✓ 技术普及曲线参数
✓ 宏观经济假设(GDP增长、通货膨胀、汇率)
✓ 竞争格局与市场进入/退出预期
6. 验证与质量保证
最终阶段涉及人工验证,领域专家对筛选后的数据进行手动审查,以发现自动化系统可能遗漏的细微差异和语境错误。这种专家审查增加了一个关键的质量保证层,确保数据与研究目标和领域特定标准一致。
我们的三层验证流程确保数据可靠性最大化:
✓ 统计验证
✓ 专家验证
✓ 市场实实检验
信任与可信度
已验证的数据来源
贸易出版物
行业期刊、贸易出版物和专业媒体
行业数据库
专有及第三方市场数据库
监管文件
政府采购记录及政策文件
学术研究
大学研究及专业機构报告
企业报告
年度报告、投资者演示及申报文件
专家访谈
高层管理人员、采购负责人及技术专家
GMI档案库
覆盖20余个行业领域的逶13,000项已发布研究
贸易数据
进出口量、HS编码及海关记录
研究与评估的参数
本报告中的每个数据点均通过一手访谈、真正的自下而上建模及严格的交叉验证进行核实。 了解我们的研究流程 →