메모리 내 처리(PIM) 시장 규모 및 점유율 2026-2035

메모리 내 처리(PIM) 시장 규모

글로벌 메모리 내 처리(PIM) 시장 규모는 2025년 6억1,150만 미국 달러로 평가되며, 2026년 8억5,000만 미국 달러, 2035년 85억 미국 달러에 이를 전망입니다. 2026~2035년 동안 연평균성장률(CAGR) 29.2%로 확대될 전망입니다.

이 전망은 AI 인프라 경제성의 변화를 반영합니다. 특히 긴 컨텍스트 및 소배치 워크로드를 처리하는 추론 시스템에서는 프로세서와 메모리 사이에서 모델 가중치와 중간 데이터를 이동하는 작업이 산술 연산 처리량만큼 중요한 요소가 되고 있습니다.

PIM은 메모리 어레이 내부 또는 바로 인접한 위치에서 연산을 수행합니다. 이에 따라 성능을 제한하는 자원이 외부 메모리 트래픽에서 메모리 뱅크 내부의 로컬 병렬성으로 바뀝니다. 미국 에너지부의 한 조사에 따르면 데이터 이동은 연산보다 약 100배 더 많은 에너지를 필요로 하며, 어텐션, 데이터베이스, HPC 및 그래프 워크로드 전반에서 PIM 설계를 통해 성능과 에너지 효율이 향상되는 것으로 나타났습니다. 이에 따라 상용 메모리 공급업체들은 기존 메모리 인터페이스를 유지하면서 로컬 연산 기능을 추가하는 구현 방식을 추진해 왔습니다. SK hynix는 자사의 GDDR6-AiM가 16Gbps로 작동하고 데이터 전송 전력을 최대 80% 절감하며 특정 워크로드의 처리량을 최대 16배 높일 수 있다고 보고했습니다. 삼성전자는 HBM-PIM이 평가 대상 AI 및 HPC 워크로드에서 2배를 웃도는 성능과 70% 이상의 에너지 사용량 절감 효과를 제공했다고 보고했습니다. ^{[1]U.S. Department of Energy, Office of Scientific and Technical Information, A Survey on the Expanding Scope and Interdisciplinary Opportunities for Processing-in-Memory Techniques, 2024, osti.gov}

수요 환경은 갈수록 전력 제약을 받고 있습니다. 글로벌 데이터센터의 전력 소비량은 2024년 415TWh였으며 2030년에는 945TWh에 육박할 것으로 예상됩니다. 국제에너지기구(IEA)는 가속 서버를 추가 수요의 주요 원인으로 지목하고 있습니다. PIM은 GPU를 보편적으로 대체하는 기술은 아니지만, 어텐션, 벡터 연산 또는 데이터베이스 조건식 연산을 저장 데이터 가까이에서 수행함으로써 메모리 병목 계층의 비용 구조를 바꿀 수 있습니다. ^{[2]International Energy Agency, Energy and AI, 2025, iea.org}

따라서 시장 성장 논리는 하나의 긴장 관계에 기반합니다. 전력 수요가 증가하면서 유용한 추론 1회당 에너지 사용량을 낮추는 것이 상업적으로 중요해지고 있지만, 이를 실현할 가능성이 가장 높은 아키텍처는 예측 가능한 정확도, 관리 가능한 프로그래밍, 수용 가능한 메모리 집적도 경제성을 입증해야 합니다. 메모리 혁신을 활용 가능한 런타임 및 시스템 검증과 결합하는 공급업체가 개별 실리콘 성능 지표만 제시하는 공급업체보다 더 많은 가치를 확보할 것으로 예상됩니다.

주요 성장 요인

AI 및 생성형 AI 워크로드. 트랜스포머 추론은 메모리 계층 전반에서 가중치와 키-값 캐시 데이터를 반복적으로 이동시키므로, 긴 컨텍스트를 처리하는 서비스는 대역폭과 에너지에 불균형적으로 민감합니다. DOE 조사에서 검토한 메모리 내 처리(PIM) 어텐션 가속기는 인용된 기존 기준 시스템보다 최대 2.81배 높은 성능과 2.67배 우수한 에너지 효율을 달성했습니다. 가속 서버의 전력 사용량이 증가함에 따라 운영 기업은 하드웨어를 명목상 컴퓨팅 성능만으로 평가하기보다 제공된 토큰당 에너지와 지연 시간을 기준으로 평가할 유인이 커지고 있습니다.

HBM 및 첨단 메모리. HBM은 이미 AI 가속기를 겨냥한 높은 대역폭 밀도를 제공하므로 자연스러운 진입점입니다. 삼성전자의 HBM-PIM은 평가 과정에서 HBM2 PHY 호환성을 유지해 기존 가속기 시스템과의 통합 단절을 줄였습니다. SK hynix의 GDDR6-AiM는 그래픽 메모리급 디바이스를 통한 대안적 경로를 보여줍니다. LPDDR6 PIM 표준화를 위한 이들의 작업은 향후 데이터 센터에서 전력 제약이 있는 모바일 추론으로도 기회가 확대될 수 있음을 시사하지만, 표준화가 대량 도입을 의미하는 것은 아닙니다. ^{[3]Samsung Electronics, Samsung Develops Industry's First High Bandwidth Memory with AI Processing Power, February 2021, news.samsung.com}

CXL 메모리 확장. 워크로드에서 원시 컴퓨팅 성능보다 용량이 제약 요인으로 작용할 때, 메모리 분리는 PIM이 공략할 수 있는 시장을 확대할 수 있습니다. DOE 조사는 특정 DRAM-PIM 구성에서 CPU를 통한 통신이 중요한 한계 요인이라고 지적하며, CXL 관련 인터페이스를 사용하는 데이터 근접 처리 설계에서 상당한 성능 향상이 나타난다고 보고합니다. 상업적 의미는 모든 CXL 디바이스가 PIM 디바이스가 된다는 것이 아니라, 일관성 메모리 확장을 통해 호스트 아키텍처를 포기하지 않고도 특수 메모리 컴퓨팅을 연결할 수 있는 시스템 차원의 경로를 제공한다는 데 있습니다.

공공 반도체 투자. 미국 CHIPS for America 프로그램의 자금 규모는 총 500억 미국 달러이며, 이 중 390억 미국 달러는 제조 인센티브에, 110억 미국 달러는 연구개발(R&D)에 배정됩니다. 미국 상무부가 SK hynix에 제공한 지원에는 최대 4억5,800만 미국 달러의 직접 자금과 최대 5억 미국 달러의 대출이 포함되며, 이는 첨단 패키징 및 HBM 관련 역량을 중심으로 한 인디애나주 38억7,000만 미국 달러 규모의 투자를 대상으로 합니다. 이러한 프로그램은 첨단 메모리 생산 용량과 관련된 자금 조달 및 공급망 위험을 낮추지만, PIM 소프트웨어의 준비도 문제를 해결하지는 못합니다. 공공 제조 지원과 애플리케이션 활성화는 서로 다른 일정에 따라 진행될 것입니다. ^{[4]National Institute of Standards and Technology, CHIPS for America, 2024, nist.gov}

에너지 효율적인 컴퓨팅. PIM의 잠재력은 전력 가용성이 실제로 활용 가능한 AI 용량을 제한하는 분야에서 가장 큰 가치를 지닙니다. 그 메커니즘은 구체적입니다. 즉, 기존 컴퓨팅 활용도를 단순히 개선하는 것이 아니라 로컬 실행을 통해 에너지 소비가 큰 오프칩 데이터 전송의 일부를 줄이는 방식입니다. 국제에너지기구(IEA)가 전망한 데이터 센터 전력 수요 증가는 이러한 특성을 입지 선정과 용량 계획은 물론 디바이스 조달에도 중요한 요소로 만듭니다.

주요 제약 요인

하드웨어 비용 및 통합. DOE 조사에 따르면 DRAM에 로직을 추가하면 밀도가 25~50% 낮아질 수 있습니다. 이러한 상충 관계가 중요한 이유는 PIM이 GPU뿐만 아니라 저렴한 기존 메모리와도 경쟁하기 때문입니다. 실리콘 프리미엄에는 메모리 컨트롤러, 드라이버, 열 설계 및 서빙 소프트웨어 전반에 걸친 검증 비용이 추가됩니다. Samsung의 HBM-PIM과 같은 인터페이스 호환 방식은 이러한 부담을 줄일 수 있지만, 호환성으로 인해 메모리 디바이스에 추가할 수 있는 로직의 규모도 제한됩니다. 따라서 초기 도입은 절감되는 전력, 지연 시간 또는 인프라 지출을 프리미엄 비용과 비교해 측정할 수 있는 워크로드를 중심으로 이루어질 전망입니다.

소프트웨어 호환성. PIM 프로그래밍에는 데이터 배치, 뱅크 수준 병렬성, 커널 및 호스트-디바이스 조정에 관한 선택이 필요하며, 기존 GPU 사용자는 이러한 요소를 일상적으로 관리하지 않습니다. 이 장벽은 기술적인 문제인 동시에 상업적인 문제이기도 합니다. 맞춤형 모델 분할이 필요한 하드웨어상의 이점은 표준화된 서빙 스택을 기반으로 구축된 클라우드 환경에 배포하기 어려울 수 있습니다. Mythic의 CAMP SDK는 ONNX, PyTorch, TensorFlow 및 TensorRT 경로를 지원하여 프레임워크 브리지의 가치를 보여주지만, 이러한 지원만으로 모든 모델에서 이기종 PIM 동작이 투명하게 구현되는 것은 아닙니다.

따라서 단일 디바이스 벤치마크보다 표준과 배포 실적이 더 중요합니다. 익숙한 인터페이스를 유지하고 반복 가능한 통합 경로를 제공하며 PIM과 GPU의 혼합 운영을 입증하는 하드웨어 공급업체는 검증 주기를 단축할 수 있습니다. 반대로 명확히 한정된 워크로드상의 이점 없이 새로운 프로그래밍 모델을 요구하는 디바이스는 에너지 지표가 매력적이더라도 기술 파일럿 수준에 머물 가능성이 높습니다.

메모리 내 처리(PIM) 시장 부문 분석

메모리 기술별

DRAM 기반 PIM은 2025년 매출의 68.7%에 해당하는 4억2,000만 미국 달러로 가장 큰 비중을 차지했으며, 연평균성장률(CAGR) 27.6%로 성장할 전망입니다. 이러한 입지는 제조 성숙도와 기존 HBM 및 GDDR 가속기 공급망과의 높은 연계성을 반영합니다. 상업적 이점은 검증 용이성에 있습니다. 기존 메모리 인터페이스와 함께 작동하는 아키텍처는 고대역폭 메모리를 중심으로 설계된 인프라에 진입할 수 있습니다. 그러나 신흥 기술보다 성장률이 낮은 데에는 다른 제약 요인이 있습니다. 로직 통합으로 사용 가능한 밀도가 낮아질 수 있기 때문입니다. ^{[5]SK hynix, SK hynix Develops PIM, Next-Generation AI Accelerator, February 2022, news.skhynix.com}

SRAM 기반 PIM은 2025년 매출 9,170만 미국 달러로 15.0%를 차지했으며, 연평균성장률(CAGR) 29.2%로 성장하고 있습니다. SRAM은 결정론적이고 지연 시간이 짧은 디지털 추론에 적합합니다. d-Matrix의 Corsair 플랫폼은 디지털 메모리 내 연산을 사용하며, PCIe Gen5 하드웨어에서 내부 DIMC 대역폭 150 TB/s, 8비트 연산 성능 2,400 TFLOPs 및 Llama 3 추론 성능 수치를 보고합니다. 이러한 특성은 메모리 용량보다 토큰 지연 시간과 재현 가능한 수치 동작이 더 중요한 경우에 의미가 있습니다. ^{[6]d-Matrix, d-Matrix Unveils Corsair, the World's Most Efficient AI Computing Platform for Inference in Datacenters, November 2024, d-matrix.ai}

비휘발성 기술은 주요 성장 기회를 제공합니다. MRAM 기반 PIM은 2025년 시장 규모가 3,760만 미국 달러에 불과하지만, 메모리 기술 중 가장 높은 연평균성장률(CAGR)인 35.4%를 기록했으며, ReRAM 기반 및 플래시 기반 PIM이 각각 34.3%와 33.7%로 뒤를 이었습니다. 40nm STT-MRAM 메모리 내 연산 매크로는 4비트부터 16비트 구성에서 7.02~112.3 TOPS/W의 성능과 7.4~29.6ns의 지연시간을 보고했으며, 일부 ResNet 및 물리 정보 신경망 테스트에서 보고된 정확도 목표를 충족했습니다. 비휘발성 특성은 리프레시 및 모델 재로딩에 따른 오버헤드를 줄일 수 있지만, 제품 성과는 실험실 수준의 효율성만이 아니라 내구성, 정밀도 및 생산 일관성에도 좌우됩니다.

컴퓨팅 아키텍처별

디지털 PIM은 2025년 시장 규모가 3억7,540만 미국 달러, 시장 점유율이 61.4%로 가장 큰 아키텍처이며, 연평균성장률(CAGR)은 30.1%입니다. 디지털 PIM은 결정론적 연산을 제공하고, 새롭게 등장하는 저정밀도 형식을 포함한 양산 추론 요건에 부합합니다. 아날로그 PIM은 시장 규모 1억6,840만 미국 달러, 시장 점유율 27.5%를 차지했으며, 28.4%의 성장률을 기록했습니다. Mythic은 자사의 아날로그 아키텍처에 대해 120 TOPS/W 및 MAC당 17fJ의 성능을 보고했습니다. 이러한 주장은 아날로그 PIM의 에너지 효율성 강점을 보여주지만, 상업적 과제는 변동성과 실제 배포 조건에서도 정확도를 안정적으로 유지하는 데 있습니다. 혼합 신호 PIM은 시장 규모 6,770만 미국 달러, 시장 점유율 11.1%를 차지하며, 인터페이스와 비선형 연산을 디지털 방식으로 제어하는 대신 일부 아날로그 효율성을 양보합니다.

용도 및 최종 사용자별

AI 및 ML은 2025년 시장 규모가 3억1,800만 미국 달러, 시장 점유율이 52.0%로 가장 큰 용도입니다. HPC 및 과학 컴퓨팅(시장 규모 1억1,290만 미국 달러), 데이터 분석 및 데이터베이스 처리(7,480만 미국 달러)는 메모리 병목 현상이 발생하는 추가 워크로드를 제공합니다. DOE 조사에서는 기후 모델링과 OLTP/OLAP 테스트에서 PIM의 성능 향상이 보고되었습니다. 각각 34.7%와 35.6%의 성장률을 기록한 컴퓨터 비전과 NLP는 저전력 로컬 추론에 적합하며, 특히 엣지에서 모델을 계속 활성 상태로 유지해야 하는 환경에서 유용합니다. IT 및 클라우드 서비스가 최종 사용자 수요를 주도하는 가운데, 소비자 가전, 자동차, 통신, 산업, 의료, 항공우주 및 방위 분야는 서로 다른 전력, 지연시간 및 인증 요건을 충족해야 합니다. 최종 사용자별 시장 규모가 제시되지 않았으므로, 분야 간 비교는 매출 순위가 아니라 도입 조건의 차이로 해석해야 합니다.

용도별 성장세는 이러한 분화를 더욱 뚜렷하게 보여줍니다. NLP와 비전은 디바이스 또는 데이터 소스 가까이에서 추론을 수행해야 하는 경우가 늘어나면서 전체 시장보다 빠르게 성장하고 있습니다. 그러나 시장 기회는 여러 조건에 좌우됩니다. 아날로그 및 비휘발성 설계는 에너지 효율성의 이점을 반복 가능한 정확도와 관리 가능한 개발자 도구로 전환해야 합니다. 최적의 아키텍처는 데이터 이동 비용, 허용되는 정밀도 범위, 그리고 고객이 특화 런타임을 인증할 수 있는지 여부에 따라 달라질 것입니다.

메모리 내 처리(PIM) 시장 지역별 분석

북미

북미 시장 규모는 2025년 2억5,500만 미국 달러로 전체 시장의 41.7%를 차지하며, 28.9%의 연평균성장률(CAGR)로 2035년에는 34억6,280만 미국 달러에 이를 전망입니다. 미국은 2025년 2억3,400만 미국 달러, 캐나다는 2,100만 미국 달러를 기록했습니다. 북미 시장은 EnCharge AI, MemryX, GSI Technology, d-Matrix, Mythic AI 등 전문 기업이 집중되어 있는 가운데, 하이퍼스케일 추론 수요와 결합되어 있습니다. 첨단 메모리 및 패키징을 위한 CHIPS 인센티브는 수요가 주도하는 시장에 공급망 측면을 더하고 있습니다. ^{[7]U.S. Department of Commerce, Biden-Harris Administration Announces CHIPS Incentives Award with SK hynix to Advance U.S. Technological Leadership and Expand Capacity of Chips Crucial to the AI Supply Chain, December 2024, commerce.gov}

아시아 태평양

아시아 태평양 시장은 2025년 2억4,140만 미국 달러, 39.5%의 시장 점유율로 북미 시장에 근접해 있으며, 30.7%의 연평균성장률(CAGR)로 2035년에는 37억7,760만 미국 달러에 달해 최대 지역으로 부상할 전망입니다. 중국 시장은 7,230만 미국 달러에서 13억1,460만 미국 달러로, 한국은 6,070만 미국 달러에서 8억6,890만 미국 달러로, 일본은 4,200만 미국 달러에서 5억2,130만 미국 달러로, 인도는 2,020만 미국 달러에서 4억9,110만 미국 달러로, 호주는 1,000만 미국 달러에서 1억1,330만 미국 달러로 성장할 전망입니다. 한국은 SK hynix와 Samsung을 통해 첨단 메모리 공급 측면에서 핵심적인 역할을 합니다. 또한 아시아 태평양 지역에는 Syntiant, PIMIC, TetraMem, Witmem (Zhicun Technology), HOUMO.AI, Pimchip 등이 있어 클라우드, 모바일 및 엣지 용도 전반에서 더욱 폭넓은 경쟁 기반을 형성하고 있습니다.

유럽

유럽 시장 규모는 2025년 6,910만 미국 달러이며, 26.2%의 연평균성장률(CAGR)로 2035년에는 7억6,570만 미국 달러에 이를 전망입니다. 독일 시장은 1,960만 미국 달러에서 2억5,270만 미국 달러로 증가해 영국, 프랑스, 이탈리아, 스페인을 앞설 전망입니다. 산업용 AI, 자동차 및 엣지 비전은 북미의 클라우드 구축과는 다른 수요 구성을 형성합니다. Axelera AI는 공식 유럽 경쟁업체이며, 엣지 중심 전략은 대규모 HBM 공급보다 애플리케이션별 추론 분야에서 유럽이 가진 잠재력을 보여줍니다.

라틴 아메리카

라틴 아메리카 시장은 26.6%의 연평균성장률(CAGR)로 2,320만 미국 달러에서 2억6,380만 미국 달러로 성장할 전망입니다. 이 지역의 PIM 도입은 주로 국내 첨단 메모리 제조 기반보다는 클라우드 서비스 이용 가능성과 기업의 AI 구축에 연계되어 있습니다. 중동 및 아프리카 시장은 25.5%의 연평균성장률(CAGR)로 2,450만 미국 달러에서 2억3,820만 미국 달러로 성장할 전망입니다. 사우디아라비아, 아랍에미리트, 남아프리카공화국이 주요 시장으로 파악되며, 2025년 각각 640만 미국 달러, 490만 미국 달러, 660만 미국 달러에서 7,740만 미국 달러, 4,650만 미국 달러, 5,840만 미국 달러로 증가할 전망입니다. 수요는 데이터센터 및 공공 AI 인프라 투자에 따라 형성될 가능성이 높으며, 이에 따라 제품 공급 가능성과 시스템 통합 역량이 결정적인 요소가 될 전망입니다.

유럽의 성장 경로는 특히 산업용, 자동차 및 엣지 추론 등 애플리케이션별 특성이 강합니다. 라틴 아메리카와 중동 및 아프리카는 메모리 기술 로드맵을 주도할 가능성은 낮지만, 신규 데이터센터 용량이 기존 인프라를 우회하는 지역에서는 의미 있는 성장이 가능할 전망입니다.

PIM 공급업체의 경우 시장 진출 모델을 차별화해야 합니다. 북미에서는 시스템 공동 설계와 초대형 클라우드 사업자 인증에, 아시아 태평양에서는 공급망 및 생태계 파트너십에, 유럽과 신흥 지역에서는 워크로드 중심 솔루션에 초점을 맞춰야 합니다.

메모리 내 처리(PIM) 시장 점유율 및 경쟁 구도

SK hynix는 2025년 시장에서 29%의 점유율로 선두를 차지했으며, Samsung Electronics가 11%로 뒤를 이었습니다. Syntiant는 5%, Mythic AI는 4%, d-Matrix는 4%를 차지했고, 기타 공급업체의 합산 점유율은 47%였습니다. 이러한 시장 구조는 대량 생산 메모리 제품에 연산 기능을 통합할 수 있는 기존 메모리 기업과 특정 추론 조건에 최적화된 전문업체가 함께 구성하고 있습니다.

SK hynix의 GDDR6-AiM 및 AiMX 프로그램은 이기종 데이터센터 추론을 중심으로 포지셔닝하고 있습니다. SK hynix는 2025년 AiMX 시연에서 Supermicro 환경에서 vLLM을 사용해 메모리 병목이 발생하는 어텐션 연산을 AiMX 카드에서 처리하고, 연산 병목이 발생하는 프로젝션 레이어를 H100 GPU에서 처리하는 구성을 선보였습니다. Samsung의 HBM-PIM은 HBM 뱅크에 배치된 메모리 내 AI 엔진과 기존 HBM2 신호 방식과의 호환성을 통해 차별화됩니다. 두 기존 메모리 기업은 PIM이 메모리 인터페이스 표준에 포함될 경우 수혜를 받을 수 있지만, 핵심 과제는 기술적 호환성을 폭넓은 소프트웨어 지원으로 전환하는 것입니다. ^{[8]SK hynix, AI Infra Summit 2025: SK hynix Showcases Innovative AiM Solution for Accelerating AI, September 2025, news.skhynix.com}

Syntiant는 저전력 상시 작동 엣지 추론을 겨냥합니다. Mythic AI는 아날로그 PIM에 주력하며, CAMP를 통해 120 TOPS/W와 폭넓은 프레임워크 인터페이스를 제공한다고 보고했습니다. d-Matrix는 Corsair의 디지털 메모리 내 컴퓨팅을 통해 데이터센터 추론을 겨냥하며, PCIe Gen5 구현, 150TB/s DIMC 대역폭 및 OCP 마이크로 스케일링 형식에 중점을 둔다고 보고했습니다. EnCharge AI, MemryX, GSI Technology, PIMIC, TetraMem, Witmem, HOUMO.AI, Pimchip, Axelera AI 및 XCENA는 지역 기반 기업, 틈새 기업 또는 시장 혁신 기업의 포지션을 차지하고 있습니다. 이들 기업의 차별화는 공통된 PIM 기능 세트보다는 메모리 기반, 워크로드 전문성, 소프트웨어 접근성 및 유통 채널 접근성을 특정 방식으로 조합하는 데 달려 있을 전망입니다. ^{[9]Mythic AI, Mythic to Challenge AI's GPU Pantheon with 100x Energy Advantage and Oversubscribed USD 125M Raise, December 2025, mythic.ai}

최근 산업 동향

2025년 9월, SK hynix는 AI Infra Summit에서 Supermicro 서버와 vLLM을 사용해 AiMX 카드 4개와 H100 GPU 2개를 구성한 AiMX 기반 이기종 추론 구성을 선보였습니다.

2025년 12월, Mythic AI는 DCVC가 주도한 1억2,500만 미국 달러 규모의 초과 청약 자금 조달을 발표했으며, Honda Motors와 Lockheed Martin이 전략적 참여 기업으로 확인되었습니다. Mythic AI는 이 자금 조달 발표와 함께 아날로그 PIM의 효율성 및 소프트웨어 플랫폼 포지셔닝을 강조했습니다.