메모리 내 연산(CIM) 칩 시장 규모 및 점유율 2026-2035

메모리 내 연산(CIM) 칩 시장 규모

글로벌 메모리 내 연산(CIM) 칩 시장 규모는 2025년 5억 미국 달러로 평가되며, 2026년에는 6억8,770만 미국 달러, 2035년에는 128억 미국 달러에 이를 전망입니다. 2026~2035년 동안 연평균성장률(CAGR)은 약 38.4%로 예상됩니다.

CIM은 신경망 가중치를 저장하는 메모리 어레이에 가까운 위치 또는 메모리 어레이 내부에서 곱셈 누산 연산을 수행합니다. 이 아키텍처는 기존 프로세서·메모리 설계에서 추론 처리량과 전력 효율을 제약하는 데이터 이동 부담을 해결하는 것을 목표로 합니다.

CIM은 회로 설계 개념에서 제품 인증 과제로 전환되고 있습니다. IBM의 NorthPole 연구 아키텍처는 256-core 설계 전반에 192MB의 SRAM을 통합하여, 온칩 메모리를 분산 배치하면 신경망 추론에서 오프칩 가중치 이동에 대한 의존도를 낮출 수 있음을 보여주었습니다. 상업적 기회는 추론 워크로드가 충분히 지속되어 연산당 에너지 소비와 지연시간 감소가 시스템 조달에 영향을 미치는 분야에서 가장 큽니다. 여기에는 클라우드 추론 클러스터, 자동차 및 산업용 엣지 시스템, 배터리 제약이 있는 임베디드 기기가 포함됩니다.^{[1]IBM Research, Analog AI: In-Memory Computing for Energy-Efficient Deep Learning, research.ibm.com. (research.ibm.com)}

공급망은 첨단 메모리 설계, 로직 공정 노드 접근성, 혼합신호 또는 디지털 설계 전문성, 컴파일러 지원, 패키징 및 시스템 통합으로 구성됩니다. 이에 따라 CIM 도입은 가속기 카드 하나를 다른 카드로 교체하는 것보다 복잡합니다. 메모리 제조업체는 기존 DRAM, SRAM 또는 플래시 로드맵을 메모리 내 처리 제품으로 전환할 수 있지만, 팹리스 기업은 파운드리 생산능력을 확보하고 자사의 소프트웨어 스택이 배포, 모델 변환, 모니터링 및 수명주기 관리를 지원한다는 점을 입증해야 합니다. 따라서 CIM 어레이를 표준 인터페이스 및 기존 서버나 엣지 디바이스 아키텍처와 통합하는 역량이 이론적 연산 효율성만으로는 달성하기 어려운 설계 채택 전환을 좌우할 전망입니다.

투자 논리는 GPU 또는 CPU를 보편적으로 대체하는 데 기반하지 않습니다. CIM은 모델이 대규모 가중치 세트를 반복적으로 이동하거나, 에너지 가용성이 처리량을 제한하거나, 지연시간 및 전력 범위의 제약으로 기존 가속기를 사용할 수 없는 경우에 가장 큰 매력을 갖습니다. 비교 가능한 공정 노드에서 NorthPole이 입증한 IBM의 효율성 우위는 기술적 전제를 뒷받침하지만, 광범위한 시장 전환은 여전히 소프트웨어 이식성, 신뢰성 검증 및 통합 경제성에 달려 있습니다. 따라서 2035년까지 시장 규모가 128억1,268만 미국 달러로 확대될 것이라는 전망은 기업들이 벤치마크 성능에만 의존하지 않고 메모리 중심의 효율성을 인증된 제품으로 전환한다는 점을 전제로 합니다.^{[2]Wiley, All-in-One Analog AI Hardware: On-Chip Training and Inference with Conductive-Metal-Oxide/HfOx ReRAM Devices, doi.org. (doi.org)}

주요 성장 요인

AI 추론은 산술 처리량보다 데이터 이동에 의해 점점 더 큰 제약을 받고 있습니다. 자기회귀 대규모 언어 모델 추론에서는 생성되는 각 토큰마다 모델 가중치에 반복적으로 액세스해야 합니다. 이로 인해 메모리 액세스가 지연 시간, 가속기 활용도 및 에너지 소비량을 결정하는 중요한 요인이 됩니다. ^{[3]Bowen, Patrick, et al., Analog, In-Memory Compute Architectures for Artificial Intelligence, arXiv, arxiv.org. (arxiv.org)} CIM 통합 TPU 연구 설계는 인용된 기준 TPUv4i 구성과 비교해 생성형 모델 추론 성능을 44.2% 향상시키고 행렬 곱셈 장치의 에너지 소비를 27.3배 줄인 것으로 보고되었습니다. 이러한 결과가 상업적으로 중요한 이유는 클라우드 운영업체가 초당 최대 연산량이 아니라 실제 처리량과 추론당 비용을 구매하기 때문입니다. ^{[3]Bowen, Patrick, et al., Analog, In-Memory Compute Architectures for Artificial Intelligence, arXiv, arxiv.org. (arxiv.org)}

전력 가용성은 AI 배포의 인프라 제약 요인이 되었습니다. 로렌스 버클리 국립연구소에 따르면 미국 데이터 센터는 2023년에 176TWh를 소비했으며, 이는 미국 전체 전력 소비량의 4.4%에 해당합니다. AI 서버 배포가 증가함에 따라 자본을 확보한 경우에도 전력 공급, 냉각 및 전력망 연계 문제로 인해 용량 증설이 지연될 수 있습니다. CIM은 메모리와 컴퓨팅 장치 간 전송을 줄여 추론 확장의 경제성을 개선할 수 있지만, 실제 효과는 워크로드 특성, 정밀도 목표 및 주변 시스템 오버헤드에 따라 달라집니다. ^{[4]Lawrence Berkeley National Laboratory, In-Memory Computing and Energy-Efficient AI Hardware Research, eta-publications.lbl.gov.}

엣지 배포는 하이퍼스케일 인프라를 넘어 공략 가능한 시장을 확대합니다. 자동차 인식 시스템, 산업 검사, 카메라, 웨어러블 기기 및 커넥티드 센서는 클라우드 왕복 통신으로 인해 지연 시간, 대역폭, 개인정보 보호 또는 복원력 측면의 문제가 발생하는 경우 로컬 추론을 필요로 합니다. 플래시 및 SRAM 기반 CIM은 오프칩 메모리 트랜잭션을 줄이면서 모델 가중치를 로컬에 유지할 수 있어 특히 관련성이 높습니다. Rain AI는 2024년 10월 저전력 아날로그 뉴로모픽 컴퓨팅용 시연 하드웨어를 출하하기 시작했으며, 이는 특수 엣지-CIM 접근 방식이 고객 평가 단계로 전환되고 있음을 보여줍니다.

기존 아키텍처가 직면한 메모리 월 문제는 더 높은 컴퓨팅 집적도만으로 해결할 수 없습니다. 고대역폭 메모리는 GPU에 대한 데이터 공급을 개선하지만, 별도의 저장 영역과 처리 영역 사이에서 데이터를 이동할 때 발생하는 에너지 및 지연 시간 비용을 제거하지는 못합니다. CIM은 데이터가 저장된 위치에서 선택된 연산을 실행함으로써 이러한 물리적 관계를 변화시킵니다. 이 접근 방식은 신경망 추론에 사용되는 행렬-벡터 및 행렬-행렬 연산에 특히 적합하지만, 모든 모델 연산자나 정밀도 요구사항에 동일하게 적합한 것은 아닙니다. ^{[4]Lawrence Berkeley National Laboratory, In-Memory Computing and Energy-Efficient AI Hardware Research, eta-publications.lbl.gov.}

메모리 기술의 발전으로 상업적 타당성이 확보된 CIM 기판의 범위가 확대되고 있습니다. 삼성전자는 LLM 관련 워크로드를 대상으로 HBM-PIM, LPDDR5-PIM, CXL 기반 메모리 근접 처리 구성에서 처리량과 에너지 효율이 향상되었다고 보고했습니다 . SK hynix는 별도로 AI 워크로드를 위한 AiM 접근법을 시연했습니다 . 이러한 프로그램이 중요한 이유는 표준화된 메모리 인터페이스와 검증된 제조 경로가 완전히 새로운 가속기 아키텍처가 직면하는 도입 위험을 줄일 수 있기 때문입니다. 이와 동시에 멤리스티브 CIM 연구는 초저전력 엣지 추론의 가능성을 지속적으로 보여주는 한편, 대규모 배포에 앞서 필요한 보정 및 신뢰성 확보 작업도 제시하고 있습니다 .

주요 제약 요인

CIM 아키텍처 설계는 여전히 시스템 수준의 엔지니어링 과제입니다. 디지털 구현에서는 SRAM 집적도, 정밀도, 배선 및 전력 공급 간 균형을 맞춰야 합니다. 아날로그 구현에서는 소자 편차, 열 드리프트, 아날로그-디지털 변환, 보정 및 모델 인식형 오류 관리가 추가로 필요합니다. SRAM-CIM 검토 연구는 어레이 아키텍처와 주변 회로가 정확도, 집적도 및 에너지 성능에 실질적인 영향을 미치므로, 하나의 매크로 설계를 공정 노드나 애플리케이션이 달라져도 수정 없이 적용하기 어렵다는 점을 강조합니다 . 이에 따른 검증 부담은 자본 요건을 높이고 프로토타입 실리콘 제작부터 고객 인증까지 걸리는 시간을 늘립니다.

광범위하게 채택된 인터페이스와 소프트웨어 대상의 부재는 두 번째 마찰 요인입니다. 메모리 제조업체들은 인메모리 프로세싱 표준화에서 진전을 이루고 있지만, CIM 시장에는 SRAM, DRAM, 플래시, 저항성 메모리, 아날로그, 디지털 및 하이브리드 접근법이 포함되며 각각 프로그래밍과 배포 요건이 다릅니다 . 따라서 고객은 이식성 위험에 직면합니다. 한 아키텍처에 최적화된 모델을 다른 아키텍처에 적용하려면 상당한 재컴파일, 양자화 또는 연산자 재설계가 필요할 수 있습니다. 이에 따라 하드웨어와 함께 유지관리되는 컴파일러 도구, 모델 라이브러리 및 통합 지원을 제공하는 공급업체가 유리합니다.

아날로그 정확도와 내구성 제약은 단기적인 활용 사례를 제한합니다. 플래시 및 저항성 메모리 CIM 설계는 뛰어난 집적도와 에너지 특성을 구현할 수 있지만, 물리적 소자 편차, 데이터 유지 특성 및 누적 아날로그 오류로 인해 고정밀 추론이 복잡해집니다. 임베디드 NAND 플래시 CIM 연구는 모델 정확도를 유지하려면 문턱전압 편차와 어레이 수준의 비이상성을 해결해야 한다고 지적합니다 . 자동차, 의료 및 산업 애플리케이션에서는 아날로그 솔루션이 명목상 연산당 에너지 수치에서 더 낮은 값을 제공하더라도 인증 요건에 따라 제품 선택이 디지털 또는 하이브리드 아키텍처로 전환될 수 있습니다.

정책 요건도 상용화 선택에 영향을 미칩니다. 미국 CHIPS Act의 안전장치는 연방 인센티브 수혜자와 관련된 특정 거래에 제약을 가하는 한편, 수출 통제는 고성능 AI 하드웨어가 접근할 수 있는 최종 시장을 축소할 수 있습니다 . 유럽에서는 EU AI Act에 따른 위험 기반 의무로 인해 고위험 애플리케이션에서 추적성과 적합성 평가의 중요성이 커지고 있습니다 . 이러한 조치는 CIM을 독립적인 아키텍처로 직접 규제하지는 않지만, 공급업체가 제품을 판매할 수 있는 지역, 시스템 검증 방식 및 구매자가 우선시하는 신뢰성 특성에 영향을 미칩니다.

즉각적인 경쟁 구도는 신뢰할 수 있는 플랫폼을 상용화할 수 있는 기업과 고효율 매크로만 시연할 수 있는 기업 간에 형성될 것입니다. JEDEC 관련 메모리 내 연산(processing-in-memory) 연구, 메모리 공급업체의 제품 개발, 표준 호스트 인터페이스의 활용은 시간이 지남에 따라 구매자의 위험을 줄일 수 있습니다. 상호운용성과 소프트웨어 성숙도가 개선될 때까지 구매는 결정론적 성능, 통합 지원, 신뢰할 수 있는 수명주기 관리를 입증하는 구현 방식을 선호할 것입니다. 아날로그 CIM은 제약이 있는 엣지 워크로드에서 장기적으로 강력한 입지를 유지하지만, 채택 여부는 에너지 효율만으로 결정되기보다 검증 절차에 따라 단계적으로 진행될 것입니다.

메모리 내 연산(CIM) 칩 시장 부문별 분석

메모리 기술 유형별

SRAM 기반 CIM은 가장 큰 메모리 기술 부문으로, 2025년 시장 규모는 2억322만 미국 달러로 평가되었으며 2035년에는 54억1,976만 미국 달러에 이를 전망입니다. 이는 약 38.95%의 연평균성장률(CAGR)에 해당합니다. SRAM 매크로는 확립된 CMOS 공정을 사용해 로직과 통합할 수 있으므로, 설계자는 새롭게 등장한 비휘발성 메모리의 특성에 의존하지 않고도 높은 대역폭과 짧은 지연 시간의 추론을 구현할 수 있습니다. IBM의 NorthPole 아키텍처는 분산형 SRAM과 고밀도 연산 어레이를 결합해 오프칩 메모리 의존도를 낮춤으로써 이러한 접근 방식의 전략적 가치를 보여줍니다.

SRAM의 단점은 면적 비용입니다. 6트랜지스터 셀은 DRAM이나 Flash보다 저장 비트당 다이 면적을 훨씬 더 많이 차지하므로, SRAM-CIM은 짧은 지연 시간과 예측 가능한 성능이 더 높은 실리콘 자재비를 정당화하는 경우에 경제성이 가장 높습니다. 이에 따라 이 부문은 프리미엄 클라우드 추론, 네트워킹, 산업용 비전, 고성능 엣지 시스템과 연관됩니다. SRAM이 모든 CIM의 범용 기판이라는 의미는 아니며, 시장 초기 상용화 단계에서 확립된 제조 역량과 결정론적 동작이 특히 중요하다는 점을 보여줍니다.

Flash 기반 CIM은 가장 빠르게 성장하는 메모리 기술 유형이 될 전망이며, 시장 규모는 2025년 1억6,613만 미국 달러에서 2035년 46억7,663만 미국 달러로 증가하고 약 39.71%의 연평균성장률(CAGR)을 기록할 전망입니다. 비휘발성 저장 기능을 통해 전원이 차단되어도 신경망 가중치를 칩 내에 유지할 수 있어, 즉각적인 로컬 추론이 필요한 임베디드 기기에 유용합니다. 컴퓨팅 분야의 IEEE 연구에서는 3D NOR와 3D NAND 방식이 높은 대역폭의 디지털 컴퓨팅, 검색, 아날로그 곱셈-누산 연산에서 서로 다른 역할을 수행하는 것으로 제시됩니다.

Flash-CIM의 상업적 가치는 에너지, 메모리 용량, 대기 상태 동작을 동시에 관리해야 하는 설계 환경에서 가장 큽니다. 여기에는 센서 노드, 카메라, 웨어러블 기기, 일부 자동차 기능이 포함됩니다. 그러나 Flash-CIM 공급업체는 내구성, 임계전압 제어, 추론 정확도, 툴 지원이 제품별 요구사항을 충족한다는 점을 입증해야 합니다. 따라서 빠른 성장 전망은 엔지니어링상의 상충 요인이 사라진다는 의미가 아니라, 확대되는 엣지 수요와 유리한 비트당 비용 구조를 반영합니다.

DRAM 기반 CIM 시장 규모는 2025년 7,854만 미국 달러로 평가되며, 약 37.76%의 연평균성장률(CAGR)로 성장해 2035년에는 19억2,190만 미국 달러에 이를 전망입니다. 이 부문은 DRAM의 용량 이점을 유지하면서 고대역폭 데이터 저장 장치와 가까운 위치에 연산 기능을 추가하는 메모리 내 처리 및 메모리 근접 처리 방식에 중점을 둡니다. Samsung의 HBM-PIM 및 LPDDR5-PIM 연구와 SK hynix의 AiM 개발은 DRAM-CIM을 주로 처리량이 높은 데이터센터 및 메모리 중심 AI 애플리케이션에 적용하는 기반을 마련하고 있습니다 , . ^{[5]IBM Research, In-Memory Computing: Non-Von Neumann Architectures for AI, doi.org.}

RRAM, PCM, MRAM 및 FeFET 기반 CIM을 포함한 기타 기판의 시장 규모는 2025년 5,211만 미국 달러이며, 2035년에는 7억9,439만 미국 달러에 이를 전망입니다. 이러한 기술은 비휘발성 또는 아날로그 컴퓨팅 측면에서 유용한 가능성을 제공하지만, 수율, 내구성, 데이터 보존 및 통합과 관련된 과제에 여전히 제약을 받고 있습니다. 약 31.21%로 더 낮은 CAGR은 제조 일관성과 검증 근거가 개선될 때까지 상용화가 선별적으로 진행될 가능성이 높다는 점을 반영합니다.

아키텍처 유형별

디지털 CIM은 가장 큰 아키텍처 부문으로, 2025년 2억1,753만 미국 달러의 시장 규모를 기록했으며 약 38.81%의 CAGR로 성장해 2035년에는 57억4,008만 미국 달러에 이를 전망입니다. 디지털 구현은 이산 연산을 유지하며 결정론적 출력, 익숙한 양자화 모델 형식 및 보다 명확한 검증 경로가 필요한 애플리케이션에 일반적으로 더 적합합니다. 이에 따라 예측 가능한 동작이 가능한 최대 효율성보다 중요할 수 있는 클라우드 추론 및 규제가 적용되는 엣지 애플리케이션에서 상업적 중요성이 높습니다.

d-Matrix의 Corsair 플랫폼은 생성형 AI 추론을 위한 디지털 CIM의 가치를 보여줍니다. 이 아키텍처는 데이터 이동을 줄이기 위해 메모리 어레이에 처리 요소를 내장하며, 상업적 포지셔닝은 독립 회로 지표보다 데이터센터 배포에 초점을 맞춥니다 . 디지털 설계에도 여전히 특수 컴파일러와 메모리 인식 실행 모델이 필요하지만, 아날로그 변동성과 관련된 검증 부담을 줄일 수 있습니다.

아날로그 CIM은 가장 빠르게 성장하는 아키텍처 유형으로, 2025년 1억5,572만 미국 달러에서 2035년 43억8,194만 미국 달러로 확대되고 약 39.70%의 CAGR을 기록할 전망입니다. 아날로그 CIM은 전류, 전하 또는 컨덕턴스와 같은 물리적 특성을 활용해 연산을 수행하며, 중간 정밀도 추론에서 우수한 면적 및 에너지 효율성을 제공할 가능성이 있습니다. 아날로그 SRAM-CIM 가속기에 관한 연구는 이 아키텍처가 높은 에너지 효율성을 구현할 가능성을 보여주는 동시에, 보정과 시스템 수준의 정확도 관리가 필요하다는 점도 제시합니다 .

성장 프리미엄은 클라이언트 디바이스 및 임베디드 시스템에서 추론 1회당 에너지 사용량이 중요하다는 점을 반영합니다. EnCharge AI가 2025년 2월 진행한 자금 조달 라운드는 클라이언트 플랫폼용 아날로그 메모리 내 컴퓨팅의 지속적인 상용화를 뒷받침합니다 . 이 부문의 전망은 공급업체가 실험실 수준의 성능을 반복 재현 가능한 실리콘 동작, 견고한 소프트웨어 워크플로 및 고객이 수용할 수 있는 정확도로 전환할 수 있는지에 달려 있습니다.

하이브리드 CIM은 실용적인 중간 지점을 제시하며, 2025년 1억2,674만 미국 달러의 시장 규모에서 2035년 26억9,066만 미국 달러로 확대되고 약 35.79%의 CAGR을 기록할 전망입니다. 하이브리드 설계는 아날로그 연산 블록과 디지털 보정 또는 제어 회로를 결합함으로써 일부 효율성 이점을 유지하면서 정밀도 및 신뢰성 문제를 해결할 수 있습니다. 순수 아날로그 시스템보다 전망 성장률이 낮은 것은 추가적인 아키텍처 복잡성을 반영하지만, 완전한 아날로그 설계가 애플리케이션별 검증 기준을 충족하지 못하는 경우에는 매력적인 접근 방식이 될 수 있습니다.

용도별

데이터센터 및 클라우드 AI는 가장 큰 용도 부문으로, 2025년 시장 규모는 1억6,225만 미국 달러로 평가되었으며 약 38.88%의 연평균성장률(CAGR)로 성장해 2035년에는 43억506만 미국 달러에 이를 전망입니다. 이 부문에는 에너지 사용량, 메모리 대역폭, 추론 지연 시간이 직접적인 운영비용에 영향을 미치는 고부가가치 시스템이 포함됩니다. WSE-3 웨이퍼 스케일 엔진을 기반으로 구축된 Cerebras의 CS-3는 AI 워크로드를 위해 연산 기능과 온칩 메모리를 집중하도록 설계된 시스템의 사례입니다. 클라우드 배포의 규모와 활용도가 높아지면서 대규모 서비스 제공 시스템 전반에서 효율성 향상이 누적될 수 있습니다.

Groq의 LPU 기반 추론 솔루션은 또 다른 상업화 경로를 제시합니다. 결정론적 추론 하드웨어를 직접 판매하는 데 그치지 않고 클라우드 API 액세스를 통해 수익화할 수 있습니다. 이러한 비즈니스 모델에서는 구매자 평가 기준이 달러당 처리 토큰 수, 가용 용량, 지연 시간 및 서비스 신뢰성으로 이동합니다. 이 부문을 공략하는 CIM 공급업체에는 칩 성능 이상의 역량이 필요합니다. 소프트웨어 통합, 고객 지원, 데이터센터 배포 전문성, 그리고 규모 확장을 위한 신뢰할 수 있는 경로를 갖춰야 합니다.

엣지 AI는 가장 빠르게 성장하는 용도 부문으로, 2025년 1억2,149만 미국 달러에서 2035년 34억2,098만 미국 달러로 확대되며 약 39.71%의 연평균성장률(CAGR)을 기록할 전망입니다. 엣지 배포에서는 전력 소비, 배터리 용량, 열 설계 및 응답 시간이 긴밀하게 연결되어 있기 때문에 메모리 트래픽을 줄이는 아키텍처가 유리합니다. 자동차 인지, 산업용 비전 및 스마트 카메라 애플리케이션은 특히 매력적인 기회를 창출할 수 있지만, 이는 해당 솔루션이 안전성, 신뢰성 및 장기 수명 요건을 충족하는 경우에 한합니다.

IoT 및 임베디드 애플리케이션의 시장 규모는 2025년 8,854만 미국 달러이며, 2035년에는 21억7,816만 미국 달러에 이를 전망입니다. 저전력 로컬 추론과 비휘발성 가중치 저장 기능은 플래시 및 신흥 메모리 기반 CIM 솔루션에 유리하게 작용하지만, 단위 경제성은 데이터센터보다 물량에 더 민감합니다. 공급업체는 마이크로컨트롤러, NPU 또는 클라우드 지원 아키텍처와 비교해 에너지 절감 효과가 추가 비용과 통합 노력보다 크다는 점을 입증해야 합니다.

HPC 및 산업 자동화 부문은 2025년 7,231만 미국 달러의 시장 규모를 기록했으며, 2035년에는 16억9,127만 미국 달러에 이를 전망입니다. 이 부문의 구매자들은 결정론적 응답, 가동 시간, 기존 제어 시스템과의 통합 및 장기적인 공급 가능성을 중시합니다. 정부, 국방, 스마트시티 및 초기 의료 영상 분야를 포함한 기타 용도는 2025년 5,541만 미국 달러를 차지했으며, 2035년에는 12억1,720만 미국 달러에 이를 전망입니다. 이러한 애플리케이션은 초기 적격성 평가 프로그램을 뒷받침할 수 있지만, 조달 주기가 더 길고 엄격한 검증이 요구되는 경우가 많습니다.

최종 사용자 산업별

IT 및 통신은 2025년 주요 최종 사용자 산업으로, 클라우드 운영업체, 기업용 AI 인프라 및 통신 네트워크 워크로드를 포괄합니다. 이 부문에서는 운영업체가 실제 생산 규모에서 낮은 에너지 사용량과 높은 실효 메모리 대역폭을 검증할 수 있을 때 CIM 도입이 확대될 전망입니다.

자동차 산업은 ADAS와 차량 내 AI가 고정된 열 및 전력 조건에서 로컬 처리를 요구하기 때문에 전략적으로 중요합니다. 이 부문에서는 기능 안전 및 신뢰성 요건을 충족할 수 있는 아키텍처가 선호될 것이며, 이에 따라 초기 배포 단계에서 디지털 및 하이브리드 CIM의 중요성이 특히 커질 수 있습니다. 소비자 전자제품은 저전력 아날로그 및 플래시-CIM 시스템에 물량 확대 기회를 제공하는 반면, 헬스케어 도입은 기기 검증, 추적성 및 환자 데이터 처리 요건에 좌우될 전망입니다. 산업용 사용자는 결정론적 동작과 긴 수명 주기 지원을 우선시하므로 도입 속도는 느려질 수 있지만, 적격성 평가 장벽을 통과한 공급업체에는 지속적인 기회가 창출될 수 있습니다.

기술 구성도 동일한 양극화 양상을 보입니다. SRAM과 디지털 메모리 내 연산(CIM)은 성능에 민감한 배포 환경에서 인증 및 소프트웨어 관련 위험을 줄일 수 있어 선두를 차지합니다. 플래시와 아날로그 메모리 내 연산(CIM)은 비휘발성 저장 기능과 추론당 낮은 에너지 소비가 간헐적 전원 공급 및 열 제약이 있는 기기에 더 적합하기 때문에 더 빠르게 성장합니다. 이러한 아키텍처를 서로 대체 가능한 기술로 포지셔닝하는 공급업체는 상업적 현실을 간과하게 됩니다. 보다 지속적인 기회는 각 배포 부문의 정확도, 전력, 수명 및 통합 제약 조건에 맞춰 기판과 아키텍처를 선택하는 데 있습니다.

메모리 내 연산(CIM) 칩 시장 지역별 분석

북미

북미 시장 규모는 2025년 1억5,708만 미국 달러로 평가되며, 약 37.76%의 연평균성장률(CAGR)로 성장해 2035년에는 38억4,380만 미국 달러에 이를 전망입니다. 미국은 하이퍼스케일 AI 인프라, 첨단 칩 설계 활동 및 Cerebras, Groq, d-Matrix, EnCharge AI, Mythic, Lightmatter, IBM, Micron 등 메모리 내 연산(CIM) 관련 기업의 집중을 바탕으로 지역 수요를 견인합니다. 캐나다는 토론토에 기반을 둔 Untether AI와 d-Matrix의 사업을 비롯해 엔지니어링 및 AI 하드웨어 활동을 통해 기여합니다.

미국의 정책은 지역 내 설계 및 제조 생태계를 강화합니다. CHIPS 및 과학법은 주요 반도체 인센티브와 관련 규제 장치를 승인했으며, 국내 공급망 의사결정과 상업적 파트너십 모두에 영향을 미치고 있습니다. 북미 공급업체는 정교한 클라우드 및 기업 구매자의 수요로부터 혜택을 얻지만, 수출 통제와 고객 집중도는 글로벌 규모 확대를 제약할 수 있습니다. 이 지역에서의 성공은 충분한 소프트웨어 지원과 운영 신뢰성을 갖춘 생산 단계 배포로 기술적 차별성을 전환하는 데 달려 있습니다. ^{[6]The Conference Board, Artificial Intelligence Computing Infrastructure and Energy Demand, conference-board.org.}

유럽

유럽 시장은 2025년 8,778만 미국 달러를 기록하며, 약 36.24%의 연평균성장률(CAGR)로 성장해 2035년에는 19억2,190만 미국 달러에 이를 전망입니다. 독일, 영국, 프랑스, 스페인, 이탈리아, 러시아 및 기타 유럽 지역은 자동차, 산업, 연구 및 기업용 AI 수요를 통해 시장에 기여합니다. 유럽 반도체법은 2023년 9월 발효되었으며, 반도체 생산 역량과 회복력을 강화하기 위한 프레임워크를 수립했습니다.

유럽의 기회는 하이퍼스케일 가속기 물량보다 인증을 거친 산업용 및 규제 대상 배포 환경에 더 집중되어 있습니다. EU AI법의 위험 기반 프레임워크에 따라 고위험 AI 시스템에 사용되는 하드웨어에서는 추적성과 검증의 중요성이 점점 커지고 있습니다. 유럽회계감사원은 또한 유럽의 반도체 전략에서 실행 위험을 지적하며, 제시된 제조 역량 확대 목표가 실제 이행 과정에서 실질적인 과제에 직면해 있다고 밝혔습니다. 이에 따라 유럽의 메모리 내 연산(CIM) 도입은 기술적 성능과 함께 규정 준수 문서, 자동차 분야 인증 및 현지 통합 역량을 제공하는 공급업체에 유리하게 작용할 가능성이 높습니다.

SoftBank가 2024년 7월 Graphcore를 인수한 사례는 기존 GPU 생태계에 맞서 독립적인 유럽 AI 프로세서 공급업체를 확장하는 일이 얼마나 어려운지를 보여줍니다. 상당한 온칩 메모리와 연산을 긴밀하게 결합하는 Graphcore의 IPU 접근 방식은 보다 광범위한 메모리 중심 컴퓨팅의 방향성과 여전히 관련성이 있지만, 이번 거래는 아키텍처의 우수성만으로는 상용 규모를 확보할 수 없다는 점을 보여줍니다.

아시아 태평양

아시아 태평양은 규모가 가장 크고 성장 속도도 가장 빠른 지역 시장으로, 시장 규모는 2025년 2억190만 미국 달러에서 2035년 60억2,196만 미국 달러로 증가하며 약 40.52%의 연평균성장률(CAGR)을 기록할 전망입니다. 이 지역의 위상은 메모리 제조, 반도체 투자, 국내 AI 수요 및 지역 설계 인재의 집중에 기반합니다. 중국, 인도, 일본, 한국, 호주 및 기타 아시아 태평양 지역은 제조, 메모리 기술, 임베디드 전자기기, 주권형 AI 인프라 및 자동차 수요 전반에서 서로 다른 역량을 제공합니다.

한국은 Samsung과 SK hynix를 중심으로 이 지역에서 가장 강력한 상업적 메모리 내 연산(CIM) 기반을 갖추고 있습니다. 이들의 메모리 내 연산 프로그램은 CIM 개발을 기존 DRAM, HBM 및 모바일 메모리 생태계와 연계합니다. 중국은 국가 지원을 받는 반도체 투자와 함께 대규모 국내 연구 및 특허 기반을 보유하고 있습니다. Hangzhou Zhicun Technology(이하 WitMem)와 관련된 특허 활동은 다중 칩 메모리 내 연산 구성의 개발이 지속되고 있음을 보여줍니다. ^{[7]ServeTheHome, In-Memory Computing and Emerging AI Accelerator Technologies, servethehome.com.}

일본은 첨단 반도체 및 AI 기술 지원을 강화하고 있습니다. 일본 경제산업성은 2025년 2월 반도체 및 AI 관련 기술 투자를 지원하기 위한 입법 조치를 추진했습니다. 인도의 IndiaAI Mission과 반도체 정책 관련 노력은 주권형 AI, 모바일 기기, 자동차 전자기기 및 현지 칩 설계에 대한 이 지역의 잠재 수요 기반을 확대합니다. 지역 성장은 수출 통제 노출, 첨단 노드 및 HBM에 대한 접근성, 그리고 현지 공급업체가 하드웨어를 실행 가능한 소프트웨어 생태계와 통합할 수 있는 역량에 영향을 받을 전망입니다.

라틴 아메리카

라틴 아메리카 시장 규모는 2025년 2,593만 미국 달러로 평가되며, 2035년에는 4억6,126만 미국 달러에 이를 전망입니다. 이는 약 33.44%의 연평균성장률(CAGR)에 해당합니다. 브라질은 디지털 경제, 클라우드 확장 및 공공 부문 기술 이니셔티브를 바탕으로 지역 수요를 주도하고 있습니다. 멕시코의 전자기기 제조 기반과 북미 자동차 공급망과의 근접성은 엣지 및 임베디드 CIM 도입을 위한 규모는 작지만 유의미한 기회를 창출합니다.

이 지역의 성장 양상은 북미나 아시아 태평양보다 높은 비용 민감도와 단기적으로 낮은 AI 인프라 수요 강도의 영향을 받습니다. 구매자는 총소유비용, 현지 지원 및 하이브리드 클라우드-엣지 시스템과의 통합을 우선시할 가능성이 높습니다. 이에 따라 광범위한 생태계 투자가 필요한 프리미엄 아키텍처보다는 전력 소비, 지연 시간 또는 디바이스 비용 측면에서 명확한 이점을 제공하는 솔루션이 유리합니다.

중동 및 아프리카

중동 및 아프리카 시장 규모는 2025년 2,732만 미국 달러로 평가되며, 2035년에는 5억6,376만 미국 달러에 이를 전망입니다. 시장은 약 35.15%의 연평균성장률(CAGR)로 확대될 전망입니다. 사우디아라비아와 UAE는 주권형 AI 프로그램 및 데이터센터 개발을 바탕으로 한 주요 지역 수요 중심지입니다. Groq의 2025년 자금 조달 및 지역 인프라 투자 약정은 추론 역량 구축에서 주권형 구매자가 수행하는 역할을 보여줍니다.

사우디아라비아, UAE, 남아프리카공화국 및 기타 MEA 지역은 서로 다른 도입 여건을 보입니다. 걸프 시장은 집중적이고 고부가가치인 컴퓨팅 조달을 지원할 수 있지만, 아프리카 전역의 광범위한 수요는 통신, 공공 디지털 서비스 및 모바일 AI 애플리케이션을 통해 나타날 가능성이 높습니다.

물류, 현지 시스템 통합, 환율 변동 위험 및 숙련된 구축 파트너의 가용성은 특수 CIM 하드웨어가 파일럿 프로그램에서 운영 인프라로 전환되는 속도에 영향을 미칠 것입니다.

북미는 전문 칩 공급업체와 하이퍼스케일 추론 조달 역량을 결합하고 있어 상업적으로 영향력 있는 지역으로 남을 것입니다. 유럽의 성장 경로는 특히 자동차, 산업 및 규제 대상 애플리케이션에서 인증 요건의 영향을 더 크게 받을 가능성이 높습니다. 라틴아메리카와 중동·아프리카(MEA)는 광범위한 초기 도입보다는 선별적인 수요 기회를 제공합니다. 따라서 공급업체는 지역 전략을 수립할 때 고성능 시스템을 대규모로 검증할 수 있는 시장과 현지화된 엣지 경제성, 주권 조달 또는 규정 준수 요건이 최초의 실행 가능한 설계 수주를 결정하는 시장을 구분해야 합니다.

컴퓨트 인 메모리(CIM) 칩 시장 점유율 및 경쟁 구도

CIM 칩 시장은 공급업체마다 메모리와 컴퓨팅 문제에 접근하는 출발점이 다르기 때문에 세분화되어 있습니다. 접근 방식에는 웨이퍼 규모 시스템, 메모리 제품, 클라우드 추론 프로세서, 아날로그 엣지 가속기, 광자 인터커넥트 및 근접 메모리 아키텍처가 포함됩니다. Cerebras Systems는 2025년 약 18.2%의 시장 점유율을 차지하고 있으며, Samsung Electronics가 약 12.2%, SK hynix가 8.1%, Intel이 7.9%, Groq가 6.8%로 그 뒤를 잇습니다. Mythic, d-Matrix, EnCharge AI, Rain AI, Lightmatter, IBM, Micron, Untether AI 및 Graphcore를 포함한 기타 공급업체는 약 46.8%를 차지합니다.

Cerebras Systems는 WSE 아키텍처를 기반으로 구축한 웨이퍼 규모 AI 시스템을 통해 시장을 선도하고 있습니다. CS-3 시스템에는 WSE-3가 탑재되어 있으며, Cerebras에 따르면 WSE-3는 4조 개의 트랜지스터와 40GB의 온칩 SRAM을 포함합니다. Cerebras Systems의 경쟁 우위는 시스템 규모의 통합과 낮은 지연 시간의 추론 잠재력에 있으며, 주요 위험 요인은 시스템 확장에 필요한 높은 자본 집약도, 고객 집중도 및 기존 GPU 플랫폼과 경쟁할 수 있는 소프트웨어 환경을 유지해야 한다는 점입니다.

Samsung Electronics는 메모리, 파운드리 서비스 및 시스템 반도체 전반에 걸친 수직 통합 역량을 보유하고 있습니다. HBM-PIM, LPDDR5-PIM 및 메모리 근접 처리 연구는 대량 생산 메모리 기술에 컴퓨팅 기능을 통합할 수 있는 확립된 경로를 제공합니다. Samsung Electronics의 핵심 강점은 아키텍처 개발을 제조 및 메모리 로드맵과 연계할 수 있다는 점입니다. 상업적 과제는 기술 시연 및 표준화 활동을 시스템 OEM과 클라우드 고객이 채택할 수 있는 상호운용 가능한 제품으로 전환하는 것입니다.

SK hynix는 AiM, HBM 및 모바일 메모리 역량을 바탕으로 경쟁하고 있습니다. GDDR6-AiM 및 AiMX-xPU 프로그램은 AI 워크로드를 위해 컴퓨팅 기능을 메모리에 가깝게 배치하는 데 중점을 두고 있음을 보여줍니다. 선도적인 HBM 공급업체인 SK hynix는 CIM이 재편하려는 기존 AI 메모리 가치사슬에도 참여하고 있습니다. 이러한 이중적 입지는 시장에 대한 통찰력과 제조 규모를 제공하지만, SK hynix는 기존 고대역폭 메모리와 메모리 내 컴퓨팅 양쪽에서 제품 포지셔닝을 관리해야 합니다.

Intel은 AI 가속기, CXL 기반 메모리 생태계 및 근접 메모리 컴퓨팅 경로를 통해 시장에 참여하고 있습니다. Gaudi 3는 고대역폭 메모리와 특화된 AI 컴퓨팅을 결합하며, 기업용 생성형 AI 인프라에서 대안을 제공하려는 Intel의 노력을 보여줍니다. Intel의 CXL 참여는 지능형 메모리 또는 근접 메모리 장치를 연결하는 보다 표준화된 접근 방식을 지원할 수 있지만, CXL 자체만으로는 CIM 구현 간 아키텍처 및 소프트웨어 차이를 해결할 수 없습니다.

Groq는 결정론적 추론 실행과 높은 토큰 처리량을 중심으로 LPU 아키텍처를 구축했습니다. 2024년 8월의 자금 조달 라운드는 대체 AI 추론 하드웨어에 대한 투자자들의 관심을 뒷받침했습니다. Groq의 경쟁 모델은 칩 판매를 넘어 클라우드 기반 추론 액세스를 제공하므로, 고객은 응답 시간, 처리량 및 가용성과 같은 서비스 지표를 통해 성능을 평가할 수 있습니다. 이러한 모델은 고객의 접근성을 높일 수 있지만, 추론 인프라를 구축하고 유지하는 데 필요한 운영 부담도 키웁니다.

전문 분야의 도전자 기업들은 보다 집중적인 기회를 모색하고 있습니다. d-Matrix는 디지털 인메모리 컴퓨팅을 통해 데이터센터 추론을 공략하고 있으며, 상용 규모 확대를 지원하기 위해 2025년 11월 2억7,500만 미국 달러를 조달했습니다. EnCharge AI는 아날로그 인메모리 기술을 통해 클라이언트 및 임베디드 컴퓨팅 시장을 목표로 합니다. Mythic은 임베디드 플래시와 아날로그 컴퓨팅을 결합하며, 2025년 12월 1억2,500만 미국 달러 규모의 자금 조달 라운드를 발표했습니다. Rain AI는 엣지 배포를 위한 저전력 아날로그 뉴로모픽 접근 방식을 추진하고 있습니다. 이러한 공급업체는 특정 시장에 맞춘 제품 적합성을 통해 이점을 얻을 수 있지만, 대형 기존 기업의 입지를 지탱하는 것과 동일한 제품 인증, 파운드리 접근성 및 소프트웨어 생태계 장벽을 극복해야 합니다. ^{[8]Rain AI, Digital In-Memory Compute for AI Training and Inference, rain.ai. (rain.ai)}

상호연결 및 패키징 공급업체는 확장 가능한 CIM 배포에서 점점 더 중요한 역할을 하고 있습니다. 2025년 3월 발표된 Lightmatter의 Passage M1000은 최대 114Tbps의 광대역폭을 제공하는 포토닉 상호연결 플랫폼입니다. 이 기술 자체는 CIM 처리를 수행하지 않지만, 여러 메모리 중심 가속기를 함께 배포할 때 발생하는 클러스터 수준의 통신 제약을 해결할 수 있습니다. 대형 3D 포토닉스 패키지를 개발하기 위해 Amkor Technology와 체결한 파트너십은 첨단 패키징이 경쟁 아키텍처 스택의 일부로 자리 잡고 있음을 더욱 보여줍니다.

특허 활동은 경쟁에 전략적 층위를 더합니다. 세계지식재산기구(WIPO)는 2024년 전 세계 특허 출원이 370만 건에 달했으며, 컴퓨터 기술이 전체 출원의 13.2%를 차지했다고 보고했습니다. CIM 분야에서 차별화된 지식재산은 메모리 셀 구조, 아날로그 보정, 데이터플로, 컴파일러 방식, 패키징 및 시스템 통합을 포괄할 수 있습니다. 방어 가능한 특허와 입증된 제조 노하우를 보유한 공급업체는 라이선스 수익, 파운드리 파트너십 및 장기 고객 프로그램을 확보하는 데 더 유리한 위치를 차지할 수 있습니다.

최근 산업 동향

• 2025년 2월 - EnCharge AI는 초과 청약된 시리즈 B 자금 조달 라운드에서 1억 미국 달러를 초과하는 금액을 조달했습니다. 이번 자금은 클라이언트 컴퓨팅 애플리케이션용 아날로그 인메모리 컴퓨팅 솔루션의 상용화에 투입되었습니다.
• 2025년 3월 - Lightmatter는 Passage M1000 포토닉 인터포저를 출시했습니다. 이 플랫폼은 대규모 AI 시스템에 최대 114Tbps의 광대역폭을 제공하며, 다중 가속기 확장을 제한할 수 있는 상호연결 요구 사항을 해결합니다.
• 2025년 11월 - d-Matrix는 시리즈 C 자금 조달을 통해 2억7,500만 미국 달러를 조달했습니다. 회사는 이번 자금이 AI 추론용 디지털 인메모리 컴퓨팅 플랫폼의 상용화를 지원할 것이라고 밝혔습니다.
• 2025년 12월 - Mythic은 1억2,500만 미국 달러 규모의 자금 조달 라운드를 발표했습니다. 이번 자금은 플래시 기반 아날로그 CIM 아키텍처와 관련 소프트웨어 생태계의 지속적인 개발을 지원합니다.