인메모리 컴퓨팅(CIM) 칩 시장 규모 및 점유율 2026-2035

메모리 내 연산(CIM) 칩 시장 규모

글로벌 메모리 내 연산(CIM) 칩 시장 규모는 2025년 5억 미국 달러로 평가되며, 2026년 6억8,770만 미국 달러, 2035년 128억 미국 달러에 이를 전망입니다. 2026~2035년 연평균성장률(CAGR)은 약 38.4%로 예상됩니다.

CIM은 신경망 가중치를 저장하는 메모리 어레이 내부 또는 인접한 곳에서 곱셈 누산 연산을 수행합니다. 이 아키텍처는 기존 프로세서-메모리 설계에서 추론 처리량과 전력 효율을 제한하는 데이터 이동 부담을 줄이는 것을 목표로 합니다.

CIM은 회로 설계 구상에서 제품 인증 과제로 전환되고 있습니다. IBM의 NorthPole 연구 아키텍처는 256-core 설계에 192 MB의 SRAM을 통합해, 온칩 메모리를 분산하면 신경망 추론을 위한 오프칩 가중치 이동 의존도를 낮출 수 있음을 보여줬습니다. 상업적 기회는 연산당 에너지 소비와 지연 시간 감소가 시스템 조달에 영향을 미칠 만큼 추론 작업이 지속적으로 발생하는 분야에서 가장 큽니다. 여기에는 클라우드 추론 클러스터, 자동차 및 산업용 엣지 시스템, 배터리 용량이 제한된 임베디드 기기가 포함됩니다. ^{[1]IBM Research, Analog AI: In-Memory Computing for Energy-Efficient Deep Learning, . (). research.ibm.com}

공급망에는 첨단 메모리 설계, 로직 공정 접근성, 혼합 신호 또는 디지털 설계 전문성, 컴파일러 지원, 패키징, 시스템 통합이 결합됩니다. 따라서 CIM 도입은 가속기 카드를 다른 카드로 교체하는 것보다 복잡합니다. 메모리 제조업체는 기존 DRAM, SRAM 또는 플래시 로드맵을 처리 기능을 갖춘 메모리 제품으로 발전시킬 수 있습니다. 반면 팹리스 업체는 파운드리 생산 용량을 확보하고, 소프트웨어 스택이 배포, 모델 변환, 모니터링, 수명 주기 관리를 지원한다는 점을 입증해야 합니다. 따라서 CIM 어레이를 표준 인터페이스 및 기존 서버나 엣지 기기 아키텍처와 통합할 수 있는지가 이론적 연산 효율만큼이나 설계 채택으로 이어지는 정도를 좌우할 것입니다.

투자 논리는 GPU나 CPU를 전면적으로 대체한다는 데 있지 않습니다. 모델이 대규모 가중치 집합을 반복적으로 이동하거나, 에너지 가용성이 처리량을 제한하거나, 지연 시간 및 전력 한계로 기존 가속기를 사용할 수 없는 경우에 CIM의 장점이 가장 두드러집니다. 비슷한 공정 노드에서 NorthPole이 입증한 효율성 우위는 기술적 전제를 뒷받침하지만, 시장 전반의 전환은 여전히 소프트웨어 이식성, 신뢰성 검증, 통합 경제성에 달려 있습니다. 따라서 2035년 시장 규모가 128억1,000만 미국 달러로 확대된다는 전망은 공급업체가 벤치마크 성능에만 의존하지 않고 메모리 중심의 효율성을 인증된 제품으로 구현한다는 전제에 기반합니다. ^{[2]Wiley, All-in-One Analog AI Hardware: On-Chip Training and Inference with Conductive-Metal-Oxide/HfOx ReRAM Devices, . (). doi.org}

주요 성장 요인

AI 추론의 병목은 산술 연산 처리량보다 데이터 이동에서 점점 더 많이 발생하고 있습니다. 자기회귀 대규모 언어 모델 추론에서는 생성되는 토큰마다 모델 가중치에 반복적으로 접근해야 합니다. 이에 따라 메모리 접근이 지연 시간, 가속기 활용률, 에너지 소비를 좌우하는 주요 요인이 됩니다. ^{[3]Bowen, Patrick, et al., Analog, In-Memory Compute Architectures for Artificial Intelligence, arXiv, . (). arxiv.org} 메모리 내 연산(CIM)을 통합한 TPU 연구 설계에서는 인용된 기준 TPUv4i 구성과 비교해 생성형 모델 추론 성능이 44.2% 향상되고 행렬 곱셈 장치의 에너지 소비가 27.3배 감소한 것으로 보고되었습니다. 이러한 결과가 상업적으로 중요한 이유는 클라우드 사업자가 초당 최대 연산량이 아니라 실제로 활용 가능한 처리량과 추론당 비용을 기준으로 구매하기 때문입니다. ^{[3]Bowen, Patrick, et al., Analog, In-Memory Compute Architectures for Artificial Intelligence, arXiv, . (). arxiv.org}

전력 확보는 AI 배포를 제약하는 인프라 요인이 되었습니다. 로런스 버클리 국립연구소에 따르면 미국 데이터센터는 2023년에 176TWh의 전력을 소비했으며, 이는 미국 전체 전력 소비량의 4.4%에 해당합니다. ^{[4]Lawrence Berkeley National Laboratory, In-Memory Computing and Energy-Efficient AI Hardware Research. eta-publications.lbl.gov} AI 서버 배치가 확대되면서 자본을 확보한 경우에도 전력 공급, 냉각, 전력망 연결 문제로 용량 증설이 지연될 수 있습니다. CIM은 메모리와 연산 장치 간 데이터 전송을 줄여 추론 용량 확대의 경제성을 높일 수 있지만, 실제 효과는 워크로드 특성, 정밀도 목표, 주변 시스템의 오버헤드에 따라 달라집니다.

엣지 배포는 초대규모 인프라를 넘어 시장 기회를 넓히고 있습니다. 자동차 인식, 산업 검사, 카메라, 웨어러블 기기, 커넥티드 센서는 클라우드 왕복 통신으로 지연 시간, 대역폭, 개인정보 보호 또는 복원력 문제가 발생하는 환경에서 로컬 추론이 필요합니다. 플래시 및 SRAM 기반 CIM은 모델 가중치를 로컬에 저장하면서 오프칩 메모리 접근을 줄일 수 있어 특히 관련성이 높습니다. Rain AI는 2024년 10월 저전력 아날로그 뉴로모픽 컴퓨팅 시연용 하드웨어 출하를 시작했으며, 이는 특화된 엣지 CIM 방식이 고객 평가 단계로 전환되고 있음을 보여줍니다.

기존 아키텍처의 메모리 병목 문제는 연산 밀도를 높이는 것만으로 해결할 수 없습니다. 고대역폭 메모리는 GPU에 데이터를 더 원활하게 공급하지만, 별도의 저장 영역과 처리 영역 사이에서 데이터를 이동할 때 발생하는 에너지 및 지연 시간 비용을 없애지는 못합니다. CIM은 데이터가 저장된 위치에서 일부 연산을 수행함으로써 이러한 물리적 구조를 바꿉니다. 이 방식은 신경망 추론에 사용되는 행렬·벡터 및 행렬·행렬 연산에 특히 적합하지만, 모든 모델 연산자나 정밀도 요구사항에 똑같이 적합한 것은 아닙니다.

메모리 기술의 발전으로 상용화가 가능한 컴퓨팅 인 메모리(CIM) 기반 기술의 범위가 넓어지고 있습니다. Samsung은 대규모 언어 모델(LLM) 관련 워크로드에서 HBM-PIM, LPDDR5-PIM, CXL 기반 메모리 근접 처리 구성을 통해 처리량과 에너지 효율이 개선됐다고 보고했습니다. SK hynix도 AI 워크로드를 위한 AiM 방식을 별도로 시연했습니다. 표준화된 메모리 인터페이스와 검증된 제조 공정은 완전히 새로운 가속기 아키텍처에 수반되는 도입 위험을 낮출 수 있다는 점에서 이러한 개발이 중요합니다. 한편 멤리스터 기반 CIM 연구에서는 초저전력 엣지 추론의 가능성이 계속 확인되고 있지만, 대규모 배포에 앞서 보정과 신뢰성 검증이 필요하다는 점도 드러나고 있습니다.

주요 제약 요인

CIM 아키텍처 설계는 여전히 시스템 수준의 엔지니어링 과제입니다. 디지털 구현에서는 SRAM 밀도, 정밀도, 배선 및 전력 공급 간 균형을 맞춰야 합니다. 아날로그 구현에서는 여기에 소자 편차, 열 드리프트, 아날로그-디지털 변환, 보정 및 모델을 고려한 오류 관리가 더해집니다. SRAM-CIM 관련 검토에 따르면 어레이 아키텍처와 주변 회로는 정확도, 밀도 및 에너지 성능에 상당한 영향을 미칩니다. 따라서 단일 매크로 설계를 공정 노드나 용도가 달라져도 변경 없이 적용하기는 어렵습니다. 이로 인해 검증 부담이 커지고 자본 소요가 증가하며, 프로토타입 칩 제작부터 고객 인증까지 걸리는 시간도 길어집니다.

널리 채택된 인터페이스와 소프트웨어 타깃이 없다는 점도 추가적인 걸림돌입니다. 메모리 제조업체들은 프로세싱 인 메모리 표준화에 진전을 보이고 있지만, CIM 시장에는 프로그래밍 및 배포 요건이 서로 다른 SRAM, DRAM, 플래시, 저항성 메모리, 아날로그, 디지털 및 하이브리드 방식이 포함됩니다. 이에 따라 고객은 이식성 위험에 직면합니다. 한 아키텍처에 최적화된 모델을 다른 아키텍처에 적용하려면 상당한 재컴파일이나 양자화, 연산자 재설계가 필요할 수 있습니다. 따라서 유지·관리되는 컴파일러 도구와 모델 라이브러리, 통합 지원을 하드웨어와 함께 제공하는 공급업체가 유리합니다.

아날로그 방식의 정확도와 내구성 제약은 단기적으로 활용 가능한 분야를 제한합니다. 플래시 및 저항성 메모리 기반 CIM 설계는 우수한 밀도와 에너지 특성을 구현할 수 있지만, 물리적 소자 편차, 데이터 보존 특성의 영향, 누적되는 아날로그 오류로 인해 높은 정밀도의 추론이 어려워집니다. 임베디드 NAND 플래시 CIM 연구에서는 모델 정확도를 유지하기 위해 임계 전압 편차와 어레이 수준의 비이상성을 해결해야 한다고 지적합니다. 자동차, 의료 및 산업 분야에서는 아날로그 솔루션의 명목상 연산당 에너지 수치가 더 낮더라도 인증 요건에 따라 디지털 또는 하이브리드 아키텍처가 선택될 수 있습니다.

정책 요건도 상용화 선택에 영향을 미칩니다. 미국 CHIPS법의 안전장치는 연방 정부의 인센티브를 받은 기업이 특정 거래를 하는 데 제약을 두며, 수출 통제는 고성능 AI 하드웨어가 판매될 수 있는 시장을 좁힐 수 있습니다. 유럽에서는 EU AI법의 위험 기반 의무에 따라 고위험 용도에서 추적 가능성과 적합성 평가의 중요성이 커지고 있습니다. 이러한 조치가 CIM을 별도의 아키텍처로 규제하는 것은 아니지만, 공급업체의 판매 가능 지역과 시스템 검증 방식, 구매자가 중시하는 신뢰성 특성에 영향을 줍니다.

단기적으로 경쟁 구도는 신뢰할 수 있는 플랫폼을 상용화할 수 있는 업체와 고효율 매크로를 시연하는 데 그치는 업체 간에 갈릴 전망입니다. JEDEC 관련 메모리 내 처리 연구, 메모리 업체의 제품 개발, 표준 호스트 인터페이스의 활용은 시간이 지남에 따라 구매자의 위험을 줄일 수 있습니다. 상호운용성과 소프트웨어 성숙도가 개선되기 전까지는 결정론적 성능, 통합 지원, 신뢰할 수 있는 수명주기 관리를 입증한 구현 방식이 구매 과정에서 우선시될 것입니다. 아날로그 CIM은 제약이 있는 엣지 워크로드에서 장기적으로 유리한 입지를 유지하겠지만, 도입 시점은 에너지 효율만으로 결정되기보다 검증 절차에 따라 정해질 것입니다.

메모리 내 연산(CIM) 칩 시장 부문별 분석

메모리 기술 유형별

SRAM 기반 CIM은 가장 큰 메모리 기술 부문으로, 2025년 시장 규모는 2억 322만 미국 달러이며 2035년에는 54억 1,000만 미국 달러에 이를 전망입니다. 이는 약 38.95%의 연평균성장률(CAGR)에 해당합니다. 이 부문의 우위는 제조 공정에 대한 높은 친숙도에서 비롯됩니다. SRAM 매크로는 기존 CMOS 공정을 통해 로직과 통합할 수 있어, 설계자는 신흥 비휘발성 메모리의 동작 특성에 의존하지 않고도 고대역폭·저지연 추론을 구현할 수 있습니다. IBM의 NorthPole 아키텍처는 분산형 SRAM과 고밀도 연산 어레이를 결합해 오프칩 메모리 의존도를 낮춤으로써 이러한 접근 방식의 전략적 가치를 보여줍니다.

SRAM의 단점은 면적 비용입니다. 6트랜지스터 셀은 저장 비트당 다이 면적을 DRAM이나 플래시보다 훨씬 많이 차지합니다. 따라서 낮은 지연 시간과 예측 가능한 성능이 더 높은 실리콘 원가를 정당화하는 경우에 SRAM-CIM의 경제성이 가장 높습니다. 이에 따라 이 부문은 프리미엄 클라우드 추론, 네트워킹, 산업용 비전, 고성능 엣지 시스템과 밀접하게 연관됩니다. 시장을 선도한다는 사실이 SRAM이 모든 CIM에 적합한 기반이라는 뜻은 아닙니다. 이는 시장 초기 상용화 단계에서 검증된 제조 방식과 결정론적 동작 특성이 특히 중요하다는 점을 보여줍니다.

플래시 기반 CIM은 가장 빠르게 성장할 메모리 기술 유형으로 전망되며, 시장 규모는 2025년 1억 6,613만 미국 달러에서 2035년 46억 7,000만 미국 달러로 확대되고 연평균성장률은 약 39.71%에 이를 것으로 예상됩니다. 비휘발성 저장 기능 덕분에 전원이 차단되어도 신경망 가중치를 칩에 유지할 수 있어, 즉각적인 로컬 추론이 필요한 임베디드 기기에 유용합니다. 플래시 메모리 내부 또는 인근에서의 연산에 관한 IEEE 연구는 고대역폭 디지털 컴퓨팅, 검색, 아날로그 곱셈 누산 연산에서 3D NOR와 3D NAND 방식이 서로 다른 역할을 한다고 설명합니다.

플래시 기반 CIM의 상업적 가치는 설계자가 에너지, 메모리 용량, 대기 상태 전력 특성을 함께 관리해야 하는 분야에서 가장 큽니다. 여기에는 센서 노드, 카메라, 웨어러블 기기, 일부 자동차 기능이 포함됩니다. 그러나 플래시 기반 CIM 공급업체는 내구성, 문턱 전압 제어, 추론 정확도, 설계 도구 지원이 제품별 요구사항을 충족한다는 점을 입증해야 합니다. 따라서 높은 성장률 전망은 엣지 수요 확대와 유리한 비트당 비용 구조를 반영하며, 엔지니어링상 상충 관계가 해소되었음을 의미하지는 않습니다.

DRAM 기반 CIM 시장 규모는 2025년 7,854만 미국 달러로 평가되며, 연평균성장률(CAGR) 약 37.76%로 성장해 2035년에는 19억 2,000만 미국 달러에 이를 전망입니다. 이 부문은 DRAM의 용량상 이점을 유지하면서 대역폭이 높은 데이터 저장소 가까이에서 연산 기능을 추가하는 메모리 내 연산 및 메모리 근접 연산 방식을 중심으로 형성되어 있습니다. 삼성의 HBM-PIM 및 LPDDR5-PIM 연구와 SK hynix의 AiM 개발은 DRAM-CIM을 주로 데이터 처리량이 높은 데이터센터 및 메모리 중심 AI 애플리케이션에 적용하는 데 기여하고 있습니다^{[5]IBM Research, In-Memory Computing: Non-Von Neumann Architectures for AI. doi.org}

RRAM, PCM, MRAM 및 FeFET 기반 CIM을 포함한 기타 기술의 시장 규모는 2025년 5,211만 미국 달러이며, 2035년에는 7억 9,439만 미국 달러에 이를 전망입니다. 이러한 기술은 비휘발성이나 아날로그 연산 측면에서 유용한 잠재력을 제공하지만, 수율, 내구성, 데이터 보존 및 통합 과제에 여전히 제약을 받고 있습니다. 연평균성장률이 약 31.21%로 더 낮은 것은 제조 일관성과 검증 근거가 개선될 때까지 상용화가 제한적으로 진행될 가능성을 반영합니다.

아키텍처 유형별

디지털 CIM은 가장 큰 아키텍처 부문으로, 2025년 2억 1,753만 미국 달러의 시장 규모를 기록했으며 연평균성장률 약 38.81%로 성장해 2035년에는 57억 4,000만 미국 달러에 이를 전망입니다. 디지털 구현 방식은 이산 연산을 유지하며, 일반적으로 결정론적 출력, 익숙한 양자화 모델 형식 및 명확한 검증 경로가 필요한 애플리케이션에 더 적합합니다. 이에 따라 예측 가능한 동작이 최대 효율 개선보다 중요할 수 있는 클라우드 추론 및 규제 대상 엣지 애플리케이션에서 상업적으로 유의미한 기술입니다.

d-Matrix의 Corsair 플랫폼은 생성형 AI 추론을 위한 디지털 CIM의 가치를 보여줍니다. 이 아키텍처는 데이터 이동을 줄이기 위해 메모리 어레이에 처리 요소를 내장하며, 상업적으로는 독립형 회로 성능 지표보다 데이터센터 구축에 초점을 맞춥니다. 디지털 설계에도 특수 컴파일러와 메모리 인식 실행 모델이 필요하지만, 아날로그 편차와 관련된 검증 부담을 줄일 수 있습니다.

아날로그 CIM은 가장 빠르게 성장하는 아키텍처 유형으로, 시장 규모가 2025년 1억 5,572만 미국 달러에서 2035년 43억 8,000만 미국 달러로 증가하고 연평균성장률은 약 39.70%에 이를 전망입니다. 아날로그 CIM은 전류, 전하 또는 컨덕턴스와 같은 물리적 특성을 이용해 연산하며, 중간 정밀도 추론에서 면적 및 에너지 효율을 높일 잠재력이 있습니다. 아날로그 SRAM-CIM 가속기에 관한 연구는 이 아키텍처의 높은 에너지 효율 잠재력을 보여주는 동시에 보정과 시스템 수준의 정확도 관리가 필요하다는 점도 제시합니다.

성장 프리미엄은 클라이언트 기기와 임베디드 시스템에서 추론당 에너지 소비가 중요하다는 점을 반영합니다. EnCharge AI가 2025년 2월에 진행한 자금 조달은 클라이언트 플랫폼용 아날로그 메모리 내 연산의 지속적인 상용화를 뒷받침합니다. 이 부문의 전망은 공급업체가 실험실 수준의 성능을 반복 재현 가능한 실리콘 동작, 견고한 소프트웨어 작업 흐름, 그리고 고객이 수용할 수 있는 정확도로 구현할 수 있는지에 달려 있습니다.

하이브리드 CIM은 실용적인 절충안으로, 2025년 시장 규모는 1억 2,674만 미국 달러이며 연평균성장률 약 35.79%로 성장해 2035년에는 26억 9,000만 미국 달러에 이를 전망입니다. 아날로그 연산 블록과 디지털 보정 또는 제어 회로를 결합하면 하이브리드 설계는 정밀도 및 신뢰성 문제를 해결하면서 효율성의 이점을 일부 유지할 수 있습니다. 순수 아날로그 시스템보다 전망 성장률이 낮은 것은 아키텍처가 더 복잡하기 때문이지만, 완전한 아날로그 설계로는 애플리케이션별 검증 기준을 충족할 수 없는 경우 매력적인 접근 방식이 될 수 있습니다.

용도별

데이터센터 및 클라우드 AI는 가장 큰 용도 부문으로, 2025년 시장 규모는 1억 6,225만 미국 달러이며 연평균성장률(CAGR)은 약 38.88%로 2035년에는 43억 미국 달러에 이를 전망입니다. 이 부문에는 에너지 사용량, 메모리 대역폭, 추론 지연 시간이 운영 비용에 직접 영향을 미치는 고부가가치 시스템이 포함됩니다. WSE-3 웨이퍼 스케일 엔진을 기반으로 하는 Cerebras의 CS-3는 AI 워크로드를 위해 연산과 온칩 메모리를 집중하도록 설계된 시스템의 한 예입니다. 클라우드 배포의 규모와 활용도를 고려하면 대규모 추론 서비스 시스템 전반에서 효율성 향상 효과가 누적될 수 있습니다.

Groq의 LPU 기반 추론 서비스는 다른 상용화 방식을 보여 줍니다. 결정론적 추론 하드웨어를 직접 판매하는 데 그치지 않고 클라우드 API 접근을 통해 수익화할 수 있습니다. 이러한 비즈니스 모델에서는 구매자가 달러당 토큰 수, 가용 용량, 지연 시간, 서비스 안정성을 중심으로 제품을 평가하게 됩니다. 이 부문을 공략하는 CIM 공급업체에는 칩 성능뿐 아니라 소프트웨어 통합, 고객 지원, 데이터센터 구축 전문성, 신뢰할 수 있는 규모 확장 경로도 필요합니다.

엣지 AI는 가장 빠르게 성장하는 용도 부문으로, 시장 규모가 2025년 1억 2,149만 미국 달러에서 2035년 34억 2,000만 미국 달러로 확대되고 연평균성장률은 약 39.71%를 기록할 전망입니다. 엣지 배포에서는 전력 소비, 배터리 용량, 열 설계, 응답 시간이 밀접하게 연관되므로 메모리 트래픽을 줄이는 아키텍처가 유리합니다. 자동차 인지, 산업용 비전, 스마트 카메라 분야에서 특히 매력적인 기회가 생길 수 있지만, 솔루션이 안전성, 신뢰성, 장기 사용 요건을 충족해야 합니다.

IoT 및 임베디드 용도 시장은 2025년 8,854만 미국 달러 규모이며 2035년에는 21억 7,000만 미국 달러에 이를 전망입니다. 저전력 로컬 추론과 비휘발성 가중치 저장은 플래시 및 신흥 메모리 기반 CIM 솔루션에 유리하지만, 단위 경제성은 데이터센터보다 판매량에 더 민감합니다. 공급업체는 마이크로컨트롤러, NPU 또는 클라우드 보조 아키텍처와 비교해 에너지 절감 효과가 추가 비용과 통합 작업을 상회한다는 점을 입증해야 합니다.

고성능 컴퓨팅(HPC) 및 산업 자동화 시장은 2025년 7,231만 미국 달러 규모이며 2035년에는 16억 9,000만 미국 달러에 이를 전망입니다. 이 부문의 구매자는 예측 가능한 응답, 가동 시간, 기존 제어 시스템과의 통합, 장기적인 제품 공급을 중시합니다. 정부, 국방, 스마트 시티, 초기 의료 영상 분야를 포함한 기타 용도 시장은 2025년 5,541만 미국 달러 규모이며 2035년에는 12억 1,000만 미국 달러에 이를 전망입니다. 이러한 용도는 초기 인증 프로그램의 기반이 될 수 있지만, 조달 기간이 더 길고 엄격한 검증이 요구되는 경우가 많습니다.

최종 사용자 산업별

2025년 주요 최종 사용자 산업은 IT 및 통신으로, 클라우드 사업자, 기업용 AI 인프라, 통신 네트워크 워크로드를 포함합니다. 사업자가 실제 운영 규모에서 에너지 사용량 감소와 실효 메모리 대역폭 향상을 검증할 수 있는 경우, 이 부문은 CIM을 도입할 가능성이 높습니다.

자동차 산업은 첨단 운전자 보조 시스템(ADAS)과 차량 내 AI가 정해진 열 및 전력 조건에서 로컬 처리를 요구한다는 점에서 전략적으로 중요합니다. 이 부문에서는 기능 안전성과 신뢰성 요건을 충족하는 아키텍처가 유리하므로 초기 배포 단계에서 디지털 및 하이브리드 CIM이 특히 주목받을 수 있습니다. 소비자 가전은 저전력 아날로그 및 플래시 기반 CIM 시스템의 대량 보급 가능성을 제공하는 반면, 의료 분야의 도입은 기기 검증, 추적 가능성, 환자 데이터 처리 요건에 좌우됩니다. 산업 분야 고객은 예측 가능한 동작과 긴 제품 수명 주기 동안의 지원을 우선시합니다. 이로 인해 도입이 늦어질 수 있지만, 인증 장벽을 통과한 공급업체에는 지속적인 사업 기회가 생길 수 있습니다.

기술 구성에서도 비슷한 양극화 양상이 나타납니다. 성능에 민감한 배포 환경에서 인증 및 소프트웨어 관련 위험을 줄여 주는 SRAM과 디지털 메모리 내 연산(CIM)이 선두를 차지합니다. 비휘발성 저장 기능과 추론당 낮은 에너지 소비가 간헐적으로 전력을 공급받거나 열 제약이 있는 기기에 더 적합하기 때문에 플래시와 아날로그 CIM은 더 빠르게 성장합니다. 이러한 아키텍처를 서로 대체 가능한 선택지로 내세우는 공급업체는 상업적 현실을 놓치게 됩니다. 더 지속성 있는 기회는 각 배포 유형의 정확도, 전력, 수명 및 통합 제약에 맞춰 기판과 아키텍처를 선택하는 데 있습니다.

메모리 내 연산(CIM) 칩 시장 지역별 분석

북미

북미 시장 규모는 2025년 1억5,708만 미국 달러로 평가되며, 연평균 약 37.76% 성장해 2035년에는 38억4,000만 미국 달러에 이를 전망입니다. 미국은 하이퍼스케일 AI 인프라, 첨단 칩 설계 활동, 그리고 Cerebras, Groq, d-Matrix, EnCharge AI, Mythic, Lightmatter, IBM, Micron 등 CIM 관련 기업의 집중도를 바탕으로 역내 수요를 견인합니다. 캐나다에서는 토론토에 본사를 둔 Untether AI와 d-Matrix의 사업을 비롯해 엔지니어링 및 AI 하드웨어 부문이 시장에 기여합니다.

미국의 정책은 역내 설계 및 제조 생태계를 강화합니다. CHIPS 및 과학법은 주요 반도체 인센티브와 관련 안전장치의 근거를 마련해 미국 내 공급망 결정과 상업적 파트너십 모두에 영향을 미칩니다. 북미 공급업체는 정교한 클라우드 및 기업 고객의 수요에서 이점을 얻지만, 수출 통제와 고객 집중도는 글로벌 규모의 사업 확장을 제약할 수 있습니다. 역내에서 성공하려면 기술적 차별성을 충분한 소프트웨어 지원과 운영 신뢰성을 갖춘 양산 단계의 도입으로 연결해야 합니다. ^{[6]The Conference Board, Artificial Intelligence Computing Infrastructure and Energy Demand. conference-board.org}

유럽

유럽 시장 규모는 2025년 8,778만 미국 달러이며, 연평균 약 36.24% 성장해 2035년에는 19억2,000만 미국 달러에 이를 전망입니다. 독일, 영국, 프랑스, 스페인, 이탈리아, 러시아 및 기타 유럽 지역에서는 자동차, 산업, 연구 및 기업 AI 분야의 수요가 시장에 기여합니다. 유럽 반도체법은 2023년 9월 발효됐으며, 반도체 생산 역량과 회복력을 강화하기 위한 체계를 마련했습니다.

유럽의 기회는 하이퍼스케일 가속기 물량보다 인증을 거친 산업 및 규제 대상 분야의 도입에 더 집중되어 있습니다. EU AI법의 위험 기반 체계에 따라 고위험 AI 시스템에 사용되는 하드웨어의 추적성과 검증이 점점 더 중요해지고 있습니다. 유럽회계감사원도 역내 반도체 전략의 실행 위험을 지적하며, 제시된 제조 역량 목표를 실제로 이행하는 데 실질적인 어려움이 있다고 밝혔습니다. 이에 따라 유럽의 CIM 도입에서는 기술 성능에 더해 규정 준수 문서, 자동차 부문 인증 및 현지 통합 역량을 갖춘 공급업체가 유리할 가능성이 높습니다.

SoftBank가 2024년 7월 Graphcore를 인수한 사례는 유럽의 독립 AI 프로세서 업체가 시장에 확고히 자리 잡은 GPU 생태계에 맞서 규모를 확대하는 일이 얼마나 어려운지 보여줍니다. 대용량 온칩 메모리와 연산을 긴밀하게 결합하는 Graphcore의 IPU 방식은 메모리 중심 컴퓨팅이라는 더 큰 흐름에서 여전히 의미가 있지만, 이번 거래는 아키텍처의 우수성만으로는 상업적 규모를 확보할 수 없음을 보여줍니다.

아시아 태평양

아시아 태평양은 규모가 가장 크고 성장 속도도 가장 빠른 지역 시장으로, 시장 규모는 2025년 2억190만 미국 달러에서 2035년 60억2,000만 미국 달러로 확대되며 연평균성장률(CAGR)은 약 40.52%에 이를 전망입니다. 이 지역의 위상은 메모리 제조업의 집중도, 반도체 투자, 국내 AI 수요, 지역 내 설계 인력에 기반합니다. 중국, 인도, 일본, 한국, 호주를 비롯한 아시아 태평양 지역의 나머지 국가들은 제조, 메모리 기술, 임베디드 전자기기, 주권형 AI 인프라, 자동차 수요 분야에서 각기 다른 역량을 보유하고 있습니다.

한국은 삼성과 SK hynix를 중심으로 이 지역에서 가장 탄탄한 메모리 기반 컴퓨트 인 메모리(CIM) 상용화 기반을 갖추고 있습니다. 두 기업의 프로세싱 인 메모리 프로그램은 CIM 개발을 기존 DRAM, HBM, 모바일 메모리 생태계와 연결합니다. 중국은 대규모 국내 연구 및 특허 기반에 더해 정부 지원 반도체 투자를 확대하고 있습니다. WitMem으로도 알려진 Hangzhou Zhicun Technology와 관련된 특허 활동은 다중 칩 인 메모리 처리 구성의 개발이 계속되고 있음을 보여줍니다. ^{[7]ServeTheHome, In-Memory Computing and Emerging AI Accelerator Technologies. servethehome.com}

일본은 첨단 반도체 및 AI 기술 지원을 강화하고 있습니다. 일본 경제산업성은 반도체 및 AI 관련 기술 투자를 지원하기 위해 2025년 2월 입법 조치를 추진했습니다. 인도의 IndiaAI Mission과 반도체 정책 추진은 주권형 AI, 모바일 기기, 자동차 전자기기, 현지 칩 설계 분야에서 이 지역의 잠재 수요 기반을 확대합니다. 지역 성장은 수출 통제의 영향, 첨단 공정 및 HBM에 대한 접근성, 현지 업체의 하드웨어와 실효성 있는 소프트웨어 생태계 통합 역량에 좌우될 전망입니다.

라틴아메리카

라틴아메리카 시장 규모는 2025년 2,593만 미국 달러이며, 2035년에는 4억6,126만 미국 달러에 이를 전망입니다. 연평균성장률은 약 33.44%입니다. 브라질은 디지털 경제, 클라우드 확장, 공공 부문 기술 이니셔티브를 바탕으로 이 지역의 수요를 주도하고 있습니다. 멕시코는 전자제품 제조 기반과 북미 자동차 공급망에 대한 근접성을 바탕으로, 규모는 상대적으로 작지만 엣지 및 임베디드 CIM 도입 기회를 갖고 있습니다.

이 지역의 성장 양상은 비용 민감성과 북미 또는 아시아 태평양보다 낮은 단기 AI 인프라 투자 강도에 따라 달라집니다. 구매자는 총소유비용, 현지 지원, 하이브리드 클라우드·엣지 시스템과의 통합을 우선시할 가능성이 큽니다. 이에 따라 광범위한 생태계 투자가 필요한 고가 아키텍처보다 전력, 지연 시간 또는 기기 비용 측면에서 뚜렷한 이점을 제공하는 솔루션이 유리합니다.

중동 및 아프리카

중동 및 아프리카 시장 규모는 2025년 2,732만 미국 달러이며, 연평균성장률 약 35.15%로 성장해 2035년에는 5억6,376만 미국 달러에 이를 전망입니다. 사우디아라비아와 UAE는 주권형 AI 프로그램과 데이터센터 개발에 힘입어 이 지역의 주요 수요 중심지로 부상하고 있습니다. Groq의 2025년 자금 조달과 지역 인프라 투자 약속은 추론 역량 구축에서 주권형 구매자가 수행하는 역할을 보여줍니다.

사우디아라비아, UAE, 남아프리카공화국 및 나머지 중동·아프리카 지역은 각기 다른 도입 여건을 보입니다. 걸프 지역 시장에서는 규모가 집중된 고부가가치 연산 자원 조달이 가능한 반면, 아프리카 전역의 수요는 통신, 공공 디지털 서비스, 모바일 AI 애플리케이션을 중심으로 확대될 가능성이 큽니다. 물류, 현지 시스템 통합, 환율 변동 위험, 숙련된 구축 파트너의 확보 여부에 따라 특화 CIM 하드웨어가 파일럿 프로그램에서 실제 운영 인프라로 전환되는 속도가 달라질 전망입니다.

북미는 전문 반도체 공급업체와 하이퍼스케일 기업의 추론용 조달 수요를 모두 갖추고 있어 상업적으로 중요한 영향력을 유지할 전망입니다. 유럽 시장은 특히 자동차, 산업 및 규제 대상 애플리케이션에서 제품 검증이 주도하는 방향으로 전개될 가능성이 높습니다. 중남미와 중동·아프리카(MEA)에서는 광범위한 초기 도입보다는 선택적인 수요처가 형성될 전망입니다. 따라서 공급업체는 지역 전략을 수립할 때 고성능 시스템을 대규모로 검증할 수 있는 시장과 현지 엣지 컴퓨팅의 경제성, 자국 중심 조달 또는 규정 준수 요건이 초기 설계 수주를 좌우하는 시장을 구분해야 합니다.

컴퓨트-인-메모리(CIM) 칩 시장 점유율 및 경쟁 구도

CIM 칩 시장은 공급업체마다 웨이퍼 규모 시스템, 메모리 제품, 클라우드 추론 프로세서, 아날로그 엣지 가속기, 광 인터커넥트, 근접 메모리 아키텍처 등 서로 다른 접근 방식으로 메모리와 연산의 결합 과제에 대응하고 있어 파편화되어 있습니다. 2025년 시장 점유율은 Cerebras Systems가 18.2%로 추정되며, Samsung Electronics가 약 12.2%, SK hynix가 8.1%, Intel이 7.9%, Groq가 6.8%로 그 뒤를 잇습니다. Mythic, d-Matrix, EnCharge AI, Rain AI, Lightmatter, IBM, Micron, Untether AI, Graphcore를 포함한 기타 공급업체의 점유율은 46.8%로 추정됩니다.

Cerebras Systems는 WSE 아키텍처를 기반으로 한 웨이퍼 규모 AI 시스템을 통해 시장을 선도합니다. 회사 설명에 따르면 CS-3 시스템에 탑재된 WSE-3에는 트랜지스터 4조 개와 온칩 SRAM 40GB가 포함되어 있습니다. Cerebras Systems의 경쟁 우위는 시스템 규모의 통합과 지연 시간이 짧은 추론을 구현할 잠재력입니다. 반면 시스템 확장에 필요한 높은 자본 집약도, 고객 집중도, 기존 GPU 플랫폼과 경쟁할 소프트웨어 환경을 지속적으로 구축해야 한다는 점은 부담 요인입니다.

Samsung Electronics는 메모리, 파운드리 서비스, 시스템 반도체를 아우르는 수직 계열화 역량을 갖추고 있습니다. HBM-PIM, LPDDR5-PIM, 근접 메모리 연산 관련 연구는 대량 생산 메모리 기술에 연산 기능을 통합할 수 있는 확립된 경로를 제시합니다. Samsung Electronics의 주요 강점은 아키텍처 개발을 제조 역량 및 메모리 로드맵과 연계할 수 있다는 점입니다. 상용화 측면의 과제는 기술 시연과 표준화 활동을 시스템 OEM 및 클라우드 고객이 채택할 상호 운용 가능한 제품으로 발전시키는 것입니다.

SK hynix는 AiM, HBM, 모바일 메모리 역량을 바탕으로 경쟁하고 있습니다. GDDR6-AiM 및 AiMX-xPU 프로그램은 AI 작업 부하를 처리할 때 연산을 메모리 가까이에 배치하는 데 주력하고 있음을 보여 줍니다. 선도적인 HBM 공급업체인 SK hynix는 CIM이 재편하려는 기존 AI 메모리 가치사슬에도 참여하고 있습니다. 이러한 이중적 입지는 시장에 대한 이해와 제조 규모 측면에서 이점을 제공하지만, 기존 고대역폭 메모리와 메모리 내 연산을 모두 아우르는 제품 포지셔닝을 관리해야 합니다.

Intel은 AI 가속기, CXL 기반 메모리 생태계, 근접 메모리 컴퓨팅 경로를 통해 시장에 참여하고 있습니다. Gaudi 3는 고대역폭 메모리와 특화된 AI 연산 기능을 결합해 엔터프라이즈 생성형 AI 인프라 분야에서 대안을 제공하려는 Intel의 노력을 보여 줍니다. Intel의 CXL 참여는 지능형 메모리 또는 근접 메모리 장치를 연결하는 보다 표준화된 접근 방식을 뒷받침할 수 있지만, 그것만으로 CIM 구현 방식 간 아키텍처 및 소프트웨어 차이가 해소되는 것은 아닙니다.

Groq는 결정론적 추론 실행과 높은 토큰 처리량을 중심으로 LPU 아키텍처를 설계했습니다. 2024년 8월 자금 조달은 대체 AI 추론 하드웨어에 대한 투자자들의 관심을 보여줬습니다. Groq의 경쟁 모델은 클라우드 기반 추론 서비스 제공을 통해 칩 판매를 넘어섭니다. 고객은 응답 시간, 처리량, 가용성 등의 서비스 지표를 바탕으로 성능을 평가할 수 있습니다. 이러한 모델은 고객이 서비스를 이용하는 시점을 앞당길 수 있지만, 추론 인프라를 구축하고 유지하는 데 필요한 운영 부담도 키웁니다.

전문 분야에 집중하는 도전 기업들은 보다 구체적인 기회를 공략하고 있습니다. d-Matrix는 디지털 메모리 내 연산으로 데이터센터 추론 시장을 겨냥하며, 상용화 확대를 위해 2025년 11월 2억7,500만 미국 달러를 조달했습니다. EnCharge AI는 아날로그 메모리 내 연산 기술로 클라이언트 및 임베디드 컴퓨팅 시장을 겨냥합니다. Mythic은 임베디드 플래시와 아날로그 연산을 결합했으며, 2025년 12월 1억2,500만 미국 달러 규모의 자금 조달을 발표했습니다. Rain AI는 엣지 배포를 위한 저전력 아날로그 뉴로모픽 접근법을 추진하고 있습니다. 이들 기업은 목표 시장에 부합하는 제품을 통해 이점을 얻을 수 있지만, 대형 기존 업체들을 보호하는 것과 같은 제품 검증, 파운드리 접근성, 소프트웨어 생태계 장벽을 넘어야 합니다. ^{[8]Rain AI, Digital In-Memory Compute for AI Training and Inference, . (). rain.ai}

상호 연결 및 패키징 공급업체는 확장 가능한 CIM 구현에서 점점 더 중요해지고 있습니다. Lightmatter가 2025년 3월 발표한 Passage M1000은 최대 114 Tbps의 광 대역폭을 제공하는 광 인터커넥트 플랫폼입니다. 이 기술은 CIM 연산 자체를 수행하지는 않지만, 여러 메모리 중심 가속기를 함께 배치할 때 발생하는 클러스터 수준의 통신 제약을 해결하는 데 도움이 될 수 있습니다. 대형 3D 포토닉스 패키지 개발을 위한 Amkor Technology와의 파트너십은 첨단 패키징이 경쟁 아키텍처 스택의 일부로 자리 잡고 있음을 보여줍니다.

특허 활동은 경쟁에 전략적 차원을 더합니다. 세계지식재산기구(WIPO)는 2024년 전 세계 특허 출원 건수가 370만 건에 달했으며, 컴퓨터 기술 분야가 전체 출원의 13.2%를 차지했다고 보고했습니다. CIM 분야의 차별화된 지식재산권은 메모리 셀 구조, 아날로그 보정, 데이터 흐름, 컴파일러 기법, 패키징 및 시스템 통합을 포괄할 수 있습니다. 방어력 있는 특허와 입증된 제조 노하우를 보유한 공급업체는 라이선스 수익, 파운드리 파트너십, 장기 고객 프로그램을 확보하는 데 유리한 위치를 점할 것입니다.

최근 업계 동향

• 2025년 2월 - EnCharge AI는 초과 청약된 시리즈 B 투자 라운드에서 1억 미국 달러를 초과하는 자금을 조달했습니다. 이번 자금은 클라이언트 컴퓨팅용 아날로그 메모리 내 연산 솔루션의 상용화에 투입될 예정입니다.
• 2025년 3월 - Lightmatter는 Passage M1000 포토닉 인터포저를 출시했습니다. 이 플랫폼은 대규모 AI 시스템에 최대 114 Tbps의 광 대역폭을 제공해 다중 가속기 확장을 제한할 수 있는 인터커넥트 요구 사항에 대응합니다.
• 2025년 11월 - d-Matrix는 시리즈 C 투자 라운드에서 2억7,500만 미국 달러를 조달했습니다. 회사는 이번 자금이 AI 추론용 디지털 메모리 내 연산 플랫폼의 상용화를 뒷받침할 것이라고 밝혔습니다.
• 2025년 12월 - Mythic은 1억2,500만 미국 달러 규모의 자금 조달을 발표했습니다. 이번 자금은 플래시 기반 아날로그 CIM 아키텍처와 관련 소프트웨어 생태계의 지속적인 개발에 투입됩니다.