AI반도체 1200조 시장, 한국에 남은 시간은 3~5년

숫자부터 보자: 6년 만에 7배
한국수출입은행 해외경제연구소가 내놓은 전망의 핵심은 단순하다. 데이터센터용 AI반도체 시장 규모가 2024년 1240억 달러(약 170조 원)에서 2030년 8600억 달러(약 1200조 원)로 커진다는 것이다. **연평균 성장률 38%**는 반도체 산업에서 좀처럼 보기 어려운 수치다. 과거 메모리 슈퍼사이클도 특정 연도에 급등했다가 이듬해 꺾이는 패턴이었지, 6년을 연속으로 두 자릿수 후반대 성장률로 달린 적은 드물다.
이 전망이 보수적인지 공격적인지는 판단이 갈릴 수 있다. 다만 시장조사기관들이 AI 인프라 투자 규모를 매 분기 상향 조정해온 흐름을 보면, 1200조 원이라는 숫자 자체보다 "AI반도체가 단일 품목으로 현재 전체 반도체 시장에 필적하는 규모로 커진다"는 방향성이 더 중요하다.
왜 지금 '3~5년'이라는 시한이 붙는가
보고서가 한국 기업의 생존 분수령으로 3~5년을 지목한 데에는 이유가 있다. AI 산업의 무게 중심이 모델을 훈련시키는 학습(training)에서 실제 서비스에 쓰이는 추론(inference)으로 이동하고 있기 때문이다.
학습 단계는 사실상 엔비디아 GPU의 독무대였다. 최고 성능 칩 하나에 수요가 몰리고, CUDA라는 소프트웨어 생태계가 대체를 막았다. 반면 추론은 성격이 다르다. 비용과 전력 효율이 성능만큼 중요해지고, 워크로드가 다양해지면서 특정 용도에 최적화된 칩이 들어설 여지가 생긴다. 구글의 TPU, 아마존의 트레이니엄·인퍼런시아처럼 빅테크가 자체 칩을 설계하는 흐름도 같은 맥락이다.
문제는 이 전환기가 영원히 열려 있지 않다는 점이다. 데이터센터 반도체 공급망은 한 번 검증된 벤더가 들어가면 수년간 물량이 고정되는 구조다. 고객사의 설계·소프트웨어 스택에 맞춰 튜닝된 칩은 쉽게 갈아타기 어렵다. 초기에 레퍼런스를 확보하지 못하면 이후에는 성능이 비슷해도 진입 자체가 봉쇄될 수 있다는 것이 '3~5년' 경고의 실질적 의미다.
한국의 위치: 메모리는 강하지만 연산 칩은 후발
한국은 AI반도체 밸류체인에서 절반만 강하다. HBM(고대역폭메모리)에서는 SK하이닉스와 삼성전자가 핵심 공급자다. AI 서버 한 대의 원가에서 메모리가 차지하는 비중도 과거보다 훨씬 커졌다.
하지만 연산을 담당하는 로직 칩, 즉 GPU와 NPU, 그리고 이를 제조하는 첨단 파운드리에서는 명백한 후발 주자다. 엔비디아·AMD·브로드컴이 설계를 쥐고 TSMC가 생산하는 구조에서 한국 기업이 차지한 자리는 아직 제한적이다. 국내 AI 반도체 스타트업들이 NPU를 내놓고 있지만, 글로벌 하이퍼스케일러의 대규모 채택 사례는 아직 두텁지 않다.
보고서가 정부 차원의 공급망 진출 지원을 주문한 배경도 여기에 있다. 개별 기업이 해외 데이터센터 사업자와 장기 검증 절차를 뚫고 들어가는 데는 시간과 자본이 크게 든다. 단기 매출이 나오지 않는 기간을 버틸 수 있느냐가 관건이다.
그래서 무엇이 달라지나
업계 종사자 입장에서 이 전망이 주는 실용적 시사점은 세 가지다.
첫째, 추론용 칩 관련 인력·기술 수요가 늘어날 가능성이 크다. 순수 연산 성능보다 전력당 성능(perf/watt), 메모리 대역폭 최적화, 컴파일러와 런타임 소프트웨어를 다루는 역량의 가치가 올라간다. 하드웨어만 만들어서는 채택되지 않는 시장이기 때문이다.
둘째, 소재·부품·장비와 패키징 업체에게는 기회의 창이 더 넓다. HBM 적층과 2.5D/3D 패키징 수요는 AI 칩 출하량에 직결되며, 여기서는 한국 협력사 생태계가 이미 자리를 잡고 있다.
셋째, 투자자나 일반 독자 관점에서는 "AI 수혜주"를 메모리 한 축으로만 보는 시각을 조정할 필요가 있다. 시장이 학습에서 추론으로 넘어가면 수혜의 분포도 달라진다. 최고 성능 칩 한두 개가 독식하던 구도에서, 전력 효율과 총소유비용(TCO)을 무기로 하는 플레이어들이 몫을 나눠 갖는 국면으로 바뀔 수 있다.
남는 질문
1200조 원이라는 숫자는 그 자체로 정책 슬로건이 되기 쉽다. 하지만 시장이 커진다는 사실과 한국 기업이 그 몫을 가져간다는 것은 별개의 문제다. 메모리에서의 우위가 연산 칩 진입을 자동으로 보장하지 않는다는 점, 그리고 데이터센터 공급망은 기술력만큼이나 고객 관계와 소프트웨어 생태계로 결정된다는 점이 이번 전망을 읽을 때 함께 놓여야 할 전제다.
참고 자료
- AI반도체 1200조 시장 열린다…“공급망 진입 서둘러야” — sedaily.com
- AI반도체 1200조 시장 열린다…“향후 3~5년이 韓기업 생존 분수령” — view.asiae.co.kr
- 1천조 시장 열리는 AI반도체…"정부, 공급망 진출 지원해야" — yna.co.kr