가치를같이읽다

# 인공지능(AI)의 또다른 필수품 고대역폭메모리(HBM)를 향한 관심이 뜨겁다. 어느 기업이 엔비디아에 HBM을 납품할 것인지, 누가 HBM 시장에서 승기를 잡을지 여부가 시장의 관심사다. 

# 그렇다면 HBM 시장을 잡으면 AI 시대 반도체 시장을 주도할 수 있을까. 엔비디아의 뒤를 잇는 ‘AI 황태자’가 될 수 있을까. 안타깝게도 장담하기 어렵다. HBM의 장점도 한계도 뚜렷해서다. 더스쿠프 視리즈 ‘AI용 반도체 미래 설계도’ 두번째 편이다.

인공지능(AI)은 미국 엔비디아를 세계 반도체 시장 1인자 자리에 올려놨다. 엔비디아의 주력 제품인 그래픽처리장치(GPU)가 AI 기술을 구현하는 필수 부품으로 부상하면서다. 그런데 왜 하필 엔비디아일까. GPU를 만드는 곳은 엔비디아만이 아니다. 인텔도, AMD도 만든다. 마이크로소프트(MS), 구글 등 AI용 반도체를 자체 개발 중인 빅테크 기업도 적지 않다. 

그럼에도 엔비디아가 AI용 반도체 시장에서 점유율 80%에 육박하는 지배력을 가지고 있는 덴 그만한 이유가 있다. 엔비디아 경쟁력의 원천인 ‘쿠다(CUDA)’ 덕분이다. 쿠다는 2006년(출시는 2007년) 엔비디아가 100억 달러(약 13조원)가량을 투자해 만든 ‘병렬 컴퓨팅 플랫폼’이다. 쉽게 말해, 쿠다는 프로그래밍 언어ㆍ라이브러리ㆍ인터페이스 등을 지원해 개발자가 엔비디아의 GPU를 손쉽게 다룰 수 있도록 돕는 ‘조력자’다. 

쿠다가 중요한 건 개발을 돕기 때문만은 아니다. 쿠다는 AI 기술의 핵심인 딥러닝(자가학습) 모델을 구현하는 데 최적화한 기능을 선보였다. 당연히 AI를 개발하기 위해선 쿠다를 쓰는 게 최선이었고, 쿠다를 쓴다는 건 곧 엔비디아의 GPU를 사용한다는 얘기였다.

그렇게 쿠다는 AI 개발자 사이에선 없어선 안 될 플랫폼으로 자리를 잡았다. 엔비디아가 AI용 반도체 시장을 주도할 수 있었던 이유다. 2006년에 AI의 미래를 내다본 엔비디아의 선구안이 ‘특별한 플랫폼’을 통해 독점적인 생태계를 구축해냈다는 것이다.

[※참고: 엔비디아가 지난 18일(현지시간) 열린 연례 개발자 콘퍼런스 ‘GTC2024’에서 ‘NIM(NVIDIA Inference Microservice)’을 비롯한 새로운 소프트웨어 서비스를 공개하면서 “플랫폼 기업으로 거듭나겠다”는 뜻을 밝힌 것도 같은 맥락으로 풀이할 수 있다. 엔비디아는 이미 플랫폼 경쟁력, 나아가 벗어날 수 없는 생태계를 구축하는 게 AI 시대의 과제라고 결론을 내린 듯하다.] 

여기까진 視리즈 ‘AI용 반도체 미래 설계도’ 1편에서 살펴본 내용이다. 그렇다면 반도체 강국을 자부하는 우리나라 기업들도 엔비디아처럼 AI 시대의 반도체 강자 자리를 거머쥘 순 없을까. 

이번엔 고대역폭메모리(HBM) 이야기를 해보자. HBM은 메모리 반도체의 일종이다. D램을 수직으로 쌓아올려 데이터 처리 속도를 획기적으로 끌어올렸다. 빠른 연산 처리 속도를 요구하는 AI 분야에서 HBM도 필수품으로 꼽힌다. 엔비디아의 GPU에도 HBM이 들어간다. 

최근 SK하이닉스가 주목을 받고 있는 이유도 여기에 있다. HBM 경쟁에서 가장 앞서 있는 SK하이닉스가 엔비디아에 HBM을 공급하고 있어서다. 메모리 반도체 시장에서 만년 2인자였던 SK하이닉스가 HBM을 앞세워 삼성전자를 긴장하게 만든 셈이다. 

시장조사기관 옴디아에 따르면, D램 시장에서 두 기업의 점유율 격차는 지난해 1분기 18.1%포인트(삼성전자 42.8%ㆍSK하이닉스 24.7%)에서, 같은해 3분기 4.4%포인트(삼성전자 39.4%ㆍSK하이닉스 35.0%)로 크게 줄었다.

[※참고: 물론 SK하이닉스가 삼성전자와의 점유율 격차를 줄일 수 있었던 건 HBM 때문만은 아니다. SK하이닉스는 최신 제품인 DDR5에서도 높은 경쟁력을 보였다. 다만, 4분기엔 두 기업의 점유율 격차가 14.0%포인트로 다시 벌어졌다.] 

그만큼 최근 반도체 시장에서 HBM의 위상은 상당히 높다. 메모리 반도체 업체들 사이에서도 HBM 시장에서 승기를 잡는 게 최우선 과제로 떠올랐다. 4세대 HBM(8단 HBM3)을 가장 먼저 개발한 건 SK하이닉스지만, 5세대 HBM(8단 HBM3E)에선 마이크론이 앞섰다. 이에 뒤질세라 삼성전자도 지난 2월 세계 최초로 12단을 쌓은 5세대 HBM을 개발하는 데 성공했다. 올해 HBM 공급 경쟁의 막이 본격적으로 오른 셈이다. 

그렇다면 HBM은 한국 반도체의 미래를 보장할 ‘확실한 디딤돌’이 될 수 있을까. AI 시대에 우리나라 기업들은 HBM을 발판으로 세계 반도체 시장을 선두에서 이끌 수 있을까. 결론부터 말하면 가능성이 높진 않다.

무엇보다 메모리 반도체가 가지고 있는 태생적 한계가 HBM에도 존재한다. HBM이 기존 D램과 달리 주문형 제품이라곤 하지만 완전한 맞춤형 제품인 것도 아니다. 사실상 기성품에 가깝다. 누구든 확고한 시장 지배력을 갖기 어렵다는 거다.

엔비디아처럼 독자적인 생태계를 조성해 경쟁력을 확보하는 게 어려운 것도 그 때문이다. 반도체 업계 한 관계자는 “공정 기술이 거의 전부인 메모리 반도체는 설계자산(IP)이나 컴퓨팅 플랫폼 등 프로그래밍 인프라로 차별화를 꾀하기 힘들다”고 설명했다. HBM이 GPU 시장과 다르게 경쟁이 치열한 것도 이런 맥락에서다.

더구나 AI 시장이 성장하고 본격적인 AI 시대가 열리면 메모리 반도체 산업의 지형도가 지금과는 완전히 달라질 가능성도 있다. HBM을 비롯해 현재 주가를 올리고 있는 메모리 반도체 제품들이 언제까지 경쟁력을 이어갈지 장담할 수 없다는 거다. 

이종환 상명대(시스템반도체공학) 교수의 설명을 들어보자. “차세대 반도체는 메모리 반도체와 비메모리 반도체가 결합한 형태가 될 가능성이 높다. AI 기술이 가속화하고, 나아가 휴머노이드 산업이 커지면 메모리와 비메모리가 분리된 형태로선 한계가 있기 때문이다. PIM과 같은 개념이라고 보면 된다. 그렇게 되면 (메모리 반도체 기업의) 사업구조가 완전 개편될 것이고, 메모리 반도체의 구분이 사라질 수도 있다.”[※참고: PIM(Processing In Memory)은 D램에 연산기능을 더한 하이브리드 반도체다.]

문제는 이런 변화가 삼성전자, SK하이닉스 같은 메모리 반도체 기업엔 기회이면서 동시에 위기가 될 수도 있다는 점이다. 먼저 수요ㆍ공급 사이클의 변화에 민감한 메모리 반도체의 약점을 극복하고, 비메모리 영역까지 시장이 확대되는 효과를 누릴 수 있다는 건 기회다. 하지만 메모리 반도체 시장에서의 지배력까지 잃을 수 있다는 점에선 위기로 작용할 가능성도 배제할 수 없다. 

이종환 교수는 “더 이상 시장의 사이클 변화만 바라보면서 일희일비하고 있을 때가 아니다”면서 이렇게 설명했다. “변화를 기회로 만들려면 파운드리, 설계 등 비메모리 분야에서 기술 경쟁력을 키워야 한다. 그래야 메모리와 비메모리가 통합됐을 때 그 이후를 내다볼 수 있다. 한순간에 모든 게 변화하진 않겠지만 대비하지 않으면 언젠가 위기에 빠질 수 있다. 당장의 얘기는 아니지만 그렇다고 먼 미래의 얘기도 아니다.” 

고준영 더스쿠프 경영전문기자
shamandn2@thescoop.co.kr