지난달 24일 엔비디아가 시장 전망치를 20% 이상 웃돈 135억 1000만 달러(약 18조 원)의 2분기(5~7월) 매출 실적을 공개하자 국내 시장에서는 SK하이닉스 주가가 4% 넘게 뛰며 축포를 쏘아올렸다. 엔비디아가 생산하는 인공지능(AI) 프로세서에 SK하이닉스가 만드는 고대역폭메모리(HBM)가 공급되고 있기 때문이다. 1일에는 삼성전자가 생산하는 HBM3가 엔비디아에 공급을 앞두고 있다는 미국 증권사 리포트가 나오자 삼성전자 주가가 단숨에 ‘7만 전자’를 회복하기도 했다.

사실 2000년대 후반 삼성전자와 SK하이닉스가 HBM 개발에 착수했을 때만 해도 시장의 반응은 미적지근했다. D램을 수직으로 쌓아 만드는 HBM이 기존 D램보다 압도적으로 성능이 뛰어나다는 점에는 이견이 없지만 당시만 해도 그래픽처리장치(GPU)에 HBM을 연결해 AI 연산 성능을 끌어올린다는 확실한 용도가 제대로 드러나지 않았던 탓이다. D램만 만들어 팔아도 영업이익률이 최고 60%를 기록하던 시절에 웨이퍼에 추가 공정을 얹어야 하는 HBM에 투자 결정을 내리기도 어려웠다.

하지만 결국에는 미래를 내다본 과감한 투자가 판을 뒤집었다. 통상 메모리반도체는 경기 동향에 민감하게 반응해 사이클 변화가 심하지만 HBM은 초격차 기술력을 바탕으로 역대급 반도체 불황을 이겨내는 버팀목 역할까지 해내고 있어서다. 반도체 업계의 한 고위 관계자는 “SK하이닉스가 HBM 분야에서 삼성을 앞서고 있다고 하지만 학생으로 비유하면 국영수 등 여러 과목에서 한 과목을 앞선 것뿐”이라며 “넥스트 HBM 경쟁은 이미 시작됐다”고 말했다.

글로벌 반도체 시장의 메모리 맞수인 삼성전자와 SK하이닉스가 ‘미래 메모리’ 분야에서 생존을 건 무한 경쟁에 돌입했다. 과거 PC와 모바일이 정보기술(IT) 분야를 주도하던 시기에는 용량은 더 크면서도 전력을 덜 쓰는 메모리반도체를 만들어내는 역할만 수행하면 됐지만 앞으로는 기존 성능 향상은 그대로 유지하면서 연산까지 직접 수행하는 ‘괴물 메모리’를 만들어낼 수 있어야 생존 경쟁에서 살아남을 수 있다는 게 반도체 업계의 진단이다.

대표적인 분야가 메모리에 시스템반도체의 연산 기능을 더한 프로세스인메모리(PIM)다. 지금 만들어지는 칩은 메모리가 저장소 역할을 하고 중앙처리장치(CPU)나 GPU 등 시스템반도체가 연산 기능을 맡아 서로 역할이 분리돼 있지만 PIM은 메모리 내부에서 직접 연산을 수행한다. 과거에는 CPU가 메모리가 서로 정보를 주고받으면서 데이터 병목이 발생해도 문제가 없었지만 ‘생성형 AI’ 등장 이후 정보 처리량이 폭발적으로 늘어나자 연산 기능까지 직접 수행해 데이터 병목을 줄이는 메모리 제품이 주목받는 것이다.

현재 이 분야에서는 삼성전자의 HBM-PIM이 가장 돋보인다. 이 제품은 HBM을 기반으로 PIM 기능을 수행하는 메모리로 보면 된다. 지난해 10월 출시된 AMD의 GPU 가속기 카드에 삼성 HBM-PIM이 탑재됐다. 삼성은 최근 HBM-PIM 탑재 GPU가 기존 HBM 탑재 GPU보다 2.71배에 달하는 성능을 냈다고 발표했다. 리사 수 AMD 최고경영자(CEO) 또한 “삼성의 PIM 기술로 전력을 85% 이상 절감할 수 있었다”며 향후 연구 협력을 늘려나가겠다고 밝힌 바 있다. SK하이닉스는 PIM 분야에서 그래픽더블데이터레이트(GDDR) D램 기반 기술을 개발하고 있다.

차세대 메모리로 주목받는 기술 가운데는 ‘컴퓨트익스프레스링크(CXL)’라는 메모리 플랫폼도 있다. CPU와 메모리 사이의 연결을 담당하는 인터페이스 기술이다. 현재 D램 분야에서는 DDR이라는 인터페이스가 표준으로 사용되고 있는데 DDR 기반 D램은 물리적으로 CPU 1개에 연결할 수 있는 모듈 개수가 16개로 제한돼 있다는 점이 근본적 문제다. 물론 메모리반도체의 용량을 무한정 늘릴 수 있으면 좋겠지만 기술과 비용 등의 문제가 있어 아예 인터페이스 기술을 바꾸는 게 CXL의 요체다. 한마디로 D램 메모리 용량의 물리적 한계를 넘어서는 ‘초메모리’ 시대를 여는 기술인 셈이다. 삼성은 2021년 업계 최초로 CXL 기반 D램을 개발했으며 5월에는 여기서 성능이 한 단계 더 개선된 CXL 2.0 D램을 개발하는 데 성공했다. SK하이닉스 역시 지난해 10월 업계 최초로 CXL 메모리에 연산 기능을 통합한 컴퓨테이셔널메모리솔루션(CMS)을 개발했다. 이와 함께 ‘인공지능탑재메모리(AXDIMM)’ ‘스마트솔리드스테이트드라이브(SSD)’ 등에서 미래를 건 경쟁이 펼쳐지고 있다.

<서일범 기자>