삼성전자 주가가 뚝 떨어졌다는 뉴스를 보며 "이거 팔아야 하나" 고민해 본 적 있으시다면, 저도 똑같은 상황을 겪었습니다. 구글이 AI 모델 경량화 알고리즘을 발표한 날, 반도체주가 일제히 흔들렸거든요. 그때 저는 팔지 않았습니다. 숫자를 다시 들여다봤기 때문입니다. 지금 삼성전자와 SK하이닉스가 처한 위치를 제대로 이해하면, 단기 주가 흔들림이 얼마나 본질과 무관한 소음인지 보이기 시작합니다.

HBM 기술 격차가 만들어내는 구조적 기회
요즘 AI 반도체 얘기를 하다 보면 HBM이라는 단어가 빠지지 않습니다. HBM(High Bandwidth Memory)이란 여러 개의 메모리 칩을 수직으로 쌓아 GPU 바로 옆에 붙이는 방식으로, 데이터를 초고속으로 주고받을 수 있게 설계된 고대역폭 메모리입니다. 쉽게 말해 일반 메모리가 시내버스라면 HBM은 KTX에 가깝습니다. AI 연산 속도가 이 메모리의 전송 속도에 직접 묶여 있기 때문에, HBM 없이는 엔비디아의 칩도 제 성능을 내지 못합니다.
제가 이 구조를 처음 파악했을 때 솔직히 좀 놀랐습니다. 엔비디아가 주도주라고들 하지만, 결국 그 칩이 제대로 돌아가려면 삼성전자와 SK하이닉스가 만드는 HBM이 반드시 붙어있어야 한다는 거잖아요. 전 세계를 통틀어 HBM 4세대를 안정적으로 양산할 수 있는 곳이 이 두 회사뿐이라는 사실은, 단순한 경쟁 우위가 아니라 구조적 독점에 가까운 상황입니다.
여기서 CAPEX(Capital Expenditure)라는 개념이 중요해집니다. CAPEX란 기업이 미래 생산능력 확보를 위해 집행하는 설비투자 비용을 뜻합니다. 구글, 아마존, 마이크로소프트가 2024년 한 해 동안 AI 인프라에 쏟아부은 CAPEX 합계는 2,000억 달러를 넘어섰습니다(출처: Bloomberg). 이 투자가 늘어날수록 그 안에 들어갈 HBM 주문도 함께 증가하는 구조입니다.
미국의 마이크론이 경쟁자이긴 하지만, 제 경험상 시장에서 기술 격차가 한 세대 이상 벌어진 상황은 단기간에 역전되기 어렵습니다. 적층 기술, 열 관리 설계, 신호 처리 노하우는 2010년부터 15년 넘게 수천 번의 실패를 거치며 쌓인 것들이어서, 자본만 퍼붓는다고 따라올 수 있는 영역이 아닙니다. 중국도 마찬가지입니다. 전문가들은 중국이 전력을 다해도 현재 한국 기업의 HBM 초기 세대 수준에 도달하는 데만 최소 3년이 걸릴 것으로 보고 있습니다.
HBM 이후를 주목해야 할 핵심 포인트는 다음과 같습니다.
- HBM은 속도에 특화된 메모리로 AI 연산 처리를 가속화
- HBF(High Bandwidth Flash)는 용량에 특화되어 AI가 처리할 수 있는 정보량 자체를 확장
- 두 기술은 대체 관계가 아니라 AI 시스템 안에서 역할 분담하며 공존
- NAND와 DRAM을 동시에 양산할 수 있는 기업은 전 세계에서 삼성전자와 SK하이닉스뿐
제본스 역설과 97%가 말해주는 진짜 수요 크기
구글이 터보퀀트(TurboQuant) 알고리즘을 발표한 날, 시장이 출렁이며 반도체주 주가가 하락했습니다. AI 모델이 가벼워지면 메모리 수요도 줄지 않겠냐는 공포가 퍼진 겁니다. 저도 그날 잠깐 흔들리긴 했습니다. 그런데 제 경험상, 이런 순간에 팔고 나면 나중에 꼭 후회하더라고요.
경제학에 제본스 역설(Jevons Paradox)이라는 개념이 있습니다. 제본스 역설이란 어떤 자원의 사용 효율이 높아질수록 그 자원의 총소비량은 오히려 증가한다는 역설적 현상입니다. 18세기 영국에서 증기기관 효율이 향상되자 석탄 소비량이 오히려 폭발적으로 늘어난 것이 대표적 사례입니다. AI도 정확히 이 패턴을 따르고 있습니다.
현재 전 세계에서 AI 서비스를 유료로 사용하는 인구 비율은 약 3%에 불과합니다. 나머지 97%는 아직 AI를 제대로 쓰지 않고 있다는 뜻입니다. AI 모델이 가벼워지고 가격이 내려가면, 이 97%가 쓰기 시작합니다. 수요가 줄어드는 게 아니라 시장 자체가 수십 배로 커지는 겁니다. 삼성전자와 SK하이닉스의 HBM 수요가 향후 10년 내 현재의 1,000배까지 증가할 수 있다는 전망이 과장이 아닌 이유가 여기 있습니다.
컨텍스트 길이(Context Length)라는 개념도 짚어볼 필요가 있습니다. 콘텍스트 길이란 AI 모델이 한 번에 처리할 수 있는 정보의 최대 범위를 뜻합니다. 이 수치가 10배 늘어나면 필요한 메모리도 그에 비례해서 증가합니다. 지금 AI 개발 방향은 콘텍스트 길이를 수백, 수천 배 늘리는 쪽으로 가고 있습니다. 소프트웨어 효율이 올라갈수록 하드웨어 수요도 함께 올라가는 상호 상승 구조가 만들어지는 겁니다.
지정학적 변수도 한국에 유리하게 작용하고 있습니다. TSMC가 있는 대만은 에너지 비축량 문제가 있고, 중동발 공급 불안이 생길 경우 반도체 생산에 직격탄이 될 수 있습니다. 반면 한국은 에너지 비축량이 연말까지 약 8개월치 확보된 상황으로, 상대적으로 안정적인 공급 기반을 유지하고 있습니다(출처: 한국에너지공단). 제가 이 변수를 처음 확인했을 때, 반도체 투자에서 지정학을 빼고 보는 건 절반짜리 분석이라는 생각이 들었습니다.
물론 SK하이닉스가 최종 패키징 공정을 TSMC에 의존하는 구조적 약점이 있고, 삼성전자는 파운드리, 스마트폰, 가전까지 수십 개 사업부를 동시에 운영하는 분산 리스크가 존재합니다. 이 부분은 객관적으로 인정해야 합니다. 하지만 NAND 플래시와 DRAM을 동시에 양산할 수 있는 기업이 전 세계에 이 두 곳뿐이라는 사실은, 그 약점을 감수하고도 남는 구조적 해자입니다.
결국 저는 단기 주가 흔들림보다 매분기 실적 보고서에서 영업이익 증가폭과 HBM 출하량을 먼저 확인하는 습관을 들이는 것이 훨씬 중요하다고 생각합니다. 숫자가 방향을 말해줄 때, 시장의 소음에 흔들릴 이유가 없습니다. AI가 발전할수록 이 두 회사가 쥔 기술의 가치는 더 선명해질 것입니다.
이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 투자 조언이 아닙니다. 투자 결정은 반드시 본인의 판단과 책임 하에 이루어져야 합니다.
주의사항 및 면책 공고
- 본 포스팅은 정보 제공용이며 투자 권유나 종목 추천이 아닙니다.
- 내용의 오류 및 투자 결과에 대한 책임은 투자자 본인에게 있습니다.
- 정확한 정보는 반드시 공식 홈페이지를 통해 다시 확인하시기 바랍니다.