요즘 주식 시장을 보면 AI, AI, 정말 온통 AI 이야기뿐입니다.
엔비디아부터 시작해서 AMD, SK하이닉스, 삼성전자까지, 이름만 들어도 쟁쟁한 기업들이 이 AI라는 거대한 흐름을 이끌고 있죠.
저도 처음엔 아, AI는 엔비디아가 다 하는 거구나라고 막연하게 생각했습니다. 하지만 투자를 하다 보니 정작 내가 투자하는 기업이 이 거대한 AI 시장에서 정확히 어떤 역할을 하는지, 그 기본조차 모르고 있다는 생각이 들더군요.
그래서 큰맘 먹고 AI 반도체 생태계라는 이 거대한 숲을 한번 제대로 파헤쳐 보기로 했습니다.
하나씩 연결고리를 찾아가다 보니, 이건 마치 거대한 릴레이 경주 같다는 느낌을 받았습니다.
AI의 핵심은 연산입니다.
이 연산을 누가 하느냐가 첫 번째 주자죠.
AI 연산의 제왕, GPU(엔비디아)
과거 컴퓨터의 두뇌는 CPU였습니다. 똑똑한 직원 한 명이 순서대로 일을 처리하는 방식이었죠. 하지만 AI 시대에는 수만, 수억 개의 데이터를 동시에 처리해야 합니다.
이때 GPU가 등장합니다. 수천 명의 노동자가 동시에 일하는 것처럼 대량 병렬 연산에 특화된 칩이죠.
엔비디아는 원래 게임용 그래픽카드 회사였지만 일찍이 CUDA라는 소프트웨어 플랫폼을 만들어 GPU를 AI 연산에 쓸 수 있게 생태계를 구축했습니다.
이제 엔비디아는 스스로를 세상의 AI 공장을 짓는 회사라고 부릅니다. 단순한 칩 회사가 아닌, AI 인프라 기업이 된 거죠.
HBM(SK하이닉스, 삼성)
그런데 엔진(GPU)이 아무리 강력해도, 연료 탱크(메모리)가 작고 느리면 병목 현상이 생깁니다. AI가 처리할 데이터양이 어마어마해서 기존의 DRAM(단기 기억)으로는 감당이 안 됐죠.
그래서 등장한 것이 바로 HBM(고대역 메모리)입니다. DRAM을 아파트처럼 수직으로 쌓아 올려(3D stack), 데이터 이동 속도를 5~10배나 높인 AI 전용 초고속 메모리입니다.
이 분야의 최강자가 바로 SK하이닉스이고, 삼성전자와 마이크론이 그 뒤를 따르고 있습니다.
두뇌와 기억을 묶어주는 기술(패키징)
자, 그럼 강력한 두뇌(GPU)와 초고속 메모리(HBM)가 준비되었습니다. 이 둘을 어떻게 연결할까요?
이 두 개의 서로 다른 칩을 하나의 칩처럼 묶어내는 초고난도 기술이 바로 패키징입니다. GPU 바로 옆에 HBM을 3차원으로 쌓아 붙여야 하거든요.
이 패키징 기술을 누가 잘하느냐에 따라 AI 반도체의 성능이 좌우됩니다. 이 시장의 주력 선수가 바로 TSMC(CoWos)와 삼성전자(I-Cube)입니다.
팹리스/파운드리
여기서부터 제가 정말 헷갈렸던 부분입니다. 설계와 제조의 분리입니다.
팹리스 (Fabless): 설계 전문 회사 공장(Fab)이 없다(Less)는 뜻입니다. 이들은 반도체 설계도만 그립니다. 우리가 아는 엔비디아, AMD, 브로드컴, 퀄컴 등이 모두 팹리스입니다. 이들은 공장 투자나 설비 유지 같은 제조 리스크 없이 오직 설계로만 승부합니다.
파운드리 (Foundry): 제조 전문 회사 팹리스가 그린 설계도를 받아 실제로 반도체를 생산하는 공장입니다. 건축 설계사(팹리스)와 건설 회사(파운드리)로 비유할 수 있죠. 이 분야의 3대장은 TSMC, 삼성전자, 인텔입니다.
파운드리의 경쟁력이 단순히 3nm, 5nm 같은 미세 공정 기술력(트랜지스터를 얼마나 작게 만드느냐) 에만 있는 게 아니더군요. 핵심은 수율(Yield)이었습니다.
즉, 100개를 만들었을 때 몇 개의 양품이 나오느냐는 것이죠. 현재 시장에서 TSMC가 압도적인 1위인 이유는 이 수율이 안정적이기 때문입니다.
반면 삼성전자는 기술력은 있으나 수율을 잡는 데 고전해왔습니다. 이것이 두 회사의 주가수익비율(PER) 차이로 나타납니다.
TSMC는 약 20~25배, 삼성전자는 10~12배 수준의 PER을 받는데, 결국 시장은 수율 안정성의 차이만큼 가치를 매기고 있다는 뜻입니다.
만약 삼성이 3nm 공정 수율을 50% 이상으로 안정화시킨다면, 고객 신뢰 확보와 수익성 개선으로 주가가 재평가받을 수 있다는 분석이 나오는 이유입니다.
설계자의 설계 도구
개인적으로 팹리스가 설계도의 시작인 줄 알았습니다. 그런데 더 위가 있더군요. 팹리스가 칩을 설계할 때 사용하는 설계 소프트웨어(도구)를 만드는 회사들입니다.
반도체에는 수십억 개의 트랜지스터가 들어가는데, 이걸 사람이 손으로 그릴 순 없겠죠? 이 복잡한 회로를 자동으로 설계하고 검증해주는 시뮬레이션 툴이 바로 EDA(전자설계 자동화)입니다.
시놉시스(Synopsys)나 케이던스(Cadence) 같은 회사가 여기에 해당합니다. 팹리스가 건축 설계사라면, EDA 기업은 그들이 쓰는 캐드(CAD) 프로그램을 만드는 회사인 셈이죠. 이들 없이는 팹리스도, 파운드리도 없습니다.
자, 이렇게 만들어진 AI 반도체(GPU)는 다 어디로 갈까요?
클라우드
AI는 막대한 연산과 데이터 저장이 필요합니다. 개인이 감당할 수 없죠. 그래서 이 모든 AI 학습은 아마존(AWS), 마이크로소프트(Azure), 구글(GCP) 같은 클라우드 데이터 센터에서 이루어집니다.
이들은 엔비디아의 GPU를 대량으로 사들이는 최대 고객입니다. 동시에, 엔비디아 의존도를 낮추기 위해 구글 TPU 처럼 자체 AI 칩을 개발하는 잠재적 경쟁자이기도 하죠.
AI의 두뇌가 GPU라면, 클라우드는 그 두뇌가 실제로 일하는 거대한 원격 사무실인 셈입니다.
AI 응용 소프트웨어
클라우드라는 사무실이 마련되면, 그 안에서 실제 데이터를 분석하고 솔루션을 만드는 전문가가 필요합니다.
팔란티어(Palantir) 같은 회사가 이 역할을 합니다. 팔란티어는 AI 모델을 직접 만들기보다, 이미 만들어진 모델(LLM)을 클라우드 인프라 위에서 기업이나 정부의 현장 데이터와 결합시켜 실제적인 ‘솔루션(AIP, Gotham 등)’을 제공합니다.
숲을 보고 나니 나무가 보인다~
이렇게 AI 반도체 생태계를 릴레이 경주처럼 쭉 따라가 보니, 흩어져 있던 지식들이 하나로 꿰어지는 느낌입니다.
EDA (설계 SW) → 팹리스 (설계) → 파운드리 (제조) → 패키징/메모리 (조립) → 클라우드 (인프라) → AI 소프트웨어 (응용) 전에는 그저 엔비디아 독주라고만 생각했는데, 이제는 왜 SK하이닉스의 HBM이 중요한지, 왜 삼성전자의 파운드리 수율이 주가에 결정적인지, TSMC가 왜 갑인지, 그리고 팔란티어 같은 소프트웨어 기업이 이 흐름 속에서 어떻게 돈을 버는지 그 구조가 보이기 시작합니다.
물론 아직 얕고 넓은 수준의 정리지만, 이렇게 큰 숲을 먼저 이해하고 나니 앞으로 개별 기업들을 분석할 때 훨씬 더 깊이 있게 접근할 수 있을 것 같습니다.
여러분도 AI 투자를 고민 중이시라면, 내가 투자하는 기업이 이 거대한 생태계의 어느 고리에서 뛰고 있는지 한번쯤 점검해 보시면 어떨까요?