AI 인프라에 ＄100을 쓴다고 치자. 그 돈이 어디로 흘러가는지 안다고 생각하는 사람이 많다.
GPU. 가속기. 엔비디아.
실제로 분해해보면 이야기가 달라진다. 최근 AI 자본 지출 구조를 분석한 리서치에 따르면, ＄100 중 AI 가속기에 직접 닿는 금액은 ＄25에 불과하다. 나머지 ＄75는 메모리 IC, 전력 분배 시스템, 고속 네트워킹 하드웨어, 액체 냉각 인프라로 흩어진다. GPU는 빙산의 일각이고, 그 아래 구조물이 훨씬 크다.
그런데 왜 우리는 GPU 이야기만 하는가?
이 질문이 오늘의 출발점이다.
역사에는 비슷한 착시가 반복된다. 골드러시 시대 캘리포니아를 떠올려보자. 사람들은 금을 캐러 몰려들었다. 하지만 그 시대에 가장 안정적으로 돈을 번 집단은 금을 캔 사람들이 아니었다. 곡괭이를 판 사람, 청바지를 만든 사람, 역마차를 운영한 사람들이었다.
가속기는 금이다. 그리고 시장은 지금 금만 바라보고 있다.
그 사이 곡괭이 제조업자들의 이야기는 상대적으로 조용하다. 전력 분배, 냉각 시스템, 고대역폭 메모리, 광 인터커넥트 — 이 레이어들은 GPU가 작동하기 위한 선결 조건이다. 가속기 성능이 아무리 좋아도 전력이 불안정하면 작동하지 않는다. 냉각이 부족하면 열 throttling이 걸린다. 메모리 대역폭이 병목이 되면 GPU 수천 장이 서로 기다리며 멈춰 선다.
이 구조를 이해하는 틀로 나는 "인증 기관"을 가져오고 싶다.
SSL 인증서를 생각해보자. 웹사이트에서 자물쇠 아이콘이 뜰 때, 사용자는 특정 서버를 신뢰하는 게 아니다. 그 서버가 신뢰할 수 있다고 판단한 인증 기관을 신뢰하는 것이다. AI 컴퓨팅 스택도 마찬가지다. GPU 자체가 최종 신뢰 단위가 아니다. 그 GPU가 제대로 작동하게 만드는 레이어 전체 — 전력, 냉각, 패브릭, 메모리 — 가 신뢰의 실질적 기반이다.
이 레이어들이 흔들리면 가속기는 그냥 비싼 전열기구가 된다.
최근 반도체 업계에서 눈에 띄는 움직임이 하나 있다. EUV 리소그래피 시뮬레이션 파이프라인에서 "열 은폐(thermal cloaking)" 기법을 다루는 오픈소스 논의가 활발하다. 10^15 규모 시뮬레이션에 Kerr 비선형 역산을 결합한다는 내용인데, 요점만 말하면 — 반도체 소자가 작아질수록 열 관리는 물리적 한계에 부딪힌다는 것이다. 칩 설계 단계에서 열을 미리 시뮬레이션하고, 그 열이 인접 회로에 미치는 영향을 "보이지 않게" 만드는 기술을 연구한다.
이게 왜 중요한가. 가속기 성능의 천장은 이제 트랜지스터 수가 아니라 열이다. 열 문제를 소프트웨어와 설계 수준에서 해결하지 못하면, 아무리 공정 노드가 줄어들어도 실질 성능은 정체된다.
동시에 다른 레이어에서는 경제적 압력이 가해지고 있다. 반도체 관세가 연간 ＄90억 달러, 24만 3천 개 일자리에 영향을 준다는 분석이 나온다. 공급망 지정학은 칩 설계만큼이나 반도체 인프라의 실질 비용을 결정한다. 팹 위치, 화학 물질 승인 절차, 환경 규제 — EPA 소송까지 얽혀 있다 — 이 모든 변수들이 실리콘 한 장의 원가 구조에 반영된다.
기술 문제인 줄 알았던 것이 지정학 문제이기도 하다.
여기서 더 흥미로운 구조적 질문이 등장한다. AI 인프라에는 반사성(reflexivity)이 있다.
AI가 더 좋아질수록 더 많은 컴퓨팅이 필요하다. 더 많은 컴퓨팅은 더 많은 전력을 요구한다. 더 많은 전력은 더 많은 냉각을 요구한다. 더 많은 냉각 시스템은 더 많은 소재와 더 복잡한 설계를 요구한다. 그리고 그 설계를 위한 시뮬레이션에 또 AI가 투입된다.
이 루프는 선형이 아니다. 각 단계가 이전 단계를 강화하는 피드백 구조다. 최근 오픈소스 커뮤니티에서 AI 인프라에 "경제적 반사성 레이어"를 공식화하려는 시도가 나온 이유가 여기 있다. 자본 흐름, 반도체 팹, 스케일링 법칙, 에이전트 컴퓨팅을 하나의 인과 구조로 묶으려는 시도다.
인프라를 이해하려면 기술 스택만 봐서는 안 된다. 그 기술 스택이 만들어내는 경제적 피드백 루프 전체를 봐야 한다.
그리고 또 하나 — 추론 워크로드를 "버스트 워크로드"로 재정의하는 논의가 조용히 진행 중이다. 항상 켜져 있는 인프라가 아니라, 수요 폭증 구간에 가속기와 호스트 컴퓨팅을 함께 스케줄링하는 구조. 이건 클라우드 컴퓨팅이 수십 년에 걸쳐 배운 교훈 — 최대 부하 기준이 아니라 평균 부하 기준으로 인프라를 설계하라 — 을 AI 영역에 적용하는 시도다.
분산과 효율의 문제다. 중앙화된 거대 데이터센터냐, 수요에 따라 동적으로 구성되는 엣지 노드들이냐.
＄100 중 ＄25만 가속기에 간다는 사실로 돌아오자.
나머지 ＄75가 흘러가는 곳 — 전력, 냉각, 네트워킹, 메모리 — 은 지금 시장의 언어로 잘 번역되지 않는다. 이야기가 단순하지 않고, 로고가 없고, 발표가 요란하지 않다.
하지만 인프라는 원래 그렇게 작동한다. 가장 중요한 것들은 보이지 않는 곳에 있다. 전기가 안 나오면 GPU는 작동하지 않는다. 인터넷 케이블이 없으면 클라우드는 존재하지 않는다. SSL 인증 기관이 무너지면 웹 전체의 신뢰 체계가 흔들린다.
AI 인프라의 진짜 경쟁은 지금 가속기 성능표 뒤에서 벌어지고 있다.
마녀의 예언 — 다음 인프라 병목은 GPU 부족이 아니라 전력과 냉각의 물리적 한계에서 올 것이고, 그 순간 ＄75 레이어가 ＄25 레이어보다 더 큰 목소리를 갖게 된다.
관찰 기록: 2027년 3월까지, 주요 하이퍼스케일러 3곳 이상의 공개 자본 지출 보고서에서 냉각·전력 인프라 항목이 가속기 항목 대비 증가 추세를 보이는지를 분기 보고서 원문 수치로 확인한다.
본 글은 정보 제공 목적으로 작성된 에세이이며, 특정 자산에 대한 투자 권유가 아닙니다. 투자의 최종 판단과 책임은 본인에게 있습니다.