AI 산업의 흐름은 돈이 먼저 보여준다
돈의 흐름으로 읽는 AI의 확장
2022년 11월 30일 OpenAI가 ChatGPT를 공개했을 때, 많은 사람은 그것을 ‘말을 잘하는 새로운 챗봇’ 정도로 받아들였다. 그러나 불과 몇 년 사이 ChatGPT가 촉발한 변화는 소프트웨어 시장의 범위를 훨씬 넘어섰다.
반도체에서 시작된 투자 경쟁은 메모리와 패키징, 네트워크, 데이터센터를 지나 전력과 제조업으로 번지고 있으며, 이제는 국가가 직접 AI 컴퓨팅 인프라를 확보하려는 단계까지 확장되고 있다. ChatGPT는 AI의 시작은 아니었지만, AI의 경제적 가치가 대중과 기업, 자본시장에 동시에 가시화된 결정적 계기 가운데 하나였다.
이 변화의 규모를 가장 단순하게 보여주는 것은 돈이다.
Stanford의 AI Index Report 2026에 따르면 전 세계 기업의 AI 관련 투자는 2025년 5,816억9천만 달러로 전년보다 약 130% 증가했다. 이 가운데 민간투자만 3,446억6천만 달러였다. 조사 대상 조직 가운데 AI를 사용한다고 응답한 비율도 2025년 88%까지 높아졌고, 70%는 적어도 하나의 업무 기능에서 생성형 AI를 사용하고 있었다.
AI는 더 이상 몇몇 연구소와 빅테크 기업의 기술 실험이 아니다. 자본과 실제 사용 모두에서 이미 기업 경제의 중요한 축으로 이동하고 있다.
그렇다면 이 거대한 돈은 어디로 흘러가고 있을까. 이 질문을 따라가면 지난 몇 년 동안 AI 산업이 확장돼 온 구조가 보인다.
AI가 똑똑해질수록 먼저 필요한 것은 ‘연산’이었다
오늘날 생성형 AI가 갑자기 등장한 것처럼 보이지만, 그 기반에는 오랜 시간 축적된 가속 컴퓨팅 기술이 있다.
NVIDIA는 2006년 CUDA를 공개하면서 GPU를 그래픽 처리뿐 아니라 범용 병렬 연산에 사용할 수 있는 환경을 제공했다. 이후 CUDA를 중심으로 라이브러리와 개발도구, 개발자 생태계가 축적되면서 NVIDIA는 단순한 GPU 공급업체를 넘어 AI 컴퓨팅 플랫폼 기업으로 발전했다. CUDA 생태계가 강력한 개발자 기반과 높은 전환비용을 형성했다.
2012년 AlexNet은 이러한 변화가 실제 AI 성능으로 이어질 수 있다는 사실을 상징적으로 보여줬다. Alex Krizhevsky, Ilya Sutskever, Geoffrey Hinton의 연구팀은 두 대의 NVIDIA GTX 580 GPU를 사용해 신경망을 약 5~6일간 학습했고, ImageNet 이미지 인식 성능을 크게 끌어올렸다. 논문에서 연구진은 당시 네트워크 크기가 GPU 메모리와 학습 시간에 의해 크게 제약된다고 직접 설명했다. 이후 AI 모델이 커질수록 더 많은 연산 능력이 필요해졌고 GPU와 AI 가속기는 AI 경쟁의 첫 번째 병목으로 부상했다.
그러나 GPU만 많이 만든다고 AI 시스템이 빨라지는 것은 아니다.
GPU 다음에는 메모리가 기다리고 있었다
AI 가속기가 아무리 빠르게 계산할 수 있어도 필요한 데이터를 제때 전달받지 못하면 GPU는 기다려야 한다.
이른바 ‘Memory Wall’이다.
이 때문에 AI 시대에는 단순한 메모리 용량뿐 아니라 GPU와 데이터를 얼마나 빠르게 주고받을 수 있는지가 중요해졌고, HBM(High Bandwidth Memory)이 핵심 부품으로 부상했다.
2026년에도 이러한 흐름은 이어지고 있다. Micron은 HBM4를 고용량 생산 단계에 올렸으며 자사 HBM4가 HBM3E보다 2배 이상 높은 대역폭을 제공한다고 밝히고 있다.
흥미로운 것은 병목이 HBM에서 끝나지 않는다는 점이다. 긴 컨텍스트, RAG, 멀티모달 데이터, 지속적으로 동작하는 AI 에이전트가 확산되면 AI 시스템은 빠른 메모리뿐 아니라 막대한 양의 데이터를 가까운 곳에 저장할 수 있는 새로운 메모리 계층을 필요로 한다.
2026년 8월 Sandisk와 SK hynix가 Open Compute Project를 통해 HBF(High Bandwidth Flash)의 첫 기술 사양을 공개한 것도 이런 배경이다.
HBF는 아직 HBM처럼 광범위하게 상용화된 기술이 아니라 AI 추론 시대를 겨냥해 표준화와 상용화가 진행되는 차세대 메모리 후보로 보는 것이 정확하다.
메모리 시장 전체가 커지는 이유도 여기에 있다. AI가 GPU뿐 아니라 DRAM·HBM·스토리지 전반의 수요 구조를 바꾸고 있다는 방향성은 분명하다.
칩이 커지자 ‘칩을 연결하는 산업’이 커졌다
다음 병목은 패키징이다.
AI 반도체는 이제 하나의 거대한 칩만으로 성능을 높이는 방식에서 벗어나 GPU, HBM, I/O 칩 등 여러 반도체를 하나의 시스템처럼 연결하는 방향으로 발전하고 있다.
이 과정에서 첨단 패키징, 인터포저, 기판, 본딩 장비 같은 과거에는 상대적으로 덜 주목받던 영역의 중요성이 커졌다.
세계 최대 파운드리인 TSMC는 2025년 연차보고서에서 AI 수요 급증으로 2023년 이후 CoWoS 첨단 패키징 사업이 강한 성장세를 보이고 있다고 설명했다. 또한 더 큰 크기의 CoWoS와 3D 적층 기술을 지속적으로 확대하고 있다.
이것은 AI 경쟁이 단순히 “누가 가장 좋은 GPU를 만드는가”에서 “어떻게 여러 칩을 하나의 거대한 계산 시스템으로 구성하는가”라는 문제로 이동하고 있음을 보여준다.
그리고 칩을 수천 개, 수만 개 연결하기 시작하면 또 다른 문제가 나타난다. 네트워크다.
대규모 AI 클러스터는 더 이상 서버 여러 대의 집합이라고만 보기 어렵다. 수많은 GPU가 동시에 데이터를 교환하는 하나의 거대한 병렬 컴퓨터에 가깝다. GPU 사이의 통신 속도가 충분하지 않으면 비싼 GPU가 계산을 하지 못한 채 통신을 기다리는 시간이 늘어난다. 그 결과 스위치, 고속 인터커넥트, 광통신, 네트워크 반도체가 AI 인프라의 중요한 부분으로 편입됐다.
GPU가 성장하면 GPU 산업만 커지는 것이 아니다. GPU가 많아질수록 GPU가 필요로 하는 주변 산업의 규모가 함께 커진다.
바로 이 점이 AI 산업을 이해하는 데 중요하다.
그리고 결국 누군가는 이 모든 장비를 사야 한다
GPU, HBM, 패키징, 네트워크 장비를 모두 합치면 막대한 자본이 필요하다. 그 돈을 실제로 지출하고 있는 곳이 Microsoft, Amazon, Google, Meta, Oracle과 같은 하이퍼스케일러다.
그 규모는 이전의 일반적인 IT 설비투자와 비교하기 어려울 정도다. Microsoft는 2026회계연도 4분기에만 410억 달러의 자본적 지출을 기록했고, 2026년 달력연도 기준으로 약 1,750억 달러의 CapEx를 예상한다고 밝혔다. Microsoft는 이 가운데 상당 부분이 CPU·GPU와 대규모 데이터센터에 투입되고 있다고 설명한다.
Meta 역시 2026년 자본적 지출 전망치를 1,250억~1,450억 달러로 제시하면서 AI 연구와 향후 데이터센터 용량 확보를 주요 이유로 들었다. Oracle은 FY2026 클라우드 인프라 매출이 전년보다 77% 증가했다고 발표했고, 대규모 AI 계약 확대에 따라 AI 데이터센터 투자를 계속 확대하고 있다.
한편 기존 하이퍼스케일러와 다른 형태의 기업도 등장했다. CoreWeave 같은 Neo Cloud 업체들이다.
종합적인 클라우드 서비스를 제공하는 AWS나 Azure와 달리 Neo Cloud는 GPU와 AI 연산 인프라 공급에 보다 집중한다. Reuters는 최근 이러한 기업들의 등장을 1990년대 후반 통신망 인프라 투자 붐과 비교하면서, AI 컴퓨팅 수요가 독립적인 GPU 클라우드 사업자까지 만들어내고 있다고 분석했다. 동시에 막대한 부채와 설비투자가 요구되는 만큼 과잉투자 위험 역시 존재한다고 지적한다.
이 대목이 중요하다.
AI 산업의 확장은 모든 기업이 반드시 성공한다는 의미가 아니다. 산업의 성장과 개별 기업의 투자수익률은 전혀 다른 문제다.
인프라 구축 이후에는 AI가 ‘업무’로 내려온다
이제 방향이 바뀐다.
GPU와 데이터센터를 구축하는 것은 AI를 만드는 과정이다. 그러나 결국 그 막대한 투자를 회수하려면 AI가 기업의 실제 업무에 사용되어야 한다.
그래서 다음 확장은 Enterprise AI와 자동화다.
대기업에서는 Palantir와 같은 데이터·의사결정 플랫폼, ServiceNow와 같은 업무 워크플로 플랫폼이 AI를 기존 기업 시스템에 연결하려 하고 있다.
다른 한편에서는 n8n, Make, Zapier 같은 도구를 이용해 개인이나 작은 조직도 여러 SaaS와 AI 모델을 연결하여 업무를 자동화하기 시작했다.
이 두 흐름은 ‘AI Application 전체의 두 종류’라기보다, 기업의 상층에서 진행되는 플랫폼형 AI 전환과 현업에서 아래로부터 진행되는 경량 자동화라는 두 가지 도입 경로로 보는 편이 적절하다.
실제 기업 도입도 빠르게 늘고 있다. Stanford AI Index에 따르면 2025년 조사 대상 조직의 88%가 AI를 사용한다고 답했고, 70%는 생성형 AI를 최소 하나의 업무 기능에 사용하고 있었다. 다만 AI Agent의 실제 업무 배치는 아직 대부분의 기능에서 한 자릿수 비율에 머물러 있었다. 즉 현재는 “AI가 기업에 들어가기 시작한 단계”인 동시에, Agentic AI가 실제 업무 프로세스로 확산될 여지가 여전히 큰 단계다.
화면 속 AI가 현실 세계로 나오기 시작한다
그다음 확장은 더 근본적이다.
지금까지 우리가 경험한 AI의 대부분은 화면 속에 있었다. 문장을 쓰고, 이미지를 만들고, 코드를 생성하고, 데이터를 분석했다.
그러나 AI가 카메라와 센서로 현실을 인식하고 로봇이나 기계를 통해 행동하기 시작하면 적용 대상은 컴퓨터 화면을 넘어 공장, 물류창고, 자동차, 건설현장, 의료기기로 확장된다.
NVIDIA가 ‘Physical AI’라고 부르는 영역이다.
2026년 NVIDIA는 ABB, FANUC, KUKA, Yaskawa, Figure 등 로봇·산업자동화 기업들과 Physical AI 생태계를 확대하고 있다고 발표했다. 기업 발표라는 점은 감안해야 하지만, AI 업계의 경쟁이 실제 기계 제어와 로봇으로 이동하고 있음을 보여주는 사례다.
AI가 결합되면 기존 산업자동화는 미리 프로그래밍한 작업을 반복하는 자동화에서, 주변 상황을 인식하고 판단하는 자동화로 이동할 가능성이 있다.
즉 AI는 IT기업만의 산업에서 벗어나 제조업의 생산방식 그 자체를 바꾸는 기술로 이동하고 있다.
그리고 마지막에는 전기가 남는다
여기서 매우 역설적인 장면이 나타난다.
인류가 가장 첨단이라고 생각하는 AI 기술이 성장할수록 결국 가장 오래된 산업 가운데 하나인 전력 산업의 중요성이 커진다.
IEA에 따르면 세계 데이터센터 투자는 2022년 이후 거의 두 배로 증가해 2024년 약 5,000억 달러에 달했다. 데이터센터는 같은 해 전 세계 전력 소비의 약 1.5%, 415TWh를 사용했다. IEA의 기본 시나리오에서는 데이터센터 전력 소비가 2030년 약 945TWh까지 증가할 것으로 전망되며, AI가 증가분의 가장 중요한 원인으로 지목된다.
이 순간 AI 산업의 범위는 다시 넓어진다.
데이터센터를 짓기 위해서는 전력망이 필요하고, 송배전 설비와 변압기가 필요하며, 서버에서 발생하는 막대한 열을 제거하기 위한 냉각 시스템도 필요하다.
전력 공급을 안정화하기 위해 천연가스 발전, 재생에너지, ESS, 원자력과 SMR까지 논의된다.
AI가 발전했는데 변압기와 냉각장치가 중요한 산업이 되는 이유가 바로 이것이다.
산업의 병목이 이동하기 때문이다.
그리고 경쟁의 단위는 기업에서 국가로 커진다
마지막 확장은 기술적 병목과는 성격이 조금 다르다.
Sovereign AI다.
AI가 행정, 국방, 의료, 산업기밀, 언어, 국가 데이터와 연결될수록 모든 국가가 핵심 AI 인프라를 해외 기업에만 의존하기 어렵다는 문제가 등장한다.
NAVER·NVIDIA·Brookfield는 2026년 7월 세종의 AI 팩토리 구축 규모를 기존 55MW 계획에서 200MW로 확대한다고 발표했다. NAVER는 이 시설을 약 10만 개의 NVIDIA GPU 규모로 설명하고 있으며 향후 더 큰 규모의 AI 인프라 확장 계획도 제시하고 있다.
여기에서는 더 이상 어느 회사가 더 좋은 모델을 만드는지만이 문제가 아니다.
누가 컴퓨팅 자원을 가지고 있는가. 누가 데이터와 전력을 통제하는가. 누가 자국 기업과 산업에 AI를 공급할 수 있는가.
AI 경쟁의 단위가 기업에서 국가로 확장되는 것이다.
주식시장은 이 흐름을 먼저 보여주는 ‘그림자’다
이런 산업 변화를 설명할 때 주식시장을 살펴보는 이유는 특정 종목을 추천하기 위해서가 아니다.
주식시장은 미래의 매출과 이익에 대한 기대를 현재 가격에 반영한다. 그래서 실제 산업의 자본투자가 어디로 이동하고 있는지를 비교적 빠르게 보여준다.
초기에는 NVIDIA와 같은 AI 가속기 기업이 가장 강하게 반응했다.
이후 HBM 수요가 증가하자 메모리 기업이 주목받았고, 다시 패키징 장비와 기판, 네트워크, 데이터센터와 전력기기 기업으로 시장의 관심이 확산됐다.
최근에는 AI 클라우드, 기업용 AI, 자동화, 로봇과 전력 인프라까지 AI라는 이름 아래 연결되고 있다.
그러나 이것을 “AI 때문에 그 주식이 올랐다”는 식의 단순한 인과관계로 해석해서는 안 된다. 주가는 금리, 경기, 산업 사이클, 공급 부족, 경쟁구도와 기업 실적 등 수많은 변수의 영향을 받는다. 또한 산업이 성장한다고 그 산업에 속한 모든 기업의 주가가 상승하는 것도 아니다.
따라서 주가 차트는 AI 산업 확산의 원인을 증명하는 자료라기보다 자본시장이 어느 산업의 미래 이익 증가를 먼저 기대했는지를 보여주는 보조지표로 보는 것이 적절하다.
AI는 하나의 산업이 아니다
이제 처음의 질문으로 돌아가 보자.
“ChatGPT 하나가 세계 산업을 어떻게 바꿨을까?”
정확히 말하면 ChatGPT 하나가 이 모든 산업을 만든 것은 아니다. 반도체도, 데이터센터도, 로봇도, 전력산업도 이미 존재했다.
AI가 한 일은 기존 산업들의 수요 구조와 중요도의 순서를 바꾼 것에 가깝다.
더 좋은 모델을 만들기 위해 더 많은 연산이 필요했다.
연산이 늘자 더 빠른 메모리가 필요했다.
GPU와 메모리가 커지자 이를 연결하는 패키징과 네트워크가 필요했다.
이 장비들을 설치하기 위해 초대형 데이터센터가 필요했고, 데이터센터가 커지자 막대한 전력과 냉각이 필요해졌다.
인프라가 구축되자 AI는 기업의 업무로 내려갔고, 다시 공장과 로봇, 자동차라는 물리 세계로 나오기 시작했다.
그리고 AI가 사회의 핵심 인프라가 되면서 이제 국가는 자체 AI 컴퓨팅 능력까지 확보하려 하고 있다.
따라서 이 변화는
Model → GPU → Memory → Packaging → Network → Data Center → Enterprise AI → Physical AI → Energy → Sovereign AI
a
라는 단순한 시간순서라기보다, AI의 사용량이 증가하면서 병목과 투자처가 바깥으로 계속 확장되는 과정이라고 보는 것이 더 정확하다.
앞 단계가 끝나야 다음 단계가 시작되는 것이 아니다. 여러 산업이 동시에 성장하며 서로의 수요를 증폭시킨다.
그리고 이 흐름에서 가장 중요한 사실은 특정 GPU나 특정 AI 모델의 성공이 아니다.
AI는 더 이상 하나의 소프트웨어 산업이 아니다.
PC가 반도체 산업만 성장시킨 것이 아니고, 인터넷이 통신회사만 성장시킨 것이 아니었던 것처럼, AI 역시 AI 회사들만의 산업으로 남지 않을 가능성이 높다.
AI는 계산을 필요로 하고, 계산은 반도체를 필요로 한다.
반도체는 메모리와 네트워크를 필요로 하고, 그것은 데이터센터와 전력을 필요로 한다.
그리고 그 위에 기업의 업무와 제조업, 로봇, 국가 인프라가 올라간다.
그래서 앞으로 AI 산업을 이해하기 위해서는 AI 모델의 성능만 바라봐서는 충분하지 않다.
AI가 지금 무엇을 필요로 하는가.
기업들은 어디에 실제 돈을 쓰고 있는가.
그 투자 때문에 다음으로 부족해지는 것은 무엇인가.
돈의 흐름을 따라가면 기술의 흐름이 보이고, 병목이 이동하는 방향을 따라가면 AI가 다음에 어떤 산업을 바꾸게 될지 보인다.
지난 몇 년 동안 우리가 목격한 것은 ‘AI 산업의 성장’만이 아니다.
AI가 산업이 되는 과정에서, 점점 더 많은 산업이 AI 산업의 일부가 되어가는 과정이다.