개인 AI는 결국 손안으로 내려온다

앞선 글에서 AI 에이전트의 등장이 CPU를 다시 주목하게 만드는 이유를 이야기했다.

AI가 단순히 질문에 답하는 것을 넘어 브라우저를 실행하고, 프로그램을 사용하고, 정보를 찾고, 사용자를 대신해 실제 작업을 수행하기 시작하면서 AI에게도 하나의 ‘컴퓨팅 환경’이 필요해지고 있다는 이야기였다.

그런데 개인 AI 에이전트가 정말 일상 속 비서가 된다면, 그 AI가 계속 데이터센터 안에만 머물러 있을까.

결국은 스마트폰과 같은 개인 기기로 내려올 가능성이 크다.

스마트폰은 개인 AI가 머물기에 가장 자연스러운 기기다. 하루 종일 사용자와 함께 움직이고, 카메라와 마이크, 위치정보, 메시지, 일정, 연락처 등 개인의 디지털 생활과 가장 가까이 연결되어 있기 때문이다.

문제는 전력과 발열이다.

개인 AI는 사용자가 질문할 때만 잠깐 실행되는 프로그램이 아니라, 주변 상황을 파악하고 알림을 읽고 필요할 때 즉시 반응하는 형태로 발전할 가능성이 크다.

그렇다면 데이터센터처럼 많은 전력을 쓰는 방식은 모바일 환경에 적합하지 않다.

높은 성능을 내는 것도 중요하지만 제한된 전력과 발열 안에서 지속적으로 작동해야 하는 모바일 기기에서는 performance per watt, 즉 와트당 성능이 훨씬 중요하다.

개인 AI가 항상 켜져 있는 컴퓨팅으로 발전할수록 이 특성은 더욱 중요해질 수밖에 없다.

여기서 ARM이 중요해진다.

ARM의 장점은 오랫동안 모바일 환경에서 요구되어온 저전력 구조와 맞닿아 있다.

ARM은 이미 스마트폰 시장의 사실상 표준 아키텍처다. Qualcomm의 Snapdragon, 삼성의 Exynos, MediaTek의 Dimensity, 애플의 A·M 시리즈까지 대부분 ARM 계열을 기반으로 한다. Arm 역시 최근 모바일 플랫폼을 설명하면서 Agentic AI를 핵심 사용 사례로 전면에 내세우고 있다.

개인 AI 시대의 반도체 경쟁은 단순히 CPU 성능을 높이는 경쟁과는 조금 다를 가능성이 크다.

CPU가 운영체제와 앱을 조율하고, NPU가 AI 추론을 담당하며, GPU가 그래픽과 병렬 연산을 맡는 식으로 여러 연산 장치가 하나의 SoC 안에서 역할을 나누게 된다.

결국 중요한 것은 최고 성능이 아니라 제한된 배터리 안에서 얼마나 많은 AI 작업을 지속적으로 수행할 수 있는가다.

이 기준은 ARM이 오랫동안 강점을 가져온 모바일 컴퓨팅의 방향과 정확히 맞닿아 있다.

지난 몇 년 동안 AI 반도체 시장을 이야기할 때 가장 먼저 떠올리는 회사는 NVIDIA였다. 거대한 AI 모델을 만들고 학습시키는 시대에는 GPU가 가장 중요한 연산 자원이었기 때문이다.

하지만 AI가 데이터센터 밖으로 나오기 시작하면 다른 시장이 열린다.

수십억 명의 개인이 각자의 AI 에이전트를 가지고, 그 AI가 스마트폰과 자동차, 이어폰과 안경에서 하루 종일 작동하는 시장이다. 그 시장에서 중요한 것은 데이터센터에서 수천 와트를 사용하는 거대한 가속기가 아니다.

몇 와트의 전력으로 하루 종일 작동하면서도 충분한 AI 성능을 제공할 수 있는 컴퓨팅이다.

그리고 ARM은 이미 그 시장의 중심에 있다.

AI가 클라우드에 머무르는 동안 ARM은 AI 열풍의 중심에서 다소 멀리 있는 것처럼 보였을지도 모른다. 하지만 개인 AI가 스마트폰으로 내려오기 시작한다면 이야기는 달라진다.

그때부터 AI 산업의 질문은

누가 가장 큰 모델을 만들 수 있는가에서, 누가 수십억 개의 개인 AI를 가장 적은 전력으로 움직일 수 있는가로 확장된다.

바로 그 지점에서 ARM을 다시 볼 필요가 있다.

ARM 생태계가 커지면, 그 안에서 실제로 가장 큰 기회를 가져가는 곳은 어디일까.

Qualcomm의 Snapdragon일까. 삼성의 Exynos일까. 아니면 이미 하드웨어와 운영체제, AI까지 하나의 생태계로 묶고 있는 Apple Silicon일까.

개인 AI 시대의 다음 경쟁은 어쩌면 여기서 시작될지도 모른다.