LLM 기반 서비스는 결국 다 플랫폼 기업에 먹힐까

LLM 활용 수업을 하다 보면 자연스럽게 다양한 AI 서비스를 설계하고 개발하게 된다. LLM에 음성을 붙이기도 하고, 문서를 분석하게 만들기도 하고, 외부 프로그램을 실행하게 하거나 특정 업무를 자동화하기도 한다.

이런 수업을 하면서 예전부터 한 가지 의문이 있었다.

아무리 좋은 아이디어를 만들어도 ChatGPT나 Claude가 그 기능을 직접 제공하기 시작하면 어떻게 되는 걸까?

초기의 채팅형 LLM은 비교적 단순했다. 사용자가 텍스트를 입력하면 텍스트로 답하는 것이 중심이었다. 그렇다 보니 그 주변에는 수많은 서비스 아이디어가 존재할 수 있었다.

텍스트로 대화하는 것이 불편하니 STT와 TTS를 연결해 음성으로 대화하게 만들 수 있다. 그런데 이제 ChatGPT나 Claude 자체가 자연스러운 음성 대화를 제공한다.

LLM이 코드를 만들어줄 수 있다면 그 코드를 실제 환경에서 실행하게 만들 수도 있겠다는 생각을 할 수 있다. 하지만 LLM 서비스 자체가 코드 실행과 컴퓨터 조작, 도구 연결의 영역으로 계속 확장되고 있다.

문서를 읽고 요약하는 것에서 한 단계 더 나아가, 문서의 내용을 두 사람이 이야기하는 팟캐스트처럼 만들어주는 서비스를 생각할 수도 있다. 그런데 Google의 NotebookLM은 이미 Audio Overviews라는 형태로 이런 경험을 제공하고 있다.

파일 분석, 이미지 이해, 웹 검색, 기억, 외부 서비스 연결 역시 비슷하다.

한때는 각각이 하나의 독립적인 AI 서비스 아이디어가 될 수 있었지만, 시간이 지나면서 점차 범용 LLM 서비스의 기능 안으로 들어오고 있다.

생각해 보면 이상한 일도 아니다.

LLM을 활용한 서비스를 만드는 사람과 LLM 자체를 개발한 회사가 같은 아이디어를 떠올렸다면, 적어도 모델과 가까운 기능에서는 모델을 직접 개발하고 운영하는 회사가 유리할 수밖에 없다. 모델에 새로운 기능을 붙일 수 있고, 이미 확보한 사용자에게 곧바로 제공할 수도 있다.

물론 현실에는 여전히 수많은 LLM 기반 기업이 존재하고 있고, 특정 산업과 업무에 특화된 서비스가 범용 AI와 다른 가치를 가질 수도 있다. 따라서 모든 AI 서비스가 결국 ChatGPT나 Claude에 흡수될 것이라고 단정하는 것은 지나치다.

다만 LLM을 활용한 서비스를 설계하고 가르치는 입장에서는 이 질문을 한번쯤 해볼 필요가 있다고 생각한다.

우리가 지금 ‘새로운 AI 서비스’라고 생각하고 만드는 것은 정말 하나의 독립적인 서비스일까. 아니면 아직 ChatGPT와 Claude에 들어가지 않은 기능 하나를 먼저 만들어보고 있는 것일까.

오늘 꽤 그럴듯해 보이는 AI 서비스가 내일 ChatGPT의 업데이트 목록 한 줄로 등장할 수도 있다. 그리고 그 순간, 며칠 전까지 하나의 서비스라고 생각했던 것이 사실은 범용 AI가 아직 갖추지 못했던 기능 하나였다는 사실을 뒤늦게 알게 될지도 모른다.

그래서 요즘 학생들에게 AI 서비스를 만들어보라고 이야기하면서도 가끔 나 자신에게 되묻게 된다.

우리는 지금 새로운 AI 서비스를 만들고 있는 걸까. 아니면 거대 LLM 기업의 다음 업데이트를 조금 먼저 만들어보고 있는 걸까.