“GPT의 시대는 막을 내렸다”... 실리콘밸리 천재들이 비밀리에 갈아탄 ‘인간 없는 AI’의 설계도

AI 산업은 지금까지 트랜스포머 구조 위에서 성장해왔다. 오픈AI의 GPT 시리즈가 그 정점이었다. 그러나 최근 흐름은 이 구조 자체가 한계에 도달하고 있음을 보여준다. 모델은 점점 커지고 있지만 성능 향상은 둔화되고 있으며 학습 비용은 폭증하고 데이터 확보도 점점 어려워지고 있다. 업계에서는 더 이상 기존 방식으로는 돌파구를 찾기 어렵다는 인식이 확산되고 있다.

미국의 반도체 전문 매체인 세미애널리시스(SemiAnalysis)가 지난 1월 게재한 ‘트랜스포머는 이제 그만: 상태공간모델의 부상과 효율적인 AI의 미래(Transformer No More: The Rise of State Space Models (SSM) and the Efficient Future of AI)’라는 이름의 아티클을 통해 전하는 바에 따르면, 현재 AI 경쟁은 단순한 모델 성능 경쟁을 넘어 구조 경쟁으로 이동하고 있다. 구글, 메타, 마이크로소프트 등 주요 기업들은 더 이상 트랜스포머에만 의존하지 않는 전략을 모색하고 있다. 특히 모델 규모를 키우는 파라미터(Parameter, AI가 학습하는 변수이자 지능의 척도) 방식은 한계에 가까워졌으며 비용 대비 성능 개선이 급격히 떨어지면서 새로운 접근이 필요해졌다. 이 지점에서 트랜스포머 이후라는 개념이 등장했다.


차세대 AI는 하나의 구조로 수렴되지 않는다. 다양한 아키텍처가 동시에 실험되고 있다. 대표적으로 상태공간모델(SSM, 긴 문장을 읽을 때 앞부분을 잊지 않도록 연산 효율을 극대화한 기술) 계열과 혼합 전문가(MoE, 질문에 따라 필요한 두뇌 부분만 가동해 전력 소모를 줄이는 기술) 구조의 진화형, 그리고 메모리 중심 아키텍처 등이 주목받고 있다. 이들 구조의 공통점은 기존 트랜스포머의 한계를 극복하는 데 있다. 연산 효율을 높이고, 긴 문맥 처리 능력을 개선하며, 데이터 의존도를 낮추는 방향이다.

가장 급진적인 변화는 자기학습 AI다. 기존 AI는 인간이 만든 데이터를 학습하는 방식이었다. 그러나 이제는 AI가 스스로 데이터를 생성하고 학습하는 합성 데이터(Synthetic Data, AI가 학습을 위해 스스로 만들어낸 가상의 데이터) 구조가 등장하고 있다. 이 방식에서는 데이터 부족 문제가 해소되고 지속적인 성능 개선이 가능해지며 인간 개입이 최소화된다. 일부 실험에서는 이미 자기 생성 데이터만으로 성능을 유지하거나 개선하는 결과도 나오고 있다. 이는 AI 발전의 방향 자체를 바꿀 수 있는 변수로 평가된다.


AI 아키텍처 변화는 반도체 구조 변화와 맞물려 진행되고 있다. 앞서 나타난 HBM(High Bandwidth Memory, 고대역폭 메모리) 중심 구조의 한계와 함께, AI 역시 새로운 연산 방식으로 이동하고 있다. PIM(Processing-In-Memory, 메모리 내부에서 직접 연산하여 데이터 이동 시간을 없앤 기술) 등 데이터 이동을 줄이고 연산 효율을 극대화하는 방향은 AI와 반도체에서 동시에 나타나는 공통 흐름이다. 이는 단순한 기술 진화가 아니라 산업 구조 재편의 신호로 해석된다.


앞으로의 경쟁은 누가 더 큰 모델을 만드는지가 아니라 누가 먼저 기존 구조에서 벗어나느냐에 달려 있다. 엔비디아는 하드웨어에서, 구글과 메타는 소프트웨어에서 이 전환을 준비하고 있다. 지금은 조용한 전환기지만, 어느 순간 격차는 급격히 벌어질 가능성이 크다. 겉으로는 여전히 GPT 경쟁이 이어지고 있지만, 그 아래에서는 전혀 다른 게임이 진행 중이다. 트랜스포머 이후 시대는 아직 완전히 드러나지 않았지만, 방향은 분명하다. 더 적은 데이터, 더 낮은 비용, 더 높은 효율로 작동하는 AI다. 결국 다음 AI의 정체는 특정 모델이 아니라 새로운 학습 방식과 아키텍처의 결합이다. 그리고 그 변화는 이미 시작된 상태다.

이교관 글로벌이코노믹 기자 haedang@g-enews.com