인공지능(AI) 연산에 필요한 칩에서부터 시스템, 소프트웨어 등을 모두 아우르는 ‘풀스택’ 기업으로 거듭나고 있는 엔비디아가 AI 추론 특화 가속기 ‘그록3 LPX’ 양산을 시작했다. 엔비디아의 그래픽처리장치(GPU)로 AI를 학습시키고, 그록3 LPX를 통해 추론까지 이어지는 플랫폼을 제공하겠다는 것이다. 그록3 LPX의 생산은 전량 삼성전자 파운드리가 맡게 돼 삼성전자 파운드리의 흑자 전환에 대한 기대감도 커지고 있다.

24일(현지 시간) 엔비디아는 AI 에이전트 구동을 위해 추론 속도를 높인 그록3 LPX 양산을 시작했다고 밝혔다. AI 에이전트는 답변에서 그치는 것이 아니라 실행까지 하는 AI로, 대화의 맥락을 이해하기 위해 추론 기능이 반드시 필요하다.

그록3 LPX는 추론 전용 칩인 언어처리장치(LPU) 256개를 묶어 캐비닛 크기의 랙(선반)으로 구성한 AI 가속기다. 엔비디아는 AI 모델 훈련 등 범용 작업은 GPU 가속기가 맡고, 이후 AI가 추론을 통해 답변하는 과정은 그록3 LPX가 담당하는 방식으로 AI 시스템을 구성할 수 있다고 밝혔다. 엔비디아의 최신 AI 가속기 ‘베라 루빈’과 그록3 LPX를 연결해 추론 기능을 높일 수 있다.

앞서 엔비디아는 지난해 12월 AI 추론 칩 설계 스타트업인 그록의 지식재산권(IP) 라이선스를 확보하고 핵심 인력을 영입하는 방식으로 우회 인수를 진행했다. 그록은 구글의 자체 추론 칩인 텐서처리장치(TPU) 설계에 참여했던 연구자들이 설립한 스타트업으로, 당시 인수 금액은 약 200억 달러(약 27조7000억 원)로 엔비디아 창사 이래 가장 큰 규모의 인수였다.
이번에 양산을 시작한 그록3 LPX는 삼성전자 파운드리가 전량 생산한다. 그록 3 LPX 양산이 본격화되며 올 하반기(7~12월)에는 삼성전자 파운드리의 흑자 전환이 가능할 것이라는 관측도 나온다.

엔비디아는 이달 22일(현지 시간) AI 스타트업 풀사이드와 오픈소스(개방형) AI 모델 개발에 나섰다고 밝히기도 했다. 엔비디아는 풀사이드에 약 70억 달러(약 9조7000억 원)를투자해 기술 라이선스와 풀사이드 핵심 인력 100여 명을 확보했다. 이들 인력은 엔비디아로 자리를 옮겨 자체 개발 AI인 ‘네모트론 4’ 개발에 합류한다. 네모트론 4는 1조 개 파라미터(변수)급 대형 AI 모델로, 올 가을 공개 예정이다.

이같은 엔비디아의 행보는 최근 구글, 아마존 등 엔비디아의 최대 고객이었던 빅테크들이 속속 자체 AI칩 개발에 나선 데 따른 대응으로 보인다. 아마존은 자체 개발한 AI 반도체 ‘트레이니엄’을 이미 자사 클라우드 서비스에 활용하고 있으며, 다른 기업에 판매하는 방안을 검토 중이다. 구글 역시 올해 처음으로 추론 특화 칩인 TPU를 외부 고객에게 팔 계획이라고 밝혔다. 이처럼 엔비디아 의존도를 줄이려는 빅테크에 맞서, 엔비디아 GPU를 토대로 작동하는 개방형 AI 모델을 확산시키는 등 엔비디아 생태계를 지키려는 것이다.

인기 뉴스