SK텔레콤, 엔비디아 GPU에 국산 AI 칩 붙여 쓰는 시스템 개발

SK텔레콤이 엔비디아, 리벨리온과 손잡고 두 회사의 칩을 한 시스템에 함께 쓰는 AI 장비를 개발한다. SK텔레콤은 11월 9일 서울 코엑스에서 열린 ‘NVIDIA AI Day Seoul’에서 3사가 업무협약을 맺었다고 밝혔다. 엔비디아 GPU와 리벨리온의 AI 반도체를 묶은 시스템을 만들고, AI 데이터센터에서 성능과 안정성을 검증하는 내용이다. 한국 기술로 AI 기반을 갖춘다는 이른바 소버린 AI를 겨냥한 협력이다.

질문은 GPU, 답변은 국산 칩

핵심은 AI가 답을 내놓는 과정을 둘로 쪼개 서로 다른 칩에 맡기는 ‘분리형 추론’이다. 엔비디아 GPU는 사용자의 질문을 분석한다. 리벨리온의 AI 전용 반도체(NPU)는 답변을 한 단어씩 만들어 낸다. 두 반도체가 각자 잘하는 일만 처리하게 해서 응답 속도와 전력 효율을 높이는 것이 3사의 목표다.

SK텔레콤은 두 작업에 필요한 능력이 다르다고 설명했다. 질문을 분석할 때는 계산량이 많아 GPU처럼 연산이 빠른 칩이 유리하다. 반면 답변을 만들어 갈 때는 메모리에서 필요한 데이터를 빠르게 가져오는 능력이 중요하다. 3사는 이 차이에 맞춰 작업을 나누고, 실제 운영 환경에서 효과를 확인할 계획이다.

국산 칩을 엔비디아에 어떻게 붙이나

연결의 중심에는 엔비디아의 NVLink Fusion 기술이 있다. 엔비디아 GPU끼리 데이터를 빠르게 주고받던 연결 기술을 다른 회사 칩에도 쓸 수 있게 넓힌 것이다. 3사는 이 기술로 리벨리온이 개발 중인 NPU ‘Rebel R200’을 엔비디아 플랫폼에 연결한다. 국산 칩과 엔비디아 GPU가 한 시스템 안에서 역할을 나누는 구조다.

개발 범위는 칩 연결에서 서버 장비 구성까지 이어진다. 엔비디아의 서버 랙 설계 규격인 MGX를 적용해, 여러 서버를 담는 랙 단위의 통합 시스템을 만들 예정이다. SK텔레콤은 AI 데이터센터를 짓고 운영한 경험을 바탕으로 이 시스템을 자사 데이터센터에 들인다. 여기서 성능과 안정성을 시험한 뒤 실제 서비스 적용과 상용화 가능성을 검토한다.

국내 AI 서비스와 이어질까

SK텔레콤은 이 인프라를 자체 AI 모델과 대국민 서비스로 잇겠다고 밝혔다. 정석근 SK텔레콤 CTO 겸 AI CIC장은 독자 모델 A.X K2와 ‘모두의 AI’를 언급하며, 인프라부터 모델과 서비스까지 아우르는 소버린 AI 경쟁력을 강화하겠다고 말했다. 개발한 시스템을 바탕으로 공공과 민간이 쓸 AI 서비스 기반을 마련한다는 구상이다.

3사는 이번 협력을 과학기술정보통신부의 소버린 AI와 국산 AI 반도체 육성 정책과 연계할 방침이다. 박성현 리벨리온 대표는 한국의 AI 반도체와 모델을 글로벌 기술과 결합하는 데 의미를 뒀다. 아쉬시 카란디카르 엔비디아 NVLink Fusion 부문 부사장은 한국의 주문형 반도체를 엔비디아 플랫폼과 결합하도록 지원하겠다고 밝혔다.

이번 협력은 아직 개발과 검증 단계다. SK텔레콤은 AI 서비스를 운영할 때 처리 성능, 전력 효율, 운영비용이 점점 중요해지고 있다고 설명했다. 앞으로 볼 점은 역할을 나눈 두 반도체가 실제 데이터센터에서 얼마나 효율적으로 돌아가는지, 그 결과가 국내 공공과 민간 서비스에 어떻게 쓰이는지다.