엔비디아, 유럽 AI 시설 늘린다…AI 권한 제한 설계도 공개

엔비디아가 10월 21일(현지시간) 유럽을 중심으로 한 클라우드 파트너들의 AI 시설 확충 계획을 발표했다. 모델 학습과 서비스 운영에 쓸 연산 시설을 늘리는 내용이다. 스스로 일을 처리하는 AI(에이전트)가 접근할 수 있는 범위를 제한하는 설계도 함께 내놨다. 확충 지역에는 북유럽, 아프리카, 중앙아시아도 들어간다.

데이터 가까이에 짓는 AI 시설, 왜 늘리나

기업이 데이터와 AI를 어디에서 돌릴지 고르는 문제와 맞닿아 있다. 엔비디아는 데이터가 있는 곳 가까이에서 연산하려는 수요, 공개된 모델을 자기 업무에 맞게 바꾸려는 수요가 함께 커지고 있다고 설명했다. 파트너들은 모델 학습부터 실제 서비스 운영까지 받쳐 줄 시설을 늘리고 있다.

정해진 전력 한도 안에서 처리량을 늘린 시험 결과도 나왔다. 엔비디아에 따르면 Nscale은 GB300 NVL72 시스템 시험에서 DSX MaxLPS를 써서 같은 전력 한도 안에 GPU를 37% 더 가동했다. AI가 답을 만드는 전체 처리량은 약 50% 늘었다. Nscale은 유럽 5개 시장으로 사업을 넓히면서 Vera Rubin 인프라도 들여올 계획이다.

Crusoe는 Vera Rubin용 AI 시설 Spark를 개발하고 있다. 액체로 열을 식히는 모듈형 시설이다. 이용자와 가까운 곳에 연산 시설을 두어 AI가 답하기까지 걸리는 시간을 줄이는 것이 목표다. Aleria, Cassava Technologies, Firebird 등도 엔비디아 기반 시설을 짓거나 넓히고 있다.

업무에 맞춘 모델, 비용은 절반으로

공개된 모델을 특정 업무에 맞춰 바꾼 사례로 코드 검토 서비스 CodeRabbit이 소개됐다. Baseten은 Nemotron 3.5 Lightning을 바탕으로, 코드 검토 작업을 어디로 보낼지 결정하는 전용 모델을 만들었다. 엔비디아는 추가 학습을 거쳐 평가 대상 작업의 경로 선택 일치율이 75.8%에서 80.7%로 높아졌다고 밝혔다. 같은 작업에서 답을 만드는 데 드는 비용은 절반으로 줄어든 것으로 추정했다.

이미지: NVIDIA Blog

서비스와 모델 개발을 위한 투자도 이어진다. Nebius는 자사 플랫폼에 NVIDIA Groq 3 LPX를 채택했다. 이를 Vera Rubin NVL72와 연결해 응답 속도를 높일 계획이다. 미스트랄AI는 2027년 공급 예정인 Vera Rubin 인프라를 확충 계획에 넣었다. 엔비디아에 따르면 Mistral Large 4는 미스트랄AI가 운영하는 유럽 데이터센터에서 Grace Blackwell GPU 3,800개로 학습했다.

AI가 손댈 수 있는 범위, 누가 정하나

엔비디아는 업무 시스템에 연결된 AI를 통제하는 설계를 내놨다. GTC Berlin에서 소개한 OpenShell Reference Architecture는 AI가 접근할 대상과 실행할 행동의 범위를 미리 정하도록 돼 있다. AI가 도구를 써서 일을 처리할 때 조직이 허락한 권한 안에서만 움직이게 하는 것이 목적이다.

이 설계에서는 여러 장치와 소프트웨어가 통제를 나눠 맡는다. Vera Rubin NVL72는 모델이 답을 만드는 작업을 담당한다. Vera CPU와 OpenShell은 AI의 실행과 도구 사용을 맡는다. BlueField-4는 Sentry 소프트웨어를 돌려 칩 수준에서 제한을 건다. CoreWeave, DigitalOcean, Nebius, Nscale 등 클라우드 파트너들이 이 설계를 지원한다.

기업 이용자에게는 처리량뿐 아니라 데이터를 어디에 두는지, AI가 어디까지 움직일 수 있는지도 서비스를 고르는 기준이 된다. 확충 계획이 실제 서비스에 언제 적용되는지, 비용 절감과 권한 통제가 각 업무 환경에서 얼마나 효과를 내는지가 남은 관건이다.