AI 쓰는 값은 내려도 GPU 임대료는 그대로…a16z 분석

투자사 a16z가 9월 30일 공개한 시장 분석 보고서 ‘State of Markets II’에서 AI 이용 비용 하락과 컴퓨팅 수요 증가가 함께 나타나고 있다고 밝혔다. AI에 글을 넣고 답을 받을 때 값을 매기는 단위인 토큰(글자 조각 단위) 가격은 내려가지만, AI를 돌리는 GPU 임대료는 유지되거나 오르고 있다는 것이다.

AI는 싸지는데 GPU 임대료는 왜 그대로일까

같은 양의 AI 작업에 드는 비용이 줄어도 전체 컴퓨팅 수요는 늘 수 있다는 것이 보고서의 핵심이다. a16z는 값이 싸진 AI가 사용을 늘리고, 그 수요 증가가 비용 하락보다 빠르게 진행되고 있다고 분석했다. 이용자가 AI를 쓰며 내는 값과 서비스 운영자가 계산 장비를 빌리는 값이 서로 다른 방향으로 움직이고 있다.

더 디코더는 10월 11일 보도에서 이를 ‘제번스의 역설’로 설명했다. 효율이 좋아져 자원을 쓰는 비용이 낮아지면 오히려 사용량이 늘어 전체 수요가 커지는 현상이다. 이 매체는 a16z 데이터를 근거로 H100 GPU 임대료가 유지되거나 오르고 있다고 전했다. AI 비용 절감이 장비 수요 확대로 이어진다는 해석이다.

구형 GPU의 임대료도 보고서가 주목한 대목이다. 시간이 지나면 구형 장비 임대료는 떨어질 것이라는 우려가 있었다. a16z는 관찰 시점의 A100 임대료가 연초 수준 이상이었다고 설명했다. 보고서는 새 세대 GPU의 임대료 상승과 구형 장비의 임대료 유지를 모두 컴퓨팅 수요의 근거로 들었다.

늘어난 수요는 계속될까

a16z는 돈을 내고 AI를 쓰는 단계가 아직 초기라고 봤다. 보고서에 따르면 2026년 4월 기준 미국에서 유료 AI 서비스를 쓰는 가구는 약 2%다. a16z는 이 수치를 AI 이용이 더 퍼질 여지가 있다는 근거로 삼았다.

기업에서는 AI 효과를 말하는 것과 숫자로 보고하는 것 사이에 차이가 있었다. a16z에 따르면 S&P 500 기업 가운데 약 30%가 AI가 수치로 미친 영향을 언급했다. 반면 실제로 추적하는 지표를 보고한 기업은 약 2%였다. 보고서는 기업의 AI 활용도 초기 단계라고 판단했다.

더 디코더는 이러한 수요 확대를 엔비디아의 젠슨 황에게 유리한 시나리오로 평가했다. 동시에 수요가 정체되면 칩 제조사부터 클라우드 업체까지 타격을 받을 수 있다고 짚었다. 결국 관심은 AI 사용 비용 하락이 계속 사용량 증가로 이어지는지, GPU 임대료가 그 수요를 뒷받침하는지로 모인다.