오픈AI "FFT보다 계산량 적은 알고리즘"…실제 속도는 미공개

오픈AI가 10월 6일 내부 연구 모델이 만들어 낸 수학 연구 결과를 공개했다. 여기에는 신호를 분석할 때 쓰는 계산법인 이산 푸리에 변환을 더 적은 계산으로 처리하는 새 알고리즘 논문이 들어 있다. 오픈AI는 특정 계산 조건에서 기존 고속 푸리에 변환(FFT)보다 계산량이 늘어나는 속도를 낮췄다고 밝혔다. 논문과 증명 자료는 누구나 볼 수 있는 저장소에 올렸다. 다만 이 연구에 쓴 모델은 아직 공개하지 않았다.

계산량은 얼마나 줄었나

처리할 데이터가 많아질 때 계산이 얼마나 빠르게 불어나는지가 이번 주장의 핵심이다. 기존 FFT는 데이터 길이가 n일 때 계산량이 ’n 곱하기 log n’ 수준으로 늘어난다. 오픈AI가 내놓은 식은 여기서 로그에 붙는 지수를 1보다 10조분의 1 정도 낮춘 형태다. 데이터 길이가 얼마든 모든 경우에 적용된다고 설명했다.

오픈AI가 개선했다고 밝힌 것은 데이터가 커질 때 나타나는 이론상의 계산량 증가율이다. 프로그램을 돌려 실행 시간을 직접 잰 수치나 실제로 몇 배 빨라졌다는 결과는 함께 내놓지 않았다.

계산량을 따진 조건도 눈여겨볼 대목이다. 이 알고리즘은 복소수 계산을 오차 없이 해내고, 계산에 쓰는 계수의 크기에 제한을 두지 않는다고 전제한다. 계산에 필요한 특정 수학 값은 이미 주어진 것으로 취급한다. 대신 계산에 쓸 수를 미리 준비하고 데이터 위치를 찾는 비용은 계산량에 넣었다.

실제 컴퓨터에서도 빠를까

증명이 보장하는 범위와 실제 컴퓨터의 계산 환경은 차이가 있다. 오픈AI는 이번 결과에 수학 증명을 기계가 검증할 수 있게 적은 Lean 자료가 포함된다고 설명했다. 다만 계수 크기의 제한, 계산 중 생기는 오차에 대한 안정성, 비트 단위 처리 비용까지 Lean 증명이 보장하지는 않는다. 실제 실행 속도를 가늠하려면 이 항목들을 따져야 한다.

벤 레흐트는 이번 결과가 현실의 속도 개선보다 계산 모형의 허점을 파고든 이론적 성과에 가깝다고 비판했다. 오픈AI가 공식적으로 내세운 주장은 해당 계산 모형 안에서 계산량 증가율을 개선했다는 것이다. 오픈AI는 저장소에 담긴 연구 결과마다 검증 수준이 다르고 일부에는 오류가 있을 수 있다고도 밝혔다.

한국에서 지금 볼 수 있는 것

한국에서도 공개된 논문과 저장소를 바로 열어 볼 수 있다. 이번 발표는 수학 연구 결과의 공개다. 이 결과를 만든 내부 모델을 언제 일반 이용자가 쓸 수 있는지, 가격은 얼마인지는 공개하지 않았다.

계산량의 이론적 개선이 실제 작업 시간을 줄이는 데까지 이어질지는 아직 확인되지 않았다. 앞으로는 계산 조건이 타당한지에 대한 검토와 함께, 실제 장치에서 실행 시간과 오차를 측정한 결과가 나오는지를 지켜볼 대목이다.