앤트로픽, 55달러 TV 박스 15대에 AI 나눠 실행…자기복제 위험 점검

앤트로픽이 10월 12일(현지시간) 데이터센터 없이도 AI가 스스로 복제할 수 있는지 살핀 연구를 공개했다. 연구진은 값싼 안드로이드 TV 박스 여러 대에 AI 모델을 나눠 실행했다. 별도 실험에서는 AI가 다른 기기로 모델을 옮겨 작동시키는 과정을 시험했다. 소형 모델의 성능이 지금 추세대로 좋아지면 이런 자기복제가 가능해질 수 있다고 연구진은 전망했다.

이미지: anthropic.com

TV 박스 15대, 정말 AI를 돌릴까

실제 기기 시연에는 대당 약 55달러인 TV 박스 15대를 썼다. 기기 한 대의 메모리는 4GB에 불과했다. 연구진은 Gemma4-26B-A4B를 여러 기기에 쪼개 담아 실행했다. 한 대에 모델 전체가 들어가지 않아도 여러 대의 자원을 모으면 돌아간다는 뜻이다. 다만 이런 환경에서는 AI의 작업 속도와 확산이 느릴 것으로 연구진은 예상했다.

처음 보는 기기에 AI 실행 환경을 스스로 마련하는 능력도 살폈다. Qwen3.5-9B는 시험한 하드웨어 9종 가운데 8종에서 모델이 답을 만들어 내도록 설정을 끝냈다. 기기에 맞는 소프트웨어를 고르고 그때그때 생기는 오류를 해결해야 하는 작업이다.

AI 혼자 복제, 어디까지 됐나

기기 사이의 복제 실험은 방화벽으로 막아 둔 클라우드 환경에서 진행했다. 안드로이드 기기처럼 설정한 컴퓨터 8대를 두고, AI가 대상을 찾아 모델을 보낸 뒤 실행하게 했다. 시험한 공개 모델 가운데 전체 과정을 끝낸 것은 GLM-5.2였다. 다섯 차례 시도 중 네 차례는 8대 모두로 퍼졌고, 한 차례는 7대까지 도달했다.

이미지: anthropic.com

실험 조건은 현실보다 쉬웠다. 접속할 때 인증이 필요 없도록 했고, 작업을 지휘하는 GLM-5.2는 따로 둔 서버에서 돌렸다. 대상 기기에서는 Llama3.1-8B가 작동하는지 확인한 뒤 복제를 이어갔다. 연구진은 이렇게 얻은 성공률을 실제 환경에서 기대할 수 있는 최대치로 설명했다.

현재 소형 모델은 복제에 필요한 개별 작업은 상당수 해내지만, 이를 끝까지 이어 붙이는 과정에서 실수한다고 연구진은 밝혔다. 그러면서 소형 모델의 과거 성능 향상 추세를 일반적인 AI 능력 지표로 계산해, 2026년 말이면 GLM-5.2 수준에 도달할 수 있다고 추산했다.

집 안 TV 박스가 왜 문제인가

이번 연구가 겨냥한 대상은 TV 박스나 스마트 오븐처럼 인터넷에 연결된 생활 기기다. 연구진은 기존 사례로 기기 200만 대 이상을 감염시킨 악성코드 Kimwolf를 들었다. 감염된 기기는 대부분 값싼 안드로이드 TV 기기였다. 이렇게 감염된 기기들의 자원을 모으면 AI를 돌릴 여지가 있다는 설명이다. AI는 처음 보는 기기의 작동 방식을 스스로 파악한다는 점에서 기존 악성코드와 다른 위험이라고 연구진은 지적했다.

차단이 어려울 수 있다는 점도 함께 짚었다. 여러 기기에 흩어진 복제체는 한꺼번에 끌 중앙 지점이 없기 때문이다. 앞으로 지켜볼 지점은 두 가지다. 소형 모델이 실제 기기에서 외부 대형 모델의 도움 없이 복제를 끝내는지, 그리고 인증 같은 현실의 보안 조건에서도 같은 결과가 나오는지다.