힌턴 “AI 없던 편이 나았을 수도”…공개 전 독립 심사 제안

제프리 힌턴이 강력한 AI 모델을 공개하기 전에 독립 기관의 검토를 받게 하자고 제안했다. 11월 3일(현지시간) 가디언 인터뷰에서 밝힌 내용이다. 힌턴은 AI가 인류에 도움이 되는 미래를 가져올 수 있다고 보면서도, 길게 보면 AI를 아예 개발하지 않는 편이 나았을 수도 있다고 말했다.

힌턴은 2023년 구글을 떠난 뒤 AI의 위험을 공개적으로 경고해 왔다. 이번 인터뷰에서도 AI의 발전이 인류에 어떤 결과를 가져올지, 그 위험을 누가 어떤 근거로 판단해야 하는지를 문제로 제기했다.

AI를 내놓기 전에 무엇을 심사하나

힌턴이 검토 대상으로 꼽은 것은 강력한 AI 모델의 이익과 위험에 관한 통계 근거다. 모델을 먼저 공개하고 결과를 지켜보는 방식 대신, 기업이 공개 전에 해로움보다 이로움이 크다는 통계 근거를 독립 기관에 의무로 제출하게 하자는 것이다. 일반 이용자가 AI를 손에 쥐기 전에 한 번 걸러 보자는 제안이다.

힌턴은 이 절차를 미국의 의약품 사전 심사에 비유했다. 새 약을 팔기 전에 효과와 부작용을 함께 따지듯, 강력한 AI도 공개 여부를 정할 때 이익과 위험을 같이 검토하자는 뜻이다.

이로운 쪽과 위험한 쪽을 함께 말했다는 점도 이번 인터뷰의 특징이다. 힌턴은 인류에 도움이 되는 미래가 가능하다고 보면서도 장기적인 결과를 우려했다. AI를 개발하지 않는 편이 나았을 수도 있다는 발언 역시 앞으로 벌어질 일에 대한 판단이다.

전력망과 금융, 왜 걱정하나

힌턴은 전력망이나 금융 시스템에서 AI와 관련된 대형 사고가 2026년이나 2027년에 일어날 수 있다고 전망했다. 전기와 돈처럼 일상이 곧바로 흔들리는 분야를 위험 사례로 지목한 것이다.

일부 주요 AI 기업 경영진을 향한 비판도 나왔다. 힌턴은 이들이 움직이는 동기 자체에 문제가 있다고 지적하면서, 강력한 AI를 공개하기 전에 독립 기관이 근거를 검토해야 한다고 주장했다.

이번 인터뷰가 남긴 질문은 하나다. AI를 쓰기 전에 어떤 검토가 필요하고, 그 검토를 누가 하느냐다. 힌턴은 그 자리를 모델 공개 이전에 두자고 제안했다. 앞으로 볼 대목은 이 제안이 실제 제도 논의로 이어지는지, 이어진다면 어떤 모델을 대상으로 어떤 근거를 심사하는지다.