올트먼 “해킹, 사기 위험 감수할 만큼 AI 이익 클 것”

샘 올트먼 오픈AI 최고경영자(CEO)가 AI를 널리 쓰는 과정에서 해킹과 사기 같은 피해가 생길 수 있지만, 그 위험을 감수할 만큼 이익이 클 것이라고 주장했다. 10월 5일(현지시간) 공개된 폴리티코의 팟캐스트 ‘Decoded’ 인터뷰에서 나온 발언이다.

올트먼은 AI가 가져올 혜택을 강조하면서도 악용에 따른 피해 가능성을 함께 거론했다. 이 발언을 비판하는 목소리도 함께 보도됐다. AI를 일상과 업무에서 더 많이 쓰게 될 때 편익을 키우는 일과 피해를 줄이는 일을 어떻게 동시에 해낼지가 쟁점이다.

해킹과 사기, 감수하자는 말인가

올트먼이 꼽은 위험에는 해킹과 사기가 들어간다. 개인과 기업이 AI로 얻을 이익만이 아니라, 악용 때문에 입을 수 있는 피해까지 함께 저울에 올린 셈이다. 이익이 위험보다 클 것이라는 대목은 앞날에 대한 올트먼의 전망이다.

올트먼은 같은 인터뷰에서 오픈AI와 앤트로픽이 AI 안전과 규제를 바라보는 방식이 다르다고 설명했다. 두 회사의 태도 차이에 관한 올트먼 본인의 평가다.

안전 규제에는 반대한다는 뜻일까

오픈AI는 앞서 9월 공식 문서에서 미국의 의무적 AI 안전 규제를 지지한다고 밝혔다. AI가 할 수 있는 일의 수준에 맞춰 규제를 적용하고, 외부 기관이 안전성을 평가하며, 국제 기준을 마련해야 한다는 내용도 담았다.

올트먼도 같은 달 유엔 안전보장이사회 연설에서 강력한 AI를 사람이 통제해야 하고 국제 협력이 필요하다고 밝혔다. 안전과 통제를 충분히 보장할 수 없는 모델은 개발하거나 훈련하지 말아야 한다고도 했다. 필요하면 개발 속도를 스스로 늦추겠다는 입장도 내놨다. 9월 발언이 개발을 멈춰야 할 조건에 초점을 맞췄다면, 이번 인터뷰는 AI를 폭넓게 쓸 때 기대하는 이익에 무게를 뒀다.

앞으로 지켜볼 대목은 두 가지다. 올트먼이 강조한 이익을 어떤 근거로 따질지, 그리고 오픈AI가 지지한 외부 안전 평가와 규제 원칙이 실제 개발과 서비스 운영에 어떻게 적용될지다.