구글 딥마인드, 기기 안에서 사기 대화 잡는 AI 개발

구글 딥마인드가 싱가포르 정부와 함께 대화 속 사기를 찾아내는 AI를 개발했다고 밝혔다. 구글의 작고 가벼운 모델 Gemma에 싱가포르 현지 사기 대화를 추가로 학습시킨 모델이다. 앱에 넣어 금전적 위험이나 인증 정보 유출로 이어질 수 있는 수작을 미리 알아내는 것이 목표다.

어떤 사기 대화를 배우나

싱가포르에서 실제로 쓰이는 사기 수법을 배운다. 구글 딥마인드는 널리 쓰이는 범용 모델이 지역 특유의 속임수를 제대로 잡아내지 못하는 경우가 많다고 설명했다. 그래서 공공기관과 은행, 지역 인사를 사칭하는 대화를 학습에 썼다. 현지에서 유행하는 사기 수법도 학습 대상에 넣었다.

모델이 가려내려는 것은 두 가지다. 하나는 평범한 일상 대화, 다른 하나는 상대를 조종하려는 대화다. 구글 딥마인드는 이런 추가 학습으로 앱에 들어간 모델이 두 유형을 구별할 수 있다고 밝혔다. 이용자로서는 대화 상대의 의도를 가늠할 때 도움을 받는 장치다.

내 대화는 어디서 처리하나

이용자의 기기 안에서 처리한다. 구글 딥마인드가 비교 대상으로 든 기존 위협 탐지는 클라우드 서버로 메시지를 보내 검사한다. 이번 모델은 대화 내용을 외부 서버로 보내지 않고 기기 안에서 사기 시도를 살피도록 설계했다.

이미지: Google DeepMind

구글 딥마인드는 앱에 들어간 모델이 대화 흐름을 더 빠르게 분석할 수 있다고 설명했다. 이용자가 금전적 위험에 노출되거나 인증 정보가 새어 나가기 전에 대응을 돕겠다는 구상이다.

앱 적용은 단계적으로

앱에 모델을 넣는 작업은 싱가포르 정부와 함께 단계적으로 진행할 예정이다. 모델은 해당 앱의 이용약관에 따라 이용자가 동의한 경우에만 기기 안의 대화를 볼 수 있다. 구글 딥마인드는 모델이 전적으로 기기 안에서 작동하므로 앱에 들어간 이 모델로는 구글이나 싱가포르 정부가 이용자의 대화에 접근할 수 없다고 밝혔다.

이미지: Google DeepMind

앞으로 지켜볼 점은 두 가지다. 실제 앱에서 일상 대화와 사기 시도를 얼마나 잘 구별하는지, 그리고 이용자 동의 절차를 어떻게 만드는지다.