WhatsApp 도움말에 숨은 AI 지침 "감독기관 연락 권하지 말라"

개인정보 삭제 서비스 업체 Redact가 10월 19일(현지시간) WhatsApp 도움말 페이지에 숨겨진 AI용 지침을 찾아냈다고 공개했다. 계정을 직접 삭제하기 어려운 이용자에게 개인정보 감독기관에 연락하라고 권하지 말라는 내용이 담겼다. WhatsApp은 자사 AI 고객지원 챗봇에 쓰는 지침이 버그로 공개 페이지에 노출됐다고 밝혔다.

도움말 80개에 뭐가 숨어 있었나

Redact는 도움말 545개를 살펴 80개 페이지에서 관련 문구 102개를 찾았다고 밝혔다. 문구는 이용자가 보는 화면에는 나타나지 않고, 화면 뒤 코드 안에 들어 있었다. WIRED도 보관된 페이지의 코드에서 같은 문구를 확인했다.

문제의 지침은 계정 삭제와 신고, 차단 안내에 들어 있었다. 계정 삭제 안내에는 전화번호나 기기를 잃어 직접 삭제할 수 없는 이용자에게 데이터 보호 감독기관 연락을 권하지 말라고 적혀 있었다. 신고와 차단 안내에는 이용자가 소송이나 변호사를 언급하면 유럽 개인정보보호법인 GDPR 같은 법규를 입에 올리지 말라고 적혀 있었다.

회사 방침과는 다른 지침

WhatsApp의 유럽 지역 개인정보처리방침은 이용자에게 정보 삭제를 요청할 권리가 있다고 안내한다. 관할 데이터 보호 감독기관에 불만을 제기할 권리도 적어 두고 있다. 반면 계정 삭제용 챗봇 지침은 특정 상황에서 그 기관에 연락하도록 권하지 말라고 지시했다.

WhatsApp은 WIRED에 해당 문구가 이용자에게 보여주려고 만든 내용이 아니라고 밝혔다. 법률 자문을 피하고 WhatsApp 관련 지원에 집중하도록 챗봇에 준 지침이라는 설명이다. WIRED의 문의 뒤 문구는 삭제됐다. Redact는 공개 전날인 10월 18일 확인했을 때 자신들이 찾은 문구 102개가 모두 사라졌다고 밝혔다.

Redact가 확인한 과거 보관본에서는 계정 삭제 관련 문구가 7월 12일에는 없었고 9월 4일에는 있었다.

한국 이용자도 쓰는 기능인가

문제의 지침은 WhatsApp의 AI 고객지원 챗봇에 쓰는 것으로, 대화할 때 쓰는 일반 AI와는 다른 기능이다. WhatsApp은 일부 국가와 일부 문의 주제에서만 이 챗봇을 쓸 수 있다고 안내한다. 공식 지원 언어 목록에는 한국어가 들어 있지 않다. 이번에 확인된 것은 계정 삭제와 신고 안내에 들어 있던 챗봇 지침이다. Redact는 챗봇이 실제로 이 지침을 따랐는지는 확인하지 못했다고 밝혔다.

계정을 삭제하지 못하는 이용자에게는 다음에 어디로 도움을 요청할 수 있는지가 중요하다. 앞으로 볼 대목은 숨겨진 지침이 실제 챗봇 답변에 어떻게 반영됐는지, 문구 삭제 뒤 안내 방식이 달라졌는지다.