구글, AI가 내 정보 보내기 전 상황 따져 막는 체계 제안

구글이 10월 5일(현지시간) 스스로 일을 처리하는 AI(에이전트)의 개인정보 보호와 보안을 다룬 연구 보고서를 공개했다. 핵심은 AI에게 정보를 볼 권한이 있는지만 확인하지 말고, 지금 그 정보를 내보내도 되는 상황인지 따지게 하자는 것이다. 보고서는 2025년 말 뉴욕에서 열린 워크숍을 바탕으로 작성됐다. 학계와 산업계 인사 50명 이상이 집필이나 토론에 참여했다.

권한만 있으면 괜찮을까

AI가 사용자를 대신해 복잡한 일을 하려면 개인정보를 읽고 실제 결과를 낳는 행동까지 해야 할 수 있다. 구글 연구진은 언어 모델이 스스로 계획을 세우고 외부 도구까지 쓰는 만큼 기존 소프트웨어와는 다른 보호 방식이 필요하다고 설명했다. 상황마다 유연하게 움직이는 능력에 맞춰 정보 접근과 사용을 제한해야 한다는 것이다.

보고서가 내세운 판단 기준은 ‘맥락적 무결성’이다. 개인정보 보호를 비밀 유지나 통제만의 문제로 보지 않고, 정보가 상황에 맞게 오가는지까지 함께 따지는 이론이다. 누구의 정보가 누구에게 가는지, 어떤 종류의 정보인지, 비밀 유지 같은 규칙이 걸려 있는지를 함께 따진다. 보고서는 선물 구매 목록을 예로 들었다. 쇼핑 도우미 AI에게는 알려줘도 가족이나 친구에게는 보여주고 싶지 않을 수 있다.

출장 준비를 맡기면 어디까지 알려줘도 되나

이 기준을 실제 작업 규칙으로 바꾸는 일이 연구 과제로 남았다. “내 정보를 보호하면서 학회 출장을 준비해 달라"는 요청만으로는 세부 행동을 정하기 어렵다. 항공권 예약, 비자 신청, 행사 주최 측과의 연락마다 전달해도 되는 정보를 구체적으로 정해야 한다. 연구진은 사람의 두루뭉술한 요구와 시스템의 세부 권한 사이에 이런 간극이 있다고 설명했다.

이미지: research.google

구글 연구진은 AI의 행동을 감시하고 제한하는 감독 체계에 ‘맥락 기반 정책 엔진’을 두자고 제안했다. 사용자 요청과 작업 상황에 맞춰 규칙을 만들고, 새로운 도구나 기능을 만나면 규칙도 조정하는 방식이다. 정보가 사용자의 작업 공간 밖으로 나가기 전에 그 전달이 적절한지 평가하는 것이 목표다.

보고서는 사람이 매번 권한을 승인하거나 전문가가 규칙을 일일이 작성하는 방식만으로는 대응하기 어렵다고 지적했다. AI가 여러 복잡한 작업을 오랫동안 맡는 상황을 염두에 둔 것이다. 연구진은 감독 체계뿐 아니라 모델의 이해 능력과 사용자와의 대화 방식도 함께 개선하는 여러 겹의 보호 장치를 제안했다.

여러 AI가 함께 일하는 상황은 어떻게 시험하나

안전성 시험도 여러 AI가 함께 움직이는 환경에 맞춰 바꿔야 한다는 제안이 나왔다. 보고서는 ‘Agent Gym’이라는 시험 환경을 연구 방향으로 제시했다. 여러 AI가 오랫동안 주고받으며 한 행동이 다음 행동에 영향을 주는 상황을 안전하게 재현하자는 구상이다. 연구진은 이런 오픈소스 시험 공간이 있으면 학계와 산업계가 함께 쓸 개인정보 보호와 보안 기준을 마련할 수 있다고 설명했다.

이미지: research.google

AI에 맡기는 일이 늘어날수록 정보를 어디까지 공유할지도 작업마다 정해야 한다. 이번 보고서는 그 경계를 상황에 맞춰 판단하고 행동 전에 점검하는 체계를 연구 과제로 내놨다. 남은 질문은 이런 규칙을 실제 서비스에서 얼마나 정확하게 적용할 수 있는지, 여러 AI가 함께 일할 때도 지킬 수 있는지다.