오픈AI, 가짜 필자 기고문 실은 여론 공작 계정 차단

오픈AI가 10월 8일 러시아와 이란에서 시작된 은밀한 여론 공작 두 건을 적발하고 관련 ChatGPT 계정을 차단했다고 발표했다. 두 작전은 조직의 실체와 글쓴이의 신분을 숨긴 채 정치와 분쟁에 관한 메시지를 퍼뜨렸다. ChatGPT는 활동 보고서를 쓰거나 원고와 이메일을 다듬는 데 쓰였다고 오픈AI는 설명했다.

가짜 연구기관은 어떻게 쓰였나

러시아 작전 ‘Dark Clark’는 라틴아메리카를 겨냥했다. 오픈AI에 따르면 운영자들은 ChatGPT로 활동 보고서를 작성하고 일부 허위 콘텐츠를 만들거나 고쳤다. 현지 연구기관처럼 보이는 Social Research Center도 가짜 인물 ‘Mia Clark’를 앞세워 운영한 것으로 보인다고 회사는 밝혔다.

이 연구기관에서 일한 현지 직원들은 러시아 측의 관여를 몰랐던 것으로 보인다는 게 오픈AI의 설명이다. 회사는 그런 증거가 있다고 밝혔다. 운영자들은 현지 기관 같은 외형을 갖춰 활동 주체를 감췄다.

이란 작전 ‘Bogus Bylines’는 일곱 명의 가짜 필자 이름으로 온라인 매체에 영문 기고문을 제안했다. 운영자들은 ChatGPT로 원고와 제안 이메일을 다듬었다. 영어와 페르시아어로 된 소셜미디어 댓글 모음, 내부 보고서도 ChatGPT로 작성했다.

기고문 100건, 실제 영향은 어땠나

오픈AI는 이란 작전과 관련해 기사 약 100건이 온라인 매체 십여 곳에 실리거나 재배포된 것을 확인했다고 밝혔다. 가짜 필자 이름으로 제안한 글이 실제 매체를 거쳐 퍼진 것이다. 회사는 자신들이 쓰는 영향력 평가 척도에서 이 기사 유포 활동을 4등급, 확인된 댓글 활동을 2등급으로 분류했다.

러시아 작전에는 같은 척도의 5등급을 매겼다. 오픈AI가 이런 보고서를 내기 시작한 뒤 적발한 작전 가운데 첫 5등급 사례다. 다만 러시아 운영자들이 내부적으로 주장한 성과 중에는 과장되거나 따로 확인되지 않은 내용이 있다고 회사는 설명했다.

이란 작전의 댓글은 확인된 범위에서 반응이 적었다고 오픈AI는 밝혔다. 운영자들이 쓴 조회수 계산법도 댓글 자체의 효과를 보여주지 못한다고 덧붙였다. 댓글을 자동으로 올리는 데 오픈AI 모델이 쓰였다는 증거는 없다고도 밝혔다.

이번 사례에서 눈에 띄는 대목은 가짜 필자 이름으로 쓴 글이 실제 온라인 매체에 실렸다는 점이다. AI 악용이 글을 만드는 단계를 넘어 매체에 기고를 제안하는 일까지 이어졌다고 오픈AI는 설명했다. 유포된 글의 수와 등급을 넘어 실제 독자가 어떻게 반응했는지는 아직 드러나지 않았다.