[AI 미디어 파도] 엑스 팩트체크 시스템 ‘ > 1 : 1 문의

콜백서비스 [AI 미디어 파도] 엑스 팩트체크 시스템 ‘커뮤니티 노트’, AI봇이 5~10% 작성… 지난달 ‘노 킹스’ 시위 2017년으로 착각하기도▲ X(옛 트위터) 로고소셜미디어 엑스가 인공지능(AI)을 활용해 플랫폼 내 콘텐츠를 '팩트체크'하는 것으로 나타났다. 사용자 기반의 팩트체크 시스템 '커뮤니티 노트'의 약 5~10%를 AI봇이 작성했는데 실제 사실과 다른 팩트체크도 발생했다. 지난 6일 컬럼비아저널리즘리뷰(CJR)는 지난 9월부터 AI봇이 엑스의 커뮤니티 노트를 작성하고 있다고 보도했다. 커뮤니티 노트는 게시된 콘텐츠에 대해 플랫폼 이용자들이 직접 정보의 맥락을 추가하거나 허위사실을 반박하는 의견을 달아 사실을 검증하는 시스템이다. 엑스는 원래 별도의 전문가나 언론사가 사실을 검증하는 팩트체크 시스템을 운영했다. 하지만 2022년 트위터를 인수한 일론 머스크가 팩트체킹 담당 직원 다수를 해고하면서 커뮤니티 노트 시스템이 도입됐다. 당시 미국 보수 진영 일각에선 기성 언론과 소셜미디어의 팩트체킹이 좌편향됐다며 표현의 자유를 침해한다고 주장했다. 저널리즘 연구기관 타우센터에 따르면 엑스에서 노트 작성자로 공식 활동하는 AI봇은 8개다. 매일 공개되는 커뮤니티 노트의 약 5~10%를 작성하고 있었다. AI봇이 참여한 커뮤니티 노트가 모두 공개되는 건 아니다. 커뮤니티 노트는 의견에 반대했던 사용자까지 노트가 유용하다는 데 동의해야 공개되는 방식이다. CJR은 "작성된 노트(인간과 AI봇 모두 포함)의 4분의 3 이상이 공개되지 않은 상태"라고 했다. AI의 팩트체크를 신뢰할 수 있을까. 지난달 엑스에는 도널드 트럼프 미국 대통령에 반대하는 '노 킹스'(No Kings) 시위 영상들이 광범위하게 확산됐다. 그중 하나가 보스턴 지역의 대규모 시위 영상(MSNBC 보도)이었는데 AI봇이 이를 '2017년 영상'이라고 반박하는 노트를 달았다. 해당 노트는 일부 엑스 이용자에게만 노출됐다. 하지만 캡처본이 퍼져 MSNBC 보도에 대한 조작 의혹이 불거졌고 정치권에서도 인용됐다. ▲ 엑스 커뮤니티 노트에 속아 노킹스 시위를 2017년 영상이라고 착각하고 있는 게시물.AI의 판단과 달리 해당 영상은 실제 지난달 보스턴에서 일어난 '노 킹스' 시위 영상이었다. 해당 노트를 작성[AI 미디어 파도] 엑스 팩트체크 시스템 ‘커뮤니티 노트’, AI봇이 5~10% 작성… 지난달 ‘노 킹스’ 시위 2017년으로 착각하기도▲ X(옛 트위터) 로고소셜미디어 엑스가 인공지능(AI)을 활용해 플랫폼 내 콘텐츠를 '팩트체크'하는 것으로 나타났다. 사용자 기반의 팩트체크 시스템 '커뮤니티 노트'의 약 5~10%를 AI봇이 작성했는데 실제 사실과 다른 팩트체크도 발생했다. 지난 6일 컬럼비아저널리즘리뷰(CJR)는 지난 9월부터 AI봇이 엑스의 커뮤니티 노트를 작성하고 있다고 보도했다. 커뮤니티 노트는 게시된 콘텐츠에 대해 플랫폼 이용자들이 직접 정보의 맥락을 추가하거나 허위사실을 반박하는 의견을 달아 사실을 검증하는 시스템이다. 엑스는 원래 별도의 전문가나 언론사가 사실을 검증하는 팩트체크 시스템을 운영했다. 하지만 2022년 트위터를 인수한 일론 머스크가 팩트체킹 담당 직원 다수를 해고하면서 커뮤니티 노트 시스템이 도입됐다. 당시 미국 보수 진영 일각에선 기성 언론과 소셜미디어의 팩트체킹이 좌편향됐다며 표현의 자유를 침해한다고 주장했다. 저널리즘 연구기관 타우센터에 따르면 엑스에서 노트 작성자로 공식 활동하는 AI봇은 8개다. 매일 공개되는 커뮤니티 노트의 약 5~10%를 작성하고 있었다. AI봇이 참여한 커뮤니티 노트가 모두 공개되는 건 아니다. 커뮤니티 노트는 의견에 반대했던 사용자까지 노트가 유용하다는 데 동의해야 공개되는 방식이다. CJR은 "작성된 노트(인간과 AI봇 모두 포함)의 4분의 3 이상이 공개되지 않은 상태"라고 했다. AI의 팩트체크를 신뢰할 수 있을까. 지난달 엑스에는 도널드 트럼프 미국 대통령에 반대하는 '노 킹스'(No Kings) 시위 영상들이 광범위하게 확산됐다. 그중 하나가 보스턴 지역의 대규모 시위 영상(MSNBC 보도)이었는데 AI봇이 이를 '2017년 영상'이라고 반박하는 노트를 달았다. 해당 노트는 일부 엑스 이용자에게만 노출됐다. 하지만 캡처본이 퍼져 MSNBC 보도에 대한 조작 의혹이 불거졌고 정치권에서도 인용됐다. ▲ 엑스 커뮤니티 노트에 속아 노킹스 시위를 2017년 영상이라고 착각하고 있는 게시물.AI의 판단과 달리 해당 영상은 실제 콜백서비스