EMS, 기자회견 열고 대선 앞두고 AI 생성 가짜뉴스 현황과 대처 방법 안내

인공지능(AI)의 발전이 계속됨에 따라, 대통령 선거를 앞두고 진짜 뉴스와 가짜 뉴스를 구별하기 점점 더 어려운 상황이 벌어지고 있다. 7월 12일 금요일에 열린 에스닉 미디어 서비스(EMS, Ethnic Media Services) 기자회견에서, 디지털 미디어 투명성 및 정치 감시 전문가들이 모여 AI 생성 정보조작 현황을 소개했다. 또 올해 대선 및 지방선거에서 소수민족 유권자들이 직면할 잠재적 도전을 논의했다.

캘리포니아 커먼 코즈(California Common Cause) 사무국장 조다난 메타 스타인 (Jonathan Mehta Stein)은 “인공지능을 이용한 정보조작은 현재 우리 민주주의에 매일같이 나타나는 심각한 문제로, AI에 의해 가속화되고 있다”며 “방글라데시, 슬로바키아, 아르헨티나, 파키스탄, 인도 등에서 AI 딥페이크와 정보조작에 의해 선거가 영향받는 사례가 보고됐다”고 지적했다.

최근에는 뉴햄프셔주 예비선거를 앞두고 조 바이든의 목소리를 흉내낸 가짜 로보콜이 발송돼, 민주당 지지자들에게 투표하지 말것을 강요하는 사건이 발생했다. 그는 “인공지능 기술의 발달로 인한 정보조작 문제들은, 단순한 기술적 진보를 넘어서 우리 사회 전반에 걸친 심오한 윤리적 도전으로 다가오고 있다. 전문가들이  체계적으로 구체적인 대응 전략 마련을 해야 한다”고 촉구했다.

▲미국 내 확산되는 러시아 주도 가짜뉴스 캠페인

지난 7월 초 법무부는 미국인으로 가장해 러시아 정부의 입장을 지지하는 인공지능(AI) 생성 소셜미디어 봇 프로필 1000여개를 적발했다. 또

한 D.C. Weekly, New York News Daily, Chicago Chronicle, Miami Chronicle 등의 이름으로 운영되는 가짜 지역뉴스 웹사이트를 적발했는데, 이들은 러시아 주도로 AI에 의해 생성된 웹사이트였다. 

스타인 사무국장은 인도 선거의 예를 들었다. 그에 따르면, 인도 선거 과정에서 수백만 건의 딥페이크가 발생하고, 유권자들에게 딥페이크 폭격이 이어지고 있다. 상대 후보자들이 본인과 상대방 딥페이크 이미지를 너무나 많이 이용해, 정상적인 후보들조차 상대와의 경쟁을 위해 딥페이크를 사용하고 있다고 그는 지적했다.

AI가짜 계정 문제가 심각해지고 있지만, 대형 소셜네트워크는 수수방관하고 있다. ‘페이스북’의 모회사인 메타(Meta)는 팩트체크 기능 일부를 선택사항으로 전환했다. 트위터(Twitter)는 정보 조작 캠페인을 식별하기 위해 사용한 소프트웨어 사용을 중단했다. 유튜브(YouTube), 메타(Meta), X는 2020년 대선 부정선거를 주장하는 게시물에 대한 표시나 삭제 작업을 중단했다. 또한 이들 회사는 가짜뉴스 단속 팀에 대해 대규모 해고를 단행했다.

스타인 사무국장은 "진짜 뉴스가 가짜뉴스에 대한 해답이다. 우리는 정치 뉴스를 다시 확인해야 하는 시대에 살고 있다. 만약 특정 정당, 후보에게 너무 유리한 이미지나 비디오를 보게 되면 확인해야 한다. 예를 들어 조 바이든(Joe Biden) 대통령이 에어 포스 원(Air Force One) 계단에서 넘어지는 비디오를 봤다고 치자. 

그 비디오를 공유하기 전에, AP, 뉴욕 타임즈(The New York Times), 워싱턴 포스트(The Washington Post), 혹은 신뢰할 수 있는 현지 언론에 의해 보도되거나 반박되었는지 확인하라"고 조언했다.

▲유색 인종 커뮤니티가 직면한 디지털 장벽

유색 인종 커뮤니티 내에서 사회적 연대와 정보의 정확성을 확인하는 것도 큰 과제가 되고 있다. 비영리 단체 '어퍼머티브 액션을 지지하는 중국계들’(Chinese for Affirmative Action)의 디지털 참여 프로그램 매니저인 니우 징시아(Jinxia Niu)는 “지난 12개월 동안 주요 중국어 소셜 미디어 전반에서 600건 이상의 허위 정보를 문서화했다”고 밝혔다. 

이러한 허위 정보의 주된 내용은 도널드 트럼프 전 대통령을 지지하거나 신격화하고, 조 바이든 대통령 및 민주당 정책을 공격하는 것이었다. 특히 인공지능(AI)을 이용한 허위 정보 유포가 예전보다 훨씬 빠른 속도로 진행되고 있다. 

니우 매니저는 “유색 인종 커뮤니티 사이에 퍼지는 허위 정보가 심각하지만, 언어별 매체들은 자금과 인력 부족으로 허위정보를 팩트체크하기 쉽지 않다”고 지적했다. 그는 "특히 이민자와 영어 사용이 제한된 커뮤니티에서 AI에 대한 이해도는 거의 없다시피 하다"며, "중국 소셜 미디어에서 가짜 AI 인플루언서가 팔로워들에게 가짜 제품을 구매하게 만드는 사기가 유행하고 있다. 

투표 방법에 대해 잘못된 정보를 전달하는 가짜 인플루언서가 등장한다면 상황은 위험해질 것"이라고 경고한다. 중국계 커뮤니티에서 나도는 정치적 허위 정보 대부분은 영어 소셜 미디어에서 직접 번역된 경우가 많다. 그러나 일부 우파 중국계 인플루언서들이 공유하는 콘텐츠 중에는, 트럼프 전 대통령이 흑인 지지자들과 교류하는 것처럼 보이게 만든 AI 생성 사진, 바이든 대통령과 지지자들을 '미친' 것처럼 묘사하는 AI 생성 사진도 포함되어 있다고 니우 매니저는 말했다.

아시안 아메리칸 커뮤니티가 현장에서 직면한 큰 도전 중 하나는 이러한 허위 정보가 소셜미디어를 넘어 인터넷상 친구와 가족들로부터 채팅앱을 통해 직접 공유된다는 점이다. 중국계 미국인들은 WeChat, 인도계 미국인들은 WhatsApp, 한국계 미국인들은 카카오톡, 일본계 미국인들은 Signal 앱을 선호한다.

니우 매니저는 "개인 간 채팅은 데이터와 프라이버시 보호를 위해 모니터링, 기록이 불가능하다. 따라서 규제없이 검열되지 않은 공공 방송 같은 역할을 한다"며 "그 결과 가짜 및 위협적인 정보에 개입하기 어렵게 된다"고 설명했다.

중국계 미국인 커뮤니티를 위한 최초의 팩트체크 웹사이트 출범

세계에서 가장 큰 디아스포라 중 하나인 중국계 미국인 커뮤니티는 정보의 질을 개선하려는 시도를 하고 있다. 니우는 "중국계 커뮤니티는 피야오바(Piyaoba.org)를 만들어 허위정보 문제에 대응하려고 노력하고 있다"고 밝혔다. 이 사이트는 중국계 커뮤니티를 대상으로 한 최초의 팩트체크 웹사이트로, 사용자들이 쉽게 최신 팩트체크 결과를 전달받을 수 있는 스마트 챗봇 기능을 제공한다.

메타(Meta) 소속 콘텐츠 모니터링 플랫폼 크라우드탱글(CrowdTangle)의 전 CEO 겸 공동창업자인 브랜든 실버만(Brandon Silverman)은 "상당수 허위정보는 소셜 미디어 플랫폼의 규칙을 위반하고 있다. 하지만 일부 허위정보는 '문제가 있지만 기술적으로 거짓은 아닌 회색 지대’에 속한다. 이러한 회색 지대 정보는 거짓 정보보다 빠르게 대응하기 어렵다"고 지적했다.

이러한 상황에 대해 실버만은 대규모 소셜미디어 플랫폼이 나서야 한다고 주장한다. 소셜 미디어 플랫폼에서 발생하는 디지털 광고 수익의 일정 비율에 세금을 부과하여, 지역  소수민족 및 커뮤니티 저널리즘을 지원하는 정책을 펴야 한다고 그는 밝혔다.

AI와 관련된 잘못된 정보와 싸우기 위해 현재 활동 중인 주요 기관은 다음과 같다. 나이트 재단(Knight Foundation)이 2024년 연방, 주, 지방 선거 보도를 위한 U.S. 뉴스룸에 제공하는 무료 및 할인 서비스인 선거 허브(Election Hub), 허위 정보 대응(news-sharing software and initiatives) 소식 공유 소프트웨어 및 이니셔티브를 시작한 비영리 조직 메단(Meedan) 등이 있다.

실버만은 "개별 콘텐츠에 일일이 대응하기보다, 우리가 알고 있는 거짓말에 맞서기 위해 어떻게 할 수 있는지 생각해야 한다"고 덧붙였다.