도널드 트럼프 지지자들은 인공지능(AI)을 이용해 흑인 유권자들이 공화당을 지지하는 가짜 이미지를 만들어 유포하고 있습니다. 이러한 조작된 영상은 트럼프의 선거 운동과 직접적인 관련이 없음에도 불구하고 아프리카계 미국인들이 트럼프를 지지하도록 유도하는 것을 목표로 합니다. BBC 파노라마는 이 새로운 허위 정보 트렌드를 밝혀내고 미국 정치 영역에서 디지털 속임수를 둘러싼 복잡성을 조명했습니다.
AI로 생성된 속임수
2024년 미국 대선을 앞두고 유포되고 있는 AI 생성 이미지는 외국의 영향을 받은 이전 선거 주기와 달리 국내 출처에서 비롯된 것으로 보입니다. 플로리다 라디오 쇼의 마크 케이와 같은 보수적인 인사들은 이러한 도구를 활용하여 기만적인 내러티브를 만들어내고 있습니다. 이들은 트럼프가 한 행사에서 흑인 여성들과 함께 행복하게 포즈를 취하는 이미지를 제작하여 100만 명이 넘는 팔로워를 보유한 페이스북에 게시했습니다. 전직 대통령에 대한 흑인들의 지지가 광범위하게 퍼져 있다는 착각을 불러일으키려는 의도였습니다.
라디오 진행자 마크 케이와 그의 팀이 AI를 사용하여 만든 이 이미지는 트럼프를 지지하는 흑인들을 묘사하는 수많은 조작된 사진 중 하나에 불과합니다. (출처: BBC)
처음에는 진짜처럼 보이지만 자세히 살펴보면 부자연스럽게 빛나는 피부, 손가락이 없는 손 등 인공 지능이 개입된 흔적을 발견할 수 있습니다.
마크 케이는 BBC와의 인터뷰에서 누군가의 투표 결정이 AI가 생성한 이미지의 영향을 받았다면 이는 궁극적으로 개인의 책임이라고 말했습니다. (출처: BBC)
영향 및 시사점
이러한 조작된 이미지는 사람들을 속일 뿐만 아니라 전략적 내러티브를 영속화하기도 합니다. 흑인 유권자 문제(Black Voters Matter)의 공동 설립자인 클리프 올브라이트는 흑인 커뮤니티를 겨냥한 허위 정보 전술의 부활을 인정합니다. 이러한 의도적인 노력은 젊은 흑인 유권자들을 흔들어서 조지아주와 같은 주요 격전지에서 선거 결과를 바꿀 수 있는 잠재적 가능성을 노리고 있습니다.
흑인 유권자 참여를 장려하는 단체를 이끌고 있는 클리프 올브라이트에 따르면, 젊은 흑인 유권자들은 특히 허위 정보 전술의 표적이 되고 있다고 합니다. (출처: BBC)
소셜 미디어 영향력
이러한 가짜 이미지의 위력은 소셜 미디어 플랫폼을 통한 유포에 있습니다. 미시간에 거주하는 트럼프 지지자 'Shaggy' 계정과 같은 사용자들은 이러한 이미지를 증폭시켜 수백만 건의 조회수를 기록합니다. 잘못된 정보를 막기 위한 노력에도 불구하고, AI가 생성하는 콘텐츠의 진화하는 환경은 플랫폼과 정책 입안자 모두에게 중대한 과제를 안겨주고 있습니다.
향후 과제
2024년 대선을 앞두고 전문가들은 국내 허위 정보와 외국의 영향력 행사가 결합된 위협에 대해 경고합니다. 메타의 벤 님모는 개인이 자신도 모르게 악성 콘텐츠의 통로가 될 수 있는 위험에 대해 경고합니다. 정치적 긴장이 고조되는 가운데 AI가 생성한 콘텐츠의 확산은 디지털 전장을 더욱 복잡하게 만들고 있습니다.
인공지능이 만들어내는 정치적 속임수의 위협
정치 조작을 위한 가짜 이미지 제작 및 유포에 AI를 사용하는 것은 민주적 절차의 무결성을 훼손하는 심각한 추세입니다. 특히 아프리카계 미국인과 같은 취약한 커뮤니티에서 이러한 조작된 영상이 여론을 얼마나 쉽게 흔들 수 있는지 우려스러운 상황입니다. 비판적 사고에 대한 책임은 개인에게도 일부 있지만, 이러한 위협에 대처해야 할 책임은 플랫폼과 정책 입안자에게도 있습니다. 향후 선거가 다가옴에 따라 허위 정보에 맞서 싸우고 진화하는 디지털 속임수 환경으로부터 민주주의 제도의 무결성을 보호하는 데 우선순위를 두는 것이 필수적입니다.
AI가 생성하는 허위 정보로부터 민주주의를 지키기
AI 기술과 정치적 선전이 교차하는 상황에서 강력한 보호 장치와 미디어 리터러시 이니셔티브가 시급히 필요하다는 점을 강조합니다. 디지털 속임수가 만연한 이 시대에 진실과 허구를 구분하는 일은 점점 더 어려워지고 있습니다. 미국이 또 다른 대통령 선거를 앞두고 있는 가운데, 인공지능이 만들어내는 허위 정보의 위험에 대한 경계가 무엇보다 중요합니다.