2024년 미국 선거에서 유권자와 정치인을 오도하는 AI 생성 딥페이크

뉴햄프셔주 주민들이 1월 23일 예비선거에서 투표하지 말 것을 촉구하는 조 바이든 대통령을 사칭한 사기성 로보콜을 받는 등 불안한 상황이 발생했습니다. 이 전화는 2024년 대통령 선거에 영향을 미치기 위한 인공지능 딥페이크 도구의 소행으로 추정됩니다.

오해의 소지가 있는 메시지:

화요일에 투표하면 공화당에 유리하고 도널드 트럼프의 재선에 도움이 될 것이라는 주장으로 주민들에게 예비선거 기간 동안 집에 머물라는 지시를 내렸습니다. 주 법무장관실은 이러한 전화를 잘못된 정보라고 비난하며 유권자들이 해당 내용을 완전히 무시해야 한다고 강조했습니다. 도널드 트럼프 전 대통령의 대변인은 공화당 후보나 그의 선거 캠프의 개입을 부인했습니다. 이러한 사기성 로보콜의 출처를 파악하기 위한 조사가 진행 중입니다.

추가 딥페이크 스캔들:

이와 동시에 맨해튼 민주당 지도자 키스 라이트의 목소리를 사칭한 딥페이크 오디오와 관련된 또 다른 정치 스캔들이 발생했습니다. AI가 생성한 이 오디오에는 동료 민주당 하원의원인 이네즈 디킨스를 비방하는 라이트의 목소리가 담겨 있었습니다.

초기 신뢰도와 속임수:

일부 사람들은 딥페이크 오디오를 가짜라고 일축했지만, 적어도 한 명의 정치권 인사는 그 진위를 확신했습니다. 맨해튼의 민주당원이자 전 시의회 의장인 멜리사 마크-비베리토는 "진짜인 줄 알았다"며 처음에는 속았다고 인정했습니다;

비디오를 통한 오디오:

전문가들은 소비자들이 시각적 조작에 대해 더 분별력 있는 경향이 있기 때문에 악의적인 행위자들이 비디오보다 오디오 딥페이크를 선호한다고 말합니다. 사람들은 포토샵과 같은 도구에 익숙하기 때문에 시각적 페이크에 대한 경각심을 갖지 않습니다. 그러나 딥페이크를 탐지하거나 방지할 수 있는 보편적인 방법이 없기 때문에 출처를 알 수 없거나 의심스러운 미디어를 소비할 때는 주의가 필요합니다.

미디어 소비 시 주의:

현재로서는 딥페이크를 탐지하거나 예방할 수 있는 완벽한 방법은 없습니다. 전문가들은 특히 낯설거나 의심스러운 출처의 미디어를 접할 때, 특히 비상식적인 주장이 제기될 때는 주의를 기울여야 한다고 조언합니다.

AI가 생성한 딥페이크의 등장은 선거와 정치 담론의 공정성에 중대한 도전이 되고 있으며, 미디어 소비에 대한 경계와 회의의 필요성을 강조하고 있습니다.