캐나다, 딥페이크에 대한 우려 제기

에서캐나다의 정보 기관인 캐나다 보안 정보국(CSIS)은 최근 보고서를 통해 인터넷상의 허위 정보 캠페인에서 인공지능(AI) 딥페이크의 사용 증가에 대해 경종을 울렸습니다.

CSIS 보고서는 딥페이크가 점점 더 정교해지고 있으며, 딥페이크 식별과 대응이 동시에 어려워지고 있어 캐나다인의 보안에 잠재적인 위협이 되고 있음을 강조합니다.

CSIS 보고서에서 가져온 스크린샷입니다:

개인에게 미치는 영향

CSIS 보고서는 다음과 같은 사례에 대해 자세히 설명합니다.딥페이크가 개인에게 피해를 입히기 위해 배포되어 이 새로운 기술의 결과를 드러내고 있습니다.

특히 딥페이크가 대중의 신뢰를 훼손하고 인식을 조작하는 데 사용될 수 있다는 점에서 딥페이크를 인식하는 능력은 매우 중요합니다.

딥페이크의 악용

2022년부터 범죄자들은 딥페이크 동영상의 고급 기능을 악용하여 의심하지 않는 암호화폐 투자자들을 노리고 있습니다.

특히, CSIS는 다음과 같이 조작된 딥페이크 동영상이 등장하는 사례에 주목했습니다.비현실적인 수익률의 암호화폐 플랫폼을 홍보하는 엘론 머스크 투자자들은 자신도 모르게 자금에서 손을 떼게 되었습니다.

이는 딥페이크가 금융 사기에 악용되는 것에 대해 암호화폐 커뮤니티 내에서 경계를 강화해야 할 필요성을 강조합니다.

CSIS 보고서는 딥페이크를 넘어 AI 기술과 관련된 더 광범위한 문제를 다루고 있습니다.

개인 정보 침해, 소셜 조작, AI 시스템의 내재된 편견은 중요한 과제로 인식되고 있습니다.

편향된 알고리즘을 통해 여론을 조작할 수 있는 AI의 잠재력은 진화하는 디지털 위협의 환경을 더욱 복잡하게 만듭니다.

정책 및 글로벌 협업

이러한 문제를 해결해야 하는 시급성을 인식한 CSIS는 딥페이크와 합성 미디어의 사실성 증가에 발맞춰 정부 정책, 지침 및 이니셔티브가 발전할 것을 촉구합니다.

이 보고서는 AI 기술의 급속한 발전으로 인해 기존의 접근 방식이 무력화될 수 있으므로 선제적인 개입이 필요하다고 강조합니다.

CSIS는 합법적인 정보의 글로벌 유통에 공동으로 대처하기 위해 파트너 정부, 동맹국, 업계 전문가가 참여하는 협력적 접근 방식을 권장합니다.

캐나다는 10월 30일 G7 국가들이 개발자를 위한 AI 행동 강령에 합의하면서 글로벌 무대에서 AI 관련 우려를 해결하기 위한 노력을 강조했습니다.

이 협약은 전 세계적으로 '안전하고 보안이 유지되며 신뢰할 수 있는 AI'를 촉진하는 것을 목표로 합니다;

전 세계가 AI와 딥페이크의 도전에 맞서 싸우고 있는 지금, 각국 정부와 국제 연합이 내리는 결정과 조치는 디지털 보안의 미래 환경을 형성하는 데 중요한 역할을 할 것입니다.