생성형 AI 음란물 사건으로 일본에서 4명이 체포되다

획기적인 사례입니다,일본 4월 15일 현지 언론 보도에 따르면, 중국 당국은 AI가 생성한 음란 이미지를 판매한 혐의로 4명을 체포했으며, 이는 사상 첫 단속이라고 합니다.

20대에서 50대 사이인 용의자들은 온라인 경매 플랫폼을 통해 여성의 음란한 이미지가 담긴 포스터를 제작해 배포한 혐의를 받고 있다고 NHK 등이 경찰 소식통을 인용해 보도했다.

무료 생성 AI 소프트웨어를 사용하여 제작된 이 이미지는 가상의 성인 누드 여성을 묘사한 것으로, 다음을 사용하여 제작되었습니다.명시적 '다리 벌리기'와 같은 프롬프트가 표시됩니다;

이 포스터는 개당 수천 엔, 미화 약 7달러에 해당하는 가격에 여러 장이 판매된 것으로 알려졌습니다.

일본 최초의 단속 실시

화요일의 보도는 AI가 생성한 음란 이미지 판매와 관련하여 일본에서 처음으로 체포된 사례로, 생성 기술의 오용에 대한 우려가 커지고 있음을 보여줍니다.

전 세계적으로 AI의 악의적인 애플리케이션에 대한 경각심이 높아지고 있습니다.딥페이크, 실제 이미지, 동영상 또는 오디오를 조작하여 기만적인 콘텐츠를 제작합니다.

네덜란드의 인공지능 회사인 Sensity의 2019년 연구에 따르면 온라인에서 유통되는 딥페이크 동영상의 약 96%가 합의되지 않은 음란물이며, 대부분이 여성을 묘사하는 것으로 나타났습니다.