Sự xuất hiện của xu hướng cởi quần áo AI

Công ty phân tích truyền thông xã hội Graphika nhận thấy sự gia tăng trong việc sử dụng "AI cởi quần áo" trong đó các công cụ trí tuệ nhân tạo (AI) tổng hợp được sử dụng để loại bỏ quần áo kỹ thuật số khỏi hình ảnh do người dùng cung cấp.

Xu hướng này làm dấy lên mối lo ngại đáng chú ý về quyền riêng tư và sự đồng ý.

Phát hiện của Graphika cho thấy mức tăng đáng kể 2,408% so với cùng kỳ năm trước, tổng cộng hơn 32.100 nhận xét và bài đăng trên các nền tảng như Reddit và X vào năm 2023.

Ảnh chụp màn hình lấy từ Báo cáo Graphika:

Xu hướng này có liên quan đến sự gia tăng của các dịch vụ Hình ảnh thân mật không có sự đồng thuận (NCII) tổng hợp, sử dụng AI để tạo ra nội dung tục tĩu mà không có sự đồng ý, gây ra rủi ro về hành vi quấy rối có chủ đích, tống tiền tình dục và sản xuất tài liệu lạm dụng tình dục trẻ em (CSAM).

Graphika nhấn mạnh sự dễ dàng và tiết kiệm chi phí mà các công cụ AI mang lại để tạo ra nội dung rõ ràng, thực tế trên quy mô lớn.

Nếu không có những công cụ này, người dùng sẽ cần quản lý các mô hình khuếch tán hình ảnh tùy chỉnh, một công việc tốn thời gian và có thể tốn kém.

Công ty cảnh báo về những hậu quả tiềm ẩn, bao gồm cả việc tạo ra nội dung khiêu dâm giả mạo.

Hơn nữa, việc sử dụng AI để cởi quần áo còn mở rộng ra ngoài hình ảnh tĩnh cho đến video deepfake, có sự góp mặt của những người nổi tiếng như Mr. Beast và Tom Hanks.

Những khám phá và mối quan tâm về Dark Web

Vào tháng 10,Tổ chức Theo dõi Internet (IWF) đã phát hiện hơn 20.254 hình ảnh lạm dụng trẻ em trên một diễn đàn web đen chỉ trong một tháng, làm dấy lên mối lo ngại về tác động tiềm ẩn của nội dung khiêu dâm trẻ em do AI tạo ra trên Internet.

Theo IWF, việc phân biệt giữa nội dung khiêu dâm deepfake và hình ảnh chân thực đã trở nên khó khăn hơn do những tiến bộ trong hình ảnh AI tổng quát.

AI Deepfakes là thách thức ngày càng tăng

Nhấn mạnh mức độ nghiêm trọng của vấn đề, Liên Hợp Quốc tuyên bố phương tiện truyền thông do AI tạo ra là một vấn đề "nghiêm trọng và khẩn cấp". mối đe dọa đối với tính toàn vẹn thông tin, đặc biệt là trên phương tiện truyền thông xã hội.

Đáp lại,Các nhà đàm phán của Nghị viện và Hội đồng Châu Âu đã thiết lập các quy tắc quản lý việc sử dụng AI ở Liên minh Châu Âu vào ngày 8 tháng 12 , giải quyết những thách thức rộng lớn hơn do nội dung do trí tuệ nhân tạo tạo ra.