Ứng dụng AI tái hiện người chết gây phẫn nộ toàn cầu khi "Công nghệ đau buồn" vượt qua ranh giới mới

Một ứng dụng trí tuệ nhân tạo mới cho phép mọi người "nói chuyện" với bản sao kỹ thuật số của những người thân đã khuất đã gây ra phản ứng dữ dội trên toàn thế giới, đánh dấu một trong những cuộc chiến đạo đức gay gắt nhất trong thế giới công nghệ hỗ trợ tang lễ đang phát triển nhanh chóng.

Ứng dụng này do 2Wai - một công ty khởi nghiệp do cựu diễn viên kênh Disney Calum Worthy đồng sáng lập - tạo ra, hứa hẹn cho người dùng khả năng tạo ra hình đại diện video giống như thật của các thành viên gia đình đã khuất chỉ bằng vài phút ghi âm.

Nhưng thay vì được chào đón như một bước đột phá trong việc bảo tồn di sản kỹ thuật số, công cụ này đã gây ra sự lo ngại, ghê tởm và cáo buộc rằng công ty đang lợi dụng nỗi đau để kiếm lợi nhuận trong khi đẩy xã hội vào một lãnh địa công nghệ mà họ chưa sẵn sàng xử lý.

Công cụ này có tên là HoloAvatar, chạy trên ứng dụng di động được phát hành phiên bản beta vào ngày 11 tháng 11. Ứng dụng cho phép người dùng tải lên các đoạn clip ngắn, âm thanh và dữ liệu văn bản, sau đó hệ thống sẽ chuyển đổi chúng thành hình đại diện có khả năng trò chuyện, phản hồi và nói chuyện theo thời gian thực bằng hơn 40 ngôn ngữ.

Trong video quảng cáo được xem hơn 22 triệu lần trên tài khoản Worthy’s X, một phụ nữ mang thai nhận được lời khuyên từ AI tái tạo hình ảnh người mẹ quá cố của mình, người sau đó xuất hiện để đọc truyện trước khi đi ngủ cho cháu trai và đưa ra lời khuyên về cuộc sống trong tương lai.

Một công nghệ được xây dựng để kết nối, nhưng lại tiềm ẩn những rủi ro đạo đức sâu sắc

2Wai định vị công nghệ của mình như một ranh giới mới trong việc lưu trữ bộ nhớ kỹ thuật số. Công ty cho biết hệ thống FedBrain độc quyền của họ xử lý dữ liệu trên thiết bị để tăng cường quyền riêng tư và hạn chế ảo giác AI, đồng thời khẳng định rằng các avatar chỉ phản hồi bằng thông tin được người dùng chấp thuận.

Ứng dụng này cũng hỗ trợ "avatar sống", cho phép những người có sức ảnh hưởng, nhà sáng tạo hoặc chuyên gia xây dựng bản sao kỹ thuật số để thu hút người hâm mộ, huấn luyện hoặc đào tạo. Bản sao kỹ thuật số của Worthy - xuất hiện dày đặc trong các tài liệu quảng cáo - chia sẻ những câu chuyện hậu trường trong sự nghiệp của anh tại Disney, giới thiệu một trường hợp sử dụng thương mại mà công ty hy vọng sẽ thúc đẩy tăng trưởng trong tương lai.

Ý tưởng này bắt nguồn từ cuộc đình công của SAG-AFTRA năm 2023, khi các diễn viên phản đối việc các hãng phim sử dụng hình ảnh của họ trái phép. Worthy cho biết xung đột này đã khơi dậy mong muốn của anh trong việc tạo ra "mối liên kết ý nghĩa" giữa những người nổi tiếng và khán giả, bất chấp rào cản ngôn ngữ hay thời gian. 2Wai đã huy động được 5 triệu đô la tiền tài trợ hạt giống vào tháng 6 từ các nhà đầu tư giấu tên và cho biết họ đang hợp tác với các công ty bao gồm British Telecom và IBM.

Tuy công nghệ này có những ứng dụng chính đáng—chẳng hạn như lưu giữ lịch sử truyền miệng, cung cấp đài tưởng niệm kỹ thuật số, hoặc hỗ trợ người sáng tạo—nhưng khả năng tạo ra hình đại diện tương tác của người đã khuất mà không có sự đồng ý rõ ràng của họ lại đặt nó vào vùng xám về mặt đạo đức. Những người chỉ trích cảnh báo rằng ứng dụng này có thể bóp méo ký ức, viết lại lịch sử cá nhân, hoặc gây chấn thương trở lại cho những người đang đau buồn.

Trên mạng xã hội, phản ứng chủ yếu là tiêu cực. Người dùng mô tả ứng dụng này là "ma quỷ", "nhiên liệu ác mộng", "quá mức phản địa đàng" và "nguy hiểm về mặt tâm lý".

Một bài đăng lan truyền cho rằng công nghệ này "biến con người thành kẻ loạn thần" bằng cách thay thế quá trình đau buồn bằng ảo giác về sự hiện diện liên tục. Một bài đăng khác cáo buộc những người sáng lập "lợi dụng điểm yếu sâu sắc nhất của con người - mất mát - và biến nó thành một sản phẩm đăng ký".

Các chuyên gia về quyền riêng tư và pháp lý cho rằng những lo ngại này là chính đáng. Quyền dữ liệu sau khi chết vẫn còn mơ hồ hoặc không tồn tại ở hầu hết các khu vực pháp lý, nghĩa là không có gì ngăn cản việc ai đó tạo ra một bóng ma kỹ thuật số của người đã khuất mà không được phép.

Trong khi 2Wai tuyên bố họ yêu cầu sự đồng ý tham gia và "sự chấp thuận của gia đình" để tái tạo người đã chết, những người chỉ trích đặt câu hỏi liệu những chính sách như vậy có thể được thực thi một cách thực tế hay không. Khả năng học hỏi, thích nghi và tạo ra những phản ứng mới theo thời gian của các avatar càng làm vấn đề thêm phức tạp, có khả năng cho phép chúng nói những điều mà người đã khuất không bao giờ nói - gây tổn hại đến danh tiếng, rối loạn cảm xúc, hoặc thậm chí là thao túng.

Quá khứ đen tối của Grief-Tech cho thấy lý do tại sao xã hội chưa sẵn sàng cho "Bóng ma kỹ thuật số"

Sự ra mắt của 2Wai diễn ra trong bối cảnh ngành công nghệ đau buồn đang phát triển nhưng gặp nhiều khó khăn, nơi những nỗ lực trước đây nhằm thương mại hóa sự bất tử kỹ thuật số đã gặp khó khăn hoặc sụp đổ dưới áp lực đạo đức.

Các công ty như HereAfter AI và StoryFile đã thử nghiệm các phiên bản avatar dựa trên câu chuyện cuộc đời trước đó, nhưng hệ thống của họ dựa trên các cuộc phỏng vấn tự nguyện được thực hiện trước khi qua đời—làm cho sự đồng ý trở nên rõ ràng và minh bạch. Ngay cả khi đó, StoryFile đã nộp đơn xin phá sản theo Chương 11 vào năm 2024, với lý do khó khăn tài chính và nhu cầu bảo vệ dữ liệu tốt hơn.

Các dịch vụ đồng hành AI khác đã cho thấy những trải nghiệm này có thể nhanh chóng trở nên nguy hiểm như thế nào. Replika, một chatbot phổ biến ra mắt năm 2017, đã phải đối mặt với một cơn bão chỉ trích vào năm 2023 sau khi một bản cập nhật xóa sạch các đồng hành AI được cá nhân hóa cao của người dùng.

Trong một trường hợp tai tiếng, một người đàn ông Bỉ đã tự tử sau nhiều tuần trò chuyện với một con bot AI khiến anh ta lo lắng về môi trường - một thảm kịch đã làm dấy lên lời kêu gọi quản lý và làm dấy lên lo ngại về cách người dùng mong manh có thể phản ứng với các tương tác kỹ thuật số mang tính cảm xúc sâu sắc.

Bối cảnh pháp lý vẫn còn chắp vá và rất thiếu sót. Hầu hết các luật về quyền riêng tư chỉ bảo vệ người còn sống, hầu như không có quyền sau khi chết cho người bình thường. Đạo luật AB 1836 của California, được thông qua vào năm 2024, cấm sử dụng hình ảnh của nghệ sĩ đã khuất trong các tác phẩm nghe nhìn mà không có sự đồng ý của di sản.

Tuy nhiên, luật này chỉ áp dụng cho người của công chúng, khiến dân chúng nói chung không được bảo vệ khi các công cụ AI ngày càng có khả năng tái tạo dữ liệu cá nhân. Nhiều nhà lập pháp hiện đang thúc đẩy các biện pháp bảo vệ rộng rãi hơn khi công nghệ deepfake lan truyền nhanh chóng, đặc biệt là trong mùa bầu cử.

Trong bối cảnh này, HoloAvatar của 2Wai đại diện cho một bước tiến vượt bậc không chỉ về năng lực kỹ thuật mà còn về sự biến động cảm xúc. Nó phá vỡ rào cản giữa ký ức và mô phỏng, đặt ra những câu hỏi mà xã hội mới chỉ bắt đầu đối mặt: Chúng ta nên tôn vinh người đã khuất như thế nào trong thời đại kỹ thuật số? Ai sở hữu hình ảnh của một người sau khi họ qua đời? Và liệu AI có nên được phép tái tạo giọng nói, tính cách và sự hiện diện của một con người - ngay cả khi điều đó mang lại sự an ủi cho người sống?

Bất chấp lời hứa bảo tồn di sản, những người chỉ trích cho rằng ứng dụng này phản ánh sự bất an về mặt văn hóa rộng lớn hơn đối với cái chết - một nỗ lực nhằm loại bỏ nỗi đau buồn thông qua công nghệ thay vì chấp nhận nó như một trải nghiệm chung của con người.

Liệu thế giới sẽ đón nhận hay phản đối sự hồi sinh của công nghệ số vẫn chưa chắc chắn, nhưng có một điều rõ ràng: phản ứng dữ dội đối với sự ra mắt của 2Wai cho thấy AI nhập vai về mặt cảm xúc đang vượt qua ranh giới nhanh hơn nhiều so với khả năng phản ứng của các nhà quản lý, chuyên gia đạo đức hoặc người dùng thông thường.