Reddit bị tấn công bởi sự lừa dối của AI: Bot sử dụng thông tin sai lệch để thao túng ý kiến ​​trong nghiên cứu phi đạo đức, không bị phát hiện trong nhiều tháng

Bot AI lừa dối người dùng Reddit trong thí nghiệm phi đạo đức

Một thí nghiệm lừa đảo được hỗ trợ bởi AI trên Reddit phổ biếnr/changemyview subreddit gần đây đã bị phát hiện, tiết lộ một nỗ lực đáng lo ngại nhằm thao túng người dùng thông qua các bot ngụy trang.

Từ cuối năm 2024 đến đầu năm 2025, các nhà nghiên cứu từ Đại học Zurich đã bí mật sử dụng các mô hình ngôn ngữ lớn để mạo danh người dùng, tác động đến ý kiến ​​mà không cần sự đồng ý của người dùng và thu về hàng nghìn lượt bình chọn.

Trong thí nghiệm, các bot đã đăng hơn 1.700 bình luận dưới nhiều hình thức khác nhau, bao gồm cả những người sống sót sau chấn thương và những người cực đoan chính trị.

Để giải quyết vấn đề này, Reddit đã công bố kế hoạch thắt chặt hệ thống xác minh người dùng nhằm ngăn chặn những sự cố tương tự trong tương lai.

Reddit hành động chống lại gian lận AI

Giám đốc pháp lý của Reddit, Ben Lee, đã đưa ra phản hồi chính thức và lên án thử nghiệm này là "sai lầm nghiêm trọng về cả mặt đạo đức và pháp lý".

Lee đã viết trong một bài đăng cộng đồng,

“Điều này vi phạm các chuẩn mực về nghiên cứu học thuật và nhân quyền, và bị cấm theo thỏa thuận và quy định của người dùng Reddit, bên cạnh các quy định của subreddit.”

Ông cũng đảm bảo rằng tất cả các tài khoản liên quan đã bị cấm và mọi nội dung do AI tạo ra đều đã bị xóa.

“Chúng tôi đã cấm tất cả các tài khoản liên quan đến nỗ lực nghiên cứu của Đại học Zurich. Ngoài ra, trong khi chúng tôi có thể phát hiện ra nhiều tài khoản giả mạo này, chúng tôi sẽ tiếp tục tăng cường khả năng phát hiện nội dung không xác thực và chúng tôi đã liên hệ với nhóm kiểm duyệt để đảm bảo chúng tôi đã xóa mọi nội dung do AI tạo ra liên quan đến nghiên cứu này.”

Nguồn: Reddit

Steve Huffman, CEO của Reddit, tuyên bố rằng việc duy trì tính toàn vẹn của nền tảng này là tối quan trọng.

Trong bản cập nhật được đăng cách đây bốn ngày, Huffman đã viết,

"Reddit hoạt động vì nó là con người. Đây là một trong số ít nơi trực tuyến mà những người thực sự chia sẻ ý kiến ​​thực sự. Tính xác thực đó là thứ mang lại giá trị cho Reddit."

Nhấn mạnh rằng sự tin tưởng và tương tác chân thành giữa con người là nền tảng của nền tảng này, ông nói thêm,

“Nếu chúng ta mất niềm tin vào điều đó, chúng ta sẽ mất đi những gì tạo nên Reddit…Reddit.”

Nguồn: Reddit

Kế hoạch của Reddit nhằm xác minh người dùng mạnh mẽ hơn

Để ngăn chặn những sự cố tương tự, Reddit hiện đang nỗ lực triển khai các biện pháp mạnh mẽ hơn để xác minh người dùng, mặc dù Huffman đảm bảo với lượng người dùng trung thành của nền tảng này rằng quyền riêng tư sẽ không bị xâm phạm.

Huffman giải thích,

"Để duy trì tính nhân văn của Reddit và đáp ứng các yêu cầu quản lý đang thay đổi, chúng tôi sẽ cần thêm một chút thông tin."

Ông làm rõ rằng Reddit sẽ chỉ xác minh xem người dùng có phải là con người hay không và ở một số khu vực, xác minh xem họ có phải là người lớn hay không, nhưng sẽ không thu thập thông tin cá nhân như tên.

Nguồn: Reddit

Công ty có kế hoạch hợp tác với các dịch vụ xác minh của bên thứ ba để thực hiện các cuộc kiểm tra này.

Tuy nhiên, vẫn còn câu hỏi về việc những thay đổi này có thể tác động như thế nào đến nguyên tắc cốt lõi về tính ẩn danh của nền tảng.

Reddit từ lâu đã tự hào vì cung cấp một không gian cho người dùng chia sẻ suy nghĩ mà không tiết lộ danh tính, nhưng sự cố gần đây đã buộc công ty phải xem xét lại cách tiếp cận của mình.

Sự tiến thoái lưỡng nan về mặt đạo đức của nghiên cứu AI trên Reddit

Thí nghiệm này nêu lên những lo ngại quan trọng về mặt đạo đức, đặc biệt là về sự đồng ý của người dùng.

Bằng cách sử dụng bot AI để thu hút người dùng vào các cuộc thảo luận nhạy cảm mà không thông báo cho họ biết rằng họ đang tương tác với máy móc, các nhà nghiên cứu đã vi phạm cả thỏa thuận người dùng của Reddit và đạo đức nghiên cứu đã được thiết lập.

Những người điều hành r/changemyview đã nhanh chóng nộp đơn khiếu nại lên ủy ban đạo đức của trường đại học, nhưng bất chấp sự phản đối, việc công bố các phát hiện của các nhà nghiên cứu vẫn tiếp tục.

Các bot AI có hiệu quả đáng kinh ngạc, thu thập được hơn 20.000 lượt bình chọn và 137 "delta" - giải thưởng được trao cho những người thành công trong việc thay đổi quan điểm của ai đó.

Tuy nhiên, thành công của họ chỉ được biết đến sau khi các nhà nghiên cứu tiết lộ hành động của họ, thúc đẩy Reddit nhanh chóng thực hiện các biện pháp xác minh danh tính người dùng và bảo vệ chống lại sự thao túng AI tiếp theo.

Mối đe dọa của AI trong cộng đồng trực tuyến

Sự cố này là một phần trong thách thức ngày càng tăng trong việc phân biệt nội dung do con người tạo ra và nội dung do AI tạo ra.

Khi trí tuệ nhân tạo tiếp tục phát triển, các nền tảng như Reddit phải đối mặt với áp lực ngày càng tăng trong việc cân bằng quyền riêng tư với nhu cầu ngăn chặn việc khai thác.

Khi các bot ngày càng tinh vi hơn, rõ ràng là các cộng đồng trực tuyến có nguy cơ trở thành nơi nảy sinh hành vi thao túng nếu không được kiểm soát.

Một bước tiến hay xâm phạm quyền riêng tư?

Quyết định tăng cường quy trình xác minh của Reddit đi kèm với lời hứa sẽ không làm ảnh hưởng đến tính ẩn danh của người dùng.

Huffman trấn an người dùng bằng cách nói rằng,

"Chúng tôi sẽ cố gắng hết sức để bảo vệ cả tính nhân văn và tính ẩn danh của Reddit."

Mặc dù vậy, việc thiếu rõ ràng xung quanh các dịch vụ của bên thứ ba và các trường hợp cần xác minh đã gây ra mối lo ngại cho một số người dùng, những người lo ngại điều này có thể làm xói mòn giá trị cốt lõi về quyền riêng tư của Reddit.

Cuộc tranh luận về việc xác minh người dùng và những tác động về mặt đạo đức của việc thao túng do AI thúc đẩy đánh dấu thời điểm quan trọng đối với cộng đồng trực tuyến.