Các mô hình trí tuệ nhân tạo của Trung Quốc đang thể hiện khả năng mạnh mẽ trong lĩnh vực an ninh mạng, sau khi một công ty an ninh có trụ sở tại Mỹ sử dụng các mô hình trọng số mở từ nhà phát triển AI Trung Quốc Z.ai để đứng đầu cuộc thi tìm kiếm lỗ hổng của HackerOne.
Công ty an ninh mạng Tenzai cho biết hacker AI tự động của họ đã đứng đầu chương trình tiết lộ lỗ hổng của HackerOne trong quý thứ hai liên tiếp.
Lần này, Tenzai đã sử dụng GLM 5.2 và GLM 5.3, các mô hình trọng số mở được phát triển bởi công ty AI Trung Quốc Z.ai.
Các mô hình này được sử dụng như một phần của hệ thống tự động của Tenzai để tìm kiếm các lỗ hổng bảo mật trong phần mềm và cơ sở hạ tầng thực tế.
AI tìm kiếm các lỗ hổng trong các hệ thống thực tế
HackerOne là một nền tảng nơi các tổ chức hợp tác với các nhà nghiên cứu bảo mật để xác định và báo cáo các lỗ hổng trong hệ thống của họ.
Tenzai đã cấp quyền truy cập cho hacker AI của mình vào nền tảng và cho phép nó tìm kiếm các điểm yếu bảo mật.
Theo Tenzai, hệ thống này có thể xác định các lỗ hổng trong khi duy trì tỷ lệ dương tính giả khoảng 3,5%.
Công ty cũng cho biết lần chạy mới nhất có chi phí khoảng Giảm 30% chi phí mỗi báo cáo so với lần chạy trước đó sử dụng các mô hình AI tiên tiến của Mỹ.
Các thử nghiệm trước đây của Tenzai cho thấy các hệ thống AI tự động có thể xác định các lỗ hổng phức tạp và kết hợp nhiều điểm yếu thành chuỗi tấn công. Công ty này trước đây đã báo cáo các phát hiện từ các lỗ hổng phần mềm đến các vấn đề thực thi mã từ xa và truy cập cơ sở dữ liệu.
Các mô hình trọng lượng mở đang trở thành một vấn đề an ninh mạng
Kết quả này rất quan trọng vì các mô hình được Tenzai sử dụng là trọng lượng mở.
Không giống như nhiều hệ thống AI thương mại, các mô hình trọng lượng mở có thể được các nhà phát triển và tổ chức tải xuống và chạy mà không cần hoàn toàn phụ thuộc vào dịch vụ trực tuyến của nhà cung cấp mô hình.
Điều này giúp chúng dễ dàng tùy chỉnh và triển khai cho các mục đích khác nhau.
Nó cũng có nghĩa là cùng một công nghệ có thể được sử dụng bởi cả người bảo vệ và những kẻ tấn công.
Giám đốc điều hành của Tenzai, Pavel Gurvich, đã lập luận rằng các mô hình trọng lượng mở từ Trung Quốc đã có khả năng thực hiện các nhiệm vụ an ninh mạng tấn công tinh vi. Công ty cho biết các mô hình này không hề thua kém các hệ thống hàng đầu của Mỹ về khả năng liên quan đến an ninh mạng.
Mô hình chỉ là một phần của hệ thống
Tenzai cho biết kết quả của HackerOne không nhất thiết có nghĩa là một mô hình AI này tốt hơn mô hình AI khác.
Hệ thống của công ty kết hợp mô hình AI với một khung bảo mật tác nhân, cho phép AI tìm kiếm các lỗ hổng, kiểm tra các điểm yếu tiềm ẩn và tạo ra các báo cáo.
Giám đốc điều hành của Tenzai cho biết kết quả này đã chứng minh tầm quan trọng của hệ thống hoặc "công cụ" này. bao quanh mô hình, chứ không chỉ riêng mô hình AI cơ bản.
Sự khác biệt này rất quan trọng vì hiệu suất an ninh mạng phụ thuộc vào nhiều yếu tố hơn là khả năng hiểu mã của mô hình. Các công cụ mà nó có thể truy cập, cách nó lập kế hoạch tấn công, cách nó xác thực các phát hiện và cách nó tương tác với các hệ thống mục tiêu đều có thể ảnh hưởng đến kết quả cuối cùng.
Tại sao các mô hình AI mở lại quan trọng đối với an ninh mạng
Sự phát triển này tạo ra một thách thức mới cho các nhóm bảo mật.
Các mô hình AI mạnh mẽ có thể được tải xuống và vận hành bên ngoài môi trường thương mại được kiểm soát có thể cho phép các tổ chức xây dựng các công cụ an ninh mạng của riêng họ.
Đồng thời, các khả năng tương tự cũng có thể bị lợi dụng cho các mục đích xấu.
Nghiên cứu gần đây và thử nghiệm trong ngành đã chỉ ra rằng các tác nhân AI ngày càng có khả năng có thể phát hiện ra các lỗ hổng, viết mã và tự động hóa một phần của các cuộc tấn công mạng. Bản thân Tenzai đã báo cáo rằng hacker AI của họ có thể liên tục kiểm tra các ứng dụng và kết hợp nhiều lỗ hổng lại với nhau.
Điều này có nghĩa là các nhà bảo mật có thể cần phải xem xét AI không chỉ như một công cụ bảo mật, mà còn là một phần của bối cảnh mối đe dọa đang thay đổi.
Cuộc đua đang vượt ra ngoài việc phát triển mô hình
Kết quả của HackerOne cũng cho thấy rằng cuộc cạnh tranh giữa các hệ thống AI không còn giới hạn ở các tiêu chuẩn đo lường khả năng viết, suy luận hoặc lập trình.
An ninh mạng đang trở thành một bài kiểm tra thực tế khác về mức độ hiệu quả của AI trong môi trường thực tế.
Đối với các nhà bảo mật, sự phát triển này có hai mặt. Trí tuệ nhân tạo (AI) có thể giúp các nhóm bảo mật kiểm tra nhiều hệ thống hơn, xác định lỗ hổng nhanh hơn và giảm chi phí kiểm thử bảo mật.
Nhưng nếu những công cụ tương tự trở nên dễ tiếp cận với kẻ tấn công, tốc độ phát hiện và khai thác lỗ hổng cũng có thể tăng lên.
Khi các mô hình AI mã nguồn mở trở nên mạnh mẽ hơn và phổ biến rộng rãi hơn, các tổ chức có thể cần tăng cường kiểm thử lỗ hổng liên tục, kiểm soát truy cập và giám sát để đảm bảo rằng các điểm yếu bảo mật được phát hiện bởi những người bảo vệ trước khi kẻ tấn công tìm thấy chúng.
Weatherly
