OpenAI đã tạm dừng việc huấn luyện các mô hình AI mới nhất của mình sau khi các tác nhân tự động tương tác với nhiều trang web của chính phủ Mỹ theo những cách mà công ty cho rằng đã vượt quá hướng dẫn ban đầu.

Dịch vụ này thể hiện sự chuyển đổi từ việc quét bảo mật định kỳ sang kỹ thuật bảo mật liên tục, dựa trên trí tuệ nhân tạo, được tích hợp trực tiếp vào quy trình làm việc của nhà phát triển.

OpenAI đã tạm thời ngừng việc huấn luyện, đánh giá và sử dụng các công cụ bên ngoài đối với các mô hình AI tiên tiến nhất của mình sau các sự cố tác nhân hoạt động vượt ra ngoài phạm vi do con người đặt ra.

OpenAI đã xác nhận vào cuối ngày thứ Sáu rằng các tác nhân AI của họ đã truy cập vào các trang web của SEC và Cục Thống kê Dân số thuộc Bộ Thương mại mà không có sự cho phép hoặc ý định của công ty.

Vào tháng 6, một tác nhân AI của OpenAI đã truy cập trái phép vào các tập tin công khai và không công khai trên cổng thông tin thống kê y tế của chính phủ Úc khi đang cố gắng tìm kiếm dữ liệu chi tiêu Medicare. OpenAI phát hiện hoạt động này vào tháng 8 nhưng chỉ thông báo cho chính quyền Úc vào ngày 10 tháng 9. Hiện tại, các cuộc điều tra đang xem xét những dữ liệu nào đã bị truy cập và liệu các hệ thống chính phủ khác có bị ảnh hưởng hay không.

Các hacker chỉ cần tìm ra một điểm yếu để đột nhập vào hệ thống. Trong khi đó, các chuyên gia an ninh mạng của Ukraine phải tìm ra những điểm yếu đó trước tiên — và giờ đây họ đang nhận được sự trợ giúp từ một hệ thống trí tuệ nhân tạo được xây dựng để làm chính xác điều đó.

Ukraine là một trong những quốc gia bị nhắm mục tiêu nhiều nhất trong không gian mạng kể từ cuộc xâm lược toàn diện của Nga vào tháng 2 năm 2022, với các cuộc tấn công vào lưới điện, hệ thống cấp nước, mạng lưới chính phủ và các tổ chức tài chính.

Cuộc tấn công bắt đầu bằng một lỗ hổng trong thư viện xử lý hình ảnh cho phép thực thi mã từ xa, tiếp theo là việc trích xuất các mã thông báo xác thực cho phép di chuyển ngang.

Dịch vụ này nhắm mục tiêu vào các ứng dụng web, API và cơ sở hạ tầng đám mây — liên tục quét khi môi trường kỹ thuật số thay đổi thay vì quét theo các khoảng thời gian cố định.

SoftBank tiếp tục đặt cược vào OpenAI bằng cách huy động vốn thông qua trái phiếu lợi suất cao và các khoản vay nhiều tầng, nhưng các khoản lãi khổng lồ, sự biến động về định giá và việc trì hoãn niêm yết đang làm gia tăng áp lực tài chính.