Anthropic và OpenAI điều chỉnh các quy tắc bảo mật của họ trong bối cảnh cạnh tranh AI ngày càng gay gắt.

Anthropic đã loại bỏ một cam kết an toàn cốt lõi khỏi chính sách mở rộng quy mô có trách nhiệm của mình, không còn hứa sẽ tạm dừng huấn luyện cho đến khi các biện pháp giảm thiểu rủi ro được thực hiện đầy đủ. Giám đốc Khoa học của Anthropic, Jared Kaplan, nói với TIME rằng trong bối cảnh phát triển nhanh chóng của AI, việc đơn phương cam kết tạm dừng huấn luyện là vô nghĩa nếu các đối thủ cạnh tranh tiếp tục tiến lên. OpenAI cũng đã sửa đổi tuyên ngôn sứ mệnh của mình, loại bỏ từ "an toàn" khỏi tài liệu IRS năm 2024. Trước đây được nêu là xây dựng AI tổng quát "mang lại lợi ích an toàn cho nhân loại", giờ đây nó nêu rõ "đảm bảo rằng AI tổng quát mang lại lợi ích cho toàn nhân loại". Edward Geist, một nhà nghiên cứu chính sách cấp cao tại RAND Corporation, cho biết rằng AI tiên tiến được hình dung bởi những người ủng hộ an toàn AI thời kỳ đầu khác biệt về cơ bản so với các mô hình ngôn ngữ lớn hiện tại, và sự thay đổi thuật ngữ này phản ánh mong muốn của các công ty nhằm báo hiệu cho các nhà đầu tư và các nhà hoạch định chính sách rằng họ sẽ không lùi bước trong cạnh tranh kinh tế do lo ngại về an ninh. Anthropic gần đây đã hoàn thành vòng gọi vốn trị giá 30 tỷ đô la, định giá công ty ở mức khoảng 380 tỷ đô la; OpenAI hiện đang theo đuổi vòng gọi vốn lên tới 100 tỷ đô la, được hỗ trợ bởi Amazon, Microsoft và Nvidia. Trong khi đó, việc Anthropic từ chối cấp cho Lầu Năm Góc quyền truy cập đầy đủ vào Claude đã tạo ra một rạn nứt công khai với Bộ trưởng Quốc phòng Pete Hegseth, gây ra sự không chắc chắn về các hợp đồng quốc phòng của công ty này. (Decrypt)