OpenAI ra mắt Bộ phận Chuẩn bị để Đánh giá Rủi ro Thảm họa liên quan đến AI

Theo Cointelegraph, OpenAI, công ty nghiên cứu và triển khai trí tuệ nhân tạo (AI) đằng sau ChatGPT, đã tuyên bố thành lập một nhóm mới chuyên theo dõi, đánh giá, dự báo và bảo vệ trước những rủi ro thảm khốc tiềm ẩn bắt nguồn từ AI. Bộ phận mới, được gọi là 'Chuẩn bị', sẽ tập trung vào các mối đe dọa AI liên quan đến các mối đe dọa hóa học, sinh học, phóng xạ và hạt nhân, thuyết phục cá nhân, an ninh mạng cũng như nhân rộng và thích ứng tự động. Được dẫn dắt bởi Aleksander Madry, nhóm Chuẩn bị sẽ cố gắng trả lời các câu hỏi chẳng hạn như mức độ nguy hiểm của các hệ thống AI biên giới khi bị lạm dụng và liệu các tác nhân độc hại có thể triển khai các trọng lượng mô hình AI bị đánh cắp hay không. OpenAI thừa nhận rằng mặc dù các mô hình AI tiên tiến có tiềm năng mang lại lợi ích cho nhân loại nhưng chúng cũng gây ra những rủi ro ngày càng nghiêm trọng. Công ty cam kết giải quyết toàn bộ các rủi ro an toàn liên quan đến AI, từ các hệ thống hiện tại cho đến tầm xa nhất của siêu trí tuệ. OpenAI hiện đang tìm kiếm nhân tài có nền tảng kỹ thuật khác nhau cho nhóm Chuẩn bị mới của mình và đang phát động Thử thách Chuẩn bị AI cho việc sử dụng sai mục đích thảm khốc phòng ngừa, cung cấp 25.000 đô la tín dụng API cho 10 bài gửi hàng đầu. Những rủi ro liên quan đến trí tuệ nhân tạo thường xuyên được nhấn mạnh, với mối lo ngại rằng AI có thể trở nên thông minh hơn bất kỳ con người nào. Bất chấp những rủi ro này, các công ty như OpenAI vẫn tiếp tục phát triển các công nghệ AI mới, làm dấy lên nhiều lo ngại hơn. Vào tháng 5 năm 2023, tổ chức phi lợi nhuận Trung tâm An toàn AI đã công bố một bức thư ngỏ về rủi ro AI, kêu gọi cộng đồng giảm thiểu rủi ro tuyệt chủng khỏi AI như một ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác, chẳng hạn như đại dịch và chiến tranh hạt nhân.