OpenAI, 보안 가이드라인 발표: 이사회가 CEO의 신규 모델 출시를 차단할 수 있는 권한 보유

공식 뉴스에 따르면 OpenAI는 공식 웹 사이트에 "준비 프레임워크"라는 보안 지침을 발표했으며, 이는 "점점 더 강력해지는 모델로 인한 치명적인 위험을 추적, 평가, 예측 및 예방하는 프로세스"를 명시하고 있습니다. ". OpenAI는 최첨단 AI 위험에 대한 연구가 필요한 수준에 훨씬 못 미친다고 설명합니다. 이러한 격차를 해소하고 안전 사고를 체계화하기 위해 OpenAI는 준비성 프레임워크의 베타 버전을 채택하고 있습니다. OpenAI는 보도자료를 통해 준비성 팀이 최첨단 AI 모델의 안전을 보장하기 위해 노력할 것이라고 발표했습니다. "준비팀은 잠재적인 사이버 보안 문제, 화학적 위협, 핵 위협, 생물학적 위협 등 네 가지 위험 범주에서 AI 시스템이 어떻게 작동하는지 파악하기 위해 지속적으로 평가하고, 기술이 초래할 수 있는 피해를 완화하기 위해 노력할 것입니다. 특히 OpenAI는 가이드라인에서 "수천억 달러의 경제적 손실을 초래하거나 많은 사람에게 심각한 부상 또는 사망을 초래할 수 있는 모든 위험"으로 정의된 소위 "재앙적" 위험을 모니터링하고 있습니다. 안전 가이드라인에 따르면 경영진은 이러한 보고서를 바탕으로 새로운 AI 모델을 출시할지 여부를 결정할 수 있지만, 이사회는 이 결정을 무효화할 수 있는 권한이 있다는 점에 주목할 필요가 있습니다.