OpenAIがセキュリティガイドラインを発表：取締役会はCEOの新モデル発表を止める権限を持つ

公式ニュースによると、OpenAIは「Preparedness Framework」と呼ばれるセキュリティガイドラインを公式サイトで公開した。このガイドラインには、「ますます強力になるモデルによってもたらされる大惨事のリスクを追跡、評価、予測、防止するためのプロセス」が明記されている。". OpenAIは、最先端のAIリスクに関する研究は、必要なものには程遠いと説明している。このギャップに対処し、安全思考を体系化するために、OpenAIはレディネス・フレームワークのベータ版を採用している。 プレスリリースの中でOpenAIは、Preparedness Teamが最先端のAIモデルの安全性確保に取り組むと発表した。"準備チームは、AIシステムを継続的に評価し、サイバーセキュリティの潜在的問題、化学的脅威、核の脅威、生物学的脅威を含む4つの異なるリスクカテゴリーでどのように機能するかを理解し、テクノロジーが引き起こす可能性のある危害を軽減するよう取り組む。 具体的には、OpenAIはいわゆる "壊滅的な "リスクを監視している。"壊滅的な "リスクとは、ガイドラインで定義されているもので、"数千億ドルの経済的損失をもたらすか、多くの人々に深刻な傷害を負わせるか、あるいは死に至る可能性のあるあらゆるリスク "である。 安全ガイドラインによれば、リーダーシップはこれらの報告に基づいて新しいAIモデルをリリースするかどうかを決定できるが、取締役会はその決定を覆す権限を持っていることは注目に値する。