OpenAIの安全性重視が危機に？AI安全性リーダーの配置転換は警告のサインか？

注目の再編成

OpenAIは最近、AIの安全性を担当するアレクサンダー・マドリーを、AIの推論を担当する職務に配置転換した。

2024年7月24日、オープンエイのサム・アルトマン最高経営責任者（CEO）は、X（旧ツイッター）で、マドリーが準備チームを監督する役割から、AIの推論に焦点を当てた新しいポジションに配置転換されたことを公に明らかにした。

アルトマンはマドリーの新しいプロジェクトについて、それ以上詳しく説明することなく、「非常に重要なものだ」と述べた。

アルトマンのツイートによると、マドリーは今後、重要な新しい研究プロジェクトに取り組むとのことだが、その具体的な内容は明らかにされていない。

暫定的に、OpenAIの幹部であるホアキン・キノネロ・カンデラとリリアン・ウェンが準備チームの責任を引き継ぐ。

この役割のシフトは、AI開発における新たな課題に適応し続けるOpenAIの安全事業における戦略的再編成を浮き彫りにしている。

アレクサンダー・マドリーの退団と新役割 - 彼は何者か？

2023年5月に入社したアレクサンダー・マドリーは、AIの安全性において著名な人物であり、以前はOpenAI'のPreparednessチームを率いていた。

彼のチームは、AIモデルがもたらす大惨事のリスクを特定し、評価し、軽減することを任務としていた。

マドリーの専門知識は広く尊敬を集めていたが、彼の退社は同社の安全に対する取り組みに懸念を抱かせた。

アルトマンはマドリーの新しい研究プロジェクトの重要性を強調したが、彼を安全上の重要な役割から外すという決定は議論を呼んだ。

なお、マドリーはMITに所属しており、Center for Deployable Machine LearningとAI Policy Forumの役職に就いている。

2011年にマサチューセッツ工科大学で博士号を取得し、マイクロソフト・リサーチ・ニューイングランドとEPFLで職を歴任。

MIT Center for Deployable Machine Learningのディレクターを務め、CSAIL-MSR Trustworthy and Robust AI Collaborationを率いる。

研究テーマはアルゴリズム的なグラフ理論、最適化、機械学習で、実世界での応用に向けた信頼性の高い意思決定ツールの開発を目指している。

炎上するOpenAI

マドリーの配置転換は、OpenAIに対する監視と批判の波が高まるなかでの決定だった。

この発表の1週間も前に、民主党の上院議員グループがサム・アルトマンCEOに書簡を送り、安全に対する同社のアプローチに懸念を表明し、2024年8月13日までに具体的な質問に回答するよう要求した。

上院議員の書簡は、AI企業が公共の安全へのコミットメントを示すことへの圧力の高まりを強調している。

OpenAI'の安全対策は、数カ月前から厳しいスポットライトを浴びている。

6月、OpenAIの現従業員と元従業員のグループが公開書簡を発表し、適切な監督なしにAIが急速に進歩することへの懸念を概説した。

書簡では、業界の透明性と説明責任を高める必要性が強調された。

さらに、米連邦取引委員会（FTC）と司法省（DOJ）は、OpenAI、マイクロソフト、エヌビディアのAI活動に関連する独占禁止法違反の可能性について調査していると報じられている。

この調査は、AI業界が直面している規制当局の監視の厳しさを浮き彫りにしている。

マドリーの配置転換は、OpenAIが別の課題にも取り組んでいる時期に行われた。

OpenAIの安全部門と最近の変化

OpenAIの信頼と安全部門は最近、大きな変化を遂げた。

2023年7月、OpenAIの信頼・安全部門の責任者であったデイブ・ウィルナーが去った後、同社はそれまでの安全チームを解散し、3つの異なるユニットに再編した：

• 安全システムチーム
• スーパーアライメント・チーム
• 準備チーム

セーフティ・システム・チームはAIモデルの安全な配備と不正使用の削減に焦点を当て、スーパーアラインメント・チームは将来のAIの安全性に取り組み、マドリーが以前率いていたプリペアドネス・チームは最先端のAIモデルに関連する新たなリスクを評価し、大惨事のリスクを軽減する。

5月初め、同社は長期的なAIリスクチームを解散させたが、この決定は社内外から批判を巻き起こした。

このチームは、同社の共同設立者であるイリヤ・スーツケバーと、長期的なAIリスクチームを率いていたヤン・ライクが、同社の優先順位に関する意見の相違を理由にOpenAIを去った後に解散した。

1ヵ月後、イリヤ・スーツケバーが新しいスタートアップ、セーフ・スーパーインテリジェンス社（SSI）を発表した。

マイクロソフトの役割低下

OpenAIの社内の変化に加え、マイクロソフトなど主要なステークホルダーとの関係も進化している。

今月初め、マイクロソフトはOpenAIの取締役会のオブザーバー席を放棄した。

しかし、この動きは、OpenAIが監視の目を強め、課題に直面していることを意味する。

安全志向の弱まり？

マドリーの配置転換と安全部門におけるより広範なリストラは、OpenAIの優先順位の潜在的な変化についての憶測を煽った。

批評家たちは、この動きは、製品開発や市場競争といった他の目的を優先し、安全へのコミットメントを弱めていることを示しているのではないかと主張している。

しかし、OpenAIは、マドリーが新たな役割においても、AIの安全性に関する中核的な業務に貢献し続けるとしている。同社はまた、安全性の重要性と潜在的なリスクに対処するための継続的な取り組みを強調している。

AI産業が加速し続けるなか、安全性への賭けはかつてないほど高まっている。OpenAIのような企業が下す決断は、社会に甚大な影響を及ぼすだろう。

今後数カ月は、OpenAIがイノベーションと責任のバランスを効果的に取れるかどうかを判断する上で極めて重要な時期となる。