OpenAIの解散したセキュリティチームに関するさらなる内部情報が明らかに。

先週火曜日（米国東部時間5月14日）、OpenAIのチーフ・サイエンティストであるイリヤ・スーツケバーが正式に退社を発表した。同日、OpenAIのSuperAlignmentチームのリーダーの一人であるJan Leikeも退社を発表した。 金曜日、OpenAIは、SutskeverとJan Leikeが共同で率いていたSuperAlignmentチームの解散も確認し、5月18日未明、Jan LeikeはソーシャルメディアプラットフォームXに13のツイートを投稿し、退社の本当の理由などを明らかにした。 ジェーン・レイクの暴露を受け、5月18日、オルトマンも緊急回答を寄せた。「ジェーン・レイクには、OpenAIのAI超整列研究とセキュリティ文化への貢献に対して大変感謝しており、彼が退社することを大変残念に思っている。彼は、私たちにはやるべきことがたくさんあると指摘しましたが、私たちもそれに同意し、前進させることを約束します。このことについては、数日中にもっと詳しい記事を書くつもりだ。" テスラのイーロン・マスクCEOは、SuperAlignmentチームが解散したというニュースについて、「これは、セキュリティがOpenAIの最優先事項ではないことを示している」とコメントした。 一言で言えば、コンピューティングパワーが足りず、OpenAIはセキュリティを十分に真剣に考えていないということだ」。ジェーン・レイクは、次世代のAIモデルの準備にはより多くのリソースとエネルギーを投入すべきだが、現在の開発路線ではうまく目標に到達できないと述べた。彼のチームはここ数カ月大きな困難に直面しており、時には十分なコンピューティング・リソースの確保に苦労している。 ジェーン・レイクはまた、人間の知能を超えるマシンを作ることはリスクを伴い、オープンAIはこの責任を担っているが、製品開発を追求するあまり、セキュリティの文化やプロセスが疎外されていると強調した。 米国のウェブサイトVox 17によると、オープンエイの取締役会は昨年11月にアルトマンCEOを解任しようとしたが、アルトマンはすぐに権力を取り戻した。それ以来、同社で最もセキュリティ意識の高い従業員のうち、少なくとも5人が退職または解雇されている。米『ウォール・ストリート・ジャーナル』紙によると、サツキェヴィッチはAIが人間に危害を加えないようにすることに注意を払ったが、アルトマンを含む他の社員は新技術を推進することに熱心だったという。ワイアード誌によると、サツキェヴィッチは昨年11月にアルトマンを解雇した4人の取締役のうちの1人だった。 同社の情報筋がVox.comに語ったところによると、セキュリティ意識の高い従業員はアルトマンへの信頼を失い、"ドミノ倒しのように少しずつ信頼が崩れていく過程だった "という。彼らは、Altmanはセキュリティを優先すると主張しているが、その行動は矛盾していると主張している。 米テクノロジーブログサイト『TechCrunch』は18日、OpenAIはGPT-4oのような新製品を優先してセキュリティ研究を放棄し、最終的に「スーパーアライメント」チームの責任者2人の辞任につながったと伝えた。技術産業が、人間ができることは何でもできるAIを作るために必要なブレークスルーをいつ起こすのか、あるいは起こすのか、不明である。(グローブ・アンド・メール紙）