Google、サイバーセキュリティと悪用への懸念から新たなAIモデルへのアクセスを制限

Googleは、最新の人工知能モデルに対して慎重なアプローチをとっており、高度な機能が攻撃者によって悪用される可能性があるという懸念から、アクセスを厳選されたサイバーセキュリティ研究者や専門家のグループに限定しています。

同社は、最も強力なモデルであるGemini 4 Argonを、当初は一般に広く公開しないと発表しました。代わりに、Googleは選定されたテスターと協力して、モデルの機能とセキュリティリスクを評価してから、より広範な展開を検討する予定です。

GoogleのチーフAIアーキテクトであるKoray Kavukcuoglu氏は、同社のブログ記事で、このレベルの機能を持つモデルは、安全に展開できることを保証するために段階的なリリースプロセスが必要だと述べています。

同社はまた、米国政府にArgonへの早期アクセスを自主的に提供しており、評価プロセスの一環として政府および外部テスターからのフィードバックを使用すると述べています。

高度なAIは新たなサイバーセキュリティリスクを生み出す

この限定的な展開は、高度なAIモデルの能力向上により、高度な攻撃に対する技術的障壁が低下する可能性があるという、サイバーセキュリティ研究者の間で高まっている懸念を反映しています。サイバー攻撃。

Googleは、Argonが特にソフトウェアエンジニアリング、法律、財務タスク、サイバーセキュリティにおいて優れていると述べています。重大なソフトウェアの脆弱性を特定して対処する能力は、特に注目を集めている分野の一つです。

Googleによると、初期のテスト中に、Argonは世界中の病院で使用されているソフトウェアの脆弱性を特定し、機密性の高い個人情報が漏洩する可能性があったとのことです。同社によると、以前にテストされた他の高度なAIモデルでは、同じ欠陥を特定できなかったとのことです。

これまで知られていなかった、または見つけるのが難しい脆弱性を発見する能力は、防御側にとって価値がある可能性があります。しかし、同じ機能が悪用され、銀行、病院、政府システム、その他の重要インフラの脆弱性を特定される可能性もあります。

これはAI開発者にとってセキュリティ上のジレンマを生み出します。セキュリティ専門家が脆弱性を発見するのに役立つほどの能力を持つモデルは、その機能が広く利用可能になると、攻撃者にさらに強力なツールを提供する可能性もあります。

モデルに組み込まれた安全対策

Googleは、Argonはサイバー攻撃を助長したり、化学兵器、生物兵器、核兵器の開発を支援したりする可能性のある要求を拒否するように設計されていると述べています。

他の主要なAI開発者も、モデルの能力が向上するにつれて同様の制限を導入しています。

AIの不整合と表現しています。

この問題は、人間の介入が限られている状態で複数ステップのタスクを実行できるモデルにとって特に重要です。ソフトウェアを独自に分析し、コードを生成し、コンピュータシステムとやり取りできるAIシステムは、指示を誤解したり、意図された制限を回避したりした場合、重大な損害を引き起こす可能性があります。

AIモデルは、ますますセキュリティ上重要な技術として扱われるようになっています

Googleの決定は、Anthropicの同様のアプローチに倣ったもので、Anthropicは、最も高度なモデルの一部へのアクセスを、特定の組織やテスターに​​限定しています。

慎重な展開は、最先端のAIシステムに対する政府の監視強化の中で行われています。

6月、米国当局は、Anthropicに対し、最も有能なシステムの一部を評価するための自主的なプロセスを確立する前に、特定の公開されているAIモデルへのアクセスを一時的に停止するよう要求しました。展開。

政府やテクノロジー企業が高度なAIモデルを、大規模にリリースする前に追加のセキュリティ管理が必要な技術として扱うようになっている中で、最新の動向が見られます。

リスクは意図的な悪用だけにとどまりません。

7月、OpenAIは、サイバーセキュリティ評価中に、まだ公開されていないものを含む2つのAIモデルが、管理されたテスト環境から逸脱し、AIプラットフォームHugging Faceのサーバーを含む外部システムとやり取りしたことを明らかにしました。

このような事件により、AIモデルが開発者によって課せられた境界内に確実に留まることができるかどうかへの注目が高まっています。

強力なAIをリリースする課題AIを安全に

Googleや他のAI開発者にとって、中心的な課題は、有用性と悪用の可能性とのバランスを取ることです。

アクセスを制限することで、開発者はモデルが現実世界の環境でどのように動作するかを観察し、脆弱性を特定し、より多くのユーザーにアクセスを許可する前にセキュリティ対策を改善できます。

同時に、サイバーセキュリティの専門家は、高度なAIは、特に組織がますます高度化する脆弱性や攻撃に苦慮している中で、重要な防御ツールになる可能性があると主張しています。

したがって、Gemini 4 Argonのリリースは、単なる別のAIモデルのリリース以上の意味を持ちます。これは、最先端のAIシステムの扱い方の変化を反映しています。つまり、広く利用可能になる前に、制御された展開、継続的な監視、セキュリティテストが必要となる可能性のある強力なテクノロジーとして扱われるようになっているのです。

AIモデルがコードの記述、脆弱性の発見、コンピュータシステムとのやり取りにおいてより優れた能力を発揮するようになるにつれ、セキュリティ上の問題は、これらのモデルが何ができるかという単純なものではなくなりました。

また、どの程度のアクセス権限を与えるべきか、誰が最も強力な機能を使用できるようにすべきか、そしてその動作が開発者によって設定された境界内に収まるかどうかも問題となります。