欧州連合（EU）は、人工知能（AI）の使用を管轄区域内で管理する包括的な法的枠組みを確立する「AI法」において画期的な成果を収めた。この極めて重要な合意は、さまざまな分野にわたるAIの展開を規制することを目的とし、さまざまなカテゴリのAIシステムに対して特徴的なガイドラインを定めている。

段階的リスク管理システム

EUのAI法は、AIシステムを基本的権利への潜在的影響に基づいて分類する段階的リスク管理システムを導入している。同法では、自動推薦システムやスパムフィルターなどの機能を対象に、ほとんどのAIシステムを「最小限のリスク」に分類している。AI行動規範への参加は、そのようなサービスを提供するプロバイダーにとって、依然として任意である。

一方、「高リスク」のレッテルを貼られたAIシステムは、インフラ、教育評価、法執行、生体認証などの重要な領域を包含している。より厳しい規制により、詳細な文書化、より質の高いデータセット、人間による監視、リスク軽減メカニズムが義務付けられている。

容認できないリスクと制限

基本的人権を脅かすAIは、「容認できないリスク」に該当し、厳しく禁止される。例えば、予測的な取り締まり、職場の感情認識システム、自由意志を損なったり、政治的指向、人種、性的指向などの要因に基づいて差別したりするあらゆる形態の行動操作などである。

厳しい要件とコンプライアンス

同法は、チャットボットと会話する際の透明性とともに、ディープフェイクやAIが生成したコンテンツのラベリングを要求している。さらに、大規模な計算資源を必要とする基盤的なAIモデルは、12ヶ月後に規制強化に直面することになる。

AI開発者は、同法の成立から6ヶ月以内に、「容認できないリスク」に該当する機能を速やかに削除しなければならない。また、同じ期間内に「高リスク」AIの規制を遵守することも義務付けられている。

企業への影響

同法への違反は多額の罰金につながり、AIの専門家や企業の間で懸念が高まっている。制裁金は全世界の売上高の1.5%から7%に及び、大きな財務リスクをもたらす。AI法の専門家であるバリー・スキャネルは、バイオメトリクスや感情認識技術に進出する企業が直面しうる戦略的転換と経営上の課題に焦点を当てている。

懸念と批判の声

欧州議会のスヴェーニャ・ハーン議員は、同法が過剰規制を防ぐものであると評価する一方、イノベーションと市民権への影響について懸念を表明した。コンピュータ通信工業会（CCIA）を含む業界大手と議員の両方からの批判は、欧州におけるAI企業の技術革新と業務上の制限に対する潜在的な制約に対する懸念を浮き彫りにしている。

結論と今後のプロセス

この合意は重要なマイルストーンとなるが、欧州議会と理事会による正式な承認が待たれる。官報に掲載されれば、同法は20日後に発効する。このような進展にもかかわらず、EUはさまざまなグローバルプラットフォームを通じてAI規制に国際的に関与することを約束し続けており、同法の意味合いについて議論が続いている。

一部の専門家は、規制とイノベーションの間でよりバランスの取れたアプローチの必要性を表明する一方、産業界の声は、同法が欧州におけるAI開発と人材確保にもたらす可能性のある潜在的な課題を強調している。