AIセーフティサミット閉幕、安全性確保に向け官民がコミット

英国で11月1日から開催されていたAIセーフティサミット（注、関連ブラック ジャック トランプ）が2日に閉幕した。同日にはリシ・スナク英首相が演説。人工知能（AI）関連企業や各国の政府関係者など、さまざまな主体が参加したサミットの成果として、AIをコントロールして長期的な利益を確保するという能力と政治的な意思を示したと評価した。また、スナク首相はサミット内で米国テスラの最高経営責任者（CEO）のイーロン・マスク氏と対談。マスク氏はAIの安全性に関し、AIが悪い方向に働く可能性もあることから、「審判」が必要で、政府がその役割を担うのが適切とした。首相から中国の参加に関する考えを問われると、同氏は中国の招待と参加に関して感謝していると述べた。

同日にはサミット全体の総括も発表。事前に発表されていた5つの目標（関連ブラック ジャック トランプ）に対する議論の内容などが盛り込まれた。概要は次のとおり。

• フロンティアAIの安全性に関する国際協力のための前進プロセスを提示：誤用、コントロールの喪失、AIの能力の飛躍に伴う潜在的な悪影響が特に切迫した課題と認識。今後発表される予定の「フロンティアAI科学の最新状況報告書」を通じて科学に基づいた共通理解を促進。
• モデル能力の評価や、ガバナンス支援に向けた新たな標準の開発など、AIの安全性に関する研究での潜在的な協力分野を特定：安全検査に関する成果声明で示した計画に合意。参加国は各国の状況に応じて、国家主導の評価や安全性に関する研究を進めることを約束する一方、開発企業は次に実施する開発プロジェクトで適切な独立評価と検査を経ることに合意。英国はAIセーフティ機関を設置し、公的部門のAI安全性評価能力を構築するとした。
• AIの安全な開発を確保することで、AIの世界的な利活用方法を紹介：AIの設計、開発、実用化、利用が包摂的な手法で行われる必要性に合意。

また、さらなる活動が必要な項目として、フロンティアAIに関する共通理解の構築に向けた即時の活動、リスクに対する包摂的なアプローチ、現時点でのリスクへの対応、適切な標準化と相互運用性、技術や人材を含む広範なエコシステムの発展が挙げられた。相互運用性については、多くの参加者が、各国の状況や適切な法的枠組みに基づいて対象を絞った手法が必要であることを踏まえ、国内での取り組みの完全な統一までは求めないことを支持したとされている。

（注）関連文書は英国政府ウェブサイト参照。

（山田恭之）