米商務省、AIのリスク管理のためのガイダンス発表

米国商務省の国立標準技術研究所（NIST）は1月26日、人工知能（AI）技術のリスク管理のためのガイダンス「人工知能リスク管理フレームワーク（AI RMF）」を発表した。AI RMFは、AIシステムを設計、開発、導入、使用する者が自主的に参照できる内容となっている。NISTは、2021会計年度国防授権法の一部として成立した「2020年国家人工知能イニシアチブ法」に基づいて、信頼性のあるAIシステムのためのリスク管理フレームワークを策定するため、2021年7月以降、関係者からの意見聴取などを進めていた。

AI RMFは、AI技術の効用を最大化しつつ、AIが個人や社会にもたらす悪影響を減らすためのリスク管理の手順をまとめている。NISTはAI RMFの中で、AIシステムは時間の経過とともに変化するデータに基づいて構築されるため、時に予想しないかたちでシステムの機能や信頼性が影響を受けると指摘。また、AIシステムは潜在的に社会の変動と人間の行動によって影響を受けると言及し、こうした技術的および社会的要因により生まれるAI独特のリスクを適切に管理しなければ、望まない結果を増大させることになり得ると記した。

AI RMFは2部構成になっており、第1部では、AIに関わるリスクの考え方と信頼できるAIシステムの特徴を概説している。第2部は、フレームワークの中心となる部分で、AIシステムのリスクに対処するための実務を説明している。具体的には、取るべき対応策を「統治（組織におけるリスク管理文化の醸成など）」「マッピング（リスクの特定）」「測定（リスクの分析・評価など）」「管理（リスクの優先順位付けやリスクへの対応）」の4つの機能に分けて解説している。NISTは、AIシステムのライフサイクルの各段階を通じて、継続的にリスク管理を行うべきと提言した。

NISTのローリー・E・ロカシオ所長はニュースリリースで、AI RMFは「あらゆる部門、あらゆる規模の企業や団体にとって、AIのリスク管理を活性化させ、強化するのに役立つ」と述べ、同フレームワークは信頼でき責任あるAIの運用手法を提供すると強調した。NISTはAI RMFを活用するための補助的資料も公開し、2月27日まで関係者からの意見を募集している。同資料は聴取した意見を踏まえ、今後、定期的に更新される予定だ。

AIの開発などに関わる方針としては、ホワイトハウスの科学技術政策局（OSTP）が2022年10月、AIを用いた自動化システムを設計、使用、配備する際に考慮すべき原則を示した「AI権利章典のための青写真」を発表している（2022年10月5日記事参照）。OSTPのアロンドラ・ネルソン副局長はAI RMFの発表イベントで、策定に当たってOSTPが知見を共有したと明らかにし、青写真とAI RMFは補完的関係にあると説いた。

（甲斐野裕之）