今回は、前回に引き続き経済産業省の「AI原則の実践の在り方に関する検討会」から2022年1月に公開されている『AI原則実践のためのガバナンス・ガイドライン ver. 1.1』を、自分なりにゆっくり読み解いていきたいと思います。
これからAIの開発や運用を行う皆さんの参考になる情報をご提供できればと思います。
また、G検定でも時事的な法律や制度などの問題も出題されているということなので、受験される方の何かの参考になれれば幸いです。
【目次】
1.今回読んだ範囲の概要
今回は、「C. AI ガバナンス・ガイドライン」を読み解きました。
この章がこのガイドラインの本体となっており、「環境・リスク分析」、「ゴール設定」、「システムデザイン（AIマネジメントシステムの構築）」、「運用」、「評価」の５つの行程を実施したうえで、改めて分析を実施する「環境・リスクの再分析」の行程を加えた合計６つの行程で構成されています。
また、それぞれの行程で実践すべき行動目標と、行動目標達成に向けた実践例が記載されています。
ざっくり以下のような内容が記載されていました。
環境・リスク分析
ゴール設定
- 環境・リスク分析の結果を踏まえてＡＩガバナンスのゴールを設定すべき。設定しないのであれば、設定しない理由をステークホルダーに説明すべき。
ＡＩマネジメントシステムデザイン
- ＡＩシステムそれぞれについて、ゴールとの乖離を適時に特定し対策を実施するプロセスをマネジメントシステムに組み込むとともに、そのプロセスを実施できる人材を育成すべき。
- 自社・自部門で解決できない課題は、外部から支援を仰ぐとともに、インシデント発生時には利用者の負担を最小限にするべき。
運用
- AIマネジメントシステムの運用状況および個々のAIシステムの運用状況について記録し、積極的に開示するべき。開示しない場合は開示しない理由を説明すべき。
評価
- AIマネジメントシステムのが適切に機能しているかを検証するとともに、社外の関係者に意見を求めるべき。
環境・リスクの再分析
- 運用・評価後に改めて、環境・リスクの再分析を実施すべき。
では、各章をもう少し掘り下げて読み解いていきます。
2.「C. AI ガバナンス・ガイドライン」の冒頭部分を読み解く
冒頭部分には、このガイドラインは、杓子定規に行動目標を実践することが大切なのではなく、行動目標の意義を理解して活用することを期待すると記載されています。
そして、その取り組みは一過性のものではなく、AIシステム開発者・運用者のアジャイル・ガバナンスとして、繰り返し環境・リスクの再分析を実施すべきとされています。
3.「１. 環境・リスク分析 」を読み解く
この章は、AIシステムのガバナンスを考えるうえで、最初に実施する環境・リスク分析にあたり、以下の３つの視点で行動目標を記載しています。
（１）AIシステムがもたらしうる正負のインパクトを理解する
（２）AIシステムの開発や運用に関する社会的受容を理解する
（３）自社のAI習熟度を理解する
１点目の正負のインパクトについては、AIのプロジェクトの多くは「費用対効果があるか」といった正のインパクトに注目されがちです。
しかしながら、精度がどれだけ高くても１回の誤りで社会的に問題がある結果を出してしまうケースなど、負のインパクトにも注目しなくてはならない旨が行動目標として記載されています。
また、負のインパクトについても、経営層のリーダーシップに基づいて、経営層に報告・共有・理解の更新を実施すべきとなっています。
この点は、導入での正のインパクトが大きければ大きいほど見落とされがちな点なので、注意が必要だと思われます。
２点目の社会的受容については、直接的なステークホルダーだけでなく、社会全体として潜在的なステークホルダーの意見にも耳を傾けるべきとしています。
AIは新しい技術なので、まだ定義自体も人によって理解が異なっているので、常にステークホルダーの意見を確認しつつ、新しい視点を更新しながら進めていくことが行動目標となっています。
３点目の自社のAIの習熟度については、自社の従業員の人数や経験の程度、技術及び倫理に関するリテラシーの程度等に基づいて評価することが行動目標となっています。
また、１点目で評価した負のインパクトが軽微であると判断し、AI習熟度を評価しない場合は、その理由をステークホルダーに説明するべきとしています。
私の感想としては、負のインパクトが軽微であったとしても、自社のAI習熟度が十分でなかった場合、正のインパクトも享受できなくなる可能性があるので、いずれにせよ自社の習熟度は評価しておいたほうがよいと思いました。
4.「２. ゴール設定」を読み解く
続いてゴール設定についてです。
この章は、前章の分析の結果を踏まえて、AIガバナンス・ゴール（AIポリシー）を設定するかどうかを検討したうえで、ゴールを設定する、もしくは設定しないと判断する場合はステークホルダーに理由を含めて説明することを行動目標としています。
また、自社のAIガバナンス・ゴールに変えて、内閣府の『「AI戦略2019」の概要と取り組み状況』に記載されている「人間中心のAI社会原則」をゴールとしてもよいとされています。
5.「３. システムデザイン（AI マネジメントシステムの構築） 」を読み解く
この章は、以下の４つの視点で、ゴール達成のために必要な、AIマネジメントシステムを構築する旨が記載されています。
AIシステムのデザインではなく、AIマネジメントシステムのシステムデザインである点に留意が必要です。
（１）AIガバナンス・ゴールからの乖離の評価と乖離への対応を必須プロセスとする
（２）AIマネジメントシステムを担う人材のリテラシーを向上させる
（３）適切な情報共有等の事業者間・部門間の協力によりAIマネジメントを強化する
（４）インシデントの予防と早期対応により利用者のインシデント関連の負担を軽減する
１点目は、これから作ろうとしているＡＩシステムとＡＩガバナンス・ゴールとの乖離を特定するプロセスをＡＩマネジメントシステムの中に組み込むことを行動目標としています。
乖離を特定した結果、その乖離により負のインパクトが発生するようであれば、インパクトの大きさと発生頻度等を考慮して、負のインパクトを受容すべきか、対策が必要か、撤退すべきかなどを検討するプロセスを組み込むべきであると記載されています。
この辺りは、これまでのセキュリティ等のリスクマネジメントのやりかたと同様なので、わかりやすい内容でした。
２点目は、ＡＩマネジメントシステムを適切に運営するためには、外部の活用も検討して、役員も含めて技術的および倫理的リテラシー向上に必要な教育を実施することを行動目標としています。
３点目は、自社や自部門のみで解決できないことについては、関係する事業者間・部門間で積極的に情報を共有することを行動目標としています。
ただし、共有にあたっては、あらかじめ関係者で情報の開示範囲について合意して、秘密保持契約の締結等を検討するべきとしています。
４点目は、インシデントの予防と早期対応を通じて利用者のインシデント関連の負担を軽減することを行動目標としています。
もちろん、利用者の負担を無しにすることがBestであることは間違いないのですが、未来永劫負担を１００％発生させないことは不可能なため、どれだけ軽減できるかを検討することが現実的ということだと思います。
6.「４. 運用 」を読み解く
この章は、ＡＩマネジメントシステムの運用段階での行動目標について、以下の３点から記載されています。
（１）ＡＩマネジメントシステムの運用状況について説明可能な状態を確保する
（２）個々のＡＩシステムの運用状況について説明可能な状態を確保する
（３）ＡＩガバナンスの実践状況を非財務情報に位置付けて積極的な開示を検討する
１点目は、前章で定義したＡＩマネジメントシステムの実施状況について記録するなど、ＡＩマネジメントシステムの運用状況を対外的に説明可能な状態にすることを行動目標としています。
２点目は、個々のＡＩシステムの運用状況についても状況をモニタリングし、結果を記録することを行動目標としています。
また、ＡＩシステムを開発するのみの企業においても、運用する企業によるモニタリングを支援すべきとしています。
３点目は、上記の２点で記録された情報を、積極的な開示を検討することを行動目標としています。
また、開示しないと判断する場合は、開示しない理由を対外的に説明できるようにしておくべきとしています。
7.「５. 評価」を読み解く
この章は、以下の２つの視点から、AIマネジメントシステムの評価の行動目標を設定しています。
（１）ＡＩマネジメントシステムが適切に機能しているかを検証する
（２）社外ステークホルダーから意見を求めることを検討する
１点目は、AIマネジメントシステムの設計や運用を行った者から独立した者に、AIガバナンス・ゴールに照らしてAIマネジメントシステムが適切に設計され適切に運用されているか否か、AIマネジメントシステムが適切に機能しているか否かを検証することが行動目標とされています。
２点目は、社外のステークホルダーに意見を求める検討をすることを行動目標としています。
ステークホルダーには、株主や利用者だけでなく、ビジネスパートナーやＡＩの運用に詳しい有識者、ＮＧＯ、労働組合などの様々なステークホルダーから意見を求めるべきとしています。
それだけ、ＡＩシステムについては、いろいろな考え方を持っている人がいるので、留意が必要ということだと思われます。
8.「６. 環境・リスクの再分析 」を読み解く
この章は、ここまでの章で記載されている内容を実施したうえで、最初に実施した環境・リスクの分析を再度実施する行動目標が記載されています。
具体的には、「１．環境・リスクの分析」で実施した内容を再度実施して、再評価、理解の更新、新たな視点の獲得などを行うべきとしています。
また、「５．評価」で、社外に意見を求める際は、ＡＩマネジメントシステム自体やその運用だけでなく、ＡＩガバナンス全体について意見を得ることも検討すべきと記載されています。
9.おわりに
今回は、『AI原則実践のためのガバナンス・ガイドライン ver. 1.1』の本体である「C. AI ガバナンス・ガイドライン」を読み解いてきました。
これまで「システム管理基準」などに記載されたITガバナンスでは、ＩＴマネジメントシステムについて、ある程度社会の共通認識が持てていると感じられたのですが、ＡＩガバナンスやＡＩマネジメントシステムについては、まだまだ社会での共通認識が得られているものではないので、様々なステークホルダーから意見を求めながら進めるべきという点が示唆されていると感じました。
まさに、これからルールなどが作られてくる時期にいるのだと感じると同時に、その時期にいろいろな活動に携わることができているというワクワク感を感じることができました。
まだまだ、わからないところが多く、実践できていない点も多いと思いますが、これからもいろいろな標準等を読み解きながら、自身の活動に役立てていきたいと思います。
