今回から、12月21日に開催された第７回AI戦略会議で総務省、経済産業省の連名で報告された『AI事業者ガイドライン案』を数回に分けて、自分なりにゆっくり読み解いていきたいと思います。
２回目の今回は、AI事業者となる各主体が共通的に取り組むべき内容が記載された「第２部 AIにより目指すべき社会と各主体が取り組む事項」を読み解きました。
AIの開発や運用、サービス提供を行う皆さんの参考になる情報をご提供できればと思います。
これまでに、読み解いた章については、以下に公開しておりますので、併せてご参照ください。
また、G検定でも時事的な法律や制度などの問題も出題されているということなので、受験される方の何かの参考になれれば幸いです。
【目次】
1.ガイドライン全体の構成
『AI事業者ガイドライン案』は、別添（付属資料）付録も含めて、大きく５つに分かれています。ガイドラインの用語の定義を中心とした「第１部」、AIの社会的な利用に関する基本理念と指針をまとめAIの利益と社会的リスクへのガバナンス構築の必要性をすべての事業者向けに記載した「第２部」、AIを活用するAI開発者、AI提供者、AI利用者の３主体の留意事項を記載した「第３部」、「第４部」、「第５部」で構成されています。
また、各主体は自身の記載箇所だけでなく、隣接主体に関する事項にも理解を広げることが重要だとされています。
出所：AI事業者ガイドライン案
ページ６
2.今回読んだ範囲の概要
今回は、AI事業者となる各主体が共通的に取り組むべき内容が記載された「第２部 AIにより目指すべき社会と各主体が取り組む事項」を読み解きました。
AIにより目指す社会としての基本理念や、各主体が取り組む原則、共通の指針が示された上で、AIガバナンスの構築や、高度なAIシステムに関係する事業者に向けた共通の指針について記載されています。
3.「A. 基本理念」を読み解く
AIにより目指す社会の基本理念として2019年3月に策定された「人間中心のAI社会原則」を引用して、次の3つの価値を尊重し、その実現を追求する社会を構築していくべきしています。
-
人間の尊厳を尊重する社会：AIを道具として活用し、人間の能力を引き出して豊かな生活を実現する。
-
多様性と包摂を尊重する社会：異なる背景や価値観を尊重し、全ての人々が幸せを追求できる社会を目指す。
-
持続可能な社会：AIを活用して社会の格差を解消し、地球規模の環境問題等にも対応可能な持続性のある社会を構築する方向に展開させる。
これらの原則は、技術の進歩によらず、未来に向けて目指すべき理念であり、AIにおいても尊重すべきと記載されています。
出所：AI事業者ガイドライン案
ページ11
4.「B.原則」を読み解く
「基本理念」を実現するために、各主体が次の原則に基づいて行動し、社会と連携することが重要と記載されています。
【各主体が取り組む事項】
各主体は、人間中心の考え方に基づき、AIの開発・利用を進める際に、安全性や公平性を確保し、個人情報の保護やセキュリティ対策を行うことが求められます。また、透明性を高め、ステークホルダーに適切な情報を提供することで、責任を果たす必要があります。また、AIの品質向上のために、主体間で連携し、バリューチェーン全体で取り組むことも重要です。
【社会と連携した取り組みが期待される事項】
社会との連携により、AIの恩恵が全ての人々に行き渡るような環境を整える必要があります。教育やリテラシーの向上を促進し、公正な競争やイノベーションの推進に貢献することが期待されます。
5.「C.共通の指針」を読み解く
各主体にまたがる共通の指針については、１）人間中心、２）安全性、３）公平性、４）プライバシー保護、５）セキュリティ確保、６）透明性、７）アカウンタビリティ、８）教育・リテラシー、９）構成競争確保、１０）イノベーションの１０個の観点から記載されています。
１）人間中心
人間中心を達成するための指針として、各主体に対して以下の事項に留意する必要があると記載されています。
① 人権と個人の自律：AIの利用は人間の尊厳と個人の自律を尊重し、特に個人の権利に影響を与える場合には慎重に対応する。
② 意思決定への影響：人間の意思決定や感情を不当に操作する目的のAIは避け、バイアスやフィルターバブルによる影響を最小限に抑える。
③ 偽情報への対策：AIによって作成される偽情報や誤情報に対しては適切な対策を講じ、社会を不安定化させるリスクを最小限にする。
④ 多様性と包摂性：AIの恩恵が全ての人々に行き渡るよう、情報や技術の利用を容易にし、社会的弱者の利用をサポートする。
⑤ 利用者支援：AIシステムの機能や技術に関する情報を提供し、利用者が理解しやすく、選択肢を適切に利用できるようサポートする。
⑥ 持続可能性：AIの開発・利用において、ライフサイクル全体で、地球環境への影響も考慮し、持続可能な社会への貢献を目指す。
これらの観点を踏まえた上で、各主体はAIのパフォーマンスを最大限に高め、人々の幸福と豊かさを追求することが期待されています。
２）安全性
安全性の指針として、各主体は、AIの開発・提供・利用において、以下の事項に留意する必要があると記載されています。
① 人間の安全と環境への配慮：AIシステムが正確に動作し、信頼性が高いことや、人々や環境に危害を与えないような対策を講じる。リスク分析や適切な対策を実施し、安全性を確保する。
② 適正な利用：AIの提供・利用は本来の目的から逸脱せず、主体のコントロール下で行われるようにする。適切な利用規則を整備・明記し、危害を避ける。
③ 適正な学習：AIの特性や用途に合わせて、正確かつ最新のデータを使用し、透明性や法的な規定を遵守する。データの正確性や透明性を確保し、適切な学習が行われるようにする。
３）公平性
公平性の指針として、各主体は、AIの開発・提供・利用において、人種、性別、国籍、年齢、政治的信念、宗教などの背景に基づく偏見や差別を最小限に抑え、潜在的なバイアスを最小化し、許容できるかどうかを評価することも重要であると記載されています。
① バイアスへの配慮：AIの構成要素に含まれるバイアスを特定し、公平性の問題になり得る要因を検討する。また、特定のAIシステムやサービスが潜在的なバイアスを持つ可能性も考慮する。
② 人間の判断の介入：AIの出力結果が公平であることを確保するため、人間の判断を介入させることを検討する。無意識のバイアスや潜在的なバイアスに留意し、多様なステークホルダーとの対話を通じて方針を決定する。
４）プライバシー保護
プライバシー保護の指針として、各主体は、AIの開発・提供・利用において、関連法令を遵守しつつ、以下の点に留意するよう記載されています。
① プライバシーの保護：個人情報保護法などの関連法令を遵守し、各主体のプライバシーポリシーを策定・公表する。社会的文脈や人々の合理的な期待を考慮し、関係者のプライバシーを尊重・保護する。個人情報保護法に基づいた対応や国際的な個人データ保護の原則を参照しながら、適切な対応策を検討する。
５）セキュリティ確保
セキュリティ確保の指針として、各主体は、AIの開発・提供・利用において、外部からの意図せぬ干渉や中断を防ぐために以下を実施するよう記載されています。
６）透明性
透明性の指針として、各主体はAIシステム・サービスの開発・提供・利用において、社会的文脈を考慮し、以下を実施することが重要とされています。
アカウンタビリティの指針として、各主体は、AIシステム・サービスの開発・提供・利用において、アカウンタビリティを重視し以下に対応するよう記載されています。
① トレーサビリティの向上：AIシステムの開発・利用に関するデータや意思決定を追跡・遡求可能な状態にする。
② 共通の指針の対応状況の説明：関係者に対し、AIシステムに関するリスクや対策の進捗状況を定期的に説明する。
③ 責任者の明示：各主体はアカウンタビリティを果たす責任者を明確にする。
④ 関係者間の責任の分配：関係者間の責任を明確にし、社会的な約束により責任を共有する。
⑤ ステークホルダーへの具体的な対応：リスク管理やポリシー策定を行い、ステークホルダーに情報を提供し、彼らの利益を損なう事態に対処する。
⑥ 文書化：関連情報を文書化し、必要に応じて参照可能な状態に保管する。
８）教育・リテラシー
教育・リテラシーの指針として、各主体は、AIに関わる人々が正しい理解と適切な利用ができるように、以下に対応するよう記載されています。
９）公正競争確保
構成競争確保の指針として、各主体は、AI を活用した新たなビジネス・サービスが創出され、持続的な経済成長の維持と社会課題の解決策の提示がなされるよう、AI をめぐる公正な競争環境の維持に努めることが期待されています。
１０）イノベーション
イノベーションの指針として、各主体に以下が期待されている旨記載されています。
① オープンイノベーションの推進：国際的な協力や産学官の連携を通じて、イノベーションを促進する。AIの発展に必要なデータ環境を整える。
② 相互接続性・相互運用性への配慮：自社のAIシステムが他のシステムと円滑に連携し、相互運用できるようにする。
③ 適切な情報提供：自社のイノベーションに必要な情報を適切に提供し、発展を妨げないよう配慮する。
6.「D. 高度なAIシステムに関係する事業者に共通の指針」を読み解く
高度なAIシステムを開発する企業は、前述の指針に加え、広島AIプロセスを通じて策定された国際指針に準拠し、以下の遵守すべきと記載されています。
I) AIライフサイクル全体にわたるリスクの管理: AIシステムの開発から導入前、市場投入後まで、リスクを特定し、軽減するための措置を講じる。
II) 導入後の脆弱性の管理: 導入後の脆弱性や悪用された事例を特定し、対処する。
III) 透明性の確保: AIシステムの能力や限界を公表し、透明性を確保する。
IV) 責任ある情報共有: 開発組織間での責任ある情報共有とインシデントの報告に取り組む。
V) プライバシー保護: 個人情報保護方針やリスク管理方針を策定し、開示する。
VI) セキュリティ管理の強化: 物理的セキュリティやサイバーセキュリティに投資し、実施する。
VII) コンテンツ認証と来歴のメカニズムの導入: AIが生成したコンテンツを識別できるメカニズムを開発・導入する。
VIII) リスク軽減策への投資: 社会的、安全、セキュリティ上のリスク軽減のための研究と投資を行う。
IX) 世界の課題に対する優先順位: 気候危機や世界保健などの課題に対処するため、AIの開発を優先する。
X) 国際的技術規格の推進: 国際的な技術規格の開発を推進し、採用する。
XI) データインプット対策: データの質を管理し、個人情報と知的財産を保護する。
XII) 責任ある利用の促進: リスクの向上に関するリテラシーや認識の向上のための機会を提供する。
7.「E. AIガバナンスの構築」を読み解く
AIを安全かつ安心に活用するためには、各主体が協力し、バリューチェーン全体で共通の指針を実践するためにはAIガバナンスの構築が重要となると記載されています。
具体的な取り組みとしては、以下のサイクルを繰り返し、マルチステークホルダーで連携していく「アジャイル・ガバナンス」の実践がことが重要であると記載されています。
-
環境・リスク分析: AIシステムのリスクを分析し、社会的受容性や外部環境の変化を考慮する。
-
AIガバナンス・ゴールの設定: AIの開発・提供・利用に関するポリシーを策定し、ゴールを設定する。
-
AIマネジメントシステムの設計: ゴールを達成するためのマネジメントシステムを設計し、運用する。
-
評価と改善: AIマネジメントシステムの効果をモニタリングし、継続的に改善する。
-
環境・リスク分析の再実施: 外部環境の変化を踏まえて、再びリスク分析を行い、必要に応じてゴールを見直す。
また、AIガバナンスの検討に際しては、以下のポイントに留意することにも言及されています。
これらの取り組みを通じて、AIを安全に利用し、社会の発展に貢献することが期待されています。
出所：AI事業者ガイドライン案
ページ25
8.おわりに
今回は、『AI事業者ガイドライン案』の「第２部 AIにより目指すべき社会と各主体が取り組む事項」を読み解いてきました。
これまで、様々なAIに関するガイドラインが各所から発行され、散在していた事項が集約され、俯瞰的に閲覧できるガイドラインであると感じました。
このガイドラインを確認することで、AI開発・提供・利用において、どのような点に留意しなくてはならないかを全体的に把握できました。
次回は、第3部「AI 開発者に関する事項」に読み進んでいきたいと思います。
