今回から、12月21日に開催された第７回AI戦略会議で総務省、経済産業省の連名で報告された『AI事業者ガイドライン案』を数回に分けて、自分なりにゆっくり読み解いていきたいと思います。
今回は、AI事業者となる各主体がのうち、AIサービスを提供するAI提供者が取り組むべき内容が記載された「第４部 AI提供者に関する事項」を読み解きました。
AIの開発や運用、サービス提供を行う皆さんの参考になる情報をご提供できればと思います。
これまでに、読み解いた章については、以下に公開しておりますので、併せてご参照ください。
また、G検定でも時事的な法律や制度などの問題も出題されているということなので、受験される方の何かの参考になれれば幸いです。
【目次】
1.ガイドライン全体の構成
『AI事業者ガイドライン案』は、別添（付属資料）付録も含めて、大きく５つに分かれています。ガイドラインの用語の定義を中心とした「第１部」、AIの社会的な利用に関する基本理念と指針をまとめAIの利益と社会的リスクへのガバナンス構築の必要性をすべての事業者向けに記載した「第２部」、AIを活用するAI開発者、AI提供者、AI利用者の３主体の留意事項を記載した「第３部」、「第４部」、「第５部」で構成されています。
また、各主体は自身の記載箇所だけでなく、隣接主体に関する事項にも理解を広げることが重要だとされています。
出所：AI事業者ガイドライン案
ページ６
2.今回読んだ範囲の概要
今回は、AI開発者が取り組むべき内容が記載された「第４部 AI提供者に関する事項」を読み解きました。
AI提供者は、AI開発者が作ったAIシステムに付加価値を与え、それを利用者に提供する役割を果たします。AIの普及と社会経済の成長に貢献しつつも、AIの影響が大きいため、適正な利用を重視したサービス提供が重要で、AIがシステムに適しているかを確認し、ビジネス戦略や社会の変化に柔軟に対応する必要がある旨が記載されています。
また、AIシステムを開発者の意図通りに実装し、正常に運用されるように支援するのが重要であるとともに、利用者には、適切なサポートやサービスを提供し、社会やステークホルダーに不利益をもたらさないように注意する必要がある旨が記載されています。インシデント事例を含む関連情報を共有し、安全で信頼性の高いAIシステムを提供することも期待されています。
3.「 AIシステム実装時」を読み解く
AIシステム実装時に取り組むべき事項としては以下のような内容が記載されています。
- P-2）i. 人間の生命・心身・財産、及び環境に配 したリスク対策
- AI 利用時の関係者の安全を保障し、リスクを最小限に抑える技術（ガードレール）を検討する
- P-2）ii. 適正利用に資する提供
- AI 利用上の留意点を提供する
- AI 開発者が設定した範囲内で活用する
- 提供時点でのデータの正確性、最新性等を担保する
- AI開発者が開発した想定利用環境と利用者の利用環境に違いがないかを検討する
- P-3）i. AI システム・サービスの構成やデータに含まれるバイアスへの配
- データの公平性やバイアスを検討する
- 入出力や判断根拠を定期的に評価し、バイアスをモニタリングする
- 必用に応じAI開発者にバイアスの再評価、改善を促す
- 利用者のビジネスプロセスや判断を恣意的に制限するようなバイアスが含まれる可能性を検討する
- P-4）i. プライバシー 護のための仕組みや対策の導入
- AI システムの実装過程でプライバシー保護の対策を講じる（プライバシー・バイ・デザイン）
- P-5）i. セキュリティ対策のための仕組みの導入
- AI システムの提供過程でセキュリティ対策を講じる（セキュリティ・バイ・デザイン）
- P-6）i. システムアーキテクチャ等の文書化
- 意思決定に影響を与える AI システムのシステムアーキテクチャやデータ処理プロセスを文書化する。
4.「AIシステム・サービス提供後」を読み解く
AIシステム・サービス提供後に取り組むべき事項としては以下のような内容が記載されています。
- P-2）ii. 適正利用に資する提供
- 定期的に AI システムが適切な目的で使用されているかを確認する
- P-4）ii. プライバシー侵害への対策
- AI システムに関するプライバシー侵害に対処し、再発を防止する
- P-5）ii. 脆弱性への対応
- 最新のリスクやそれに対応するために、AI システムの提供の各工程で気を付けるべき点の動向を確認する
- 脆弱性の解消を検討する
- P-6）ii. 関連するステークホルダーへの情報提供
- AI システムに関する情報を明確かつアクセスしやすい形で提供し、適切な利用を促進する
- AIを利用しているという事実や適切／不適切な使用方法等
- 提供するAIシステム・サービスの技術的特性、利用によりもたらす結果により生じる可能性のある予見可能なリスク及びその緩和策等の安全に関する情報
- AI システムに関する情報を明確かつアクセスしやすい形で提供し、適切な利用を促進する
- P-7）i. AI 利用者への共通の指針の対応状況の説明
- AI 利用者に適正な利用を促し、以下の情報を提供する：
- データの正確性と必要に応じた最新性の注意喚起
- コンテキスト内学習による不適切な AI モデルの学習に対する警告
- 個人情報を入力する際の留意点
- AI システム・サービスへの個人情報の不適切入力に関する警告を提供
- AI 利用者に適正な利用を促し、以下の情報を提供する：
- P-7）ii. サービス規 等の文書化
- AI 利用者や業務外利用者向けにサービス規定を作成
- プライバシーポリシーを明示
5.「第２部 D. 高度な AI システムに関係する事業者に共通の指針」に関する事項を読み解く
高度なAIシステムを取り扱うAI提供者は、これまでの記載事項に加えて、「第２部 D. 高度なAIシステムに関係する事業者に共通の指針」について以下の対応を促されています。
【遵守すべきである事項】
- XII. 高度な AI システムの信頼でき責任ある利用の促進と貢献
【適切な範囲で順すべきである事項】
- I. リスクの特定と軽減
- II. 導入後の脆弱性の特定と緩和
- III. 透明性の向上
- IV. 責任ある情報共有
- V. リスクベースのアプローチ
- VI. セキュリティ管理の強化
- VII. 信頼できるコンテンツ認証
- VIII. リスク管理への投資
- IX. 社会問題への対応
- X. 国際的な技術規格の推進
- XI. データ保護の重視
6.おわりに
今回は、『AI事業者ガイドライン案』の「第４部 AI提供者に関する事項」を読み解いてきました。
AI提供者は、AIシステムを具体的なサービスとして提供する立場にあり、AI開発者とAI利用者の間で適切な情報提供や管理が需要であることがわかりました。
また、サービス提供後も継続して、利用者の判断やビジネスに対して恣意的な影響を与えてしまう可能性についても十分検討する必要があることがわかりました。
次回は、「第 5 部 AI 利用者に関する事項」に読み進んでいきたいと思います。
