今回より、日本ソフトウェア科学会機械学習工学研究会から2023年9月に公開された『機械学習システム セキュリティガイドライン Version 2.00』を数回に分けて、自分なりにゆっくり読み解いていきたいと思います。
AIの開発や運用、サービス提供を行う皆さんの参考になる情報をご提供できればと思います。
また、G検定でも時事的な法律や制度などの問題も出題されているということなので、受験される方の何かの参考になれれば幸いです。
【目次】
1.ガイドライン全体の構成
『機械学習システムセキュリティガイドライン Version 2.00』は、付録も含めて、大きく三つに分かれています。機械学習システム特有の攻撃とその対策を説明した『本編』と、機械学習セキュリティの非専門家に向けた脅威分析・対策を記載した『リスク分析編』と、付録の『攻撃検知技術の概要』になります。
出所：機械学習システムセキュリティガイドライン Part I.「本編」
ページ［I-1］
2.今回読んだ範囲の概要
今回は、『本編』の「I-1. ガイドライン概要」を読み解きました。
最初に触れたガイドラインの全体構成に加え、「目的・背景」、「スコープ」、「本ガイドラインで扱う機械学習システム」について記載されています。
3.「I-1.2. 目的・背景 」を読み解く
「I-1.2. 目的・背景 」では、本ガイドラインを作成した背景や目的が記載されています。
背景として、機械学習の発展に伴いAIシステムが広く活用され、その中でも自動運転や金融取引など社会インフラに結びつく領域での利用が増加してる点があげられています。これにより、機械学習システムのセキュリティに対する懸念が高まり、特に敵対的サンプルや機械学習特有の攻撃に対する脆弱性が指摘されています。
目的として、開発者に対して機械学習セキュリティに関する知識を提供し、特に攻撃手法とその実行条件を判断できる基準を提供することが挙げられています。機械学習セキュリティの専門家が限られている中で、これに対処するためには一般のAI開発者もセキュリティを考慮できるようになる必要があります。そのため、機械学習セキュリティガイドラインが整備され、開発者が適切なセキュリティ対策を行えるようにすることが狙いとされています。
また、経済産業省の「我が国の AI ガバナンスの在り方 ver. 1.1」でまとめている以下のAIガバナンスの構造上では、「法的拘束力のないガイドライン」に該当し、AI原則でとりあげられる「セキュリティ」を尊重するための取組とされています。
出所：機械学習システムセキュリティガイドライン Part I.「本編」
ページ［I-3］
4.「I-1.3. スコープ」を読み解く
このガイドラインのスコープとして、「対象者とガイドラインの使われ方」、「他のガイドラインや企画との位置づけ」、「他の機械学習セキュリティ対策文献との位置づけ」、「一般的な情報セキュリティとの関連」の４点から記載されています。
「対象者とガイドラインの使われ方」として、機械学習セキュリティの専門知識がない機械学習システムの開発者やサービス提供者を対象にしており、総務省の「AI利活用ガイドライン」のAIの利活用の流れにある「計画」や「AI構築」、「運用・利用」の各フェーズで利用されることを想定していると記載されています。
出所：機械学習システムセキュリティガイドライン Part I.「本編」
ページ［I-4］
「他のガイドラインや規格との位置づけ」として、国内外で公開されている機械学習や製品セキュリティに関するガイドラインや規格と調和し、現行の法令やAI社会原則とも矛盾しない形で、以下の図のように機械学習システムに特有のセキュリティ対策に焦点を当てるとされています。具体的には、日本で2019年に公表された「人間中心の AI 社会原則」や欧州のAI規制法、米国のAI Risk Management Framework (AI RMF)、産総研の機械学習品質マネジメントガイドライン、ISO/IEC 15408シリーズ、ISO/IEC 27001などに言及されています。
出所：機械学習システムセキュリティガイドライン Part I.「本編」
ページ［I-4］
「他の機械学習セキュリティ対策文献との位置づけ」として、他の文献とは異なり、本ガイドラインは機械学習システム特有の攻撃とその防御に焦点を当て、既存の対策文献で体系的に整理できていない一連のセキュリティ対策に対応し、開発者や専門家とのコミュニケーションを促進できるように整理されています。また、セキュリティ対策実施のハードルを下げるために機械学習セキュリティの専門知識がなくとも実施できる手法も提案されています。
最後に、「一般的な情報セキュリティとの関連」として、機械学習システム特有の攻撃と一般的な情報セキュリティの関連性に焦点を当て、機械学習システムにおけるセキュリティ対策と一般的な情報セキュリティの優先度を統合的に検討する必要性を強調しています。
5.「I-1.4. 本ガイドラインで扱う機械学習システム」を読み解く
このガイドラインで扱う機械学習システムとは、機械学習を用いたシステムを対象とし、その機械学習処理部を訓練パイプラインと推論パイプラインに分け、訓練データを用いて訓練処理を行い、訓練済みモデルを生成し、推論データを用いて推論処理を行う一般的な構成を対象としています。
出所：機械学習システムセキュリティガイドライン Part I.「本編」
ページ［I-7］
出所：機械学習システムセキュリティガイドライン Part I.「本編」
ページ［I-8］
6.おわりに
今回は、『機械学習システム セキュリティガイドライン Version 2.00』の「目的・背景」、「スコープ」、「本ガイドラインで扱う機械学習システム」を読み解いてきました。
これまでセキュリティに関するガイドライン等は全システムを対象としており、機械学習システムに関するガイドライン等はセキュリティ以外も含めたリスク全体を対象としていたため、本ガイドラインのような、「機械学習システムに特有」かつ「セキュリティ」に着目したガイドラインは機械学習の開発者やサービス提供者にはとても参考になるガイドラインだと感じました。
では、次回は「I-2. 機械学習システム特有の攻撃 」を読み解いていきたいと思います。
