AI使用に関する国際ガイダンスへの共同署名について
令和6年1月24日
内閣府
科学技術・イノベーション推進事務局
プレスリリース
１．概要
本日、内閣府科学技術・イノベーション推進事務局と内閣サイバーセキュリティセンター（NISC）は、ともに、豪州通信電子局（ASD）豪州サイバーセキュリティセンター（ACSC）が、カナダ、ニュージーランド、英国、米国の関係当局とともに作成したAI使用に関する国際ガイダンス”Engaging with Artificial Intelligence（AI）”（以下「本件文書」という。）の「共同署名」（本ガイドライン作成への協力機関として組織名を列記：日本のほか、10か国が参加）に加わり、本件文書を公表しました。
（注：昨年11月に我が国が共同署名した「セキュアAIシステム開発ガイドライン」は、AIシステムの「開発」に関するガイダンスを示す目的で作成されたのに対し、本件文書はAIシステムの「使用」に関するガイダンスを示す目的で作成されたもの。）
なお、本件文書の参考文献として、昨年12月のG7デジタル・技術会合で合意され、同月にG7首脳が承認した「広島AIプロセス包括的政策枠組み」が記載されています。
内閣府科学技術・イノベーション推進事務局及び内閣サイバーセキュリティセンターは、本件文書は関係のサイバーセキュリティ当局の有する周知の知見を整理し、AIシステムの利用者に注意喚起する内容であり、我が国の利用者にも資することなども踏まえ、共同署名に加わりました。
今後も、引き続き、産業界とも継続的に対話を重ねつつ、AI及びサイバーセキュリティ分野での国際連携の強化に努めてまいります。
２．本件文書の内容
（１）本文：AIシステムに対する脅威を6つ列挙の上、これに対する12の緩和策を注意喚起するもの。
（ア）導入
この文書はAIシステムを安全に「使用」するガイダンスを提供。なお、安全なAIシステムの「開発」については、（英米が主導した）文書”Guidelines for Secure AI System Development”を参照願いたい。
（イ）AIとは
機械学習、自然言語プロセス、生成AIを説明し、AIが意図的又は過失で被害をもたらすリスクがあり、リスク管理の必要性を強調。
（ウ）AIに関する課題
脅威として、①データポイズニング、②インプット改ざん攻撃（プロンプトインジェクション・敵対的サンプル）、③生成AIハルシネーション、④プライバシー・知的財産に関する懸念、⑤モデル窃取攻撃・学習データ漏えい、⑥匿名化データの再特定を列挙。
（エ）緩和策
AIシステムに関し、それぞれ、①サイバーセキュリティ枠組みの実施、②プライバシー・データ保護義務への影響評価、③多要素認証の実装、④特権アクセスの管理、⑤バックアップ、⑥試行、⑦サプライチェーンを含むセキュアバイデザイン確保、⑧限界や制限の理解、⑨関係スタッフの能力・資格、⑩検査・ヘルスチェック、⑪ログ監視、⑫インシデント対応を列挙。
（２）参考文献：各国のサイバーセキュリティ枠組み、AIセキュリティに関する文書を列挙。(例えば、広島AIプロセス包括的政策枠組みや、米国NISTのCybersecurity Framework, AI Risk Management Framework等。)
３．関連リンク
豪州ACSCホームページ
4．問合せ先
内閣府科学技術・イノベーション推進事務局
重要課題（社会システム基盤）担当 菅田・藤井・鈴木
電話 ：03-6257-1337（直通）
内閣官房内閣サイバーセキュリティセンター
山口・村田・金井・髙橋
電話 ：03-3580-3188（直通）