・デジタル庁が「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」を公開。
・テキスト生成AIの提供形態と利活用方法で分類し、想定リスクと軽減策を提示。
・不適切な利活用事例と効果的な利活用事例の識別方法やリスク軽減策も示されている。
デジタル庁が2024年5月29日、「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」を公開しました。このガイドブックでは、テキスト生成AIを行政サービスや職員業務の改善に利用する際のリスクとその軽減策について詳しく解説されています。
テキスト生成AI固有のリスクに焦点
ガイドブックでは、テキスト生成AIに関連するリスクは多岐にわたるものの、その多くはAIシステム全般に共通するものであると指摘しています。そのうえで、「本文書では政府情報システムを対象に、テキスト生成AI固有と見られるリスクに焦点をあて、留意点を紹介する」としています。
提供形態と利活用方法に基づくリスク分類
ガイドブックによると、テキスト生成AIのリスクはその提供形態と利活用方法で分類されるとのことです。具体的には以下の4つのユースケースを想定しているそうです。
- チャットインターフェースでサービス利用者とインタラクティブに対話する機能としてテキスト生成AIをオンライン処理で用いる
- 大量の文章に対してラベル付けやテキストデータ変換、その他翻訳や要約や文章作成等の自然言語処理を行う機能としてテキスト生成AIをバッチ処理で用いる
- 情報検索を目的としたサービスで検索エンジンの補助としてテキスト生成AIをオンライン処理で用いる
- ダッシュボードやソースコード等をサービス利用者の自然言語により記述可能にする機能としてテキスト生成AIをオンライン処理で用いる
利活用が不適切なケースも例示
一方で、ガイドブックではテキスト生成AIの利活用が不適切となるケースについても言及されています。例えば、「テキスト生成AIによる回答の期待品質が高すぎる場合」や「そもそも人間が行うべき仕事であり、AIによる代替が不適切な場合」などが挙げられています。
利活用が不適切なケースも例示
ガイドブックの「まとめ」では、現時点ではまだ実践的なフレームワークやチェックリストを作成できる水準に達していないため、今後の知見の蓄積により改定を目指すとしています。具体的には以下のような項目が挙げられています。
- テキスト生成AIの提供形態の選択プロセス
- コスト削減戦略の具体化
- リスク管理計画
- 非機能要件のテストと評価
- 品質保証プロセス
- サービス利用者フィードバックの収集と分析
- 運用実施時の品質管理
デジタル庁では、今後もテキスト生成AIの利活用に関する検証を進めていくとのことです。ガイドブックの内容も、新たな知見の蓄積に伴って改定が予定されているようです。行政サービスへのテキスト生成AIの導入が今後加速していく中で、リスクへの適切な対応が求められそうです。
