はじめに
DX（デジタルトランスフォーメーション）に続くキーワードとして、「AX（AIトランスフォーメーション）」という言葉を見かけるようになりました。生成AIの普及を背景に、特定の業務でAIを試すという段階を越えて、業務プロセスや組織のあり方そのものにAIを組み込んでいこうとする動きを指す言葉です。
一方で、全社的にAIの活用範囲を広げていくと、これまでのIT環境とは性質の異なるセキュリティ上の検討事項が出てきます。この記事では、AXという言葉の意味を簡単に押さえたうえで、DX推進時のセキュリティ対策と比べて何が変わり、何が変わらないのかを見ていきます。
AXとは
AXは、AI技術を前提として業務プロセスやビジネスモデルを見直していく取り組みを指す言葉として使われています。明確な定義が定まった用語ではありませんが、おおむね次のような点でDXと対比されることが多いようです。
- DX：デジタル技術全般（クラウド、データ活用など）を用いた変革
- AX：その中でも特にAIを中心に据えた変革
実務上は「DXの延長線上にある取り組み」と捉えて差し支えありません。重要なのは言葉の定義よりも、AIの利用が一部の部門の実験から全社の業務基盤へと広がるにつれて、セキュリティの検討範囲も変わってくるという点です。
DX推進時のセキュリティと共通する部分
まず、変わらない部分から確認します。クラウドサービスの選定基準、アクセス権限の管理、委託先の管理、インシデント対応体制といった基本的な枠組みは、AIを利用する場合でもそのまま土台になります。AIだからといって既存のセキュリティ管理策が不要になるわけではなく、むしろ前提となります。
情報セキュリティマネジメントシステム（ISMS、ISO/IEC 27001）などの既存の管理体系を運用している組織であれば、その枠組みの上にAI特有の観点を追加していく、という進め方が現実的です。
AI活用で新たに検討が必要になる部分
一方で、AIの利用に伴って新たに検討が必要になる代表的な観点として、次のようなものがあります。
入力データの取り扱い
生成AIサービスに入力した情報がどこに保存され、サービス提供者側でどのように扱われるか（学習に利用されるか等）は、サービスや契約プランによって異なります。従業員が業務情報を入力する前提で利用ルールを整理しておく必要があります。
出力の信頼性
AIの出力には誤りが含まれることがあります（いわゆるハルシネーション）。出力をそのまま社外向け文書や意思決定に使わない、人による確認を挟む、といった運用面の取り決めが必要です。
AIを組み込んだシステム固有のリスク
社内データと連携したチャットボットや、指示に応じて複数の処理を自律的に実行するAIエージェントのように、AIをシステムに組み込む場合には、従来のWebアプリケーションとは異なる観点での確認が必要になります。代表的なものがプロンプトインジェクションと呼ばれる攻撃で、入力文に紛れ込ませた指示によってAIに開発者の意図しない動作をさせる手法です。このほか、権限設計の不備により、AIが本来参照させるべきでない情報を回答に含めてしまうといった問題も起こり得ます。
利用実態の把握
生成AIサービスの多くは、無料またはブラウザだけで使い始めることができます。そのため、会社がシステムとして導入する前に、従業員が業務効率化のために各自の判断で使い始めるということが起こりやすく、この点は会社主導で導入が進む従来の社内システムとは事情が異なります。
その結果、会社の把握していないAIサービスに業務情報が入力されているにもかかわらず、誰が・どのサービスに・何を入力しているのかが見えない、という状態が生まれます。こうした管理外のAI利用はシャドーAIと呼ばれます。禁止するだけではかえって利用が水面下に潜り実態が見えなくなるため、利用ルールの整備と併せて考える必要があります。
まとめ
AXは新しい言葉ですが、セキュリティの観点では「既存の管理体系を土台に、AI特有の検討事項を追加していく」という整理で捉えるのが実態に合っています。過度に身構える必要はない一方、入力データの取り扱いやAI組み込みシステムの検証など、従来の枠組みだけではカバーしきれない領域があることも事実です。
全社的にAI活用を進める際は、こうした観点を自社の状況に照らし、優先順位を付けながら整備を進めていくことが大切です。
AI活用時のセキュリティに関するご相談
弊社ステラセキュリティは、AI特有の観点を含む脆弱性診断サービスと、社内にセキュリティ専門部門を持たない企業様を外部チームとして継続的に支援するセキュリティチーム代行サービスを提供しています。「何から検討すべきか」という段階のご相談からで構いませんので、お気軽にお問い合わせください。
脆弱性診断サービス
LLMアプリケーション診断をはじめ、AI特有の観点を含めた脆弱性診断を提供しています。AIを組み込んだシステムのリスクを把握したい場合にご活用いただけます。
セキュリティチーム代行サービス
社内にセキュリティ専門部門を持たない企業様を、外部チームとして継続的に支援します。AI活用のルール整備から体制づくりまで、「何から検討すべきか」という段階からご相談いただけます。お気軽にお問い合わせください。