はじめに
全社的なAI活用（AX）を進める際、情報システム部門には「セキュリティ面は大丈夫か」という確認が経営層や各部門から寄せられます。しかし、AIに関するセキュリティと一口に言っても、利用ルールの整備からシステムの技術的な検証まで範囲が広く、何から手を付けるべきか判断しづらい分野です。
そこで、AI活用に伴うセキュリティの検討事項を4つのカテゴリに分けて紹介します。個別のトピックの詳細には踏み込まず、まず全体像をつかむための記事です。
カテゴリ1：ガバナンス（方針とルールの整備）
最初に必要になるのは、組織としてAIをどう使うかの方針決めです。具体的には次のような項目が含まれます。
- 生成AI利用ガイドラインの策定（利用してよいサービスの範囲、出力の確認プロセスなど）
- 利用を認めるAIサービスの選定基準と承認プロセス
- AIに関する責任の所在の明確化（誰が判断し、誰が承認するか）
参考になる公的資料として、経済産業省・総務省の「AI事業者ガイドライン」や、AIマネジメントシステムの国際規格であるISO/IEC 42001があります。すべてに準拠する必要はなく、自社の利用形態に関係する部分を参照する形で十分です。
カテゴリ2：利用統制（ルールを実態に近づける）
ルールを作っても、実際の利用状況が把握できていなければ機能しません。このカテゴリでは次のような取り組みが該当します。
- 従業員がどのAIサービスを使っているかの把握（シャドーAI対策）
- 会社として認めたAIサービスの提供（安全な選択肢を用意することで、無断利用の動機を減らす）
- 利用状況を技術的に把握するための仕組みの検討（必要に応じて、プロキシや、クラウドサービスの利用状況を可視化・制御するCASBなどを利用）
禁止一辺倒でも放任でもなく、使ってよい環境を整備することが結果的に統制につながります。
カテゴリ3：AIを組み込むシステムの検証
社内データと連携したチャットボット、顧客向けのAI機能、指示に応じて複数の処理を自律的に実行するAIエージェントなど、AIを自社のシステムに組み込む段階では、技術的な検証が必要になります。
- 従来のWebアプリケーションと共通する観点（認証・認可、アクセス制御など）
- AI特有の観点（プロンプトインジェクションへの耐性、意図しない情報の出力、外部ツール連携時の権限設計など）
プロンプトインジェクションとは、入力文に紛れ込ませた指示によってAIに開発者の意図しない動作をさせる攻撃手法で、AIを組み込んだシステムに特有の代表的なリスクです。こうしたリスクの分類としては、Webセキュリティ分野の国際的なコミュニティであるOWASPが公開している「OWASP Top 10 for LLM Applications」（LLM＝大規模言語モデルを利用したアプリケーションの主要リスクをまとめた文書）が広く参照されています。自社でAIを組み込んだシステムを開発・導入する場合は、リリース前にこうした観点での診断を検討する価値があります。診断の具体的な内容は、別記事「LLMアプリケーション診断とは」で解説しています。
カテゴリ4：教育とインシデント対応
最後に、運用を支える人に関するカテゴリです。
- 従業員向けの教育（AIの出力を鵜呑みにしない、承認されたサービスを利用する、といった基本の周知）
- AI利用に起因するインシデントを想定した対応手順の確認（例：パスワードやAPIキーなどの認証情報を誤って入力してしまった場合の報告経路と初動対応）
報告経路を整備するのは、報告を起点とした初動対応を可能にするためです。たとえば認証情報の誤入力であれば、報告があれば該当のパスワードやAPIキーを速やかに変更でき、悪用される前に影響を打ち消せます。報告が上がらなければ、こうした対応は始められません。
既存のセキュリティ教育やインシデント対応体制に、AIに関する項目を追加する形で始めるのが無理のない進め方です。
進め方の目安
4つのカテゴリは並列ではなく「方針」「利用統制」「教育」を先に整え、AIをシステムに組み込む計画が具体化した段階で「技術検証」に取り組む、という順序が無理のない進め方です。
まとめ
AI活用に伴うセキュリティは、ガバナンス、利用統制、システムの検証、人と体制の4つに分けると見通しが立てやすくなります。DX推進時のセキュリティとの違いという観点からの整理は、別記事「AXのセキュリティはDXの時と何が違うのか」もご覧ください。すべてを一度に整備する必要はなく、自社のAI活用の段階に応じて優先順位を付けることが大切です。
各カテゴリの取り組みを支援するサービス
本記事で挙げた4つのカテゴリのうち、方針整備・利用統制・体制づくりについては、外部のセキュリティチームとして継続的に支援するセキュリティチーム代行サービスでお手伝いできます。AIを組み込んだシステムの検証（カテゴリ3）については、Webアプリケーション・スマホアプリ・LLMアプリケーションを対象とした脆弱性診断サービスをご利用いただけます。自社の状況でどちらが適しているか分からない場合も、まずは現状をお聞かせください。
セキュリティチーム代行サービス
社内にセキュリティ専門部門を持たない企業様を、外部チームとして継続的に支援します。AI利用ガイドラインの策定や利用統制、教育・インシデント対応体制の整備など、方針づくりから運用まで幅広くお手伝いします。
脆弱性診断サービス
AIを組み込んだシステムの検証には、Webアプリケーション・スマホアプリ・LLMアプリケーションを対象とした脆弱性診断をご利用いただけます。リリース前にプロンプトインジェクションなどAI特有の観点を含めて確認したい場合にご活用ください。