生成AIの活用は、文章作成や情報収集といった個人単位の利用から、社内データの検索、顧客対応、営業支援、業務プロセスの自動化へと広がっています。さらにAIエージェントのように、AIが外部システムやツールと連携し、一定の処理を自律的に進める仕組みも登場しています。
活用範囲が広がるほど重要になるのが、AIを「使えるか」だけでなく「どのように管理するか」という視点です。どの情報をAIに入力してよいのか、出力結果を誰が確認するのか、問題が起きた場合に誰が判断するのかが曖昧なままでは、業務効率化と引き換えに新たなリスクを抱える可能性があります。
そこで必要になるのが、AI時代のプロジェクトガバナンスです。
本記事では、AIガバナンスを個別のプロジェクトへ落とし込み、セキュリティ・品質・責任範囲の3つをどう設計すべきかを解説します。
AI時代にプロジェクトガバナンスが重要になる理由
AIガバナンスとは、AIの活用によるリスクを適切に管理しながら、その便益を生かすために、方針や体制、ルールなどの仕組みを設計・運用する考え方です。
一方、個別のAIプロジェクトでは、全社方針を示すだけでは足りません。対象業務や利用するデータ、利用者、AIに任せる処理などに応じて、具体的な管理方法まで決める必要があります。
AIガバナンスを個別のプロジェクトへ落とし込む
全社で「生成AIを利用してよい」「機密情報の入力は禁止」といったルールを定めても、それだけで個々のプロジェクトを適切に管理できるとは限りません。
社内文書の下書きにAIを使う場合と、顧客への回答を生成する場合では、誤った出力が及ぼす影響が異なります。社内データを検索するAIであれば、誰がどの情報へアクセスできるかという権限管理も必要です。
そのため、プロジェクトごとに「何のためにAIを使うのか」「どの業務を対象とするのか」「どのデータを扱うのか」「AIにどこまで任せるのか」を明確にし、その内容に合わせて管理方法を設計します。
AIは導入後もリスクや利用方法が変化する
AIプロジェクトは、導入時にルールを決めれば完了するものではありません。利用者が増える、新しいデータを扱う、別のシステムと連携するなど、運用を続ける中で利用条件が変わることがあります。
そのため、導入時の審査だけでなく、運用開始後も利用状況やリスクを確認し、必要に応じてルールや管理方法を見直せる仕組みが必要です。
プロジェクトガバナンスは導入可否を判断するためだけの仕組みではなく、AIを継続して利用するための管理プロセスとして設計することが重要です。
セキュリティは「何を守るか」から設計する
AIプロジェクトのセキュリティでは、利用するツールの安全性だけを確認するのでは不十分です。
AIに入力する情報、AIからアクセスできる情報、利用できる担当者などを整理し、「何を守る必要があるのか」から管理方法を決めます。
セキュリティの設計のポイントは次の通りです。
AIに入力してよい情報と禁止する情報を決める
まず必要なのが、AIへ入力できる情報の範囲を明確にすることです。
個人情報、顧客情報、契約情報、営業情報、社内限定資料など、業務ではさまざまな情報を扱います。
このような情報の内、「機密情報はすべて入力禁止」と一律に決めればよいとは限りません。
利用するAIサービスの契約内容やデータの取り扱い条件、組織側のセキュリティ設定に加え、関連法令や自社の情報管理規程などによって、許容できる利用範囲は変わります。
重要なのは、利用するサービスと情報の種類を確認したうえで、入力可能な情報、加工したうえで入力できる情報、入力してはいけない情報を区分することです。担当者の自己判断に任せず、プロジェクトとして判断基準を共有できる状態にします。
利用できるAIと利用者の権限を管理する
次に、誰がどのAIを利用できるのかを決めます。組織が把握していないAIサービスを従業員が業務で利用する、いわゆるシャドーAIは、情報漏えいや利用状況を把握できないリスクにつながります。
こうしたリスクを避けるため、承認済みのAIサービスを明確にするとともに、必要に応じて利用者や利用機能を制限しましょう。
社内システムやクラウドサービスとAIを連携する場合は、AIに与えるアクセス権限も確認が必要です。
特にAIエージェントでは、連携するシステムの機能と付与された権限によっては、情報を参照するだけでなく、データの登録や更新、メール送信などの処理を実行できる場合があります。
必要以上に広い権限をAIに与えず、その業務に必要な範囲へ限定することが基本です。
利用状況を確認できる状態をつくる
セキュリティ対策では、問題を防ぐだけでなく、問題が起きたときに状況を確認できることも重要です。
誰がAIを利用したのか、どのシステムへアクセスしたのか、どのような処理を実行したのかなど、必要な情報を確認できる仕組みを検討します。リスクの高い処理ほどログやモニタリングによって追跡できるようにする考え方が現実的です。
あわせて、想定外の情報入力や不適切な処理が見つかった場合に、誰へ報告し、どの条件で利用停止や設定変更を判断するのかも決めておくと、インシデント発生時に対応しやすくなります。
AIの品質は「人が確認する」だけでは管理できない
生成AIでは、もっともらしく見えても内容が正確ではない出力が生じることがあります。そのため、人による確認は重要ですが、「人が確認する」というルールだけでは品質管理として十分ではありません。
何を確認し、どこまで満たせば業務で利用できるのかを決める必要があります。
AIの出力に求める品質基準を決める
AIに求める品質は、利用目的によって異なります。会議用資料の構成案と、顧客に提示する情報では、誤りが発生したときの影響が同じではありません。
そこで、AIを導入する前に、その業務で求める品質を整理します。
正確性、必要な情報の網羅性、根拠を確認できるか、社内ルールや表記基準に合っているかなど、用途に応じて確認項目を決めます。
「AIの精度を高める」という抽象的な目標だけでは、利用可否を判断できません。
AIに何を期待し、どの水準を下回った場合は修正や再確認が必要なのかまで決めることで、品質評価を運用しやすくなります。
AIの出力を誰が、どの段階で確認するか決める
品質基準を決めたら、次に確認プロセスを設計します。すべての出力を責任者が確認すると、安全性は高まりやすい一方で、AI導入による効率化が失われる可能性があります。
そのため、リスクに応じて確認方法を変えることが重要です。担当者自身の確認で利用できる出力、責任者の承認を必要とする出力、自動処理を認める範囲などを分けます。
特に社外へ公開する情報や顧客対応、重要な判断に使う情報では、誰が最終確認を担うのかを明確にします。
Human in the Loop（AIの判断・実行プロセスに人間の確認、承認、介入をあらかじめ組み込む設計）を置くこと自体を目的にせず、人がどの段階で介入し、何を判断するのかまで設計することがポイントです。
品質は導入時だけでなく継続して確認する
導入前のテストで期待した結果が得られていても、その品質が将来も同じとは限りません。入力する情報や利用場面、参照データなどが変われば、出力の傾向も変化する可能性があります。
そのため、運用開始後も一定のタイミングで出力を確認し、問題が増えていないか、当初の品質基準を満たしているかを評価します。問題が見つかった場合には、プロンプトや参照データ、業務フロー、確認方法など、原因に応じて見直します。
品質管理を導入前のテストだけで終わらせず、運用の中に組み込むことが重要です。
AIを使う業務の責任範囲を明確にする
AIを利用すると、「AIが判断した」「AIが作成した」という表現が使われがちです。
しかし、こうした理由で責任の所在を曖昧にするのではなく、そのAIをどのように業務へ組み込み、誰が確認・承認するのかを人と組織の側で整理する必要があります。
AI・利用者・承認者の役割を分ける
まず、AIが担当する処理と人が担う判断を切り分けます。
たとえば、「AIが情報を整理するところまで担当し、担当者が内容を確認する」「AIが回答案を生成し、責任者が承認してから顧客へ送る」といったように業務の流れの中でAI、利用者、承認者の役割を分けます。
重要なのは、「AIを使った人がすべての責任を持つ」と単純化しないことです。
利用者が確認すべき内容と、管理者が判断すべき内容を整理し、それぞれの役割に必要な権限を設定します。
業務部門とIT・管理部門の責任を整理する
AIプロジェクトでは、複数の部門が関係することがあります。業務部門は対象業務や求める品質を理解していますが、セキュリティやシステム連携まで判断できるとは限りません。
一方、IT部門だけでは、AIの出力が業務上妥当かを判断できない場合があります。
そのため、業務上の品質や利用方法は業務部門、システムや権限はIT部門、情報管理はセキュリティ部門など、役割を整理します。
実際の組織体制によって担当部門は異なりますが、重要なのは、それぞれが何を判断するのかを曖昧にしないことです。
外部ベンダーを利用する場合も責任分界を確認する
外部のAIサービスや開発ベンダーを利用する場合には、サービス提供者が管理する範囲と、自社が管理する範囲を分けて考える必要があります。
サービスのセキュリティ仕様や障害対応は提供者側が担う部分でも、誰に利用を許可するか、何のデータを入力するか、生成された結果を業務で利用するかといった判断は、利用企業側で検討しなければなりません。
契約条件やサービス仕様を確認し、データ管理、障害時の対応、問い合わせ窓口などを整理したうえで、自社内の責任者も明確にしておきます。
ガバナンスを強くしすぎず、リスクに応じて管理する
セキュリティ、品質、責任範囲を細かく決めることは重要ですが、すべてのAI利用に同じ管理を適用すると、承認や確認に時間がかかり、活用そのものが進まなくなる可能性があります。
そこで必要なのが、用途や影響度に応じて管理レベルを変える考え方です。
AIの用途と影響度によって管理レベルを変える
社内文書の下書き、社内データの検索、顧客向け回答の生成、業務処理の自動実行では、問題が起きた場合の影響が異なります。
低リスクの用途には簡易な確認、高リスクの用途には責任者の承認や詳細なログ管理を求めるなど、管理の強さを変えます。
AIを利用しているかどうかだけで判断するのではなく、扱う情報、AIが実行できる処理、出力が与える影響などを基準にリスクを評価することが重要です。
こうしたリスクベースの考え方を採用すれば、安全性を確保しながら、すべての利用に過剰な手続きを課す状態を避けやすくなります。
プロジェクト開始後も定期的に見直す
ガバナンスは、一度作ったルールを固定するためのものではありません。AIの利用範囲が広がったとき、新しいデータやシステムと連携するとき、品質上の問題やインシデントが発生したときには、管理方法を見直します。
見直しでは、セキュリティだけ、品質だけを個別に確認するのではなく、AIに与える権限が変われば責任範囲も見直すなど、3つの領域を関連付けて考えることが重要です。
設計、利用、モニタリング、評価、見直しを繰り返し、実際の利用状況に合ったプロジェクトガバナンスを維持します。
まとめ｜AI時代のプロジェクトガバナンスは「管理の仕組み」まで設計する
AI時代のプロジェクトガバナンスでは、禁止事項を並べるだけでは十分ではありません。セキュリティでは何を守り、誰にどの権限を与えるか、品質では何を基準に誰が確認するか、責任範囲では誰が判断し承認するかまで具体化する必要があります。
また、必要な管理レベルはAIの用途や扱う情報、業務への影響によって異なります。低リスクの利用まで過剰に制限するのではなく、リスクに応じて管理方法を変えることが、AI活用と安全性を両立させるポイントです。
AI活用を広げるほど、ガバナンスは「AIを使わせないためのルール」ではなく、「安全に使い続けるための仕組み」として重要になります。
プロジェクト開始時にセキュリティ・品質・責任範囲を整理し、運用開始後も継続的に見直せる体制を整えましょう。
シーサイドでは、生成AIツールの活用に関するご相談も受け付けております。
お困りやご相談がありましたら、まずはお気軽にお問い合わせください。
