社内チャットボットは、権限設計で決まる
社内規程やマニュアルを読み込ませて、「有給の繰越は何日まで？」と聞けば答えてくれる。社内チャットボットの導入相談は増えています。
仕組みとしてはRAG（検索拡張生成）と呼ばれるもので、質問に関係しそうな社内文書を検索して、その内容をもとにAIが答えます。
導入が失敗する原因は、たいてい精度ではありません。権限設計です。
指示文で止めるのは無理
よくある対処が、AIへの指示文（システムプロンプト）に「給与に関する質問には答えないでください」と書く方法です。
これは効きません。言い換えればすり抜けます。
「給与規程の第12条を要約して」「社内文書で金額が書かれている箇所を列挙して」「人事部向けの資料の目次を教えて」。禁止ワードを避けた聞き方はいくらでもあります。
見せたくないものは、検索の対象に入れない。入れたうえで「答えないで」と指示するのは、鍵をかけずに「開けないでください」と貼り紙をするのと同じです。
権限をどう引き継ぐか
作り方は大きく2通りあります。
既存の権限をそのまま使う。Microsoft 365 CopilotやGoogle WorkspaceのGeminiは、もともとファイルの権限を引き継ぐ設計です。自前で作らずにこれを使うのが、いちばん確実で安い。詳しくはこちらの記事に書きました。
自前で作る。どうしても必要なら、検索の範囲を分けます。
| 検索の範囲 | 入れる文書 | 使える人 |
|---|---|---|
| 全社 | 就業規則、業務マニュアル、社内用語集、FAQ | 全員 |
| 部門 | 各部署の手順書、過去案件の記録 | その部署 |
| 管理職 | 予算、要員計画 | 課長以上 |
| 人事 | 給与、評価、健康情報 | 人事部のみ |
最初は全社の範囲だけで始めるのを勧めます。それだけでも問い合わせはかなり減ります。欲張って全部入れると、設計が追いつきません。
入れてはいけない文書
範囲を分けるとしても、そもそも入れない文書があります。
- 健康情報、病歴、休職の記録（要配慮個人情報にあたりうる）
- 人事評価の個票、懲戒の記録
- 取引先から受領した資料（秘密保持契約の対象）
- 進行中のM&A、未公表の投資判断
- 顧客の個人データそのもの
3番が見落とされます。社内の共有フォルダには、取引先から預かった図面や仕様書が混ざっています。検索の対象を決めるときにフォルダごと指定すると、一緒に入ります。
この話は製造業の記事にも書きました。預かりものは自社の判断で出せません。
検索の対象を決める前に、フォルダを棚卸しする
これが実務上いちばん時間がかかる工程です。そして飛ばせません。
何年も運用してきた共有フォルダには、置き場所を間違えたファイルが必ずあります。人事フォルダに入れるべき資料が全社共有に置かれている、退職者が作った名簿が残っている、といった状態です。
今までは誰も開かなかったから問題にならなかった。チャットボットは、聞かれれば探します。
棚卸しをすると、たいてい放置されたフォルダと不適切な権限が見つかります。チャットボットの導入が頓挫しても、この作業だけで情報管理はかなり改善します。
回答の根拠を必ず表示する
設計上の必須要件です。回答と一緒に、どの文書のどこを見たかを出してください。
理由は2つ。ひとつは、間違った回答に気づけるから。もうひとつは、出てはいけない文書が参照されたときに発覚するからです。
根拠を出さない設計だと、権限設定のミスに誰も気づきません。「なぜかこの人が知っていた」という形でしか表面化しません。
運用で決めておくこと
- 検索の対象に何が入っているかの一覧を維持する
- 文書を追加するときの承認者を決める
- 質問と回答のログを取る（誰が何を聞いたか）
- 定期的に、出てはいけない文書が参照されていないか確認する
3番はプライバシーとのバランスがあります。取る範囲は事前に周知してください。この論点はログをどこまで取るかの記事に書きました。
小さく始めたほうがいい
社内チャットボットは、構想が大きくなりがちです。全社の全文書を横断検索して、何でも答える。理想としては分かります。
ただ、そういう設計ほど権限が破綻します。そして一度でも人事情報が出たら、プロジェクトは止まります。信用が戻りません。
就業規則と業務マニュアルだけ。社員の誰が見ても問題ない文書だけ。まずここで回してみて、問い合わせがどれだけ減るかを測る。
地味ですが、これが一番うまくいきます。