生成AIの利用ログを、どこまで取るべきか

取りすぎると使われなくなる

生成AIの利用ログをどこまで取るか。これは技術の問題ではなく、信頼の問題です。

入力した文章を全部記録して、管理者が読める状態にする。安全のためには合理的に見えます。ところが実際にやると、社員は使わなくなります。正確には、会社のアカウントでは使わなくなります。

個人のスマホで続きをやります。そして会社からは完全に見えなくなる。監視を強めたことで、把握できる範囲が狭まる。

目的から決める

何のためにログを取るのか。目的によって必要な粒度が変わります。

上の4つは中身が要りません。大半の目的は、中身なしで達成できます。

中身が要るのは最後の1行だけ。そして、この目的を掲げた瞬間に監視になります。やるなら覚悟を決めて、やらないなら最初から取らない。中途半端が一番よくない。

法律上の論点

従業員が入力した文章を記録して閲覧する行為は、労務管理の文脈で整理が要ります。

一般に、業務用に貸与した端末やアカウントの利用状況をモニタリングすること自体は、目的が正当で、方法が相当で、事前に周知されていれば許容されると整理されています。逆に、周知せず秘密裏に行うと問題になりやすい。

個人情報保護委員会も、従業者の監督に関してモニタリングを実施する場合の留意点を示しています。実施責任者と権限の明確化、あらかじめ定めたルールの周知、実施状況の確認といった観点です。

現実的な落としどころ

中小企業で回るのは、だいたいこの形です。

1. 平常時は、使った事実だけを記録する（誰が・いつ・どのサービス）
2. 中身は見ない。見ないことを明言する
3. 事故の申告があったとき、または外部から指摘があったときに限り、責任者2名の承認で中身を確認する
4. 確認した場合は、本人に事後に通知する

3番の「2名の承認」が効きます。一人で見られる状態だと、社員は信用しません。歯止めが見える形になっていることが大事です。

4番も入れておいてください。見たことを隠すと、後で分かったときに致命的です。

法人プランで取れるもの

主要なサービスの管理機能で、だいたい次のようなものが取れます。

利用者ごとのアクティビティ、会話数、使われた日時。管理者が会話内容にアクセスできる設定を持つものもあります。

導入時に、管理者が中身を見られる設定になっているかを確認してください。見られる状態で運用するなら、その事実を周知する必要があります。見られることを知らされていない状態が一番まずい。

ログを取る前に決めること

取り始めてから考えると、後戻りできません。先に決めてください。

文面は顧問の社労士に確認してから使ってください。既存の規程との整合が要ります。

個人アカウントは、そもそもログが取れない

ここまで書いてきた話は、会社がサービスを契約している前提です。

社員が個人のアカウントで使っている場合、ログは1件も取れません。何を入れたかも、そもそも使っているかも分かりません。

だから順番としては、ログ設計より先に、会社のアカウントで使える状態を作るほうが先です。取れないログの設計を議論しても意味がない。

実態の把握方法は会社が把握していないAIの見つけ方に、会社として何を用意するかはガイドラインのひな形に書きました。

信用を削ると、情報が止まる

監視を強めた会社で何が起きるか。事故の報告が上がってこなくなります。

「入れてしまった」と言った瞬間にログを全部見られる、と思われたら、誰も言いません。黙って様子を見ます。そして発覚が半年遅れる。

ログを取る目的が「事故に早く気づくこと」なら、報告しやすさのほうが効きます。矛盾しているようですが、ここは本当にそうだと思っています。