「ChatGPTに入力した内容はOpenAIのサーバーに送られる」——これを知っている方は多いでしょう。しかし問題は「その先、何が起きるか」を正確に理解している人がほとんどいないことです。

「サーバーに送られる」という事実だけでは、リスクを適切に判断できません。このレッスンでは、情報の流れを具体的に追いながら、どこにリスクがあるかを整理します。

情報が「旅する」経路を理解する

プランによってリスクは大きく変わる

「学習に使われない」≠「安全」

ここが最も誤解される部分です。学習をオフにしても、情報はサーバーに送信・保存されています。以下のリスクは設定に関係なく残ります。

• ①OpenAI社員によるアクセス——安全性確認・品質管理のため、従業員が会話内容を確認することがOpenAI利用規約に明記されています。
• ②法的開示要請——司法機関から要請があれば、会話データが開示される可能性があります。米国法の適用を受けるOpenAIには、米国の裁判所命令が優先されます。
• ③サービス障害による流出——2023年3月20日、ChatGPTで実際に一部のChatGPT Plus会員（全体の約1.2%）の氏名・メールアドレス・支払い住所・クレジットカード番号下4桁が他ユーザーに表示されるバグが発生し、サービスが一時停止しました（OpenAI公式発表）。

入力してよいもの・いけないものを判断する

今日から実践する3つのこと

• 1ChatGPTの設定を今すぐ確認する——Settings → Data Controls → 「Improve the model for everyone」をオフに。（5分で完了）
• 2実名・住所・金額を入力前に仮名に置き換える習慣をつける——「田中様」→「A様」、「○○円」→「●●円」。入力前の15秒の確認が情報漏洩を防ぎます。
• 3このレッスンをチームに共有する——一人が知っていても組織は守れません。まずこのページのURLを同僚に送ってください。

「学習オフにすれば大丈夫」——この認識が最も危険です。設定は確かに重要ですが、それだけでは守れないリスクがあります。このレッスンでは主要ツールの設定手順を具体的に解説し、設定後も残るリスクを正確に伝えます。

ChatGPT：設定手順（2026年版）

• 1右上のアカウントアイコン → 「Settings（設定）」 をクリック
• 2左メニュー 「Data controls（データ管理）」 を選択
• 3「Improve the model for everyone」をオフ（グレー）にする
• 4確認ポップアップが出たら「OK」で完了

主要AIツールの設定比較（2026年時点）

設定後も残る3つのリスク

設定完了チェックリスト

「シャドーAI（Shadow AI）」とは、会社の許可・管理なしに従業員が個人的にAIツールを業務利用する行為です。「シャドーIT」の生成AI版と言えます。

「うちはAIを導入していないから関係ない」——そう思っているなら、それは危険な誤解です。導入していないから「存在しない」のではなく、見えていないだけです。

シャドーAIはなぜ起きるか

業種別：こんな使い方が実際に起きている

シャドーAIへの現実的な対処法

• 1現状を把握する（アンケート）——「今どんなAIを使っているか」を責めずに聞く。罰則的なアプローチは隠蔽を生むだけです。
• 2許可リストを作る——「これはOK、これはNG」を明示する。グレーゾーンをなくすことがシャドーAI抑制の核心です。
• 3全員が同じ教育を受ける——このeラーニングを全員が受講することで、「知らなかった」による無意識リスクを大幅に削減できます。

【実践】シャドーAI実態把握アンケート（ひな形）

責めない・罰しない雰囲気で実施することが最重要です。「正直に教えてもらうことが会社にとって一番大事」と最初に伝えてから配布してください。

シャドーAIを「見える化」する3ステップ

• 1アンケートを実施する（上記ひな形を使用・匿名・1週間以内）——まず事実を把握しないと何も始まらない。
• 2許可ツールリストを作成・共有する（L12参照）——「これはOK・これはNG」を一覧にして全員に配布。グレーゾーンをなくす。
• 3全員がこのeラーニングを受講する——知識の底上げにより「知らずにやってしまう」リスクを削減。

「AIを安全に使いたいなら自社サーバーに入れればいい」——これは理屈としては正しいですが、中小企業の現実には合っていない場合がほとんどです。このレッスンでは選択肢を整理し、中小企業に最も現実的な答えを提示します。

クラウドAI vs オンプレミスAI：根本的な違い

中小企業に現実的な「第3の選択肢」

完全なオンプレミスは中小企業には過剰投資になる場合がほとんどです。現実的な選択肢は「クラウドAIの法人向けエンタープライズプラン」です。

実際に起きた失敗事例：「オンプレにすれば安全」の誤解

法人プランへの移行：4ステップ（ChatGPT Business を例に）

• 1chat.openai.com にアクセス → 「Business」プランを選択——クレジットカード払い・請求書払いどちらも対応。
• 2管理者アカウントを設定し、メンバーを招待——メールアドレスで招待。個人アカウントで使っていた社員は既存アカウントに組織を紐付け可能。
• 3「社員は個人アカウントを業務で使用禁止」をルール化——口頭で伝えるだけでなく、L12のガイドラインに明記する。
• 4管理ダッシュボードで使用状況を確認——誰がどれくらい使っているかを把握し、月1回確認する習慣をつける。

「ChatGPTを使っている」と一口に言っても、プランによってセキュリティ水準は雲泥の差があります。無料プランと法人プランを同列に扱うことは、セキュリティ管理上の致命的なミスです。

無料プランで業務利用を続けることの具体的リスク

• 🔴入力内容がAI学習に使われる——デフォルト設定のままでは、顧客情報がOpenAIの次世代モデルの学習データになる可能性があります（個情法上の「第三者提供」問題）。
• 🔴管理者が使用状況を把握できない——誰が何を入力したか、会社として全く追跡できません。インシデント発生時に原因特定が不可能になります。
• 🔴DPA（データ処理委託契約）が締結できない——個人情報保護法上「委託」として適法に整理するためには、OpenAIとの間に適切な契約関係が必要です。Business以上のプランでのみ可能です。

Businessプランで何が変わるか

Businessプランへの移行：実際の手順（所要時間：約30分）

• 1chat.openai.com → 「Upgrade」→「Team」を選択（5分）——クレジットカードまたは請求書払いを選択。
• 2ワークスペース名を設定し、管理者メールアドレスを確認（5分）——会社名をワークスペース名に設定しておくと管理しやすい。
• 3メンバーをメールアドレスで招待（10分）——既存の個人アカウントに紐付け可能。招待メールが各自に届く。
• 4「個人アカウントでの業務利用禁止」をチームに通知（10分）——口頭または書面で伝え、L12のガイドラインにも明記する。

業種別：プラン変更後に変わること

「まだFreeプランを使っている」場合のリスク認識チェック

ChatGPT以外にも、業務で使われるAIツールは多岐にわたります。「ChatGPTだけ設定した」では不十分です。このレッスンではClaude・Gemini・Copilotの3ツールについて、セキュリティの観点から整理します。

Claude（Anthropic）

AnthropicはAIの安全性研究に特化した企業として設立されました。「Constitutional AI（憲法的AI）」と呼ばれる安全性重視の訓練手法を採用し、設計段階から情報漏洩・有害出力のリスク低減が組み込まれています。

Google Gemini

個人GoogleアカウントとGoogle Workspace（法人）ではデータ扱いが根本的に異なります。この違いを理解せずに使うことが最大のリスクです。

Microsoft Copilot

CopilotはWord・Excel・Teams等の社内データに直接アクセスできます。これが最大の強みであり、同時に最大のリスクです。

あなたの会社に合うツールは？

Copilot導入前に必ず確認すべき設定チェックリスト

業種別：各ツールの安全な使い方 Before/After

「これ、入力していいですか？」と毎回上司に確認しなくても判断できる——それがこのレッスンの目標です。判断基準を3段階×業種別で整理します。

個人情報の定義（個人情報保護法第2条）

3段階の情報分類

レベル3：絶対に入力してはいけない情報

• 🔴顧客・取引先の氏名・住所・電話番号・メールアドレス（個人情報保護法第2条第1項）
• 🔴マイナンバー・健康保険証番号・口座番号・クレジットカード情報（個人番号利用法も適用）
• 🔴病名・診断内容・投薬情報・障害情報（個人情報保護法第2条第3項「要配慮個人情報」）
• 🔴契約書の当事者名・具体的な金額・条件（機密情報・守秘義務対象）
• 🔴社員の給与・人事評価・採用判断に関する情報（個人データ）
• 🔴未公開の新製品・新事業・M&A情報（インサイダー情報・営業秘密）

業種別：Before/After入力例

「組み合わせリスク（モザイク効果）」に注意する

単体では問題なくても、複数の情報が組み合わさると個人が特定できてしまう「モザイク効果（Mosaic Effect）」があります。

「AIセキュリティはIT企業の話」——そう思っている方に読んでほしいのがこのレッスンです。中小企業が多い4業種に特化した、現場で実際に起きている・起きうるリスク事例を紹介します。

不動産業：3つのリスクシナリオ

介護・医療業：要配慮個人情報の特別な扱い

飲食業：アレルギー情報と常連客データ

士業：守秘義務との深刻な衝突

個人情報保護法（正式名称：個人情報の保護に関する法律）は、事業者が個人情報を扱う際のルールを定めた法律です。2022年4月施行の改正で規制が大幅強化され、違反時の法人に対する罰金は最高1億円（第184条）に引き上げられました。AIの普及によって、この法律との関係はさらに重要になっています。

個人情報保護法の基本：事業者の主な義務

「AIへの入力」が第三者提供になりうる理由

顧客の個人情報をChatGPTに入力する行為は、個人情報をOpenAI社（第三者）のサーバーに送信することを意味します。

個人情報保護委員会は2023年6月2日の公式注意喚起で、「AIサービス提供事業者が、プロンプトとして入力された個人データを学習用データセットに加工して機械学習に利用している場合には、サービス利用者からAIサービス提供事業者への個人データの『提供』と評価される可能性が高い」と明示しています（注意喚起資料より）。

「委託」として適法に整理する方法

個人情報保護法第27条第5項第3号では、「業務委託」先への個人データ提供は第三者提供にあたらない例外があります。AIサービスとの関係を「業務委託」として位置づけられれば、違法リスクを回避できます。

漏洩報告義務（2022年改正・重要）

2022年4月施行の個人情報保護法改正により、漏洩報告が努力義務から法的義務に変わりました（第26条）。報告が必要な主な場合：

• ①要配慮個人情報が含まれる漏洩——1名でも報告義務が発生（施行規則第7条第1号）。介護・医療情報を誤入力した場合、この要件に該当する可能性があります。
• ②財産的被害が生じるおそれがある漏洩——口座番号・クレジットカード情報等（施行規則第7条第2号）。
• ③不正の目的で行われた漏洩——サイバー攻撃等（施行規則第7条第3号）。
• ④1,000人を超える漏洩——大規模漏洩（施行規則第7条第4号）。

「AIが作ったものだから著作権の問題はない」——この認識は半分正しくて半分誤りです。AIを使ったコンテンツ制作には、入力側と出力側の両方で著作権リスクが存在します。

2024年3月15日、文化庁（文化審議会著作権分科会法制度小委員会）が「AIと著作権に関する考え方について」を公表しました。本レッスンはこの公式ガイドラインに基づいて解説します。

著作権リスクは「入力（学習）段階」と「生成・利用段階」の両方にある

著作権侵害の判断基準：類似性と依拠性

著作権侵害が成立するには、①類似性（既存著作物の表現上の本質的特徴が感得できるか）と②依拠性（既存著作物に基づいて創作されたか）の両方が必要です（判例法理・文化庁「考え方」で確認）。

入力側のリスク：やってはいけない3パターン

出力側のリスク：AI生成物の著作物性

業種別：著作権リスクが高い利用例

ハルシネーション（Hallucination：幻覚）とは、生成AIが事実ではない情報を自信を持って出力する現象です。AIが「嘘をついている」わけではなく、確率的な予測に基づいて文章を生成する大規模言語モデルの仕組み上、必然的に発生します。

ハルシネーションが特に危険な場面

法的責任は誰にあるか

AIがハルシネーションで誤情報を生成し、それを確認せずに業務で使い、問題が発生した場合——責任はAIを利用した人間・企業にあります。

OpenAI・Anthropicのいずれの利用規約にも、「AIの出力の正確性・完全性・適合性を保証しない」と明記されています。「AIがそう言ったから」は法的な免責理由になりません。

ハルシネーションを防ぐ実践的な対策

• 1数値・統計・法律条文は必ず一次ソースで確認——「○%」「第○条」という情報は、e-Gov法令検索・国税庁・法務省・厚生労働省等の公式サイトで裏付けを取る。
• 2「本当にそうか？」を習慣化する——AIの回答は確信を持っているように見えても、「本当にそうか？」を自問する。特に具体的な数字・固有名詞・法令名が出た場合は要注意。
• 3専門情報の最終確認は専門家に委ねる——法的判断・医療情報・税務判断は、AIを参考程度にし、専門家に最終確認を求める。
• 4AIには「ドラフト作成」を担当させる——事実確認は人間が行い、AIは「文章の整形・構造化」に特化させる役割分担が最も安全です。

業種別：情報確認先リスト（一次ソース）

AIの回答に数値・法令・医療情報が含まれていた場合、以下の公式サイトで必ず確認してください。

AI出力を社外で使用する前の最終チェックリスト

このレッスンでは、中小企業がすぐに使えるAI利用ガイドラインの雛形を提供します。完璧なものを目指して先送りするより、まず70点のものを作って運用することが重要です。

ガイドライン作成の前に確認する3つのこと

• 1現状把握——社員が今どんなAIツールを、どんな用途で使っているかをアンケートで確認します。「責めない」雰囲気で聞くことが重要です。
• 2許可ツールの決定——「これはOK・これはNG」を決めます。全禁止は現実的ではありません。安全なツールを積極的に認める姿勢が大切です。
• 3AI担当者の設定——問い合わせ窓口と最終判断者を1名決めます。小規模なら経営者自身で構いません。

【雛形】生成AI利用ガイドライン

情報漏洩インシデントが発生した場合、最初の対応の速さと正確さが被害の大きさを大きく左右します。パニックになる前に、この対応フローを頭に入れておいてください。

対応フロー：時系列で整理

インシデント報告書に記録すべき項目

個人情報保護委員会への報告が必要な場合

以下のいずれかに該当する場合、個人情報保護委員会への報告が義務になります（個人情報保護法第26条・施行規則第7条）。

• ①要配慮個人情報が含まれる漏洩——介護・医療情報等を入力した場合、1名分でも報告義務が発生しえます。
• ②財産的被害が生じるおそれがある漏洩——口座番号・クレジットカード情報等。
• ③1,000人を超える漏洩——大規模な顧客情報が含まれる場合。

平時から準備すべき「インシデント連絡先リスト」

「セキュリティ対策は専任部門がある大企業がやるもの」——そう思っていませんか？実は中小企業こそ、シンプルな対策で大きなリスク削減が可能です。

今すぐできる5つの対策（優先度順）

対策①：法人プランへの移行（最優先）

対策②：入力禁止リスト（最速で効果が出る）

中小企業が陥りがちな3つの落とし穴

業種別：よくある体制整備の失敗パターン

1週間でできる体制整備ロードマップ

コース全体の内容を今日から実践できる10のアクションとして整理します。優先度の高いものから順番に取り組んでください。

今日からできる10のアクション

「自分には関係ない」と思っている人が、最もリスクに気づかないまま被害を受けます。このレッスンでは不動産・介護・飲食・士業・全業種共通の現場で実際に起きている・起きうる事例を20件、パターン別に整理しました。

【不動産業】5事例

【介護・医療業】4事例

【飲食業】4事例

【士業・専門職】4事例

【全業種共通】3つの構造的リスク事例

「どのAIを使えばいいの？」——セキュリティと目的の観点から整理すると答えが見えてきます。このレッスンでは中小企業が実際に使う6ツールを、セキュリティ・得意不得意・中小企業推奨度の観点で比較します。

① ChatGPT（OpenAI）

得意なこと：汎用的な文章生成・要約・アイデア出し・コード作成。GPT-4系の自然な日本語対応が高水準。プラグイン・GPTs機能で業務フローへの組み込みも可能。

注意点：無料プランでの業務利用はセキュリティ上推奨されない。ハルシネーションは依然として発生する。

② Gemini（Google）

得意なこと：Google Workspace（Gmail・Docs・Sheets・スライド）との深い統合。Docs・SheetsのAI支援が特に強力。YouTubeの要約にも使える。

最重要注意点：個人アカウントとWorkspaceアカウントでセキュリティ水準が根本的に異なる。「Googleにログインしているから大丈夫」という誤解が最も多い。

③ Claude（Anthropic）

得意なこと：長文の正確な要約・分析（契約書・報告書・論文）、複雑な指示への忠実な対応、安全性の高い出力品質。法的・倫理的に繊細な領域での利用に適している。

④ Genspark

得意なこと：リアルタイムWeb検索と情報整理の組み合わせ。複数AIエージェントが連携してリサーチレポートを自動生成。市場調査・競合調査・業界トレンド把握に強い。SNS分析の自動化に実績あり。

注意点：設立から間もない新興サービスで長期的な信頼実績が限定的。プライバシーポリシーの詳細な透明性への懸念が指摘されている。創業者が元Baidu幹部であるため、データ管理の独立性について慎重な評価が必要との意見もある。

⑤ Manus

できること：旅行計画から予約まで自律実行・市場調査レポートの自動生成・プレゼン資料の自動作成。「ゴールを伝えれば後はAIが全部やる」という完全自律型の動作。

なぜ業務機密に使ってはいけないか

• 🔴中国の国家情報法リスク：「法に従って国家の情報活動に協力する義務を負う」（中国国家情報法第7条）。Manusは実質的に中国企業が運営しており、ユーザーデータが中国政府に提供される法的義務がある可能性がある。
• 🔴自律的なデータアクセス：Manusは自律的にWebブラウジング・外部API呼び出しを行うため、何がどこに送信されたか追跡が困難。
• 🔴複数AI間の情報混入リスク：複数のAIエージェントが連携する過程で意図しない情報が混入したり、別プロジェクトのデータが結果に含まれる可能性がある。
• 🔴データセンター情報の不透明性：データセンターの所在地・セキュリティ監査結果等が明示されていないとの指摘がある。

⑥ NotebookLM（Google）

得意なこと：社内マニュアル・会議議事録・報告書・契約書など「アップロードした文書に基づいた質問応答」が最大の強み。「この議事録のA案とB案の違いを整理して」「この契約書の○○条項について教えて」のような用途に圧倒的に強い。Audio Overview（ポッドキャスト形式の音声要約）も便利。

最重要注意点：個人アカウントとWorkspaceアカウントでセキュリティ水準が根本的に異なる。共有設定のミスによる情報漏洩が最大のリスク。

使い分けの結論：中小企業向けツール選択マトリクス

AIによって詐欺メールは「進化」した

かつてのフィッシングメールは、不自然な日本語や誤字脱字ですぐに見破れた。しかし生成AIの登場により、攻撃者は完璧に自然な文体・文法で標的を騙すメールを大量かつ低コストで生成できるようになった。

IPA（情報処理推進機構）の「情報セキュリティ10大脅威 2026」では「AIの利用をめぐるサイバーリスク」が初登場3位にランクインし、フィッシング詐欺も引き続き上位を占める。もはや大企業だけの問題ではない。

AIフィッシングの4つの手口

見破るための5つのチェックポイント

• 1送信元アドレスを確認する
  「@amazon.co.jp」ではなく「@amazon-support.xyz」など、ドメインが微妙に違う場合がある。表示名ではなくアドレス本体を必ず確認すること。
• 2クリック前にURLを確認する
  リンクにカーソルを当てて（モバイルは長押し）実際のURLを確認。短縮URLは展開ツールで確認する。
• 3「急かす」文面に要注意
  「24時間以内に」「今すぐ」「アカウントが停止されます」などの緊急性を煽る表現は詐欺の典型パターン。
• 4別経路で本人確認する
  上司や取引先からの不審な依頼は、そのメール・電話には返信せず、既知の連絡先に直接折り返す。
• 5多要素認証（MFA）を有効にする
  IDとパスワードが漏洩してもMFAがあれば不正ログインを防げる。最後の砦として必ず設定する。

AIへの「命令の乗っ取り」とは

プロンプトインジェクション（Prompt Injection）とは、AIシステムへの入力に悪意ある指示を紛れ込ませ、AIに意図しない動作をさせる攻撃手法だ。ChatGPTやCopilotを社内ツールとして活用する企業が増える現在、これはビジネスの現場に直接的な脅威をもたらす。

攻撃の3つのパターン

企業が取るべき4つの対策

• 1AIエージェントの権限を最小化する
  AIに「メール送信」「ファイル削除」「外部API呼び出し」の権限を与える場合は必要最小限に。攻撃が成功しても被害を限定できる。
• 2AIが処理するコンテンツを信頼しすぎない
  Webスクレイピング・PDF読み込み・メール解析をAIに行わせる場合、その出力を人間が確認するステップを挟む。
• 3AIの操作ログを記録する
  どのプロンプトが入力され、AIがどう応答したかのログを保持する。インシデント発生時の調査に不可欠。
• 4社内AIツールの導入前にセキュリティレビューを実施する
  外部のAIサービスを社内システムと連携させる前に、プロンプトインジェクション対策が施されているか確認する。

ディープフェイクとは

ディープフェイク（Deepfake）とは、AI技術を使って人物の顔・声・動画を精巧に合成・改ざんする技術だ。かつては専門的な技術と高性能PCが必要だったが、2025年以降はスマートフォンアプリでも数分で精巧なフェイク映像を生成できる。2025年にはディープフェイクを使った詐欺が前年比700%急増し、2025年Q4だけで15万件超が検出されている（ScamWatch HQ・Gen Threat Labs）。

ビジネスで狙われる3つのシナリオ

組織的な防衛策

• 1「コールバック確認」をルール化する
  送金・契約・機密情報の提供は、いかなる経路（電話・ビデオ）での依頼であっても、既知の番号に折り返し確認する。これだけで大多数の詐欺を防げる。
• 2映像の「不自然さ」をチェックする
  まばたきの少なさ、輪郭のぼやけ、口元と音声のズレ（リップシンクのズレ）を確認する。精度は上がっているが完璧ではない。
• 3緊急送金の承認フローに「複数人確認」を組み込む
  一定金額以上の送金は、通信手段にかかわらず複数人の承認が必要なフローを設ける。
• 4社内「合言葉」を設ける
  緊急時のビデオ通話で本人確認をするための社内専用コードワードを設定しておく方法も有効。

AIエージェントとは

AIエージェントとは、人間が逐一指示しなくても、目標に向けて自律的に複数のタスクを実行するAIシステムのことだ。例えば「来週の営業会議の資料を準備して」と依頼すると、AIが自ら予定表を確認し、過去の資料を参照し、メールを送り、ドキュメントを作成するまでを自動で行う。

MicrosoftのCopilot Agent、GoogleのAgentic AI、AutoGPTなど急速に普及しているが、セキュリティリスクの理解が追いついていないケースが多い。

AIエージェント特有の3つのリスク

安全にAIエージェントを使う4原則

• 1最小権限の原則
  AIエージェントに与える権限は、タスクに必要な最小限に留める。「読み取り専用」にできるならそうする。送信・削除・外部送信の権限は特に慎重に。
• 2人間の承認フローを残す
  「重要な操作は人間が最終確認する」チェックポイントを組み込む。完全自律化は段階的に行い、信頼性を確認しながら進める。
• 3操作ログの保持
  AIエージェントが実行した全操作をログに残す。問題発生時の調査と説明責任のために不可欠。
• 4サンドボックス環境でのテスト
  新しいAIエージェントを本番環境で動かす前に、本番データにアクセスできない隔離環境でテストする。

なぜロールプレイで学ぶか

セキュリティインシデントは、準備なしに突然起きる。「知識として知っている」と「実際に対応できる」の間には大きなギャップがある。このレッスンでは3つのリアルなシナリオを通じて、「その場でどう判断・行動すべきか」を体験的に学ぶ。

シナリオ① 顧客情報をChatGPTに貼り付けた

シナリオ② フィッシングリンクをクリックしてしまった

シナリオ③ 退職者のAIツールアクセスが残っていた

インシデント対応で犯しがちな3つのミス

ChatGPTの「中身」を知ることがなぜ重要か

多くのビジネスパーソンはChatGPTやClaudeを「賢い検索エンジン」のように使っている。しかし内部の仕組みを知らないまま業務に使い続けることは、予測できないリスクを抱えたまま車を運転するようなものだ。なぜ嘘をつくのか、なぜ同じ質問でも答えが変わるのかを理解することが、安全な活用の出発点になる。

LLMとは何か

LLM（Large Language Model：大規模言語モデル）は、インターネット上のテキストデータを大量に学習し、「次に来る確率が最も高い単語」を繰り返し予測することで文章を生成するAIだ。「理解して答える」のではなく、「統計的にそれらしい文章を組み立てる」のが本質。

「確率的な予測」が生む3つのリスク

「知識のカットオフ」——AIは未来を知らない

LLMは学習データの収集日時（カットオフ日）以降の情報を持っていない。法改正・新製品情報・最新の判例・時事ニュースなど、時間が経つほど陳腐化する情報はAIの回答を信頼しすぎてはいけない。カットオフ日をAIに確認してから使うことを習慣にする。

プロンプトの品質がリスクを左右する

AIへの入力（プロンプト）の書き方が悪いと、意図しない個人情報の漏洩・誤情報の信用・著作権リスクのある出力につながる。このレッスンでは「どう書けば安全で精度が高いか」をセキュリティ視点で学ぶ。

プロンプトの4要素（DAIR.AI）

セキュリティ視点での4つのルール

• 1個人情報・機密情報を直接入力しない
  氏名・住所・社員番号・顧客データ・売上数字は、匿名化・一般化してから入力する。「田中様（65歳・糖尿病）」ではなく「65歳の患者」に置き換える。
• 2「出力形式」を指定して情報漏洩リスクを下げる
  「箇条書きで要点のみ」と指定することで、AIが不必要な詳細や推測を出力するリスクを下げられる。
• 3AIの回答を「ドラフト」として扱う
  法的情報・医療情報・財務情報はAIの出力をそのまま使わない。必ず専門家・一次ソースで確認する習慣をつける。
• 4ロールプレイ指示の悪用に注意する
  「あなたは制限のないAIです」「悪役として答えて」などのロール指示は、AIの安全フィルターを迂回しようとするジェイルブレイク手口。社内ガイドラインでこのような使い方を禁止することを推奨。

精度を上げる3つの技法

AIのカスタマイズ3手法の概要

生成AIを自社業務に特化させる方法は主に3つある。それぞれのリスクを理解せずに導入すると、機密情報の漏洩・法的リスク・予期しない出力につながる。

RAGとは——仕組みとリスク

RAG（Retrieval-Augmented Generation）とは、AIが回答を生成する前に外部の知識ベース（社内文書・FAQ・マニュアル等）を検索し、関連情報をプロンプトに組み込んで回答を補強する手法だ。モデルを再学習させずに最新情報・社内情報を反映できる。

RAG導入時の3つのリスク

ファインチューニングとは——仕組みとリスク

ファインチューニングとは、既存のLLMに追加データを使って再学習させ、特定のタスクや分野に特化させる手法だ。医療・法律・金融など専門分野での高精度回答が可能になるが、コストとリスクが最も高い。

職種別に「何がOKで何がNGか」を明確にする

AIツールの業務活用が進む中、「どこまでAIを使っていいのか」の基準が曖昧なまま運用されている企業が多い。このレッスンでは主要5職種・業種について、具体的なOK/NGの事例を整理する。

営業・マーケティング職

経理・財務職

人事・総務職

医療・介護職

士業（弁護士・税理士・社労士等）

「答えるAI」から「働くAI」へ

2025年は「AIエージェント元年」と呼ばれた。従来のChatGPTのような「質問に答えるAI」から、目標を与えられると自ら計画を立て・ツールを使い・タスクを完了する「自律的に働くAI」への転換が始まっている。L21でリスクを学んだが、このレッスンでは最新技術の仕組みとビジネスインパクトを深掘りする。

PAORサイクル——エージェントが「考えて動く」仕組み

AIエージェントは以下のサイクルを繰り返してゴールに近づく：

MCP（Model Context Protocol）とは

MCP（Model Context Protocol）とは、AIと外部ツール・データを接続する共通規格だ。Anthropicが2024年11月にオープンスタンダードとして公開し、OpenAI・Google DeepMindも採用するなど急速に普及している。一言で言えば「AIのUSB-C」——規格を統一することで、あらゆるAIとあらゆるツールを接続できるようになった。

A2A（Agent to Agent）——エージェント同士の連携

A2A（Agent to Agent）とは、AIエージェント同士が互いに通信・協調して複雑なタスクを分担する仕組みだ。例えば「リサーチエージェント」が情報を集め、「分析エージェント」が整理し、「報告書エージェント」が文書化するという連携が自動で行われる。

Function Calling——責任分界の原則

AIエージェントがツールを呼び出す際の基本原則として、「モデル＝選択と推論のみ担当」「アプリ＝実行と統制を担当」という責任分界が重要だ。