「社員が勝手にChatGPTを使っているようだが、機密情報を入れていないか心配だ」「かといって全面禁止にすると、時代に取り残される気がする」——経営者の方から、この種のご相談をいただくことが本当に増えました。
生成AIの安全性は、実は技術の問題というより「仕組みの設計」の問題です。この記事では、私たちが企業のAI導入支援で実際に整備している「セキュリティガードレール」——AIの行動を技術的に制限する仕組み——の考え方を解説します。
「なんとなく禁止」が、実は一番危ない
多くの会社の現在地は、明確な禁止でも許可でもない「なんとなく禁止」です。ルールがないので、真面目な社員ほど使わず、一部の社員が個人アカウントでこっそり使う。この状態が一番危険です。
理由は2つあります。第一に、会社が把握できない個人アカウントでの利用（いわゆるシャドーAI）は、何をどこに入力したか誰にも分かりません。事故が起きても気づけないのです。第二に、その間にもAIを使いこなす競合との生産性の差は、静かに開き続けます。つまり「なんとなく禁止」は、リスクを放置したまま、恩恵だけを捨てている状態なのです。
本当のリスクはどこにあるのか
「AIに入力すると情報が漏れる」と一括りに語られがちですが、リスクの経路を分解すると、対処はそれほど複雑ではありません。主な経路は次の3つです。
- 入力データがAIの学習に使われる: 無料版・個人向けプランでは、入力内容がAIモデルの改善（学習）に使われる場合があります。法人プランや適切な設定では、学習に使われない契約にできます
- アカウント・履歴の管理不備: 退職者のアカウントが残っている、共有リンクで会話履歴が誰でも見られる、といった運用面の穴
- 人間やAIの誤操作: 送信先の間違い、公開してよい情報と機密の区別がないままの利用、AIが意図せず機密ファイルに触れてしまうケース
チャット型AIとAIエージェントでは、守り方が違う
ブラウザで使うチャット型AI（ChatGPTやClaudeなど）は、法人プランの契約、学習に使わせないオプトアウト設定、アカウントの一元管理。この3点でかなりの部分を守れます。
一方、Claude CodeのようなAIエージェント——実際にPCの中でファイルを開き、作業をするAI——は話が別です。人間の部下と同じように仕事をしてくれる強力さの裏返しで、「どのファイルに触れるのか」「どんな操作を実行できるのか」を管理しなければ、チャット型とは桁違いのリスクになります。そして、これを人間の注意力だけで管理するのは不可能です。
そこで必要になるのが、セキュリティガードレールです。
セキュリティガードレール——AIが越えられない「柵」を設ける
私たちがガードレールと呼んでいるのは、マニュアルや口頭の注意ではありません。AIの行動そのものを技術的に制限する、3層の仕組みです。
第1層: ルールファイル（グローバルCLAUDE.md）
AIが仕事を始めるとき、必ず最初に読み込む「行動規範」をファイルとして備え付けます。機密ファイルは読まない、認証情報は出力しない、削除系の操作は確認を取る——人間でいえば就業規則ですが、決定的に違うのは、AIは毎回必ずこれを読んでから仕事を始めるという点です。
第2層: 権限設定（settings.json）
ルールを「守らせる」のではなく「破れなくする」層です。AIがアクセスできるフォルダ、実行できる操作を、設定ファイルで許可制にします。機密フォルダには最初から触れない。外部への送信は許可された宛先だけ。物理的な柵なので、うっかりも故意も通れません。
第3層: 監視と自動ブロック（hooks）
AIの操作を一つひとつ機械的にチェックし、危険な操作は実行される前に自動で止め、すべての操作を記録（ログ）として残す仕組みです。人が画面を見ていなくても、24時間働き続ける監視員がいる状態をつくります。
この3層に共通する思想は、「人の注意力に頼らない」ことです。ルールは破られることがあり、注意は忘れられます。しかし、柵は越えられません。
ガードレールの上に、組織への導入を載せる
誤解のないように書いておくと、ガードレールは土台であって、それだけでAI活用が進むわけではありません。利用ポリシーの策定、先行部署でのパイロット導入、社員研修といった「組織に広げるステップ」は、この土台の上に載せるものです。順番が逆になると——つまり柵がないまま全社展開すると——冒頭の「なんとなく禁止」に逆戻りします。組織導入のステップについては、別の記事で詳しく書く予定です。
明日からのチェックリスト
自社の現在地を確認するには、次の6項目をチェックしてみてください。
- 生成AIの利用ルールが文書として存在するか
- 会社が把握しているアカウントで使われているか（個人アカウントの黙認になっていないか）
- 入力データが学習に使われない契約・設定になっているか
- AIエージェントを使う場合、触れるファイル・実行できる操作を制限する設定があるか
- AIの操作が記録として残り、後から確認できるか
- 「怖いから使わない」社員に、安全に使える理由を説明できているか
3つ以上「いいえ」がついた場合は、ガードレールの整備から始めることをおすすめします。
まとめ
生成AIの安全性は、禁止か解禁かの二択ではありません。チャット型AIは契約と設定で、AIエージェントは3層のガードレール（ルールファイル・権限設定・監視と自動ブロック）で、人の注意力に頼らずに守る。この土台があってはじめて、安心して全社展開に進めます。
私たちOhEN Groupでは、ガードレールの設計・構築から組織への導入支援までを一気通貫で行っています。自社の現在地を知りたい方は、かんたんAI導入診断（6つの質問・約1分）もご活用ください。
この記事の要点
- 「なんとなく禁止」はシャドーAI（個人アカウントでの隠れ利用）を生み、リスク放置と機会損失の両方を招く最悪の状態
- リスクの経路は「学習利用・管理不備・誤操作」の3つに分解でき、それぞれ対処可能
- チャット型AIは法人契約・学習オプトアウト・アカウント管理で守れる。ファイルを操作するAIエージェントには技術的なガードレールが必須
- セキュリティガードレール3層 = ①ルールファイル（グローバルCLAUDE.md）②権限設定（settings.json）③監視と自動ブロック（hooks）。共通思想は「人の注意力に頼らない」
- ポリシー策定・研修などの組織導入ステップは、ガードレールという土台の上に載せる
OhEN Groupでは、熊本・九州を中心にAI導入支援・AI研修を提供しています。