AIの守りが破られても被害が小さい作りは、触れる範囲を先に決める

AIに仕事を任せるとき、「悪い指示を受けても守れるか」を心配する方は多いはずです。ところが、守りは破られることがあります。守りが破られたあと、会社の何が傷つくのかは、あらかじめ決められます。この記事では、破られても被害が小さい作りにするために、会社として何を決めるかを説明します。

守りきれるかどうかではなく、破られても被害が小さいかどうかで決めます。そのために、AIが触れる場所の範囲を先に紙へ書き出し、本番のデータ、機密、個人情報には届かない形にします。2026年10月時点で弊社がすすめるのは、この順番です。

守りは破られる前提で考える

AIには、使い方を指定する文章（指示文）と、見つけて止める仕組みの両方で守りをかけます。しかし、指示文は言い回しを変えた依頼で外れることがあります。見つける仕組みも、すべてを見つけられるとは限りません。

そこで、守りが外れた場合を先に考えます。外れても、AIが触れない場所は壊せません。だから、見つける力を上げるより先に、触れる場所を減らします。

紙に書き出すもの

最初にやるのは、AIが触れる場所の一覧づくりです。次の3つの欄を作ります。

• 読める場所
• 社内の資料、メール、共有フォルダなど、AIが中身を見られる所
• 書ける場所
• 下書き、メモ、作業用のフォルダなど、AIが中身を変えられる所
• 外へ出せる場所
• メール送信、投稿、注文など、会社の外へ届く操作

書き出すと、「読めるはずがない」と思っていた場所が実は開いていた、と分かることがあります。この一覧は、AIを新しく使うたびに更新します。

戻せない場所を一覧から外す

次に、一覧のうち壊れたら戻せない場所を選びます。たとえば、お客様の個人情報、取引先との契約書、本番のデータです。

これらは「AIに注意させる」のではなく、AIの作業場所から届かない形にします。届かなければ、指示文が外れても、中身を見られたり書き換えられたりしません。

どうしても読ませたい場合は、コピーを作り、個人を特定できる部分を除いたものだけを渡します。元のデータは別の場所に残します。

外へ出る操作は人が押す

外へ出る操作は、被害が会社の外に広がります。送ったメールは取り消せませんし、公開した文章も消せないことがあります。

そのため、AIには下書きまでを任せ、送信や公開の最後の操作は人が行うと決めます。弊社も、記事を出す前に、人が読んで分かる言葉かを確かめています。AIが書いたままでは出しません。この確認の段が、AIの守りが外れたときの最後の止め場所になります。

明日できる最初の一手

明日できることは、A4の紙1枚に、いま使っているAIの名前と、その3つの欄を書くことです。読める場所、書ける場所、外へ出せる場所を、担当者と一緒に埋めます。時間は30分ほどで足ります。

埋まったら、戻せない場所がないかを見ます。あれば、まずその1か所だけAIから届かない形に直します。全部を一度に直そうとしなくて構いません。

社内に詳しい人がいない場合は、外の相談先に紙を見てもらう方法もあります。弊社の顧問型ITコンサル&ヘルプデスクは月10万円（税別）で、初期費用はありません。月2回、オンラインで30分の定例があり、紙を持ち込んで一緒に確かめられます。

費用がかかっても優先する順

すべての場所を一度に守ることはできません。そこで、壊れたときの影響が大きい順に直します。

1. 戻せないもの（個人情報、契約書、本番のデータ）
2. 外へ出るもの（送信、公開、注文）
3. 戻せるもの（下書き、作業用のメモ）

戻せるものは、間違えても元に戻せます。ですから後回しにして構いません。この順番を先に会社で決めておくと、担当者が迷わずに進められます。

理由と、あわせて読む記事

この判断が会社に要る理由は、被害の大きさを会社が決められるからです。守りの強さは相手しだいで変わりますが、AIが触れる範囲は会社が決めた範囲を超えません。

AIに社内データを読ませる方法と、渡してはいけない情報については、生成AIに社内データを読ませる3つの方法と渡してはいけない情報で説明しています。決める項目全体は、AIガバナンスとは。中小企業が最低限決める4つのことを解説にまとめています。

被害が小さい作りにする作業は、一度で終わりません。AIの使い方が増えるたびに、紙を見直します。