「うちの社員が、AIに何を入れているか分からない」
「危ないとは聞くけれど、何をどうすればいいのか分からない」
生成AIの利用について、こうしたご相談をいただくことがあります。
AIに入力するということは、外部のサーバーに情報を送るということです。設定を変えれば学習には使われなくなりますが、送った事実そのものは消えません。
この記事では、実際に起きたこと、入れてはいけない情報、渡さずに済ませる方法、そして先にやるべき設定を順に説明します。設定は3分で終わります。
01
実際に起きたこと
「万が一」の話ではありません。過去に、他人の情報が見えてしまう不具合が実際に起きています。
2023年3月、ChatGPTで起きたこと
OpenAI が公式に公表している内容です。
ChatGPT をオフラインにしました。オープンソースライブラリのバグにより、一部のユーザーが他のアクティブなユーザーのチャット履歴のタイトルを見ることができる状態になっていたためです
さらに調査で分かったこととして、こう続きます。
同じバグにより、特定の9時間の間にアクティブだった ChatGPT Plus 加入者の 1.2% について、支払いに関する情報が意図せず表示された可能性があります
見えた可能性があるとされたのは、次のものです。
- 氏名（姓名）見えた可能性
- メールアドレス見えた可能性
- 支払い先の住所見えた可能性
- カードの種類と有効期限見えた可能性
- カード番号の下4桁見えた可能性
- カード番号の全体一度も露出していない
カード番号の全体が露出したことは一度もない、と公式が明記しています。 「クレジットカード情報が流出した」と説明されることがありますが、正確には下4桁までです。
ここから分かること
バグはすぐ修正されました。問題は、修正されたことではありません。
こうしたことが起こりうる、という前提で使う必要があるということです。便利であることと、安全であることは別です。
02
入れてはいけない情報
名前を書かなければ大丈夫、ではありません。組み合わせで個人が特定できるものは、すべて個人情報です。
ここが最も多く語られている点です。
そのまま入れてはいけないもの
- 氏名・住所・電話番号・メールアドレス
- 顔写真、身分証明書の画像
- ID・パスワード
- クレジットカード番号、銀行口座情報
- 会社の機密情報（未公開の数字、契約内容、開発中の情報）
- 取引先や社員など、他人の個人情報
名前を消しても、特定されることがある
ここが見落とされがちな点です。
✗ 危ない
A商事の営業部で、先週の月曜日に1時間遅刻した人について相談したい
✓ 安全
部下の遅刻について、上司としてどう声をかけるべきか相談したい
左には名前が入っていません。それでも社内の人が読めば、誰のことか分かります。断片的な情報でも、組み合わせると個人が特定できます。
役職、部署名、日付、プロジェクト名。これらが揃うと、パズルが完成します。
入力は「外部に渡す」ことです
AIは、入力された文章をネット経由でサーバーに送り、処理して結果を返しています。手元で完結していません。
一度外に出た情報は、完全には管理できません。設定でできるのは「学習に使わせない」ことであって、「送らなかったことにする」ことではありません。
03
渡さずに済ませる方法
多くの場合、情報そのものを渡さなくても、やりたいことはできます。
記号に置き換える
固有名詞を記号にして渡し、返ってきた文章を手元で書き戻します。
以下の条件でメールの返信案を書いてください。 送信先：X社の担当者A 内容：プロジェクトBの納品が1日遅れることのお詫び
会社名・担当者名・プロジェクト名を、すべて記号に置き換えています。
返ってきた文面の「X社」「A様」を、手元で正しい名前に直します。文脈さえ合っていれば、AIは正しく文章を組み立てます。
送る前に、置き換えた部分を必ず戻したか確認してください。 記号のまま送ってしまう事故が起きています。
構造だけを伝える
表を扱う場合、中身を渡さずに構造だけ伝えます。
✗ 危ない
「山田太郎、090-1234-5678、東京都渋谷区…」という表があります
✓ 安全
A列に氏名、B列に電話番号、C列に住所が入っている表があります。500行あります
関数を作る、集計する、整形する。こうした用途はこれで足ります。
04
まず、設定を変える
各社とも、入力内容を学習に使うかどうかを利用者が選べます。3分で終わります。
ChatGPT
右上のプロフィールアイコンをクリック
「設定」を選ぶ
「データコントロール」へ進む
「すべての人のためにモデルを改善する」をオフにする
公式には、こう書かれています。
会話は引き続きチャット履歴に表示されますが、ChatGPT のトレーニングには使用されません
この設定はアカウント全体に適用されます。 公式に「モデルのトレーニングをオフにすると、使用しているデバイスに関係なく、その設定がアカウント全体に適用されます」と明記されています。パソコンで変えれば、スマートフォンでも有効です。
Gemini
画面の設定を開く
「アクティビティ」を選ぶ
「Gemini アプリ アクティビティ」をオフにする
オフにすると、チャットの履歴も残らなくなります。必要に応じて使い分けてください。
仕事用・学校用アカウント（Google Workspace）の場合、この設定は管理者が管理します。 自分では変えられない場合があります。
Claude
Claude は、もともと学習に使われません。Anthropic 公式によると、学習に使われるのは次の場合だけです。
- 自分で「Claudeの改善のために使用を許可する」を選んだ場合
- 会話が安全性レビューのためにフラグを立てられた場合
- 明示的にオプトインした場合（テスタープログラムへの参加など）
設定を確認して、許可していなければそのままで構いません。
Copilot
Microsoft 365 の Copilot は、学習に使われません。設定は不要です。
05
サービスごとの扱い
初期状態で学習に使われるのは、ChatGPT と Gemini の個人アカウントです。
| サービス | 初期状態で学習に使われるか | 人が見る場合 |
|---|---|---|
| ChatGPT（個人・無料） | 使われる（設定でオフにできる） | あり |
| Gemini（個人・無料） | 使われる（設定でオフにできる） | あり |
| Claude（無料・Pro） | 使われない | 安全性レビュー時 |
| Copilot | 使われない | なし |
| Gemini Notebook | 使われない | フィードバック送信時のみ |
すでに使っているサービスを確認して、必要なものだけ設定してください。
06
履歴は残る。一時チャットという手
学習をオフにしても、履歴はアカウントに残ります。残したくない場合は一時チャットを使います。
学習オフと、履歴が残らないことは別
ここが混同されやすい点です。
- 学習をオフにするモデルの改善に使われない。履歴には残る
- 一時チャットを使う履歴に残らない。学習にも使われない
アカウントを他人に見られた場合、履歴に残っている内容は読まれます。学習の設定とは別の問題です。
一時チャットの扱い
ChatGPT の一時チャットは、公式にこう書かれています。
一時チャットは30日後にシステムから削除されます。モデルのトレーニングには使用されません。不正利用の監視目的でのみ確認される場合があります。履歴には保存されず、メモリも作成されません
Gemini の場合、応答やセキュリティ維持のためにデータは72時間保存されます。
使い分け
一時チャットは、過去の文脈を引き継ぎません。閉じると会話は最初からになります。
長い作業には向きませんが、一度きりの調べ物や、履歴に残したくない内容には向いています。
07
評価ボタンだけは押さない
答えの下にある「良い／悪い」を押すと、そのやり取り全体が確認の対象になります。
設定を変えていても、フィードバックを送った場合は別扱いになります。
Gemini Notebook の公式ヘルプには、こう書かれています。
特別なトレーニングを受けたチームがレビューします（中略）フィードバックには、機密情報や個人情報を含めないでください
保存期間は最長3年間と明記されています。レビュー前に Google アカウントとの関連付けは解除されますが、内容そのものは残ります。
社内資料や顧客情報を扱っているやり取りでは、この評価ボタンを押さないでください。
08
設定を変えても消えない誤解2つ
設定は「これから」に効きます。過去と、渡した事実には効きません。
- 設定を変えれば過去の分も消える消えません。申請が必要
- 学習に使われなければ安全送信自体は行われています
誤解① 設定を変えれば、過去の分も消える
変わりません。 設定を変える前に入力したものについては、各社の窓口から削除やデータ利用停止の申請ができます。
まずは設定を変えて、それ以上増やさないことが先です。
誤解② 学習に使われなければ、安全
別の話です。 学習に使われないことと、外部に送っていないことは違います。
送信自体は行われています。だからこそ、そもそも渡さずに済ませる方法を先に覚えます。
09
入力以外にもNGがある
入れないだけでは足りません。出てきたものの扱いにも、事故があります。
そのまま提出しない
AIが出した文章をそのまま提出すると、読む側に伝わります。定型的な言い回しが並ぶためです。
効率化のつもりが、信頼を損なうことがあります。下書きとして受け取り、自分の言葉に直します。
回答を100%信じない
AIは、事実かどうかより「もっともらしいかどうか」を優先して文章を作ります。存在しない人物や制度を、堂々と説明することがあります。
対策は2つです。
もし知らないことや不確かなことがあれば、 推測せず「分かりません」と答えてください。
いまの回答の根拠になった公式ページのURLを3つ出してください。 そのページに書かれている該当箇所も引用してください。
出てきたURLは、自分でクリックして確認します。 URL自体が作られていることがあります。
著作権を確認せずに商用利用しない
画像を作らせるとき、特定の作家名やスタイル名を指定するのは避けます。作りたいものの要素を、自分の言葉で書きます。
✗ 避ける
◯◯さん風のイラストで書いて
✓ こう書く
オフィスで働く人物、柔らかい水彩のタッチ、背景はパステルカラー
10
AIに頼ってはいけない分野
専門的な知識と責任が必要な分野では、AIは判断できません。
入力してはいけない情報、AIが嘘をつくこと、そしてこの3つ目。ここを知っておくだけで、事故はほぼ防げます。
- 医療の診断受診の判断はしない
- お金・投資・税金最終判断はしない
- 法律・契約の判断専門家に確認する
- 最新の情報公式で裏を取る
AIは可能性を並べることはできますが、診断はできません。医師は問診、視診、検査、経験を総合して判断します。
お金の話も同じです。もっともらしい回答は返りますが、個別の事情は反映されていません。判断が間違っていても、AIは責任を取りません。
調べる入り口としては使えます。用語の理解、選択肢の整理までです。
11
共有リンクを放置しない
共有リンクを作ると、そのやり取りはリンクを知っている人が読める状態になります。
会話を共有する機能があります。便利ですが、作ったまま放置すると、そのリンクを知っている人は誰でも中身を読めます。
✗ 危ない
共有リンクを作ったまま、そのままにする
✓ 安全
用が済んだら、設定画面から共有リンクを削除する
社内資料や顧客情報を含むやり取りを共有した場合、用が済んだらリンクを削除してください。
共有した相手が転送すれば、さらに広がります。リンクを知っている人が読める状態である以上、「誰に見せたか」を管理できません。
12
最低限決めるルール3つ
全社的な規程を作る前に、この3つを決めるだけで事故はほぼ防げます。
- 使ってよいサービスを決める例：ChatGPT と Copilot のみ
- 入れてはいけない情報を1枚にまとめる氏名・カード情報・機密情報など
- 迷ったら誰に聞くかを決める判断する人を1人決めておく
使ってよいサービスを決めていないと、把握できないまま各自が使う状態になります。
決めた内容は、1枚の紙にして配ります。長い規程を作っても読まれません。
13
よくある質問
- 一度入力してしまったものは、どうなりますか
- 設定をオフにする前に入力したものについては、各社の窓口から削除やデータ利用停止の申請ができます。まずは設定を変えて、それ以上増やさないことが先です。
- 無料版と有料版で、扱いは違いますか
- サービスによります。法人向けプランでは学習に使われない契約になっているものが多くあります。会社で使うなら、法人向けプランの検討をおすすめします。
- 会社のアカウントと個人のアカウント、どちらを使うべきですか
- 会社のアカウントです。個人アカウントは、扱いが個人向けの規約に従います。
- スマートフォンでも設定は必要ですか
- ChatGPTはアカウント全体に設定が適用されるため、どちらか一方で変えれば十分です。他のサービスは個別に確認してください。
- 社員に説明するとき、何を言えばいいですか
- 「入力は外部に渡すことである」「名前を消しても組み合わせで特定される」の2つで足ります。細かい規程より、この2つが伝わるほうが事故は減ります。
14
まとめ
AIに入力するということは、外部に情報を渡すことです。設定を変えれば学習には使われなくなりますが、渡した事実は消えません。
今日やることは3つです。
- 設定を変えるChatGPTとGeminiの個人アカウント。3分
- 入れてはいけない情報を1枚にする氏名・カード情報・機密情報
- 使ってよいサービスを決める決めていないと把握できない
覚えることは2つだけ
社員に説明するとき、細かい規程は要りません。
1つ目は、入力は外部に渡すことだということ。 手元で完結していません。
2つ目は、名前を消しても組み合わせで特定されるということ。 「A商事の営業部で、先週の月曜日に遅刻した人」は、社内の人が読めば誰か分かります。
この2つが伝わっていれば、細かい判断はその場でできます。
設定は3分で終わります。まだの場合は、この記事を開いたまま、いま変えてください。