チャットAIに、人の名前や病気のこと、会社の秘密を打ちこんでいない?入力した情報がAIの学習に使われ、別の答えに出てくるおそれも。利用規約と設定を確かめて【個人情報保護委員会】

プレ男チャットAIに、友だちとのLINEのやりとりをまるごと貼って「この子の気持ちを分析して」って頼んでるんだ。仕事のお客さんリストの整理もやってもらってる。

メル美それ、友だちやお客さんの個人情報をAIの会社にわたしてることにならない…?

こんにちは、Dr. Taro です。 今回は、チャットAI(生成AIサービス)と個人情報の話です。個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等について」(令和5年6月2日)と、リーフレット「生成AIサービスの利用に関する注意喚起 ―個人情報がAIの学習データとして利用されていませんか?―」をもとにまとめました。

一般の利用者が気をつける3つのこと

個人情報保護委員会は、一般の利用者に向けて、次の3つをあげています。

1. 入力した個人情報が、AIの学習に使われることがある
   • 生成AIサービスでは、入力された個人情報が機械学習に使われることがあり、ほかの情報と統計的に結びついて、正確または不正確な内容で、生成AIサービスから出力されるリスクがあります
   • 個人情報を入力するときは、このリスクをふまえて適切に判断しましょう
2. 答えに、不正確な個人情報がふくまれることがある
   • 生成AIの答えは確率的な関係にもとづいてつくられるため、自然な文章でも、不正確な個人情報がふくまれるリスクがあります
3. 利用規約とプライバシーポリシーを確かめる
   • サービスを提供する会社の利用規約やプライバシーポリシーを十分に確かめ、入力する情報の内容をふまえて、使うかどうかを判断しましょう

プレ男入力したことが、まわりまわって別の人への答えに出てくるかもしれないのか…。

仕事で使うときは、法律違反のおそれも

リーフレットによると、

• 入力した情報が、AIサービスの会社で学習データとして使われることになっている場合、事業で個人情報のデータベースなどを使っている人(個人情報取扱事業者)が顧客などの個人データを入力すると、AIの会社に個人データを提供したことになります
• 個人データを第三者に提供するには、原則として本人の同意が必要です(個人情報保護法)
• 注意喚起では、本人の同意なく個人データをふくむ入力をし、それが答えを出す以外の目的で使われる場合、個人情報保護法の規定に違反する可能性がある、としています。入力する場合は、AIの会社がその個人データを機械学習に使わないことなどを十分に確かめるよう求めています

チャットAIに入力した個人情報は、AIの学習に使われることがあります。人の名前や連絡先、病気のこと、会社の顧客情報などを入力する前に、利用規約と設定を確かめましょう。

使うときのチェック

• 人の名前・連絡先・住所など、特定の人がわかる情報は、消してから入力する
• 友だちとのやりとりを貼るときは、相手の情報でもあることを意識する
• 会社の顧客情報や秘密は、会社のルール(使ってよいAIサービスか)を確かめる
• 入力した情報を学習に使わせない設定があるか、サービスの説明を確かめる
• 答えの中の人についての情報は、まちがっていることがあると考えて確かめる(LLMってなに?)

AIサービスのアカウントの守り方はアカウントの守り方、SNSへの写真の投稿の注意はその写真で、家がバレるかもへ。

プレ男LINEの全文を貼るのはやめて、名前を消して、相談したい部分だけにする。お客さんリストは会社のルールを確認しよう。

メル美学習に使わせない設定があるか、私も見てみよう。

まとめ

• 生成AIに入力した個人情報は、機械学習に使われることがあり、別の答えに出てくるリスクがある
• 答えには不正確な個人情報がふくまれることがある
• 利用規約・プライバシーポリシーを確かめて判断する
• 仕事で顧客などの個人データを入力すると、個人情報保護法に違反する可能性も
• 名前などは消してから入力。会社のルールと学習の設定を確かめる

参考文献

1. 個人情報保護委員会. 生成AIサービスの利用に関する注意喚起等(令和5年6月2日). https://www.ppc.go.jp/files/pdf/230602_alert_generative_AI_service.pdf (閲覧日:2026年10月5日)
2. 個人情報保護委員会. 生成AIサービスの利用に関する注意喚起 ―個人情報がAIの学習データとして利用されていませんか?―(リーフレット). https://www.ppc.go.jp/files/pdf/generativeAI_notice_leaflet2023.pdf (閲覧日:2026年10月5日)

この記事は一般的な情報提供を目的としたもので、個別の診断・治療に代わるものではありません。 気になる症状や不安がある場合は、医療機関にご相談ください。