生成AIを使うときの4つの注意点:もっともらしいウソをつく(『走れメロス』を宮沢賢治の作品と書く例も)、個人情報は入れない・学習させない設定に、他人の作品や実在の人物に似せない、自分でやるべきことまで任せない【総務省】

プレ男生成AIに聞けば、なんでも正しく答えてくれるよね。仕事の資料も、取引先の名前を入れて作らせてる。

メル美総務省の教材だと、生成AIはもっともらしいまちがいをするし、個人情報や機密情報を入れると流出のリスクがあるんだって。

こんにちは、Dr. Taro です。 今回は生成AIを使うときの注意点です。総務省の教材「生成AIはじめの一歩生成AIの入門的な使い方と注意点」をもとにまとめました。生成AIは、文章・画像・音声などをはば広く作れる便利な道具ですが、使うときに注意したいポイントが4つあります。

1. 情報の正確性

• 生成AIは、裏付けのない回答をすることがあります。学習データが不正確・かたよっている可能性があり、正確なデータを学習していても、出力が正しくないことがあります
• 教材には、中学生の読書感想文として、生成AIが「『走れメロス』は宮沢賢治の名作」と書いてしまう例がのっています(『走れメロス』の作者は太宰治です)
• 特別な技術がなくても、もっともらしい偽の画像・映像・音声・ニュース記事を短時間で作れるため、偽・誤情報がふえる原因にもなります
• チェックリストを使って真偽を判断し、安易に拡散しない。拡散したいときはひと呼吸おく

2. 情報流出

• 個人情報(氏名、電話番号、住所、メールアドレス、生年月日、顔写真など)や機密情報を入力すると、流出のリスクがあります
• 入力は必要最小限に。自分自身の氏名や所属も個人情報にあたります
• 入力したデータを学習に使わせないように設定する
• サービスの規約(商用利用できるか、損害が出たときの責任など)を確認する

プレ男取引先の名前、入れちゃってた…。

3. 知的財産権

• 既存の作品や実在の人物に似たものを生成するような指示はさける
• 生成したものが既存の作品や実在の人物に似ていたら、使うのをやめるか、権利者の許諾を得てから使う、または似ないように大きく加工する

4. 活用する人としてのモラル

• 本来自分がやるべきことまで生成AI任せにしない(学校の課題をすべて生成AIで済ませる、AIの利用を想定していないコンクールに生成物をそのまま出す、など)
• 生成AIが作った偏見のある回答を使わない
• 生成AIを非倫理的な行為や犯罪に悪用しない

生成AIは、もっともらしいまちがいをすることがあります。答えは自分で確かめ、個人情報や機密情報の入力は必要最小限にしましょう。

AIサービスを使う人の割合は生成AIや音声アシスタントを使う人は55%、偽・誤情報の確かめ方はそのニュース、シェアする前にへ。

プレ男名前はふせて使う。学習に使わせない設定も確かめよう。

メル美答えは鵜呑みにしないで、自分でも調べてね。

まとめ

• 正確性:もっともらしいまちがいをする。真偽を確かめ、安易に拡散しない
• 情報流出:個人情報・機密情報の入力は最小限、学習に使わせない設定、規約を確認
• 知的財産権:既存の作品や実在の人物に似せない
• モラル:自分がやるべきことまで任せない、偏見のある回答を使わない、悪用しない

参考文献

1. 総務省. 生成AIはじめの一歩生成AIの入門的な使い方と注意点(啓発教育教材). https://www.soumu.go.jp/use_the_internet_wisely/special/generativeai/ (閲覧日:2026年10月12日)
2. 総務省. 同 教材(PDF). https://www.soumu.go.jp/use_the_internet_wisely/special/generativeai/data/file01.pdf (閲覧日:2026年10月12日)
3. 青空文庫. 図書カード:走れメロス(太宰治). https://www.aozora.gr.jp/cards/000035/card1567.html (閲覧日:2026年10月12日)

この記事は一般的な情報提供を目的としたもので、個別の診断・治療に代わるものではありません。 気になる症状や不安がある場合は、医療機関にご相談ください。