AIに入力したことは学習に使われる？子どもの絵や名前を入れる前に確かめたい設定
生成AIに入力した内容は、サービスによってはAIの改良に使われることがあります。個人情報保護委員会の注意喚起と、Geminiアプリの「アクティビティの保存」の仕組みをもとに、子どもの名前や絵を入れる前に分けて考えたいことと、設定の確かめ方をまとめました。
子どもの絵をAIに見せて感想を聞いてみたい。でも、入れた絵や名前が、どこかで使われたりしないか気になる方もいると思います。
生成AIのサービスでは、入力した内容がAIの改良（機械学習）に使われることがあります。 子どもの名前・学校名・顔写真など、その子だとわかる情報は入れないのが基本です。絵を入れるときは名前の部分をかくし、使うサービスの設定と利用規約で、入力内容の扱いを確かめます。
入力した内容は、どう使われることがある？
個人情報保護委員会は、一般の利用者に向けて、生成AIサービスでは入力された個人情報が機械学習に利用されることがあり、ほかの情報と結びついて、正確または不正確な内容で出力されるリスクがあると注意を呼びかけています。あわせて、サービスを提供する事業者の利用規約やプライバシーポリシーを確認し、入力する情報の内容をふまえて判断するよう求めています（個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（2023年6月2日））。
入力した内容の扱いは、サービスや設定によって違います。「AIだから全部学習される」「設定をオフにすれば何も残らない」のどちらとも決めつけず、使うサービスごとに確かめます。
子どもの情報、入れる前に分けて考えたいこと
編集部からは、入れる前に次の3つに分けて考える方法を提案します。
- 入れないもの → フルネーム、学校・園の名前、住所、顔がはっきり写った写真、名札や制服が写った写真。
- かくしてから入れるもの → 子どもの絵。すみに書いた名前のサインや、裏に書いた日付・園の名前が写らないようにします。
- 言いかえて入れるもの → 「5歳の子ども」「上の子」など、その子だと特定されない言い方にします。
顔写真をAIに使う前に確かめたいことは「子どもの顔写真をAIサービスに使う前に」にまとめています。親子でAIと物語を作るときも、登場人物には本名ではなく、子どもと一緒に考えた名前を使うと安心です。物語作りの進め方は「子どもとAIで物語を作ってみる」で紹介しています。
今日は、ここまででも。 「名前・学校・顔は入れない」。この1つを家族で決めておくだけでも十分です。
Geminiアプリでは、どこで確かめる？
GoogleのGeminiアプリを例に、ヘルプに書かれている仕組みを紹介します（Gemini アプリ ヘルプ「Gemini アプリのアクティビティを管理、削除する」、「Gemini アプリのプライバシー ハブ」）。
- 「アクティビティの保存」の設定を確かめる。 18歳以上のユーザーでは、最初からオンになっています。パソコンでは、gemini.google.com の［設定とヘルプ］→［アクティビティ］から、オフにしたり、オフにしてアクティビティを削除したりできます。
- 自動で削除される期間を確かめる。 アクティビティは、初期設定では18か月を過ぎると自動的に削除されます。3か月や36か月に変えることも、自動削除をしないこともできます。
- 一時的なチャットを使う。 一時的なチャットは、人間のレビュアーが目を通してGoogle AIの改善に使われることはない、と説明されています。ただし、応答やGoogle・ユーザー・一般の人々の保護のためには使われます。
設定をオフにしても、残ること
ヘルプには、次のことも書かれています。
- オフにしても、会話は最長72時間アカウントに保存されます。 応答やフィードバックの処理、Googleやユーザー、一般の人々の保護のためです。この保護の目的では、人間のレビュアーによるレビューも含めて使われる、と書かれています。
- 人間のレビュアーが読むことがあります。 アクティビティの保存がオンのときは、レビュアーに見られたくない機密情報や、サービスの改良に使われたくない情報を入力しないよう案内されています。
- レビュアーがレビューしたチャットは、アクティビティを削除しても削除されず、最長3年間保存されます。
つまり、設定は「入れても大丈夫にする」ためのものではありません。入れない情報を決めたうえで、念のために確かめておくものです。
ほかのAIサービスを使うときは？
設定の名前や場所は、サービスごとに違い、変わることもあります。使う前に、次の2つを確かめます。
- 設定画面に、「改善」「トレーニング」「学習」などのことばを含む項目があるか。 入力内容をサービスの改良に使うかどうかを選べる場合があります。
- 利用規約・プライバシーポリシーに、入力した内容の使い方が書かれているか。 個人情報保護委員会も、利用者がこれらを確認して判断するよう求めています。
入力について迷いやすいこと
もう子どもの名前を入れてしまった
Geminiアプリでは、［Gemini アプリ アクティビティ］からアクティビティを確認・削除できます。ただし、上で紹介したように、レビュー済みのチャットは削除されずに残る場合があります。次からは入れない、と決めておきます。
子どもが自分でAIを使うときは？
子どもが使うときの年齢の目安や、保護者による設定は「AIチャットボット、子どもは何歳から使える？」にまとめています。
次にすることは、1つだけ。 いつも使っているAIサービスの設定画面を開き、入力内容の扱いに関する項目を1つ確かめる。
