AIのまちがいを子どもに教える合言葉は「ほんとかな？」

AIは「それらしい答え」を作るので、まちがえることがある

ChatGPTのような会話のAIは、ある言葉の次に来そうな言葉を推測して、「統計的にそれらしい答え」を作る仕組みです。そのため、答えにはまちがいがまじることがあります。

Googleも、Geminiは「ハルシネーション」によって、不正確な情報を事実のように示すことがあると説明しています。ハルシネーションは、AIがまちがった内容を、本当のことのように答えてしまう現象のことです。

子どもには、たとえば次のように話すと伝わりやすいです。

AIは、たくさんの ことばを おぼえて、「たぶん こうかな？」って こたえを つくって いるの。だから、ときどき まちがえる ことも あるよ。

上手な話し方ほど、正しく聞こえてしまう

文部科学省のガイドラインは、人には「流暢な出力を見ると正しいと感じてしまう」くせ（流暢性バイアス）や、機械に頼りすぎてしまうくせ（自動化バイアス）がある、と書いています。

AIの答えは、文章がきれいで、すぐに返ってきます。大人でも「ちゃんとしていそう」と感じやすいので、子どもならなおさらです。だからこそ、答えの見た目ではなく中身を確かめる習慣が役に立ちます。

合言葉は「ほんとかな？」の1つにしぼる

確かめる習慣を子どもに教える時は、言葉を1つにしぼると覚えやすいです。おすすめは「ほんとかな？」です。

• AIの答えを聞いたら、まず「ほんとかな？」と言ってみる
• 親も同じ合言葉を使う（親がAIに聞いた時も、声に出して確かめる）
• まちがいを見つけたら、見つけたことをほめる

栃木県教育委員会の子ども向けの手引きにも、チェックリストの1つとして「生成物の真偽を確かめていますか」という項目があります。

親子でできる3つの確かめ方

小さい子でもできる確かめ方から始めましょう。

1. 本や図鑑で調べる：動物・乗り物・体のことなどは、図鑑と見くらべやすい
2. 大人に聞く：おうちの人や先生に「AIがこう言ってたけど、ほんと？」と聞く
3. 自分の目で見る：天気や植物など、外に出て見られることは実際に見る

たとえば、親がAIに「カブトムシは何を食べる？」と聞き、答えを図鑑とくらべてみるだけでも、立派な練習になります。

最後に決めるのは、AIではなく自分

文部科学省のガイドラインは、AIの答えは「参考の一つである」「最適解とは限らない」と知ったうえで、最後は人間が判断し、その結果に自分で責任を持つことを、基本の姿勢としています。

「ほんとかな？」と確かめたら、最後は自分で決める。この流れは、宿題や調べ学習でも同じです。宿題での使い方は「宿題をAIにまかせたくなったら？」にまとめています。