生成AIの答えは、自然で自信ありげな文章でも、間違いが混ざることがあります。大事なことに使うときは、①答えの元になった情報(出典)を開いて読む、②日付と数字を一次情報で確かめる、③AIの答えだけで決めない、の3つを習慣にしましょう。
この記事では、AnthropicとGoogleの公式ヘルプ、文部科学省の資料をもとに、なぜ確かめる必要があるのかと、確かめ方の手順を整理します。
なぜ間違いが混ざるのか
Anthropicは、自社のAI「Claude」のヘルプで、次のように説明しています。
- Claudeは、ときどき不正確な答えや、誤解を招く答えを作ることがある。これは「ハルシネーション」と呼ばれ、今の生成AIの限界から生まれる
- 分野によっては最新の情報で学習していないため、最近の出来事について混乱することがある
- 本物らしく見える引用を出すことがあるが、それが事実に基づいていないことがある
- Claudeを唯一の情報源として頼らず、重要な助言は慎重に確かめるべき
文部科学省のガイドライン(初等中等教育段階、Ver.2.0)も、もっともらしい誤り(ハルシネーション)を完全に防ぐことは極めて難しいとしています。これは特定のAIだけでなく、生成AI全体に言えることです。
確かめ方の手順
1. 出典を開いて、元の文章を読む
Web検索を使って答えるAIは、答えの元になったページ(出典)を示すことがあります。
- Gemini:Googleのヘルプによると、出典がある場合は、回答の下や回答の中に[ソース]ボタンが表示され、押すと関連リンクの一覧が開きます。ボタンが出ない場合は、その回答にはリンクが付いていないという意味です
- Claude:Anthropicは、Web検索の結果を使うときは、Claudeが引用した出典を確認するよう案内しています。元のページには、AIのまとめに入っていない大事な前後の文脈や細かい条件が書かれていることがあるためです
出典のリンクは、実際に開いて、AIの答えと同じことが書いてあるかを確かめます。リンクがあるだけで安心しないことが大切です。
2. 日付・数字・固有名詞は一次情報で確かめる
間違いが起きやすく、影響も大きいのが次のような情報です。
| 確かめたいもの | 確かめる先の例 |
|---|---|
| 料金・プラン・提供開始日 | サービスの公式サイト・公式発表 |
| 法律・制度・手続き | 省庁や自治体の公式ページ、e-Gov法令検索 |
| 製品の仕様 | メーカーの公式ページ・取扱説明書 |
| 統計・調査の数字 | 調査を行った機関の報告書 |
| 論文・本の引用 | 論文そのもの、本そのもの(実在するかも含めて) |
AIが示した論文やURLが、実在しないこともあります。タイトルで検索して見つからない場合は、その引用は使わないようにしましょう。
3. 「いつの情報か」を確かめる
AIは、最新の情報で学習していないことがあります。料金や新サービスなど、変わりやすい情報は特に、公式ページの日付を確かめましょう。AIの答えに日付が書かれていない場合は、「いつ時点の情報か」をAIに聞き返し、そのうえで公式ページで確かめます。
4. 大事な判断は、AIだけで決めない
お金、健康、法律、契約など、間違えたときの影響が大きいことは、AIの答えをきっかけにして、公式の窓口や専門家にも確認しましょう。仕事や授業で使う場合は、所属先のルールも確認が必要です。考え方は仕事や授業でAIを使う前に確認したいこと|入力する情報・ルールで紹介しています。
確かめる順番
答えに出典(リンク)は付いている?
- 付いている → 開いて、同じことが書いてあるか読む。
- 付いていない → 自分で公式ページを探して確かめる。
日付・数字・固有名詞・引用が入っている?
- 入っている → 一次情報(公式発表・法令・メーカー・報告書)で1つずつ確かめる。
- 入っていない(アイデア出し・文章の言い換えなど) → 最後に自分で読み直す。
間違えたときの影響は大きい?
- 大きい(お金・健康・法律・契約) → 公式の窓口や専門家にも確認する。
- 小さい → 確かめた範囲で使う。
確かめやすい頼み方
最初の頼み方を工夫すると、あとで確かめやすくなります。
- 「出典のURLも示して」と頼む
- 「確かでない部分は、確かでないと書いて」と頼む
- 「〇〇年〇月時点の情報か」を聞く
頼み方の基本はAIに頼むときの指示の書き方|伝わる依頼文の基本で紹介しています。ただし、こう頼んでも、AIが示す出典や「確かです」という言葉が正しいとは限りません。最後は、自分で出典を開いて確かめることが大切です。
参照情報
以下はいずれも2026年10月28日確認。各サービスの画面や機能は変わることがあります。
- Anthropic(Claude ヘルプセンター)「Claudeが不正確または誤解を招く回答を提供しています。どうなっているのでしょうか?」
- Google(Gemini アプリ ヘルプ)「Gemini アプリの関連ソースを表示する」
- 文部科学省「初等中等教育段階における生成AIの利活用に関するガイドライン(Ver.2.0)」(2024年12月26日、PDF)
