AI が事実でないことをもっともらしく語る——ハルシネーションという言葉は、もうすっかり知れ渡りました。誰もが「AI は嘘をつくことがある」と知っています。
ところが、これだけ問題が周知されてなお、実務でも日常でも、AI の答えをそのまま受け取ってしまう場面は減っていません。むしろ増えている気さえします。本稿で考えたいのは、AI が間違えることそのものではなく、それを確認しない側の人間に何が起きているかです。問題は出力ではなく、受け手に移っています。
周知されたのは「AI 側の欠陥」だけ
ハルシネーション対策として語られることの大半は、AI 側の話です。モデルを改善する、出典を付けさせる、検索と組み合わせる、確信度を出させる。どれも「AI の正しさをどう上げるか」という問いへの答えです。
しかしこの問いの立て方は、暗黙のうちに人間の役割を「受け取る側」に固定しています。AI が十分に正しくなれば人間は確認しなくていい、という前提が透けて見えます。
現実には、AI が完全に正しくなる日は来ません。だとすれば、最後に正しさを判断するのは人間のままです。ところがその人間の検証能力——受け取った情報が正しいかを自分で評価する力——が、AI 側の議論の陰で置き去りにされています。周知されたのは AI の欠陥であって、受け手の変化ではないのです。
流暢さが判断を鈍らせる
なぜ確認しなくなるのか。第一の理由は、AI の出力が流暢だからです。
人は、文章の説得力を内容そのものより「読みやすさ」で判断してしまう癖があります。よどみなく、整った語彙で、断定的に書かれた文章は、それだけで「正しそう」に見えます。逆に、たどたどしく自信なさげな文章は、たとえ内容が正確でも疑わしく感じられます。
AI が生成する文章は、この「正しそうに見える」条件をほぼ完璧に満たします。誤った内容ですら、正しい内容とまったく同じ滑らかさで出てきます。人間が書いた文章なら、嘘をつくときに現れがちな言い淀みや論理の飛躍が、AI の出力からはきれいに消えています。手がかりが消えているのです。
流暢な文章に日々触れていると、「流暢さ = 正しさ」という誤った回路が強化されていきます。すると、内容を吟味する前に「たぶん合っている」と判断が下りてしまう。正しさを自分で確かめる筋肉が、使われないまま鈍っていきます。
検証の摩擦が消えた
第二の理由は、AI と検索の違いにあります。
検索エンジンの時代、答えにたどり着くには手間がありました。キーワードを打ち、複数のリンクを開き、それぞれのページを読み、書き手が誰かを確かめ、情報同士を突き合わせる。この一連の作業は面倒ですが、その面倒さ自体が検証の摩擦として機能していました。複数の情報源を見比べる過程で、自然と「どれが信頼できるか」を評価していたのです。
AI は、この摩擦をまるごと取り払いました。質問を投げれば、統合され、要約され、断定された答えが直接返ってきます。リンクをたどる必要も、情報源を見比べる必要もありません。
便利さの正体は、この摩擦の消失です。しかし摩擦とともに消えたのは、面倒だっただけのものではありません。複数の情報を突き合わせて自分で結論を組み立てるという、検証そのものの機会が消えました。エレベーターが階段を消すように、AI は検証というプロセスを消してしまいます。答えだけが残り、答えにたどり着く過程が失われました。
「確認する」の意味が変わった
ここで一度、「確認する」とは何かを問い直す必要があります。
かつて確認とは、事実を照合することでした。日付を調べ、数字を裏取りし、引用元にあたる。AI 時代にもこの意味の確認は残っています。むしろハルシネーションのせいで、事実照合の重要性は上がりました。
しかしそれ以上に問われているのは、もう一段深い確認です。この答えは、そもそも問いに正しく答えているか。前提が正しいか、論理に飛躍がないか、都合の悪い側面が省かれていないか、別の解釈はないか。事実は正しくても、フレーミングが歪んでいれば結論はねじれます。AI の出力はしばしば「事実としては正しいが、判断としては偏っている」形をとります。
この二段目の確認は、事実照合と違って自動化できません。検索で裏取りできるのは前者だけです。後者は、受け手が自分の頭で「この結論を信じてよいか」を評価するしかありません。そして、この評価こそが AI 時代に錆びやすい能力です。事実照合はサボっても気づきますが、判断のフレーミングを疑わなくなったことには、なかなか気づけません。
これは対策ではなく態度の話
では、どうすればいいのか。ここで「チェックリストを作りましょう」と言いたくなりますが、それはやや的を外しています。
問題の本質は、特定の手順を踏むかどうかではなく、懐疑を習慣として持ち続けられるかにあります。どんな検証手順も、「たぶん合っているだろう」という受け身の姿勢の前では形骸化します。逆に、懐疑の態度さえ生きていれば、手順は状況に応じて自分で組み立てられます。
具体的には、AI の答えを読んだ瞬間に、反射的に一つ問いを立てる癖をつけることです。「なぜそう言えるのか」「これが間違っているとしたら、どこか」。この問いは、答えを否定するためではありません。答えとの間に、いったん距離を取るためのものです。距離があれば、流暢さに流されずに内容そのものを見られます。
これは、LLM 時代の読解力劣化で論じた「読む」と「スキャンする」の違いと地続きです。スキャンが受け身の情報摂取なら、懐疑は能動的な情報評価です。どちらも、主体が自分の側に残っているかどうかが分かれ目になります。
委託してよいものと、してはいけないもの
最後に、線を引いておきます。AI に何もかも自分でやれ、という話ではありません。
計算や翻訳や整形——答えが一意に決まり、後から機械的に検証できる作業は、遠慮なく委託していい。人間がやっても AI がやっても、正しさの基準が変わらないからです。
委託してはいけないのは、正しさの感覚そのものです。「これは信じてよいか」を判断する最終権限まで AI に渡してしまうと、人は自分が何を信じているのかを自分で説明できなくなります。信じる根拠が「AI が言ったから」に一本化されたとき、その人はもう、独立した判断者ではありません。
道具は使い、判断は手放さない。単純ですが、流暢な答えが摩擦なく手に入る時代には、この線を意識的に引き直し続けることが要ります。
まとめ
- ハルシネーション対策は AI 側の議論に偏り、受け手の検証能力の変化が置き去りにされている
- AI の流暢さは「正しそうに見える」条件を満たし、内容を吟味する前に「たぶん合っている」という判断を誘発する
- 検索にあった検証の摩擦——複数の情報源を突き合わせる過程——を AI は取り払い、検証の機会そのものを消した
- AI 時代の確認は事実照合だけでなく、「前提やフレーミングが歪んでいないか」という自動化できない判断を含む
- 必要なのは検証手順ではなく、懐疑を習慣として持ち続ける態度——答えとの間に一度距離を取ること
- 計算や整形は委託してよいが、「これを信じてよいか」という正しさの感覚の最終権限は手放さない