前回投稿したAIは利用者の考えに寄り添う。だからこそ、事実確認を任せきりにしてはいけないでは、AIの回答が利用者の考えや質問の前提に沿うことがあり、もっともらしい説明であっても事実とは限らないという問題を取り上げた。
今回はそこから一歩踏み込み、AIが生み出した誤情報が人間社会に広がり、やがてAI自身によって再び提示される可能性について考えたい。
「AIがそう言っているから正しい」という思い込み
AIの回答には、不思議な説得力がある。
文章は整っていて、説明も筋が通っているように見える。専門的な用語や具体的な数字、参考資料まで示されれば、疑う余地がないように感じることもあるだろう。
しかし、説明が自然であることと、内容が正しいことは別の話だ。
AIは、事実と異なる内容をもっともらしく説明することがある。存在しない資料や判例を挙げたり、実際には確認できない情報を確かな事実のように述べたりする場合もある。
それでも、回答に疑問を持たず「AIがそう言っているから正しい」と受け入れてしまえば、誤情報を見抜く機会は失われる。
実際、AIの回答を根拠にして、自分とは異なる意見や別の資料を受け入れようとしない人もいる。
本来、AIは情報を整理したり、考えを深めたりするための道具のはずだ。ところが、いつの間にか判断そのものを委ねる対象になってしまう。
AIがそう答えたという事実は、その内容が正しいことの証明にはならない。
AIの誤情報に、専門家の肩書きが加わったら
AIの誤情報が厄介なのは、個人の会話の中だけで終わるとは限らないことだ。
2026年、琉球大学の島袋純教授が執筆した書籍『無責任の体系と沖縄戦』が、実在しない国際裁判の判例を引用していた問題で、回収・絶版となった。
出版社の説明によると、著者はAIを使って資料を調べた際、実在しない判例を十分に確認しないまま引用していたという。
この問題については、出版社による公表内容と報道で確認できる事実を分けて考える必要がある。意図的に虚偽を作ったと断定できる根拠がない以上、最初から捏造するつもりだったと決めつけるべきではない。
ただし、考えておきたい問題は残る。
AIが生成した誤情報が、専門家の著作に入り、出版社を通じて書籍として世に出る。そこには著者の肩書きや専門性、出版物に対する読者の信頼も加わる。
読者が引用された判例を一つずつ調べるとは限らない。専門家が書いた本なら、資料も確認されているだろうと考えるのは自然なことだ。
だからこそ、誤った情報が権威あるものとして世に出たとき、その影響はAIを使った本人だけにとどまらない。
情報の信頼性は、発信者の肩書きや文章の説得力だけでは判断できない。
専門家であっても間違えることはある。AIを使うこと自体が問題なのではなく、AIが示した情報をどのように検証し、扱ったかが重要になる。
誤情報が広がるのは、単なる確認不足だけではない
誤情報が生まれる理由は、一つではない。
AIの回答を事実だと思い込み、悪意なく広めてしまうこともある。自分の考えに合う情報を見つけ、反対の資料を十分に調べないまま受け入れてしまうこともある。
さらに、内容が事実ではないと知りながら、自分に都合のよい主張を広める人がいる可能性も考えなければならない。
これらは、同じ「誤情報が広まる」という結果につながっても、背景は異なる。
もちろん、特定の情報が間違っていたからといって、発信者が意図的に嘘をついたと断定することはできない。しかし、すべてを単なる確認不足として片づけてしまうのも不十分だろう。
特に、政治や歴史のように、人々の立場や価値観が深く関わるテーマでは注意が必要だ。
自分が信じている考えを裏付ける情報に出会うと、それが正しいと感じやすくなる。反対に、自分の考えと合わない情報には、厳しい根拠を求めたくなることもある。
こうした傾向はAIに限った話ではない。人間はもともと、自分の考えに合う情報を受け入れやすい面がある。
そこにAIの存在が加わると、問題はさらに複雑になる。
AIに自分の考えを前提として質問すれば、その前提に沿った説明が返ってくることがある。その回答を「AIも同じことを言っている」と受け取れば、自分の考えが客観的に裏付けられたように感じてしまう。
しかし、質問の仕方や与えた情報によって回答が変わるのであれば、AIの回答は必ずしも独立した証拠にはならない。
自分の主張に都合のよい情報をAIに探させ、それを根拠として提示することもできてしまう。
だからこそ、確認不足なのか、思い込みなのか、意図的な利用なのかを区別しながら、情報そのものの根拠を確かめる必要がある。
一度広まった情報は、訂正しても消えるとは限らない
誤情報が社会に定着する過程では、最初に発信した人の意図だけでなく、その後に情報がどう扱われるかも重要になる。
例えば、ある書籍に誤った判例が掲載されたとする。その本を読んだ人が内容を紹介し、別の文章で引用し、さらに別の人がその文章を参考資料として使う。
こうして情報が繰り返し引用されると、後から確認する人にとっては、複数の場所で見かける情報になる。
同じ情報が何度も出てくると、それだけ多くの資料が裏付けているように感じられるかもしれない。しかし、複数の文章がすべて同じ誤った情報を元にしていたら、独立した裏付けが増えたことにはならない。
そして、誤りが発覚して訂正や回収が行われても、それまでに広まった情報がすべて消えるわけではない。
元の記事や書籍が訂正されても、引用した別の記事や個人の投稿がそのまま残ることはあり得る。最初に広まった情報と、後から出された訂正情報では、読者に届く範囲が異なることもある。
これはAIに限らず、新聞、書籍、ウェブサイト、SNSなど、あらゆる情報媒体で起こり得る問題だ。
大切なのは、情報が広く知られていることと、十分な根拠があることを混同しないことだろう。
AIが生み出した誤情報を、AIが再び提示する可能性
ここで、もう一つ考えておきたい問題がある。
AIが生成した誤情報がウェブ上に公開され、その情報を別の人やサービスが参照するようになったらどうなるのだろうか。
例えば、AIが存在しない判例を生成し、その内容が記事やブログに掲載されたとする。その後、別のAIがウェブ検索などを通じてその記事を参照すれば、誤情報が再び回答に含まれる可能性がある。
これは、あらゆるAIが必ずそのような情報を取り込むという意味ではない。AIによって情報の取得方法や学習の仕組みは異なり、ウェブ上の情報がそのまま学習データになるとも限らない。
ただ、誤った情報が公開され、別の情報源から参照される経路ができれば、誤情報が繰り返し提示されるリスクは考えられる。
さらに、その回答を別の人が信頼して記事や投稿に使えば、誤情報が再びウェブ上に増えることになる。
こうした循環が実際にどこまで起きているかは、個別の事例や仕組みを確認しなければ判断できない。それでも、AIが生成した情報を人間が公開し、その情報をAIや人間が再び参照するという流れには、注意を向ける必要がある。
AIが回答したから正しい。複数のサイトに書かれているから正しい。別のAIも同じことを言っているから正しい。
そうした判断が重なると、元の情報に根拠があったのかという最も重要な部分が、いつの間にか見えなくなってしまう。
AIを信頼することと、AIの回答を検証すること
AIは、調査や文章作成、プログラミングなど、さまざまな場面で役立つ。
大量の情報を整理したり、自分では思いつかなかった視点を提示したりすることもある。うまく使えば、作業の効率を高め、考えを深める助けになる。
しかし、便利な道具であることと、すべての回答を信頼できることは別だ。
これはウェブ制作でも同じだ。AIが生成したコードが一見正しく動きそうでも、実際の環境ではエラーが出ることがある。SEOについてもっともらしい説明を受けても、公式ドキュメントや実際の仕様を確認しなければ、誤った判断につながるかもしれない。
AIの回答は、完成した答えというより、検証するための材料として扱う方がよい。
情報を調べるときは、できる限り一次資料に当たる。引用された文献や判例が本当に存在するのかを確かめる。複数のサイトで同じ情報を見つけた場合も、それぞれが独立した資料なのか、同じ情報を転載しているだけなのかを考える。
そして、自分の考えに合う情報ほど、少し立ち止まって根拠を確かめたい。
自分が信じたい内容だから正しいのではない。専門家が述べているから正しいのでもない。AIが自信を持って説明しているから正しいのでもない。
大切なのは、その情報を裏付ける根拠があるかどうかだ。
AIを疑うことは、AIを使わないことではない。人間の発言や報道、書籍を疑うことも、それらをすべて否定することとは違う。
情報を受け入れる前に根拠を確認し、必要なら考えを修正する。その姿勢があってこそ、AIの便利さを生かしながら、誤情報に振り回されるリスクを減らせるのではないだろうか。
AIがそう言っているから正しいのではない。その情報を裏付ける根拠があるからこそ、正しいと判断できるのだ。
