この記事の途中に、以下の記事の引用を含んでいます。
Information Literacy and Chatbots as Search
「検索」と「答え」の境界が消える時代に — LLMと情報アクセスの根本問題
2023年以降、OpenAIやMetaといったAIテックジャイアントが「LLM（大規模言語モデル）」駆動のチャットボットを検索サービスとして次々にリリースし、情報アクセスの世界に新しい波が押し寄せています。
スマートにサマリーを返すAIは一見魅力的ですが、果たしてその先にあるのは「便利な未来」なのか、「リテラシーの危機」なのか。
この記事でEmily氏は、学術論文やOp-ed（論説記事）をベースに、「なぜチャットボット型AIは情報アクセス技術として問題なのか？」を論じています。
更に、SNS上での様々な意見に対しても丁寧に見解を述べており、LLM時代の情報リテラシー問題に深く切り込んでいます。
“95%正しいAIは危険”──記事の主張と引用
Emily氏は、「LLMsは情報アクセスに適さない」と明言します。
印象的だったのは、以下の一文です。
“If someone uses an LLM as a replacement for search, and the output they get is correct, this is just by chance. Furthermore, a system that is right 95% of the time is arguably more dangerous tthan one that is right 50% of the time. People will be more likely to trust the output, and likely less able to fact check the 5%.”
Information Literacy and Chatbots as Search
この主張は、現在話題となっている生成AIの「正答率・信頼性」と「人間の心理的な油断」に警鐘を鳴らすものです。
つまり、「ほとんど当たる」AIは、外れの時にも人々が疑わなくなり、本当はファクトチェックすべき誤答をスルーしてしまう――。その危うさを鋭く指摘しています。
さらに、Emily氏は続けて、AIチャットボットが“唯一絶対の答え”を差し出すことで、ユーザーが
– 質問内容を見直す
– 複数の資料に当たって真偽や文脈を考える
– 新しい情報源を知ってリテラシーを高める
といった「情報への主体的な関わり」を放棄させてしまう、と論じています。
“答え”ではなく“問い”を持つことの重要性──情報リテラシーの分岐点
この主張は、単にAIの精度の話ではありません。
情報リテラシーに求められる「主体的な意味づけ」「情報源の信頼性評価」「問い直しの習慣」といった学びの本質を揺るがしている点に意義があります。
検索エンジン（GoogleやBing等）で情報を集めると、多様なソース（専門家サイト・大衆的なQ&A・公式ページ・フォーラム等）から選び、自分なりの取捨選択が発生します。
それが「情報リテラシーの成長」となるわけです。
Emily氏も例として、医療の質問をGoogleで検索するケースを挙げ、「複数のリンクから信頼性や自身の状況への適合性を考える経験」に価値がある、と強調しています。
これがチャットボットの場合、正しさの保証も曖昧な“サマライズ”が全てになってしまうため、裏付けを取る習慣や、他者と出会う機会（例えば同じ悩みを持つユーザーとのフォーラム上の交流）も消えてしまう危険性があるのです。
RAGやコード生成は万能の解決策ではない──意外な落とし穴
「じゃあ、RAG（検索＋生成・Retrieval Augmented Generation）は解決策か？」
Emily氏はこの意見にもNOを突きつけます。
“The summary extruded from the LLM is still synthetic text, and likely to contain errors both in the form of extra word sequences motivated by the pre-trainining data for the LLM rather than the input texts AND in the form of ommission. … This is still a framing that says: Your question has an answer, and the computer can give it to you.”
Information Literacy and Chatbots as Search
RAG型で「参考リンク」付きサマリーを出しても、多くの人はサマリーだけを鵜呑みにしがちです。
自分の問いを掘り下げたり、リンク元を確認したりする動機が薄まる。
これが実は、“万能サマリーAI”の最大の落とし穴です。
また「コード自動生成にはLLMは効くから問題解決済み」という反論にも、
– コードの実行で間違いが検出できる場合もあるが、セキュリティや設計上の欠陥までは見抜けるとは限らない
– コードが“正しさ”の証明にならない世界のほうが圧倒的多数である
と、冷静に指摘しています。
「AIは人間と同じくらい間違える」論への批判──責任と説明可能性
記事内では、「人も間違う、AIも間違うじゃん」という声にも明確に反論しています。
“People are accountable for what they say. People are also understood to be individuals with certain experience and expertise, not set up as all-knowing oracles. But most importanly, the analogy is dehumanizing.”
Information Literacy and Chatbots as Search
人間であれば、「この人は誰なのか」「どの分野の専門家なのか」「どんなバイアスを持っているか」を文脈で判断できます。
しかし、AIチャットボットは“万能の答えを持つふり”をしている。
この違いは、「責任」と「説明正当性」の観点で本質的な隔たりがあります。
AIが出すサマリーが間違っても、その責任主体は不明瞭です。
また、どの情報源からどういうロジックでその答えを得たのか説明責任を果たしません（もしくは難しい）。
この「説明がなされない匿名的な答え」を大量消費すること自体が、現代社会において大きなリスク要因となり得ます。
記者の視点：私たちは“答えを鵜呑みにする人間”でいいのか？
私自身、生成AI/LLMの登場には大きな期待感を抱きつつ、やはり「リテラシーの形」を根本から変えかねないことに複雑な気持ちを持っています。
特に最近は「検索に時間をかけずAIに要約させる」ことへの依存症のような現象も感じます。
一度“答え”に慣らされると、「問い直す」「複数の情報源をつなぐ」「仮説と検証を繰り返す」といった知的作業が、面倒なものになっていくのは避けがたい。
これは、いわゆる「深い学び」「本当の納得」を妨げる最大の危機です。
RAGやAIサマリー自体は適材適所で役立ちますが、そればかりに依存すると
– 情報源を評価する力
– 相反する意見を比較する力
– 新しい発見や視点を得る偶然的出会い
– 誤情報を見抜く直感
といったスキルが衰えかねません。
また、「引用元リンクがあるからOK」と誤解されがちですが、サマリーだけ読む人が大半なら、意味が薄れます。
むしろ“情報源リストを自分でたどる過程”こそが、リテラシー向上の本当の学習機会だったのではないでしょうか。
結論：“情報リテラシー”の再定義が、AI時代のサバイバル術
最後に強調したいのは、「AIによる情報アクセスが不可避」と言われるこの時代だからこそ、“正解を得ること”ではなく“意味を問い直す習慣”こそが生き抜く知なのでは、という点です。
- AIサマリーやチャットボットが勧める「一つの正解」を鵜呑みにしない
- 必ず他の情報源や複数の視点にあたって検証する
- “なぜその答えなのか？““誰が、どんな根拠で？”を掘り下げる
これが、AI活用時代に私たちに本当に求められるリテラシー能力だと思います。
結局、“便利”の裏に潜む思考停止やリテラシー崩壊をどう食い止めるか。
その答えは、「AIが危ない」でも「検索エンジンが万能」でもなく、“問い続けること”“複数の視点を重ねること”にこそあると、この記事・Emily氏の問題提起はいま改めて問いかけてくれます。
categories:[society]
コメント