この記事の途中に、以下の記事の引用を含んでいます。
Which Table Format Do LLMs Understand Best? (Results for 11 Formats)
AIに表のデータを渡す「形式」が精度に与えるインパクトとは？
AI（特に大規模言語モデル：LLM）が日々多くのデータ処理・分析業務に活用されるなか、「どのような形式でデータを渡すのがベストか？」という問いは、実は非常に実践的かつ重要なテーマです。
今回紹介する記事は、「たった形式を変えるだけでAIはどれだけ正確になるのか？」という観点から、実際に11種類ものデータ表現方法を比較検証した内容になっています。
多くのエンジニアやデータサイエンティストはCSVやJSON、マークダウンテーブルなど馴染みの形式をなんとなく選びがちですが、そこにこそ潜む大きな精度差、それによるコストや運用面の違いにはあまり意識が向けられていません。
本記事では元記事の実験内容を紹介しつつ、「なぜ形式の違いがそんなに重要なのか？」「どのような意思決定が現場で求められるのか？」を深掘りしていきます。
驚きの検証結果！フォーマット次第で正答率16％も違う
まず紹介記事で印象的なのは、同一データ×同一モデル（GPT-4.1-nano）×同一質問という条件下でも、「表データの形式が違うだけで正答率に最大16ポイントもの差が生じる」という事実です。
“Markdown-KV came out top, hitting 60.7% accuracy and landing roughly 16 points ahead of CSV. (Markdown-KV is our term for a non-standardised format featuring “key: value” pairs in markdown.)”
（引用：Which Table Format Do LLMs Understand Best? (Results for 11 Formats)）
CSVやJSONLといった定番形式が軒並み低迷し、逆に「Markdown-KV」という一見非標準的な「key: value」ペア形式が最も高精度となった点は、現場感覚的にも衝撃ではないでしょうか。
また下記のように実験設計も極めて明確。1000件の従業員レコードを11形式に変換し、それぞれ1000の質問を投げて正答率比較。トークン数やコストなど実運用上のポイントも押さえた構成が特徴です。
“We designed a controlled experiment to test how the formatting of a set of data would affect how accurately an LLM could answer questions about that data…. We repeated this process for 1000 questions, using each of 11 different data formats.”
（引用元同上）
なぜ「形式」がこんなに効く？——人間・AIを問わず”文脈手がかり”は強力
ここで考えるべきは、「なぜmarkdown-KV形式の方が、CSVやJSON形式よりAIにとって分かりやすいのか？」です。
人間の読解プロセスを思い起こすと…
例えば下記2例を比較してみます。
-
CSV形式
1, Diana A0, 46, London, Engineering, 141015, 7, 17 -
Markdown-KV形式
id: 1
name: Diana A0
age: 46
city: London
department: Engineering
salary: 141015
years_experience: 7
project_count: 17
CSVでは「1番目が何、2番目が何」というカラム名との紐付けが煩雑です。
一方で、Markdown-KVは各行ごとに「属性名:値」の対応が明確。
人間にとってもどちらが速く正確に読めるかは明白です。
LLMも言語理解力に長けているとはいえ、シーケンス処理の特徴上、ヘッダから数百単語離れた値が何を意味するか文脈を維持するには非効率となりがち。
だからこそ各値について「key: value」が可視化された方が強い助けになったのだと推察できます。
この観点は、HTMLテーブル、YAML、INI、XMLといった”冗長なラベル付き”形式の平均点が高めなのとも合致します。
プロが現場で知っておきたい「表現形式の選び方」とそのトレードオフ
ここからは実務的な視点で、得られた知見をどう活かすべきかを考えます。
◇ 精度とコストのどちらを優先するか
記事でも触れられている重要な観点が「tokenコスト」。
精度トップのMarkdown-KVは、最もトークン効率の良いCSVの約2.7倍のトークン量を消費します。
“Accuracy cost tokens: the top-performing Markdown-KV format used 2.7 times as many tokens as the most token-efficient format, CSV.”
（引用：Which Table Format Do LLMs Understand Best? (Results for 11 Formats)）
つまり「1000レコード一括処理するけど、より少ないトークンで済ませたい」場合は精度とのトレードオフになるのです。
代表的な選択例
- 高精度が最重要：Markdown-KVやXML、INI※（token消費は多め／コスト増）
- token効率・コスト重視：CSVやMarkdown-Table（精度は下がりやすい）
- 可読性や人間向け出力も重視：Markdown-TableやYAML
- 汎用性・パイプライン用途：JSON、CSV
- 速さ・雑な用途：Pipe-Delimited、Natural-Language（精度最下位）
◇ 運用現場での追加配慮
-
大量データ時はChunk単位で分割＋ヘッダー繰り返し
記事中でも言及されていますが、長いCSVやテーブル形式のヘッダーは100行ごとなどで繰り返し挿入する方が精度を維持しやすいと考えられます。 -
使うモデル種別・業務シナリオごとに最適解は異なる
今回はGPT-4.1-nanoのみでの検証。
他の大規模言語モデルやファインチューニング内容によっても「最も理解しやすい形式」は変動するはずです。
データ活用現場でどう役立つ？私見も交えた考察
今回の実験結果は、実はDX推進・生成AI活用推進現場において極めて示唆的です。
◆ ① データパイプライン設計の見直しポイント
「どうせCSVでいいだろう」「JSONおしゃれで便利だから…」で済まさず、利用モデルや目的に照らし合わせて定期的に形式変換ロジックを検討することが精度向上・コスト最適化の近道となります。
さらに、ETLパイプラインやRAG（Retrieval Augmented Generation）基盤では、中間処理で一度非標準形式（Markdowm-KVやYAML）を挟む運用設計も今後増えていくかもしれません。
◆ ② チューニング・A/Bテストの重要性
今回の記事でも「他のモデルではまた違った結果になる」と言及しています。
本番導入前には、自分の業務・ドメイン・利用モデルに合わせてチューニングやA/Bテストを行い、どのデータ形式が自組織の用途に最適か確かめることが重要です。
◆ ③ 可読性・運用負荷とのバランス調整
上司やチームメンバーにランダムなマークダウンKVを共有することは管理面で困難な場合もあります。
適切な自動変換ツールやノーコード設定、ビューア機能等の補助開発も推奨されます。
形式選びの「こだわり」がAI活用成否を分ける。現場で活かすべき3つの示唆
結論として、今回の記事から得た重要な気づきをまとめます。
-
入力データの「表現形式」はAI（LLM）の解釈精度にダイレクト影響する
Markdown-KV等の”説明的”な形式は、単なるCSVやパイプ区切りよりも実質的に遥かに高い精度（最大16％差）となる場合が確認されました。 -
token使用量や処理コストへの配慮もセットで必要
フォーマットによる高精度化はtoken消費量／課金コストと不可分。運用現場では処理単位の分割、多段変換との使い分けがポイントになります。 -
汎用的なベストプラクティスは存在せず、業務・モデル・利用状況ごとに最適解は個別に見極めるべき
最先端のAI活用現場ほど、形式自体の設計・A/B試験・ツール連携まで見据えた「攻め」のアーキテクチャ設計が求められます。
今後もこうした基礎的な「データとの付き合い方」が、AI活用の現場の可能性と限界を大きく分けていくことでしょう。
ぜひ皆さん自身の現場でも、「形式選択」に一度こだわってみてください。
categories:[technology]
コメント