論文の概要: Beyond the Vote: When Do LLMs Add Value to Retrieval-Based Tabular Classification?

• arxiv url: http://arxiv.org/abs/2610.29520v1
• Date: Wed, 21 Oct 2026 10:06:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.310408
• Title: Beyond the Vote: When Do LLMs Add Value to Retrieval-Based Tabular Classification?
• Title（参考訳）: 投票を超えて: LLMが検索ベースタブラリ分類に価値を加えるのはいつか?
• Abstract要約: 我々は,大規模言語モデル (LLMs) と距離重み付き隣接投票 (Distance-KNN) を比較した。 デモの数が固定されたことにより、検索候補プールが大きくなると、すべての予測器の精度が向上する。 より詳細な分析により、LLMゲインは、検索された隣人が低いラベルのコンセンサスを示す場所に集中していることが明らかとなった。
• 参考スコア（独自算出の注目度）: 10.464269235137966
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Retrieval-based in-context learning (ICL) enables large language models (LLMs) to predict tabular labels from similar examples, but it remains unclear whether LLM inference improves on direct voting over those same examples. We address this question by comparing four general-purpose LLMs with distance-weighted nearest-neighbor voting (Distance-KNN) using identical retrieved neighbors across 19 tabular classification datasets. With the number of demonstrations fixed, enlarging the retrieval candidate pool improves accuracy for all predictors, yet Distance-KNN achieves the highest mean accuracy at every pool size. More detailed analyses reveal that LLM gains are concentrated where retrieved neighbors exhibit low label consensus and vary across models. These gains further depend on the average feature-space distance to the test query: under low label consensus, some LLMs outperform Distance-KNN in close and intermediate neighborhoods, but all fall behind on average in the most distant group. Complementary experiments on the number of demonstrations, prompt formulation, retrieval representation, and label-balanced demonstration selection largely preserve the overall findings. These results characterize when LLM inference adds predictive value beyond distance-weighted voting in retrieval-based tabular ICL.
• Abstract（参考訳）: Retrieval-based in-context learning (ICL) は、大規模言語モデル(LLM)が類似の例から表付きラベルを予測することを可能にするが、LLM推論がこれらの例よりも直接投票を改善するかどうかは不明である。 そこで本稿では,19の表付き分類データセットを用いた4つの汎用LDMと距離重み付き最寄り投票(Distance-KNN)を比較し,この問題に対処する。 実演数の固定により、検索候補プールの増大は全ての予測器の精度を向上させるが、Distance-KNNは各プールサイズで最高平均精度を達成する。 より詳細な分析により、LLMゲインは、検索された隣人が低いラベルのコンセンサスを示し、モデルによって異なる場合に集中していることが明らかとなった。 ラベルの低いコンセンサスの下では、一部のLLMは、近距離と中距離の地区でDistance-KNNより優れているが、最も遠いグループでは平均で遅れている。 実演数、素早い定式化、検索表現、ラベルバランスの取れた実演選択に関する補足実験は、概ね全体像を保存している。 これらの結果は、LLM推論が検索ベースの表型ICLにおいて、距離重み付き投票を超えた予測値を付加する場合の特徴である。

関連論文リスト

• Marginal Response Surface Elicitation for Zero-Label Tabular Learning [21.56018689114288]
  大規模言語モデル(LLM)は、タスク記述と機能セマンティクスに基づいてドメインの事前情報を取得するために使用できる。 特徴レベルのLCM先行値を再利用可能なゼロショット分類器に変換する手法であるMarginal Response Surface Elicitation (MARS)を提案する。 MARSは平均的なAUCとAPをそれぞれ1.97ポイントと6.21ポイントで上回っている。
  論文  参考訳（メタデータ） (2026-09-30T12:44:14Z)
• Measuring Scalar Constructs in Social Science with LLMs [48.92998035333579]
  大規模言語モデルにおけるスカラー構造の測定手法の評価を行った。 LLMにスコアを直接出力させるよりも、ペアワイズ比較の方が優れた測定結果が得られることが分かりました。 訓練ペアを1,000個も持たない小型モデルは、誘導LDMの性能にマッチまたは超えることができる。
  論文  参考訳（メタデータ） (2025-09-03T08:19:13Z)
• Self-ensemble: Mitigating Confidence Mis-calibration for Large Language Models [67.62810111789338]
  大規模言語モデルでは,複数問合せ質問に対する信頼度歪みが問題となる。 この問題を解決するために自己組織化を提案する。 3つのLLMおよびデータセットの実験結果から,自己アンサンブルが信頼歪問題に包括的に対処できることが示されている。
  論文  参考訳（メタデータ） (2025-06-02T17:59:29Z)
• Likert or Not: LLM Absolute Relevance Judgments on Fine-Grained Ordinal Scales [3.4068099825211986]
  関連性判断を求める2つの最も一般的なプロンプトは、ポイントワイズとリストワイズランキングである。 現在の研究コミュニティのコンセンサスでは、リストワイドランキングは優れたパフォーマンスをもたらす。 この仮説と対立する中で、十分に大きな順序関係ラベル空間を用いてポイントワイドスコアリングを行うと、ポイントワイドスコアリングとリストワイドランキングのギャップが縮むことが分かる。
  論文  参考訳（メタデータ） (2025-05-25T21:41:35Z)
• DARG: Dynamic Evaluation of Large Language Models via Adaptive Reasoning Graph [70.79413606968814]
  本稿では,適応推論グラフ展開(DARG)によるLCMの動的評価を導入し,複雑性と多様性を制御した現在のベンチマークを動的に拡張する。 具体的には、まず現在のベンチマークでデータポイントの推論グラフを抽出し、それから推論グラフを摂動させて新しいテストデータを生成する。 このような新しく生成されたテストサンプルは、元のベンチマークと同様の言語的多様性を維持しながら、複雑さのレベルが異なる可能性がある。
  論文  参考訳（メタデータ） (2024-06-25T04:27:53Z)
• CSS: Contrastive Semantic Similarity for Uncertainty Quantification of LLMs [1.515687944002438]
  テキストペアの不確実性を測定するための類似性特徴を求めるモジュールであるContrastive Semantic similarityを提案する。 我々は,3つの大規模言語モデル (LLM) を用いて,複数のベンチマーク質問応答データセットについて広範な実験を行った。 提案手法は,LLMの信頼性の高い応答を,同等のベースラインよりも高い精度で推定できることを示す。
  論文  参考訳（メタデータ） (2024-06-05T11:35:44Z)
• Regression-aware Inference with LLMs [52.764328080398805]
  提案手法は,一般的な回帰と評価指標に準最適であることを示す。 本稿では,ベイズ最適解を推定し,サンプル応答からクローズド形式の評価指標を推定する代替推論手法を提案する。
  論文  参考訳（メタデータ） (2024-03-07T03:24:34Z)
• PiCO: Peer Review in LLMs based on the Consistency Optimization [48.48819141999387]
  ピアレビュー機構を用いて,大規模言語モデル(LLM)を自動的に測定する。 制約付き最適化問題として定式化し、各LLMの能力とスコアの一貫性を最大化することを目的としている。 我々はPEN, CIN, LISという3つの指標を提案し, ランク付けのギャップを評価する。
  論文  参考訳（メタデータ） (2024-02-02T18:49:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。