Fugu-MT 論文翻訳(概要): TF-IDF and BM25 Are Exact KL Divergences

論文の概要: TF-IDF and BM25 Are Exact KL Divergences

arxiv url: http://arxiv.org/abs/2609.14016v1
Date: Sat, 12 Sep 2026 16:02:02 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-16 07:15:05.63596
Title: TF-IDF and BM25 Are Exact KL Divergences
Title（参考訳）: TF-IDF と BM25 は KL の分岐点である
Abstract要約: 両スコアリング法は2つの確率モデルの間でKulback-Leiblerの発散を正確に解釈できることを示す。このフレームワークはTF-IDFとBM25の共通理論基盤を提供し、測定値を明確にし、他の情報検索手法と理論的に比較できるようにする。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by-nc-nd/4.0/
Abstract: TF-IDF and BM25 are two of the most widely used methods for scoring query-document relevance, yet neither has a standard probabilistic derivation that justifies it as a statistical method within a unified framework. We address this gap by showing that both scoring methods admit an exact interpretation as Kullback-Leibler divergences between two probability models. We treat the BM25 variant that includes the plus 1 correction in the IDF term, which is the one used in practice, and also discuss the original BM25 formulation without that correction. The resulting framework provides a common theoretical basis for TF-IDF and BM25, clarifies what they measure, and allows them to be compared theoretically with other information retrieval methods rather than only experimentally.
Abstract（参考訳）: TF-IDF と BM25 は、クエリ文書の関連性を評価する最も広く使われている方法の1つであるが、統一されたフレームワーク内で統計的手法として正当化する標準的な確率的導出を持っていない。両スコアリング手法が2つの確率モデルの間でKulback-Leiblerの発散を正確に解釈できることを示すことにより,このギャップに対処する。 IDF項のプラス1補正を含むBM25変種について検討し,その補正を行なわずに本来のBM25定式化について議論する。このフレームワークは、TF-IDFとBM25の共通の理論的基盤を提供し、測定値を明確にし、実験だけでなく、他の情報検索手法と理論的に比較することができる。

関連論文リスト

Common TF-IDF variants arise as key components in the test statistic of a penalized likelihood-ratio test for word burstiness [1.9349283460893496]
TF-IDFライクなスコアは, 単語のバーストネスを捉えたペナル化確率比検定の検定統計から自然に生じることを示す。このテスト統計により得られた項重み付けスキームは、文書分類タスクにおいてTF-IDFと同等に動作することがわかった。
論文参考訳（メタデータ） (2026-04-01T09:17:01Z)
Generative and Nonparametric Approaches for Conditional Distribution Estimation: Methods, Perspectives, and Comparative Evaluations [2.0236506875465863]
本稿では、古典的非パラメトリック法と近代生成モデルにまたがるいくつかの代表的なアプローチをレビューし、比較する。推定条件分布に使用する性能指標には,条件平均の平均2乗誤差と標準偏差がある。
論文参考訳（メタデータ） (2026-01-30T07:10:36Z)
Don't Pass$\mathtt{@}k$: A Bayesian Framework for Large Language Model Evaluation [4.082208996639461]
Pass$@k$ は LLM の推論のパフォーマンスを報告するのに広く使われているが、不安定で誤解を招くようなランキングを得ることが多い。本稿では、Pass$@k$をモデルの基本成功確率と信頼区間の後方推定に置き換える原理的ベイズ評価フレームワークを提案する。
論文参考訳（メタデータ） (2025-10-05T16:14:03Z)
Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
論文参考訳（メタデータ） (2024-06-05T16:35:30Z)
Prototype-based Aleatoric Uncertainty Quantification for Cross-modal Retrieval [139.21955930418815]
クロスモーダル検索手法は、共通表現空間を共同学習することにより、視覚と言語モダリティの類似性関係を構築する。しかし、この予測は、低品質なデータ、例えば、腐敗した画像、速いペースの動画、詳細でないテキストによって引き起こされるアレタリック不確実性のために、しばしば信頼性が低い。本稿では, 原型に基づくAleatoric Uncertainity Quantification (PAU) フレームワークを提案する。
論文参考訳（メタデータ） (2023-09-29T09:41:19Z)
A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。ブレグマン最小化の発散の観点から一般的な枠組みを開発する。我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文参考訳（メタデータ） (2021-12-07T01:23:20Z)
Unsupervised Identification of Relevant Prior Cases [0.0]
本稿では,あるクエリケースに対して,関連する前例を特定するタスクを解くために,異なる教師なしアプローチを提案する。提案手法は, word2vec, doc2vec, sent2vec などの単語埋め込みを用いて,TF-IDF を用いてコサイン類似性を発見し,BM25 スコアを用いて関連文書を検索し,事前学習したモデルと SBERT を用いて最も類似した文書を検索する。比較分析の結果, TF-IDFスコアをBM25スコアに乗じると, 最高の結果が得られることがわかった。
論文参考訳（メタデータ） (2021-07-19T15:41:49Z)
The MultiBERTs: BERT Reproductions for Robustness Analysis [86.29162676103385]
事前トレーニングの再実行は、パフォーマンスに関して、かなり異なる結論をもたらす可能性がある。我々は25個のBERTベースのチェックポイントの集合であるMultiBERTを紹介する。目標は、研究者が事前訓練の手順について、堅牢で統計的に正当化された結論を描けるようにすることである。
論文参考訳（メタデータ） (2021-06-30T15:56:44Z)
Trust but Verify: Assigning Prediction Credibility by Counterfactual Constrained Learning [123.3472310767721]
予測信頼性尺度は統計学と機械学習において基本的なものである。これらの措置は、実際に使用される多種多様なモデルを考慮に入れるべきである。この研究で開発されたフレームワークは、リスクフィットのトレードオフとして信頼性を表現している。
論文参考訳（メタデータ） (2020-11-24T19:52:38Z)
Lower bounds in multiple testing: A framework based on derandomized proxies [107.69746750639584]
本稿では, 各種コンクリートモデルへの適用例を示す, デランドマイズに基づく分析戦略を提案する。これらの下界のいくつかを数値シミュレーションし、Benjamini-Hochberg (BH) アルゴリズムの実際の性能と密接な関係を示す。
論文参考訳（メタデータ） (2020-05-07T19:59:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。