論文の概要: SOL: Measuring Gaps between Text Distributions by Double Sliced Wasserstein Metrics

• arxiv url: http://arxiv.org/abs/2610.06513v1
• Date: Mon, 05 Oct 2026 15:29:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-09 07:52:45.459206
• Title: SOL: Measuring Gaps between Text Distributions by Double Sliced Wasserstein Metrics
• Title（参考訳）: SOL:二重スライスワッサースタイン計量によるテキスト分布間のギャップの測定
• Abstract要約: テキスト分布間の距離であるSOLを提案する。 本研究では,SOLが分布障害を検出し,予測されるモデルトレンドを復元し,安定したサンプルベース推定を行うことを示す。 最初のステップとして、OpenWebTextでトレーニングされたさまざまなモデルを再評価するために、SOLを使用します。
• 参考スコア（独自算出の注目度）: 7.1747343065587
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Evaluating text generation requires measuring how well the generated distribution matches the data distribution. For autoregressive models, this is done by the perplexity. Diffusion and flow-based language models can only provide a likelihood bound, whose tightness differs between model families. Sample-based substitutes such as generative perplexity with entropy do not consider the distribution fit. We propose SOL, a distance between text distributions. Each sequence is represented by the empirical measure of its hidden states under a fixed transformer and the distributions of these measures are compared by the double sliced Wasserstein distance. We prove that SOL is a metric if the transformer is injective. Experiments show that SOL detects distributional failures, recovers expected model trends, and provides stable sample-based estimates. We put forward SOL to fill the gap in the current evaluation protocol used for non auto-regressive models. As a first step we use SOL to re-evaluate a variety of models trained on OpenWebText.
• Abstract（参考訳）: テキスト生成を評価するには、生成した分布がデータ分布とどの程度うまく一致しているかを測定する必要がある。 自己回帰モデルの場合、これはパープレキシティによって行われる。 拡散およびフローベース言語モデルは、モデルファミリ間で厳密性が異なる確率境界しか提供できない。 エントロピーによる生成的パープレキシティのようなサンプルベースの置換体は分布に適合しない。 テキスト分布間の距離であるSOLを提案する。 各配列は固定変圧器の下で隠れた状態の実証測度で表され、これらの測度の分布は二重スライスされたワッサーシュタイン距離で比較される。 変換器が射影的であれば、SOLが計量であることを証明する。 実験の結果、SOLは分布障害を検出し、予測されるモデルトレンドを回復し、安定したサンプルベース推定を提供することがわかった。 我々は、非回帰モデルに使用される現在の評価プロトコルのギャップを埋めるためにSOLを推進した。 最初のステップとして、OpenWebTextでトレーニングされたさまざまなモデルを再評価するために、SOLを使用します。

関連論文リスト

• Representation-Space MMD for Diffusion Language Models [15.375628891899437]
  平均最大離散性(MMD)を最小化する拡散言語モデル(DLM)のポストトレーニング手法を提案する。 我々は、離散モデルに対するポリシー勾配と、連続モデルに対する生成されたラテントによる直接微分を用いて、この目的を最適化する。 実験では、OpenWebText上での同等エントロピーにおける生成パープレキシティの低下と、GSM8K上での精度計算のトレードオフの改善が示されている。
  論文  参考訳（メタデータ） (2026-10-05T16:28:29Z)
• Hacking Generative Perplexity: Why Unconditional Text Evaluation Needs Distributional Metrics [49.443264461057645]
  拡散および連続フローベースの言語モデルは、言語モデリングに対する非自己回帰的な主要な代替手段として現れている。 両方のパラダイムの進歩は、生成的複雑度(gen-PPL)によって圧倒的に追跡される。 我々は、この指標は正しくないと主張している。構築により、gen-PPLは、文法性やセマンティックコヒーレンスではなく、スコアARの下でのみ予測可能性を測定する。
  論文  参考訳（メタデータ） (2026-06-07T02:35:56Z)
• Is Your Diffusion Sampler Actually Correct? A Sampler-Centric Evaluation of Discrete Diffusion Language Models [14.764619905977739]
  そこで,本研究では,学習したデノイザを,基底構造マルコフ連鎖から派生した正確な隠れマルコフモデルに置き換える,サンプル中心のオラクルフレームワークを提案する。 数ステップの離散拡散サンプリング器は, オラクル・デノイザの下でも分布が正しくないことを示し, ステップ数が列長に近づくと, 遷移レベルのミスマッチが消えることを示した。
  論文  参考訳（メタデータ） (2026-02-23T09:06:13Z)
• DVD: A Robust Method for Detecting Variant Contamination in Large Language Model Evaluation [24.086354908256293]
  textbfDVDは、温度サンプリングによって誘導される局所的な出力分布をモデル化する単一サンプル検出器である。 我々は,Omni-MATH と SuperGPQA の2つの領域にわたる変異汚染の最初のベンチマークを構築した。 textbfDVDは、パープレキシティベース、Min-$k$%++、編集距離(CDD)、埋め込み類似性ベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-01-08T12:48:40Z)
• DDB: Diffusion Driven Balancing to Address Spurious Correlations [24.940576844328408]
  経験的リスク最小化でトレーニングされたディープニューラルネットワークは、アウト・オブ・ディストリビューションのサンプルに一般化できないことが多い。 テキストと画像の拡散モデルを用いたトレーニングサンプルを生成するための拡散駆動バランス(DDB)手法を提案する。 実験の結果,本手法は既存の最先端手法よりもグループ精度がよいことがわかった。
  論文  参考訳（メタデータ） (2025-03-21T15:28:22Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution [67.9215891673174]
  離散空間に対するスコアマッチングを自然に拡張する新たな損失として,スコアエントロピーを提案する。 標準言語モデリングタスク上で,Score Entropy Discrete Diffusionモデルをテストする。
  論文  参考訳（メタデータ） (2023-10-25T17:59:12Z)
• Tailoring Language Generation Models under Total Variation Distance [55.89964205594829]
  ニューラルネットワーク生成の標準パラダイムは、最適化方法として最大推定(MLE)を採用する。 言語生成に適用するための実践的境界を開発する。 本稿では,TVD推定のトレードオフのバランスをとるためのTaiLr の目標について紹介する。
  論文  参考訳（メタデータ） (2023-02-26T16:32:52Z)
• Arithmetic Sampling: Parallel Diverse Decoding for Large Language Models [65.52639709094963]
  ビームサーチやガンベルトップkサンプリングのような手法は、ビームの各要素に対して異なる出力を保証できるが、並列化は容易ではない。 本稿では,大言語モデルによって暗黙的に定義された算術符号書に従ってサンプリングを行うフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-18T22:19:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。