論文の概要: Mutual Debiasing via Dual-Seed Comparison for Probabilistic Sampling in Large Language Models

• arxiv url: http://arxiv.org/abs/2608.26161v1
• Date: Fri, 10 Jul 2026 13:22:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.371157
• Title: Mutual Debiasing via Dual-Seed Comparison for Probabilistic Sampling in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける確率的サンプリングのための2列比較による相互嫌悪
• Abstract要約: 本稿では,2つの独立言語モデル(LLM)を用いてバイアスを中和するツールフリープロトコルであるDual-Seed Comparison(DSC)を紹介する。 実験の結果,DSCは評価された設定の96%で既存手法よりも有意に優れていた。
• 参考スコア（独自算出の注目度）: 29.89909440368811
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although Large Language Models (LLMs) demonstrate remarkable capabilities in reasoning and decision-making, high-fidelity probabilistic sampling remains a persistent challenge. When generating random variables, LLMs consistently exhibit systematic biases that warp the target probability distributions. Current approaches often rely on a single, self-generated seed, which inherits model-specific biases. To overcome this vulnerability, we introduce Dual-Seed Comparison (DSC), a transparent, tool-free protocol that utilizes two independent LLM-generated seeds to neutralize bias. DSC compares the character-level ordinal values of the two seeds to construct a bit sequence, converts and normalizes this sequence into a pseudo-uniform variate, and then maps the variate to the target distribution through the inverse cumulative distribution function (CDF). Empirical results show that DSC substantially outperforms existing methods across 96\% of evaluated settings. Beyond direct sampling, task-adapted variants based on the DSC comparison operator improve distributional control in MCQ generation and attribute-constrained text-to-image prompting.
• Abstract（参考訳）: 大規模言語モデル(LLM)は推論と意思決定において顕著な能力を示すが、高忠実度確率的サンプリングは依然として永続的な課題である。 ランダム変数を生成する際、LLMは目標確率分布を歪ませる系統的バイアスを一貫して示している。 現在のアプローチは、モデル固有のバイアスを継承する単一の自己生成シードに依存することが多い。 この脆弱性を克服するために,2つの独立したLDM生成種子を用いてバイアスを中和する透明でツールのないプロトコルであるDual-Seed Comparison (DSC)を導入する。 DSCは2つの種子の文字レベルの順序値を比較してビット配列を構築し、この配列を擬一様変量に変換し、その後、逆累積分布関数(CDF)を介して変数を対象分布にマッピングする。 実験結果から,DSCは評価設定の96倍の精度で既存手法を著しく上回っていることがわかった。 直接サンプリング以外にも、DSC比較演算子に基づくタスク適応型は、MCQ生成と属性制約付きテキスト・ツー・イメージプロンプトの分散制御を改善する。

関連論文リスト

• Behavioral and Representational Evidence of Binomial Ordering Preferences in Large Language Models [61.21623682203952]
  両単語の置換は文法的に有効であるが、従来と異なる言語間変異を示す。 コーパス由来の嗜好と、6つのオープンウェイト言語モデルのモデル誘発順序付け確率を測り比較する。
  論文  参考訳（メタデータ） (2026-06-19T17:56:44Z)
• Decoupling the Effect of Chain-of-Thought Reasoning: A Human Label Variation Perspective [60.45433515408158]
  長いチェーン・オブ・ソート(CoT)がトップオプションの決定的決定要因となるが、あいまいなタスクの粒度分布キャリブレータとして機能しないことを示す。 CoTは分布アライメントを改善するが、CoTの内容によって最終的な精度が決定される。
  論文  参考訳（メタデータ） (2026-01-06T16:26:40Z)
• Preconditioned Discrete-HAMS: A Second-order Irreversible Discrete Sampler [3.3455759936950735]
  本稿では,DHAMSを2次2次近似により拡張するプリコンディション付き離散HAMS (PDHAMS) アルゴリズムを提案する。 様々な数値実験において、PDHAMSアルゴリズムは、他の手法と比較して一貫して優れた性能を発揮する。
  論文  参考訳（メタデータ） (2025-07-29T16:33:43Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Invariant Anomaly Detection under Distribution Shifts: A Causal Perspective [6.845698872290768]
  異常検出(AD、Anomaly Detection)は、異常なサンプルを識別する機械学習タスクである。 分散シフトの制約の下では、トレーニングサンプルとテストサンプルが同じ分布から引き出されるという仮定が崩壊する。 我々は,異常検出モデルのレジリエンスを,異なる種類の分布シフトに高めようとしている。
  論文  参考訳（メタデータ） (2023-12-21T23:20:47Z)
• Likelihood-Aware Semantic Alignment for Full-Spectrum Out-of-Distribution Detection [24.145060992747077]
  画像とテキストの対応を意味的に高次領域に促進する「Likelihood-Aware Semantic Alignment (LSA)フレームワーク」を提案する。 2つのF-OODベンチマークで15.26%$と18.88%$の差で既存の手法を上回り、提案したLSAの優れたOOD検出性能を実証した。
  論文  参考訳（メタデータ） (2023-12-04T08:53:59Z)
• Arithmetic Sampling: Parallel Diverse Decoding for Large Language Models [65.52639709094963]
  ビームサーチやガンベルトップkサンプリングのような手法は、ビームの各要素に対して異なる出力を保証できるが、並列化は容易ではない。 本稿では,大言語モデルによって暗黙的に定義された算術符号書に従ってサンプリングを行うフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-18T22:19:41Z)
• GANs with Variational Entropy Regularizers: Applications in Mitigating the Mode-Collapse Issue [95.23775347605923]
  深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。 GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。 情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
  論文  参考訳（メタデータ） (2020-09-24T19:34:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。