論文の概要: Stochastic Sampling is Epistemically Shallow: The Dimensionality Gap Between Temperature Variation and Model Diversity in LLMs

• arxiv url: http://arxiv.org/abs/2607.20464v1
• Date: Mon, 18 May 2026 14:40:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:13.182535
• Title: Stochastic Sampling is Epistemically Shallow: The Dimensionality Gap Between Temperature Variation and Model Diversity in LLMs
• Title（参考訳）: 確率サンプリングは近視的に浅く、LLMの温度変化とモデル多様性の間の次元ギャップ
• Abstract要約: 自己整合性はクエスト当たりの正確な不確実性を与えるが、検出可能なクロスクエスト構造は存在しない。 多様なアンサンブルだけが、モデルが知らないものを表面化します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a language model gives different answers on repeated runs, does that variation reveal what it does not know? Self-consistency turns the variation into a per-question uncertainty estimate via majority voting. But does the same variation reveal cross-question structure -- related questions flipping together, the way a diverse ensemble does? We compare two regimes on the same questions: one model run $100$ times at $τ=1$ versus an ensemble of $24$ LLMs run once each at $τ=0$. A Marchenko--Pastur random-matrix test separates signal from sampling noise on both sides. Within any single model, at most one dimension rises above noise across five families and three benchmarks (MMLU, HellaSwag, GSM8K). Across the ensemble, four eigenvalues clear the noise edge, while a matched-difficulty Bernoulli null produces at most one in $500$ Monte Carlo draws. Self-consistency gives accurate per-question uncertainty but no detectable cross-question structure; only a diverse ensemble surfaces what a model does not know.
• Abstract（参考訳）: 言語モデルが繰り返し実行に対して異なる回答を与える場合、そのバリエーションは、それが知らないことを明らかにしますか? 自己整合性(Self-Consistency)は、多数決によってバラツキを問合せごとの不確実性を見積もる。 1つのモデルは1回に1ドル=1ドル、24ドルのLLMは1回に1ドル=1ドルだ。3月1日-Pasturのランダム行列テストは、両側のサンプリングノイズから信号を分離する。 どのモデルでも、少なくとも1次元は5つのファミリーと3つのベンチマーク(MMLU、HellaSwag、GSM8K)でノイズよりも高い。 アンサンブル全体では、4つの固有値がノイズエッジをクリアし、マッチした難解なベルヌーイヌルは500ドルのモンテカルロ・ドローで少なくとも1つを生成する。 自己整合性はクエスト当たりの正確な不確実性を与えるが、検出可能なクロスクエスト構造は存在しない。

関連論文リスト

• What Iterated Self-Feeding Probes of Language Models Measure, and a test that separates the construction from the model [0.0]
  メソッドのクラスは、独自の出力を与えて言語モデルを探索する。 我々は、その問題を鋭くするために選ばれた工事において、そのような調査がどう対処するかを尋ねる。 答えは、見た目が似ている読書において、一度に2つの異なるものを測定することだ。
  論文  参考訳（メタデータ） (2026-08-11T14:40:35Z)
• Robust Average-Reward Markov Decision Processes: Minimax-Optimal Learning via Plug-in Reductions [51.50375419691955]
  分布的に堅牢なマルコフ決定プロセスは、モデルの不確実性の下でのシーケンシャルな意思決定のための原則化されたフレームワークを提供する。 我々は,平均回帰基準の下で,$varepsilon$-Optimal robust policyを学習するのに必要なサンプル数と十分なサンプル数について検討した。
  論文  参考訳（メタデータ） (2026-08-06T19:49:48Z)
• Sample Complexity of Multicalibration for Multilevel Properties [52.27687531970317]
  我々は、前のプロパティが固定されたときに各プロパティが識別可能な$k$プロパティの列に対する多重校正について検討する。 多対数的に多くの二元群が存在するにもかかわらず、多重校正誤差$varepsilon$を達成するには$widetilde(varepsilon-(k+2))$サンプルが必要である。
  論文  参考訳（メタデータ） (2026-08-04T23:38:54Z)
• Random Parameter Noise Does Not Make Exact ReLU Verification Easy [14.270378035741404]
  逆スムースドモデルにおけるReLUネットワークの正確な検証について検討する。 標準的な仮定である$mathrmNPnotsubseteqmathrmBPP$ では,ネットワークサイズ,ビット複雑性,各ベースインスタンスの逆ノイズレベルにランニングタイムを埋め込むような,健全かつ完全検証器が存在しないことを示す。
  論文  参考訳（メタデータ） (2026-07-15T21:26:20Z)
• The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
  大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。 これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
  論文  参考訳（メタデータ） (2026-05-09T22:27:31Z)
• DISCO: Diversifying Sample Condensation for Efficient Model Evaluation [59.01400190971061]
  コスト評価は傾向を低下させ、イノベーションのサイクルを遅くし、環境への影響を悪化させる。 モデル応答の多様性を最大化するサンプルを選択することが重要となる。 我々のメソッドである$textbfDiversifying Sample Condensation (DISCO)$は、最も大きなモデル不一致を持つトップkサンプルを選択します。
  論文  参考訳（メタデータ） (2025-10-09T08:53:59Z)
• Diverse LLMs or Diverse Question Interpretations? That is the Ensembling Question [5.847084649531299]
  大型言語モデル(LLM)を用いた二分問題に対する2つの多様性アプローチの比較を行った。 いずれの場合も、最終的な回答を決定するために、多数決をアンサンブルの合意として適用する。 Boolq、Strategyqa、pubmedqaの実験は、質問解釈の多様性が一貫してより良いアンサンブル精度をもたらすことを示した。
  論文  参考訳（メタデータ） (2025-07-25T15:26:18Z)
• Rethinking LLM Uncertainty: A Multi-Agent Approach to Estimating Black-Box Model Uncertainty [47.95943057892318]
  ブラックボックスLSMの不確実性の定量化は、信頼性の高い応答とスケーラブルな監視に不可欠である。 本研究では,不確実性推定にマルチエージェント相互作用を用いた新しい理論的基礎手法であるDiverseAgentEntropyを紹介する。
  論文  参考訳（メタデータ） (2024-12-12T18:52:40Z)
• SimpleStrat: Diversifying Language Model Generation with Stratification [26.933029655072488]
  それまでのアプローチは、多様性を高めるために温度の上昇に依存していた。 温度が上昇するにつれて、このアプローチは低い品質の個々の世代を生み出すことを示す。 言語モデル自体を使って空間を成層体に分割する代替手法であるSimpleStratを提案する。
  論文  参考訳（メタデータ） (2024-10-11T17:54:14Z)
• Large Language Monkeys: Scaling Inference Compute with Repeated Sampling [81.34900892130929]
  モデルから候補解を繰り返しサンプリングする簡単な手法を用いて、推論計算をスケーリングのための別の軸として検討する。 複数のタスクやモデルにまたがって、カバレッジは4桁以上のサンプル数でスケールする。 コードや形式的証明のようなドメインでは、回答が自動的に検証されるので、カバレッジの増加は直接的にパフォーマンスの向上につながります。
  論文  参考訳（メタデータ） (2024-07-31T17:57:25Z)
• Near-Optimal Mean Estimation with Unknown, Heteroskedastic Variances [15.990720051907864]
  Subset-of-Signalsモデルはヘテロスケダティック平均推定のベンチマークとして機能する。 我々のアルゴリズムは、このオープンな問題を対数的要因に分解する。 たとえ$d=2$であっても、我々の手法は各サンプルのばらつきを知るのに匹敵するレートを可能にします。
  論文  参考訳（メタデータ） (2023-12-05T01:13:10Z)
• Triangle Counting with Local Edge Differential Privacy [3.071866762675526]
  エッジ差分プライバシーを持つ局所モデルにおける三角形計数について検討する。 本研究では,非対話的モデルと対話的モデルの両方について検討する。 我々の研究は局所モデルにおける微分プライベートグラフ解析における技術の現状を著しく改善する。
  論文  参考訳（メタデータ） (2023-05-03T16:50:29Z)
• Online Learning with Adversaries: A Differential-Inclusion Analysis [52.43460995467893]
  我々は,完全に非同期なオンラインフェデレート学習のための観察行列ベースのフレームワークを提案する。 我々の主な結果は、提案アルゴリズムがほぼ確実に所望の平均$mu.$に収束することである。 新たな差分包摂型2時間スケール解析を用いて,この収束を導出する。
  論文  参考訳（メタデータ） (2023-04-04T04:32:29Z)
• The Sample Complexity of Robust Covariance Testing [56.98280399449707]
  i. i. d. 形式 $Z = (1-epsilon) X + epsilon B$ の分布からのサンプル。ここで $X$ はゼロ平均で未知の共分散である Gaussian $mathcalN(0, Sigma)$ である。 汚染がない場合、事前の研究は、$O(d)$サンプルを使用するこの仮説テストタスクの単純なテスターを与えた。 サンプル複雑性の上限が $omega(d2)$ for $epsilon$ an arbitrarily small constant and $gamma であることを証明します。
  論文  参考訳（メタデータ） (2020-12-31T18:24:41Z)
• FANOK: Knockoffs in Linear Time [73.5154025911318]
  本稿では,ガウスモデル-Xノックオフを効率的に実装し,大規模特徴選択問題における誤発見率を制御するアルゴリズムについて述べる。 当社のメソッドは、最大50,000ドルという問題でテストしています。
  論文  参考訳（メタデータ） (2020-06-15T21:55:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。