論文の概要: When Do Local Score Models Extrapolate Across Size? A Diagnostic Theory and Benchmark

• arxiv url: http://arxiv.org/abs/2606.09705v1
• Date: Mon, 08 Jun 2026 16:24:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-09 14:42:07.502836
• Title: When Do Local Score Models Extrapolate Across Size? A Diagnostic Theory and Benchmark
• Title（参考訳）: 局所スコアモデルはサイズ全体にわたって外挿されるのか?診断理論とベンチマーク
• Authors: Wenjie Xi,
• Abstract要約: アーキテクチャの局所性だけでは、安定したサイズ外挿が保証されないことを示す。 我々はこの機構を定式化し、局所限界に対する大きさと一様の比較定理を証明した。 実験により,空間混合,平滑なスコア準局所性,およびモデル受容場間の相互作用を検証する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Scientific generative modeling often requires size transfer, where models trained on small systems are evaluated on larger ones. While translation-invariant architectures enable this evaluation, we show that architectural locality alone does not guarantee stable size extrapolation. Instead, stable extrapolation is governed by the quasi-locality of the Gaussian-smoothed score. Through Tweedie's formula, far-away perturbations can influence local score components via posterior covariance, meaning a local model succeeds only if its receptive field covers the smoothed score's response range. We formalize this mechanism, proving a size-uniform comparison theorem for local marginals under reverse diffusion. We also introduce Finite-Depth Local Flow (FDLF), a white-box diagnostic benchmark with exact scores, densities, and controllable response ranges. Empirically, we validate the interplay between spatial mixing, smoothed-score quasi-locality, and model receptive fields. Under spatial mixing, the smoothed score remains quasi-local relative to the receptive field, enabling stable extrapolation. Conversely, when spatial mixing weakens, the score's locality rapidly degrades, causing size transfer to fail.
• Abstract（参考訳）: 科学的生成モデリングはしばしばサイズ転送を必要とし、小さなシステムで訓練されたモデルはより大きなシステムで評価される。 翻訳不変アーキテクチャはこの評価を可能にするが、アーキテクチャの局所性だけでは安定したサイズ外挿が保証されないことを示す。 代わりに、安定な外挿はガウスの滑らかなスコアの準局所性によって支配される。 ツイーディの公式を通じて、遠方摂動は後続共分散(英語版)を通して局所的な楽譜成分に影響を及ぼすことができ、つまり、その受容場が滑らかな楽譜の応答範囲をカバーする場合にのみ、局所的なモデルが成功する。 我々はこの機構を定式化し、逆拡散の下で局所的辺縁に対する大きさと一様の比較定理を証明した。 また、正確なスコア、密度、制御可能な応答範囲を備えたホワイトボックス診断ベンチマークであるFinite-Depth Local Flow (FDLF)も導入した。 実験により,空間混合,平滑なスコア準局所性,およびモデル受容場間の相互作用を検証する。 空間混合下では、滑らかなスコアは受容野に対して準局所のままであり、安定した外挿を可能にする。 逆に、空間混合が弱まると、スコアの局所性が急速に低下し、サイズ移動が失敗する。

関連論文リスト

• Discovery of Hidden Miscalibration Regimes [52.452902154360565]
  モデルは何らかの入力を体系的に過信し、他人を過信することがある。 対応する誤校正分野を定義し,それを推定するための診断フレームワークを提案する。 提案手法は,入力空間のキャリブレーションを意識した表現を学習し,学習幾何学におけるカーネルの平滑化による符号付き局所的誤校正を推定する。
  論文  参考訳（メタデータ） (2026-05-13T13:07:50Z)
• Recovering Physical Dynamics from Discrete Observations via Intrinsic Differential Consistency [12.266189649117003]
  我々は地域の監督をグローバルな構造的制約に置き換える。 この特性からの偏差が2つの目的に作用する時間条件のセカント速度場を訓練する。 トレーニング正則化器として、時間スケールで一貫して構成されるフローに仮説空間を限定する。
  論文  参考訳（メタデータ） (2026-05-08T20:24:32Z)
• Localized Diffusion Models [2.1421977835828003]
  対象分布の低次元構造が拡散モデルにおいてどのように活用できるかを示す。 このような局所化は拡散モデルによって次元の呪いを回避できることを証明している。
  論文  参考訳（メタデータ） (2025-05-07T13:51:50Z)
• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Stein's method for marginals on large graphical models [1.8843687952462742]
  分布の局所性を定量化する新しい$delta$-locality条件を導入する。 これらの手法により, 局所化および並列化により, サンプルの複雑さと計算コストを大幅に削減できることを示す。
  論文  参考訳（メタデータ） (2024-10-15T16:47:05Z)
• FedSpeed: Larger Local Interval, Less Communication Round, and Higher Generalization Accuracy [84.45004766136663]
  フェデレートラーニング(Federated Learning)は、分散機械学習フレームワークである。 これは、局所的不整合最適と局所的過度な適合による頑丈なクライアントドリフトによってもたらされる非消滅バイアスに悩まされる。 本稿では,これらの問題による負の影響を軽減するために,新しい実用的手法であるFedSpeedを提案する。
  論文  参考訳（メタデータ） (2023-02-21T03:55:29Z)
• Predicting Out-of-Domain Generalization with Neighborhood Invariance [59.05399533508682]
  局所変換近傍における分類器の出力不変性の尺度を提案する。 私たちの測度は計算が簡単で、テストポイントの真のラベルに依存しません。 画像分類,感情分析,自然言語推論のベンチマーク実験において,我々の測定値と実際のOOD一般化との間に強い相関関係を示す。
  論文  参考訳（メタデータ） (2022-07-05T14:55:16Z)
• Log-Likelihood Ratio Minimizing Flows: Towards Robust and Quantifiable Neural Distribution Alignment [52.02794488304448]
  そこで本研究では,対数様比統計量と正規化フローに基づく新しい分布アライメント手法を提案する。 入力領域の局所構造を保存する領域アライメントにおいて,結果の最小化を実験的に検証する。
  論文  参考訳（メタデータ） (2020-03-26T22:10:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。