論文の概要: Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors
- arxiv url: http://arxiv.org/abs/2608.00675v1
- Date: Sat, 01 Aug 2026 13:49:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:24.855584
- Title: Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors
- Title（参考訳）: ラウンドトリップ一貫性:双方向拡散モデルによるロールアウトエラーの予測
- Abstract要約: 自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
我々は、方向フラグを介して動的システムを前方または後方にステップする単一の条件付き潜在拡散モデルを訓練する。
この双方向性は測定不要なテスト時間誤差信号を提供することを示す。
- 参考スコア（独自算出の注目度）: 51.56484100374058
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autoregressive models accumulate error over long rollouts, yet at deployment there is no ground truth to measure it against. We train a single conditional latent diffusion model that steps a dynamical system forward or backward in time via a direction flag, and show that this bidirectionality supplies a measurement-free test-time error signal: rolling forward $i$ steps and then backward $i$ steps must return the model to its start, so the round-trip discrepancy $\mathcal{C}_i$ is a self-supervised proxy for the unobservable rollout error: no ensembles, no held-out data, no governing equations, for one extra rollout. We validate on compressible magnetohydrodynamics (MHD), an astrophysical turbulent radiative mixing layer, and natural face videos (CelebV-HQ). On held-out MHD trajectories, $\mathcal{C}_i$ ranks rollout error (Spearman $0.91$-$0.98$ at fixed depth; $0.69 \pm 0.16$ within trajectories), and a simple calibrator fit on training rollouts predicts its magnitude to within $1.14\times$ ($68\%$) and $1.29\times$ ($95\%$) with near-nominal coverage - one nat beyond a depth-only predictor, transferring to all six decoded physical fields. The same signal flags the out-of-distribution Orszag-Tang vortex (AUROC $0.98$; $1.0$ by depth $10$) exactly where sampling-dispersion baselines invert, and it cuts incurred error by $15\%$ at $80\%$ coverage - three times the depth-only baseline. Bidirectional training comes at negative cost, beating direction specialists in both directions, and the backward direction doubles as a fast inverse solver. On LE-PDE-UQ's turbulent Navier-Stokes benchmark, a single bidirectional model reaches accuracy within $1.3\times$ of their ten-model ensemble at a tenth of the training cost, with the best training-free pixel-level calibration. Round-trip consistency turns reversibility into a practical trust signal for generative models.
- Abstract（参考訳）: 自動回帰モデルは、長時間のロールアウトでエラーを蓄積しますが、デプロイ時には、それを測定するための基本的な真実はありません。
この双方向性は測定不要なテストタイムエラー信号を提供する: Roll forward $i$ steps and then backward $i$ steps must return the model to its start, so the round-trip discrepancy $\mathcal{C}_i$ is a self-supervised proxy for the unobservable rollout error: no ensembles, no held-out data, no regulation equations for one rollout。
本研究では, 圧縮型磁気流体力学 (MHD) , 天体物理学的乱流放射混合層, 自然面ビデオ (CelebV-HQ) について検証した。
保持されたMHDトラジェクトリでは、$\mathcal{C}_i$のロールアウトエラー(Spearman $0.91$-$0.98$、トラジェクトリ内では$0.69 \pm 0.16$)と単純なキャリブレータがトレーニングロールアウトの規模を1.14\times$$(68\%$)と1.29\times$(95\%$)に予測する。
同じ信号は、オフ・オブ・ディストリビューションのOrszag-Tang vortex (AUROC $0.98$; $1.0$ by depth 10$) を、サンプリング分散ベースラインが反転する所で正確にフラグ付けし、入出力エラーを、深さのみのベースラインの3倍の$80\%で15\%で削減する。
双方向トレーニングには負のコストがかかり、両方の方向のスペシャリストを打ち負かし、後方方向は高速な逆解法として2倍になる。
LE-PDE-UQの乱流Navier-Stokesベンチマークでは、1つの双方向モデルはトレーニングコストの10分の1で10モデルのアンサンブルの1.3\times$以内の精度に達する。
ラウンドトリップ一貫性は、可逆性を生成モデルのための実用的な信頼信号に変える。
関連論文リスト
- Conditional Invertible Neural Networks for Data-Driven UAV Control: A 2-D Proof of Concept [0.6308539010172308]
マルチロータ制御のための確率的逆力学モデルとしての条件付き可逆ニューラルネットワーク(cINN)。
オープンループ再生は$R2 = 0.944$、平均CRPS 0.0915、対数確率とエラーの相関$=-0.60$に達する。
論文 参考訳（メタデータ） (2026-07-15T11:07:43Z) - Adaptive Compute in Latent World Models: When Depth Helps, Hurts, or Doesn't Matter [0.0]
内在的,6/9タスク,rhoが8倍まで)、奥行きが活発に痛む(逆転,2/9,rhoが0.87倍まで)、あるいは奥行きがほとんど問題にならない(平ら)。
インバージョンは、トランスフォーマー予測子の下で再現されるが、そのマニフェストは構成に依存し、メトリック空間、水平線、エンコーダ、バックボーン、そして最も強い -- トレーニングデータでシフトする。
より多くの計算が世界モデルに役立つかどうかはタスクの特性ではない。
論文 参考訳（メタデータ） (2026-07-11T08:27:33Z) - Entropy-Gated Latent Recursion [9.65821666936513]
インタイムスケーリングは言語モデル推論を改善する主要なレバーとなっている。
既存の方法は、単一ソースからロールアウトの多様性を導き出す:トークンレベルのサンプリング。
この単軸サンプリング空間は基本的に制限されている。
L$軸は真に温度と相補的であることを示す。
論文 参考訳（メタデータ） (2026-06-15T12:14:01Z) - The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。
これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
論文 参考訳（メタデータ） (2026-05-09T22:27:31Z) - Latent Phase-Shift Rollback: Inference-Time Error Correction via Residual Stream Monitoring and KV-Cache Steering [4.032680910442999]
大規模な言語モデルは、世代中頃の保存不可能な推論エラーを犯す。
我々は、$textbfLatent Phase-Shift Rollback$ (LPSR)を紹介する。
各生成段階において、臨界層リクリットで残留流をモニタリングし、コサイン相似性$+$エントロピー二重ゲートを介して急激な方向逆転(位相シフト)を検出する。
微調整、勾配計算、追加のフォワードパスは不要である。
論文 参考訳（メタデータ） (2026-04-20T17:53:33Z) - Topological Characterization of Churn Flow and Unsupervised Correction to the Wu Flow-Regime Map in Small-Diameter Vertical Pipes [0.0]
特徴曲面(ECS)を用いた最初のトポロジに基づく特徴評価手法を提案する。
この研究はチャーンフローの最初の数学的定義を提供し、教師なしトポロジカル記述子は機械学的なモデルに挑戦し修正できることを示した。
論文 参考訳（メタデータ） (2026-04-07T17:59:15Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳（メタデータ） (2026-02-19T17:21:15Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳（メタデータ） (2025-11-16T20:14:28Z) - Minimax-Optimal Multi-Agent RL in Zero-Sum Markov Games With a
Generative Model [50.38446482252857]
2人プレイのゼロサムマルコフゲームは多エージェント強化学習においておそらく最も基本的な設定である。
我々は,$$ widetildeObiggを用いて,$varepsilon$-approximate Markov NEポリシーを学習する学習アルゴリズムを開発した。
我々は、分散型量の役割を明確にするFTRLに対する洗練された後悔境界を導出する。
論文 参考訳（メタデータ） (2022-08-22T17:24:55Z) - Optimal Robust Linear Regression in Nearly Linear Time [97.11565882347772]
学習者が生成モデル$Y = langle X,w* rangle + epsilon$から$n$のサンプルにアクセスできるような高次元頑健な線形回帰問題について検討する。
i) $X$ is L4-L2 hypercontractive, $mathbbE [XXtop]$ has bounded condition number and $epsilon$ has bounded variance, (ii) $X$ is sub-Gaussian with identity second moment and $epsilon$ is
論文 参考訳（メタデータ） (2020-07-16T06:44:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。