論文の概要: Why Do Few-Step Text Latents Fail When Image Latents Work? Non-Commitment at Sharp Categorical Readouts

• arxiv url: http://arxiv.org/abs/2606.30705v1
• Date: Mon, 29 Jun 2026 14:20:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:18.958913
• Title: Why Do Few-Step Text Latents Fail When Image Latents Work? Non-Commitment at Sharp Categorical Readouts
• Title（参考訳）: 画像遅延が機能するときにテキスト遅延がフェールする理由? シャープカテゴリーの読み出しにおける非コミット
• Abstract要約: 滑らかで規則性に制限された決定論的写像は、シャープなカテゴリーの読み出しの前に離散的な分岐選択を解決できないことを示す。 実テキストオートエンコーダの重なり合う状態において、後平均終端ステップが決定境界の周囲に$O(s(t)$チューブで潜在質量の速度でトークンを反転させることを示す。
• 参考スコア（独自算出の注目度）: 1.1760370831826417
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deterministic few-step generation succeeds on continuous image latents but collapses to incoherent text on continuous text latents, and we show the cause is geometric rather than a training or scaling deficiency: a smooth, regularity-limited deterministic map cannot resolve a discrete branch choice before a sharp categorical readout, so few-step failure is governed by decoder sharpness, not transport accuracy. In the overlapping regime of real text autoencoders, we prove (Theorem 3) that the posterior-mean terminal step flips tokens at the rate of the latent mass in an $O(s(t))$ tube around decision boundaries. Two diagnostics, DABI (readout sharpness) and CCI (categorical commitment), measured on published checkpoints show that four independently built continuous-text decoders amplify a boundary-aligned perturbation far beyond a norm-matched isotropic one (DABI from $5\times10^{2}$ to $>10^{5}$), while image decoders have DABI $\approx 1$. Two mechanisms escape the continuous bound: categorical commitment (autoregressive decoders succeed despite sharper readouts) and stochastic re-injection (deterministic ODE at $K=4$ gives PPL 294 versus SDE 50 on the same model). In the idealized separated regime we prove matching sharp transport laws, including a dimension phase diagram: the deterministic stiffness needed to separate $M$ modes grows as $Θ(\sqrt{\log M})$ once the latent dimension is $Ω(\log M)$ (and as $M^{1/n}$ in fixed dimension), with a depth-$B$ hierarchy giving a $\sqrt{B}$-smaller per-step peak (Theorems 5-7); a coarea identity links these to the overlapping tube (Theorem 17). The result is an accuracy-depth-stiffness tradeoff: within the deterministic-continuous class the cost is irreducible, and both escapes step outside it.
• Abstract（参考訳）: 連続画像潜時において決定論的数段階生成は成功するが、連続テキスト潜時における不整合テキストに崩壊し、原因は訓練やスケーリングの欠如ではなく幾何学的であることを示す:滑らかで規則性に制限された決定論的写像は、鋭いカテゴリの読み出しの前に個別の分岐選択を解決できないため、少数段階の失敗はデコーダのシャープネスによって制御される。 実テキストオートエンコーダの重なり合う状態において、 (Theorem 3) は、後平均終端ステップが、決定境界の周りの$O(s(t))$チューブにおいて、潜在質量の速度でトークンを反転させることを証明している。 DABI(readout sharpness)とCCI(categorical commitment)の2つの診断は、公開チェックポイントで測定され、独立に構築された4つの連続テキストデコーダは、標準整合等方性(DABI from $5\times10^{2}$ to $>10^{5}$)を超えて境界に整合した摂動を増幅し、画像デコーダはDABI$\approx 1$を持つことを示している。 カテゴリー的コミットメント(自己回帰デコーダはよりシャープな読み込みにもかかわらず成功する)と確率的再注入(決定論的ODEは$K=4$でPPL 294とSDE 50を同じモデルで与える)である。 M$モードを分離するのに必要となる決定論的剛性は、ある次元において$Ω(\log M)$(および固定次元では$M^{1/n}$)として成長し、深さ-$B$階層が$\sqrt{B}$-より小さいステップ毎のピーク(Theorems 5-7)を付与する(Theorems 17)。 決定論的-連続的なクラスでは、コストは既約であり、どちらもその外に退避する。

関連論文リスト

• Constrained Online Learning with Noisy Constraint Values [55.29259818039367]
  一般的な実現可能性の下では、我々のLEDGERアルゴリズムは、期待される損失$O(sqrt T)と期待される予算違反$O(sqrtTlog(eT))を達成します。 スレーター条件、フィードバックチャネル間の独立性、絶対的制約値境界は不要である。
  論文  参考訳（メタデータ） (2026-09-07T01:38:41Z)
• Drift Variation Autoencoder: Unifying Generation and Representation Learning through Conditional Posterior Flow Matching [0.0]
  この研究は、条件生成の共通統計対象として対応する後続の$P(Xmid C)$を取る。 ドリフト変動オートエンコーダは、マスク付きエンコーダ$Z=E(C)$と、1つのきれいな予測フローマッチング損失を持つ条件付きフローデコーダを訓練する。
  論文  参考訳（メタデータ） (2026-08-25T20:38:50Z)
• SANE: State Anomaly Neutralization for Stable Extreme-Context Delta-Rule Models [53.86918766240095]
  Delta-Ruleリカレントモデルは固定サイズの状態を維持しており、$O(1)$の推論メモリが可能であるが、極端なコンテキスト外挿では不安定になる可能性がある。 我々は,チャンク内並列構造を保ちながら,チャンク境界における適応$tanh$圧縮を適用したtextbfState Anomaly Neutralization (SANE)を提案する。
  論文  参考訳（メタデータ） (2026-08-23T10:41:07Z)
• Solver-Hard Is Not Model-Hard: A Hardness-Controlled Diagnostic for LLM Constraint Reasoning [0.0]
  LLM制約推論器は、ランダム-SAT相転移、共起密度、ソルバ硬度付近でしばしば評価される。 証明ハード展開器と証明易解なラダー・ティチン公式,ハトホールアンカー,密度ミスマッチ制御を比較した。 3つのモデルのうち、ほぼ一致した密度の精度のギャップは、-32$から+20$ポイントまで様々である。
  論文  参考訳（メタデータ） (2026-07-19T03:23:22Z)
• A Mathematical Theory of Value: a synthesis on goal-directed agency under resource constraints [6.057587531186626]
  目的指向エージェントが生成し、破壊し、交換する価値は、情報と同じカテゴリの法的構造量であることを示す。 価格がフレームに依存していない間、価値はフレーム相対的であり、そのリソースをプールし、その知覚を融合する艦隊が天井を継承する。
  論文  参考訳（メタデータ） (2026-06-10T16:11:04Z)
• Metric--Phase Fields: Decoupling Distance and Sign for Thin-Structure Reconstruction from Unoriented Point Clouds [67.30236447078187]
  本稿では,距離近接を位相相から分離する非結合な暗黙的表現であるMetric-Phase Fields (MPFs)を紹介する。 合成および走査された薄殻形状と薄板形状の両方の実験により、MPFは最近のSDF法よりも薄くて層状構造を忠実に保存することが示された。
  論文  参考訳（メタデータ） (2026-05-25T07:08:57Z)
• Prism: Structural Symmetry Scanning via Duality-Constrained Laplacian Projection [0.0]
  複雑なネットワークにおける構造対称性診断のためのフレームワークである textbfPrism を導入する。 Prismは、ネットワークが構造的自己整合性からどのくらい離れているかを測定するスカラーである。
  論文  参考訳（メタデータ） (2026-05-18T04:20:05Z)
• Stateful Reasoning via Insight Replay [51.85629502016196]
  CoT(Chain-of-Thought)推論は,大規模言語モデルにおける多段階推論の基盤となっている。 この現象の主な原因は、CoTが成長するにつれて、トレースの早期に生成された重要な洞察に対するモデルの注意が徐々に弱まることである。 提案手法は、モデルがその推論トレースから定期的に重要な洞察を抽出し、アクティブな世代フロンティア付近で再生するステートフル推論手法である。
  論文  参考訳（メタデータ） (2026-05-14T06:52:59Z)
• Wavelet Variance Equipartition as a Threshold for World-Model Quality and Quantum Kernel TN-Simulability [0.0]
  我々はウェーブレットスケーリング指数$$を臨界診断として同定する。 振幅符号化された量子カーネルの古典的シミュラビリティのシャープな遷移境界として$=1/2$を確立する。 この分散は、厳密には$Var[X] = (d-2)$としてスケールする。
  論文  参考訳（メタデータ） (2026-05-12T05:41:12Z)
• TIDES: Implicit Time-Awareness in Selective State Space Models [0.0]
  連続時間SSMは不規則なタイムスタンプを扱うが、その力学は線形時間不変(LTI)のままである。 選択型および連続型アーキテクチャを再構成する選択型SSMである textbfTIDES を提案する。 TIDESは、UEA時系列分類とPhysome-ODEレグレッションベンチマークに基づいて、最先端の平均ランクを新たに設定する。
  論文  参考訳（メタデータ） (2026-05-10T20:34:06Z)
• The Geometry of Forgetting: Temporal Knowledge Drift as an Independent Axis in LLM Representations [50.43168858368539]
  大規模言語モデルは自信を持って時代遅れの回答を生成し、既存の方法では検出できない。 これは工学的な失敗ではなく構造的な失敗であり、時間的ドリフトは、幾何的に残留流の方向として、正確性と不確実性の両方に符号化される。
  論文  参考訳（メタデータ） (2026-05-09T22:27:31Z)
• Spectral Sentinel: Scalable Byzantine-Robust Decentralized Federated Learning via Sketched Random Matrix Theory on Blockchain [0.0]
  ビザンチンのクライアントは、不均一な(Non-IID)データの下での濃度勾配を中毒する。 本稿では,ビザンチン検出・集約フレームワークであるSpectral Sentinelを提案する。 Polygonネットワーク上でブロックチェーンを統合することで,完全なシステムを実現しています。
  論文  参考訳（メタデータ） (2025-12-14T09:43:03Z)
• Variance-Dependent Regret Bounds for Linear Bandits and Reinforcement Learning: Adaptivity and Computational Efficiency [90.40062452292091]
  本稿では,不整合雑音を持つ線形帯域に対する計算効率のよい最初のアルゴリズムを提案する。 我々のアルゴリズムは未知のノイズの分散に適応し、$tildeO(d sqrtsum_k = 1K sigma_k2 + d)$ regretを達成する。 また、強化学習において、線形混合マルコフ決定過程(MDP)に対する分散適応アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-02-21T00:17:24Z)
• Horizon-Free and Variance-Dependent Reinforcement Learning for Latent Markov Decision Processes [62.90204655228324]
  我々は,後期マルコフ決定過程(LMDP)における強化学習(RL)の文脈を考慮した後悔の最小化について検討した。 我々は,モデル最適化と値最適化の両手法でインスタンス化できる,新しいモデルベースアルゴリズムフレームワークを設計する。
  論文  参考訳（メタデータ） (2022-10-20T21:32:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。