論文の概要: Exactness at Inference: A Representational Criterion for Out-of-Distribution Generalization
- arxiv url: http://arxiv.org/abs/2609.24942v1
- Date: Mon, 21 Sep 2026 17:39:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.447531
- Title: Exactness at Inference: A Representational Criterion for Out-of-Distribution Generalization
- Title(参考訳): 推論における実行性:アウト・オブ・ディストリビューションの一般化のための表現的基準
- Abstract要約: モデルがトレーニング分布の外を一般化するのは、生成機構と構造的に等価な表現を計算した場合に限られる。
ピアスワイズ・アフィンの発散と、新規な実体を結合できないことは、正確な表現可能性の不足の2つの面である。
- 参考スコア(独自算出の注目度): 0.8399688944263842
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A model generalizes outside its training distribution only when it computes a representation structurally equivalent to the generating mechanism, not an approximation fitted to it. Such equivalence is necessary for exactness in and out of distribution, and extrapolation is governed by this exactness at inference, whatever its realization. Tensor Logic shows this: a zero-temperature contraction is equivalent to discrete logic, deducing in place with no artefact extracted, its tensors Boolean, its embeddings orthonormal, only its arithmetic continuous. Lacking infinite recursion it reaches Datalog, not Prolog, and though exact over closed domains it needs external memory to bind a novel entity. The criterion needs neither a discrete representation nor an extracted expression, and constrains inference, not training: an exact marginal in $[0,1]$ passes, a Neural Network thresholded to a hard label does not. Logic Tensor Networks fail it, while differentiable ILP and Tensor Logic at $T=0$ pass. Piecewise-affine extrapolation divergence and an inability to bind novel entities are two faces of a shortfall in exact representability. For hybrid architectures, a propagation rule follows: the output inherits the bounds of every fitted estimator on its path, explaining which axes fail in equivariant models and the ARC-AGI induction/transduction split. Only an exact hypothesis class certifies what the training data leave underdetermined: on a law-derived partition it finds the $56.3\%$ of distant queries that are answerable, which ensembles meet with false confidence and distance metrics rank backwards. Common inductive biases, from symmetries to memory, reach exactness only because humans inject them, an argument for inducing exact representations rather than fitting surrogates whose residuals, even at the arithmetic floor in training, diverge outside the data and compound under composition.
- Abstract(参考訳): モデルがトレーニング分布の外を一般化するのは、生成機構と構造的に等価な表現を計算した場合に限られる。
そのような同値性は分布の内外における正確性に必要であり、外挿は推論におけるこの正確性によって支配される。
テンソル論理(英語版)(Tensor Logic)は、ゼロ温度の縮約は離散論理と等価であり、アーチファクトを抽出せず、そのテンソル Boolean は正則な埋め込みであり、その算術的連続性のみである。
無限再帰の欠如は、PrologではなくDatalogに到達し、完全にクローズドドメイン上では、新しいエンティティをバインドするために外部メモリが必要である。
基準は離散表現も抽出表現も必要とせず、トレーニングではなく制約推論も必要としない。
Logic Tensor Networks は失敗し、差別化可能な ILP と Tensor Logic は$T=0$ pass である。
ピアスワイズ・ファイン外挿のばらつきと、新規な実体を結合できないことは、正確な表現可能性の不足の2つの面である。
ハイブリッドアーキテクチャでは、出力はその経路上の全ての適合した推定器の境界を継承し、どの軸が同変モデルで失敗するかを説明し、ARC-AGI誘導/伝達分割を説明する。
厳密な仮説クラスのみが、トレーニングデータが過小評価されていることを証明している: 法律から派生した分割では、解答可能な5,6.3 %の遠いクエリが、偽の自信と距離のメトリクスと一致し、後方にランク付けされる。
対称性から記憶への共通の帰納バイアスは、人間がそれらを注入するためだけに正確性に達する。これは、訓練中の算術のフロアでも、構成中のデータと化合物の外に分散しているサロゲートを適合させるのではなく、正確な表現を誘導する議論である。
関連論文リスト
- Impute-EM: Native Mixed-State Diffusion Models for Heterogeneous Data Imputation [71.74203645336385]
Impute-EMは、現在のモデルとインプットされていないエントリを交換し、完了したデータに拡散バックボーンをリフィットする。
我々は、この更新を特徴付け、観測されたマスクインデクシングされた辺縁線が、その限界で目標と一致していることを示す。
論文 参考訳(メタデータ) (2026-09-14T09:39:13Z) - Intrinsic Structure: Spectral Identifiability for Mechanistic Interpretability [51.56484100374058]
機械論的解釈可能性プリミティブに対する最初の識別可能性定理を証明した。
スペクトルは、正当性分解ではなく、記述されたエラーバーを持つ識別可能なモデル固有の指紋である。
論文 参考訳(メタデータ) (2026-08-10T19:42:01Z) - What Does a Discrete Diffusion Model Learn? [71.03603607324338]
離散拡散モデルは、デノイザ、スコア比、ブリッジプラグイン予測器などを学ぶ。
まず, 連続時間マルコフ連鎖 (CTMC) ELBO の任意のノイズ発生過程に対する厳密な導出から始める。
すべてのアイデンティティは、正確に解けるモデル上で近似なしで数値的に検証される。
論文 参考訳(メタデータ) (2026-07-06T17:56:11Z) - Recursively Trained Diffusion Models: Limiting Collapse Distribution and Spectral Characterization [27.894241484593735]
生成モデルの再帰的トレーニングは、真のデータ分布から複合的なドリフトであるモデル崩壊を引き起こす可能性がある。
完全なスコア推定と正確なサンプリングを行っても,逆拡散の早期停止はデータ分布から進行的なドリフトを引き起こすことを示す。
低次よりも高速に高次誤差を収縮するモード依存の収縮速度で、理想的な特徴付けが堅牢であることを示す。
論文 参考訳(メタデータ) (2026-06-11T18:06:26Z) - Exact Structural Abstraction and Tractability Limits [0.0]
正確な正確性は、誘導されたクラス $s sim_R simation' iff MathrmAdm_R(s)$ にのみ依存する。
決定、探索、近似、統計的、ランダム化された地平線、分布保証は全て同じ商-回復問題に還元される。
論文 参考訳(メタデータ) (2026-04-08T17:59:47Z) - Towards Self-Supervised Covariance Estimation in Deep Heteroscedastic Regression [102.24287051757469]
深部異方性回帰における自己教師付き共分散推定について検討する。
正規分布の間の2-ワッサーシュタイン距離の上界を導出する。
幅広い合成データセットと実データセットに対する実験により、提案された2-ワッサーシュタインと擬似ラベルアノテーションが結合した結果、計算的に安価で正確な深部ヘテロ代用回帰が導かれることが示された。
論文 参考訳(メタデータ) (2025-02-14T22:37:11Z) - Nonparametric Conditional Local Independence Testing [69.31200003384122]
条件付き局所独立は、連続的な時間プロセス間の独立関係である。
条件付き地域独立の非パラメトリックテストは行われていない。
二重機械学習に基づく非パラメトリックテストを提案する。
論文 参考訳(メタデータ) (2022-03-25T10:31:02Z) - Neuro-Symbolic Entropy Regularization [78.16196949641079]
構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。
エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。
我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
論文 参考訳(メタデータ) (2022-01-25T06:23:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。