論文の概要: The Structure Gap: When More Data Cannot Replace Structured Reasoning
- arxiv url: http://arxiv.org/abs/2610.37523v1
- Date: Tue, 27 Oct 2026 16:45:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.69233
- Title: The Structure Gap: When More Data Cannot Replace Structured Reasoning
- Title(参考訳): 構造ギャップ:より多くのデータが構造的推論を置き換えることができないとき
- Abstract要約: 現代のAIに対する永続的な信念は、十分な量のデータで訓練された十分な大規模な学習者は、ドメインの知識を任意にすることができる、というものである。
本稿では,その信念の限界について検討する。
- 参考スコア(独自算出の注目度): 12.079541457357747
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A persistent belief in modern AI is that sufficiently large learners trained on sufficiently much data can make explicit domain knowledge optional. This paper examines a limitation of that belief. We define structure-encoded problems: tasks whose input-output map is determined, or sharply constrained, by known structure such as a solver, symmetry group, graph, physical law, measurement operator, grammar, combinatorial search space, or optimization objective. For such tasks, the central question is not expressivity--a dense neural network may contain the desired map--but finite-data identification, extrapolation, and certification. We introduce the structure gap: the finite-resource gap between a method that receives the governing structure and a learner that receives only examples. The strongest useful form of the claim is asymptotic rather than absolute: structure-agnostic learning may approach a structured solver as coverage grows, but every finite dataset can leave residual uncertainty that the structure resolves by construction. We prove this exactly for a Gaussian inverse problem: the known-operator Wiener solver attains Bayes risk, while the dense empirical learner in the correct linear class has persistent expected excess risk. We also prove a cell-coverage lower bound and an unobserved-orbit non-identifiability result. Controlled experiments in known-operator inversion, sparse recovery, and graph reachability with size extrapolation instantiate the mechanisms. When validated structure is available, it can constrain the hypothesis space before learning begins, leaving learning to address components the structure does not specify.
- Abstract(参考訳): 現代のAIに対する永続的な信念は、十分な量のデータで訓練された十分な大規模な学習者は、ドメインの知識を任意にすることができる、というものである。
本稿では,その信念の限界について検討する。
入力出力マップが決定されるタスクは、ソルバ、対称性グループ、グラフ、物理法則、測定演算子、文法、組合せ探索空間、最適化目的などの既知の構造によって決定される。
このようなタスクでは、中心的な問題は表現性ではなく、密度の高いニューラルネットワークが望ましいマップを含む可能性がある。
本稿では,支配構造を受信するメソッドと,サンプルのみを受信する学習者との間の有限リソースギャップについて紹介する。
構造に依存しない学習は、カバレッジが大きくなるにつれて構造化解決器に近づくかもしれないが、全ての有限データセットは構造が構築によって解決されるという不確実性を残すことができる。
既知の演算子ウィナー解法はベイズリスクを達成し、正しい線形クラスの密密な経験的学習者は過大なリスクを持続する。
また,細胞被覆の低境界と未観察の非識別性の結果も証明した。
既知演算インバージョン、スパースリカバリ、サイズ外挿によるグラフ到達性の制御された実験は、メカニズムをインスタンス化する。
検証された構造が利用可能であれば、学習が始まる前に仮説空間を制約することができる。
関連論文リスト
- Structure-agnostic Causal Representation Learning [29.12751904333385]
因果表現学習は、データ生成の根底にある因果構造を利用して、堅牢な特徴を発見することを目的としている。
因果構造を共同で識別し,それに対応する不変表現を事前の構造知識なしで学習するフレームワークであるSaCRLを紹介する。
論文 参考訳(メタデータ) (2026-10-01T02:59:02Z) - The Causal Abstraction Network: Theory and Learning [14.952578725545344]
因果的人工知能は、構造因果モデル(SCM)を活用することにより、AIの説明可能性、堅牢性、信頼性を高めることを目的としている。
近年の進歩は因果知識のネットワーク層を形式化している。
因果抽象ネットワーク (CAN) は, (i) がガウスであり, (ii) 写像が構成的線形抽象の転置であるようなせん断の具体例である。
論文 参考訳(メタデータ) (2025-09-25T07:48:25Z) - Semantic Loss Functions for Neuro-Symbolic Structured Prediction [74.18322585177832]
このような構造に関する知識を象徴的に定義した意味的損失をトレーニングに注入する。
記号の配置に非依存であり、それによって表現される意味論にのみ依存する。
識別型ニューラルモデルと生成型ニューラルモデルの両方と組み合わせることができる。
論文 参考訳(メタデータ) (2024-05-12T22:18:25Z) - Efficient Computation of Counterfactual Bounds [44.4263314637532]
我々は,構造因果モデルのサブクラスにおけるクレダルネットのアルゴリズムを用いて,正確な反ファクト境界を計算する。
近似の精度を信頼性のある間隔で評価する。
論文 参考訳(メタデータ) (2023-07-17T07:59:47Z) - Topology-Aware Uncertainty for Image Segmentation [19.248891926246383]
このようなタスクに対する不確実性の推定に重点を置いているので、人間のアノテータが検証できるように、非常に不確実でエラーを起こしやすい構造を特定できる。
本稿では,隣接する構造物を考慮に入れながら構造物の不確かさを推定する共同予測モデルを提案する。
また,各構造に固有の不確かさをモデル化する新しい確率的DMTを提案する。
論文 参考訳(メタデータ) (2023-06-09T05:01:55Z) - Differentiable and Transportable Structure Learning [73.84540901950616]
本稿では,新しいアーキテクチャと損失関数により,発見された構造物の輸送性を回復するD-Structを紹介する。
D-Structは依然として微分可能であるため、既存の微分可能アーキテクチャでは容易に適用できる。
論文 参考訳(メタデータ) (2022-06-13T17:50:53Z) - Amortized Inference for Causal Structure Learning [72.84105256353801]
因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。
本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。
我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
論文 参考訳(メタデータ) (2022-05-25T17:37:08Z) - Neuro-Symbolic Entropy Regularization [78.16196949641079]
構造化予測では、目的は構造化されたオブジェクトをエンコードする多くの出力変数を共同で予測することである。
エントロピー正則化(Entropy regularization)という1つのアプローチは、決定境界が低確率領域にあるべきであることを示唆している。
我々は、モデルが有効対象を確実に予測することを奨励する損失、ニューロシンボリックエントロピー正規化を提案する。
論文 参考訳(メタデータ) (2022-01-25T06:23:10Z) - High-dimensional separability for one- and few-shot learning [58.8599521537]
この作業は、実用的な質問、人工知能(AI)エラーの修正によって進められている。
特殊な外部デバイスである修正器が開発されている。従来のAIシステムを変更することなく、迅速かつ非イテレーティブなシステム修正を提供する必要がある。
AIシステムの新しいマルチコレクタが提示され、深層畳み込みニューラルネットワークによってエラーを予測し、新しいクラスのオブジェクトを学習する例が紹介される。
論文 参考訳(メタデータ) (2021-06-28T14:58:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。