論文の概要: Learning Graded Sparse Mechanisms: A Representation Theorem and Certified Generalization
- arxiv url: http://arxiv.org/abs/2610.16537v1
- Date: Mon, 12 Oct 2026 10:24:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-18 22:40:34.397461
- Title: Learning Graded Sparse Mechanisms: A Representation Theorem and Certified Generalization
- Title(参考訳): 段階的なスパースメカニズムの学習--表現論と証明された一般化
- Abstract要約: 様々なマルチエージェントおよび物理環境において、要素の更新は他のいくつかの要素に強く依存し、多くの要素に弱い。
各要素の重みとして,環境によって段階付けが提供されるときのメカニズムの教師あり学習について検討する。
- 参考スコア(独自算出の注目度): 48.096969031315744
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In a variety of multi-agent and physical environments, an element's update depends strongly on a few other elements and weakly on many, and both the identity and the number of the elements that matter change with the state of the system. Such graded sparse mechanisms are common, for instance, in flocks, crowds, learned particle simulators and the neighborhood aggregation of graph networks, yet they have received little systematic study as a class of functions with the grading given. In this paper we study the supervised learning of the mechanism when the grading is provided by the environment, as a weight on every element. First, we define the class by axioms, where each element's influence is capped by its weight, the dependence on the weights is regular, and no element is distinguished, and prove a representation theorem: the class is exactly the Lipschitz ball of a transport metric on weighted multisets, and the metric is forced by the axioms. Next, the geometry of the representation gives generalization bounds that depend on the data in two ways. One is via the sparsity profile of the data -- the law of how many elements matter and by how much -- which bounds the rate over all designs with that profile, with an exponent from the profile and no dependence on the number of elements. In a number of natural cases we also show matching lower bounds, up to constants in the exponent. The other is empirical: due to the representation result, classical empirical discrepancy bounds apply to the class as they stand, and the resulting bound is the transport distance between the two halves of the sample in the class's own metric, computed exactly by a matching, with an additional concentration term. Finally, we study a simulated Vicsek flock under four interaction rules at two noise levels, and show that the certificate is non-vacuous, a small fraction of the trivial value on every rule.
- Abstract(参考訳): 様々なマルチエージェントおよび物理環境において、要素の更新は他のいくつかの要素に強く依存し、多くの要素に弱い。
このようなグレードされたスパース機構は、例えば群れ、群れ、学習された粒子シミュレーター、グラフネットワークの近傍集合において一般的であるが、階調を持つ関数のクラスとしてはほとんど体系的な研究を受けていない。
本稿では,各要素の重みとして,環境によってグラデーションが提供される際のメカニズムの教師あり学習について検討する。
まず、各要素の影響が重みによって制限され、重みへの依存は正則であり、その要素は区別されず、表現定理を証明し、クラスはちょうど重み付き多重集合上の輸送計量のリプシッツ球であり、計量は公理によって強制される。
次に、表現の幾何学は2つの方法でデータに依存する一般化境界を与える。
ひとつは、データのスパーシリティプロファイル -- どれだけの要素が重要かの法則 -- によって、そのプロファイルですべての設計にまたがる割合が制限され、プロファイルからの指数と要素数に依存しない。
多くの自然の場合では、指数の定数まで、一致した下界も示します。
もう1つは経験的であり、表現結果により古典的な経験的差分境界はクラスが立つにつれて適用され、結果として得られる境界は、クラス自身の計量における標本の2つのハーフの間の輸送距離であり、マッチングによって正確に計算され、追加の濃度項が与えられる。
最後に,2つのノイズレベルにおける4つの相互作用規則の下で,シミュレートされたVicsek flockについて検討し,その証明が非空であり,各ルールの自明な値のごく一部であることを示す。
関連論文リスト
- PAGR: Proof-Carrying Algebraic-Geometric Retrieval: A Quiver-, Provenance-, and Sheaf-Theoretic Framework for Grounded LLM Retrieval [7.3040623979718475]
単語は知識として認定され、潜在表現は検索に有用であり、マルチホップ合成は意味論的に許容される。
本稿では,これらの問題を数学的に分離するフレームワークであるProof-Carrying Algebraic-Geometric Retrieval (PAGR)を提案する。
論文 参考訳(メタデータ) (2026-09-05T14:51:32Z) - Transformers learn factored representations [62.86679034549244]
トランスフォーマーは次のトークン予測を通じて事前訓練を受け、自分の世界を部品に分解する。
1) すべての因子の積空間における表現であり、その次元は成分の数とともに指数関数的に増加する。
我々は,部分空間の数,次元,文脈埋め込みの配置など,各活性化の幾何学的構造に関する正確な予測を導出する。
このことは、トランスフォーマーがなぜ世界を部品に分解するかを原理的に説明し、複雑なデータで訓練されたモデルでも解釈可能な低次元構造が持続する可能性があることを示唆している。
論文 参考訳(メタデータ) (2026-02-02T17:49:06Z) - Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse
Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。
本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。
学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文 参考訳(メタデータ) (2024-01-10T02:38:21Z) - Almost Equivariance via Lie Algebra Convolutions [0.0]
ほぼ同値の定義を提供し、それをモデルで符号化する実践的な方法を与える。
具体的には、リー代数の畳み込みを定義し、それらがリー群畳み込みに対していくつかの利点を提供することを示す。
2つの存在定理を証明し、1つは多様体の等距離の有界距離におけるほぼ等距離の存在を示し、もう1つはヒルベルト空間の逆を示す。
論文 参考訳(メタデータ) (2023-10-19T21:31:11Z) - Enriching Disentanglement: From Logical Definitions to Quantitative Metrics [59.12308034729482]
複雑なデータにおける説明的要素を遠ざけることは、データ効率の表現学習にとって有望なアプローチである。
論理的定義と量的指標の関連性を確立し, 理論的に根ざした絡み合いの指標を導出する。
本研究では,非交叉表現の異なる側面を分離することにより,提案手法の有効性を実証的に実証する。
論文 参考訳(メタデータ) (2023-05-19T08:22:23Z) - Finite-Function-Encoding Quantum States [52.77024349608834]
任意の$d$値論理関数を符号化する有限関数符号化(FFE)を導入する。
それらの構造的特性について検討する。
論文 参考訳(メタデータ) (2020-12-01T13:53:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。