論文の概要: Any-Dimensional Invariant Universality
- arxiv url: http://arxiv.org/abs/2605.23156v1
- Date: Fri, 22 May 2026 02:07:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 17:29:20.158831
- Title: Any-Dimensional Invariant Universality
- Title(参考訳): 任意の次元不変普遍性
- Authors: Shengtai Yao, Eitan Levin, Mateo Díaz,
- Abstract要約: 任意のサイズの入力を受け入れる機械学習モデルの普遍性について検討する。
対照的に、任意の次元モデルは成長サイズの入力で定義される関数の列と見なすことができる。
いくつかの既存アーキテクチャが普遍性に欠けていることを示し、普遍性を取り戻すための単純な修正を提案する。
- 参考スコア(独自算出の注目度): 2.5124917269950324
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Several machine learning models are defined for inputs of any size, such as graphs with different numbers of nodes and point clouds containing varying numbers of points. The universality properties of such any-dimensional models remain poorly understood, as universality is traditionally studied for models accepting inputs of a fixed size, defined on a compact subset of their domain. In sharp contrast, any-dimensional models can be viewed as sequences of functions defined on growing-sized inputs, and it is not clear in which sense they can be universal. We develop a systematic approach to establish any-dimensional universality, by identifying any-dimensional functions with a unique function taking inputs in a suitable infinite-dimensional limit space containing inputs of all finite sizes as well as their limits. Using the symmetries of these inputs and relations between inputs of different sizes, we show that this limit space admits a natural topology with rich families of compact sets on which any-dimensional universality can be established. We illustrate our approach by showing that several existing architectures fail to be universal, and we propose simple modifications that restore universality.
- Abstract(参考訳): ノード数が異なるグラフや、ポイント数が異なるポイントクラウドなど、任意のサイズの入力に対して、いくつかの機械学習モデルが定義されている。
そのような任意の次元モデルの普遍性は、伝統的にその領域のコンパクト部分集合上で定義される固定サイズの入力を受け入れるモデルに対して研究されるため、よく理解されていない。
対照的に、任意の次元モデルは成長サイズの入力で定義される関数の列と見なすことができ、その意味が普遍的であるかは明らかではない。
我々は、任意の次元の普遍性を確立するための体系的なアプローチを開発し、任意の次元の関数を一意な関数で同定し、任意の無限次元の極限空間において、すべての有限サイズの入力とそれらの極限を含む入力を抽出する。
これらの入力の対称性と異なる大きさの入力間の関係を用いて、この極限空間は任意の次元の普遍性を確立できるコンパクト集合のリッチな族を持つ自然な位相を持つことを示す。
いくつかの既存アーキテクチャが普遍的でないことを示すことで、我々のアプローチを説明し、普遍性を取り戻すための簡単な修正を提案する。
関連論文リスト
- Characterizing Universal Object Representations Across Vision Models [1.6910339186280912]
異なるアーキテクチャ、目的、データセットでトレーニングされたディープニューラルネットワークは、同様の視覚表現に収束するように報告されている。
162種類の視覚モデルのオブジェクト類似性構造を,非負次元の小さな集合に分解する。
普遍的次元とモデル固有の次元を決定するために、各次元がモデル全体でどれだけ頻繁に出現するかを推定する。
論文 参考訳(メタデータ) (2026-05-13T15:34:41Z) - GRIFDIR: Graph Resolution-Invariant FEM Diffusion Models in Function Spaces over Irregular Domains [56.121725064621295]
関数空間におけるスコアベース拡散モデル(英語版)は関数値データをモデル化するための原則的なフレームワークを提供する。
しかし、実践的な実装はこれらの利点を完全に実現するのに苦労しています。
一般化された畳み込みカーネルを有限グラフカーネルとして表現する新しいアーキテクチャを提案する。
論文 参考訳(メタデータ) (2026-05-05T08:33:52Z) - The Origins of Representation Manifolds in Large Language Models [52.68554895844062]
表現空間におけるコサイン類似性は、最短のオンマンフォールド経路を通して特徴の内在幾何学を符号化することができることを示す。
理論の臨界仮定と予測は、大きな言語モデルのテキスト埋め込みとトークンアクティベーションに基づいて検証される。
論文 参考訳(メタデータ) (2025-05-23T13:31:22Z) - The signaling dimension in generalized probabilistic theories [48.99818550820575]
物理系のシグナリング次元は、与えられた系のすべての入出力相関を再現するために必要な古典系の最小次元を定量化する。
線量測定を線量効果で考えるのに十分であることを示すとともに、そのような測定の要素の数を線形次元で表す。
有限個の極端効果を持つ系に対しては、極端測定を光線-極端効果で特徴づけるという問題を再放送する。
論文 参考訳(メタデータ) (2023-11-22T02:09:16Z) - Any-dimensional equivariant neural networks [1.4469725791865984]
従来の教師付き学習は、関数を一定次元の入出力ペアの集合に適合させることで未知のマッピングを学習することを目的としている。
我々は、代数トポロジで新たに発見された現象である表現安定性を利用して、一定次元のデータでトレーニングできる同変ニューラルネットワークを定義する。
論文 参考訳(メタデータ) (2023-06-10T00:55:38Z) - A Functional Perspective on Learning Symmetric Functions with Neural
Networks [48.80300074254758]
本研究では,測定値に基づいて定義されたニューラルネットワークの学習と表現について検討する。
正規化の異なる選択の下で近似と一般化境界を確立する。
得られたモデルは効率よく学習でき、入力サイズにまたがる一般化保証を享受できる。
論文 参考訳(メタデータ) (2020-08-16T16:34:33Z) - Closed-Form Factorization of Latent Semantics in GANs [65.42778970898534]
画像合成のために訓練されたGAN(Generative Adversarial Networks)の潜在空間に、解釈可能な次元の豊富なセットが出現することが示されている。
本研究では,GANが学習した内部表現について検討し,その基礎となる変動要因を教師なしで明らかにする。
本稿では,事前学習した重みを直接分解することで,潜在意味発見のためのクローズドフォーム因数分解アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-07-13T18:05:36Z) - Coupling-based Invertible Neural Networks Are Universal Diffeomorphism
Approximators [72.62940905965267]
結合フロー(CF-INN)に基づく可逆ニューラルネットワークは、画像合成や表現学習など、さまざまな機械学習応用を有する。
CF-INNは可逆関数に対する普遍近似器か?
我々は、ある微分同相類に対する普遍性の同値性を示す一般的な定理を証明する。
論文 参考訳(メタデータ) (2020-06-20T02:07:37Z) - Complex networks with tuneable dimensions as a universality playground [0.0]
本稿では,普遍性,スペクトル次元に対する基本的ネットワークパラメータの役割について論じる。
明示的な計算により、このモデルのスペクトル次元が1ドルから無限大まで連続的に調整できることが証明される。
非均質構造上の普遍的挙動を探索するツールとしての我々のモデルを提案し、そのようなネットワーク上の相関モデルの普遍的挙動が、分数ユークリッド次元における連続場理論の1つを模倣する可能性についてコメントする。
論文 参考訳(メタデータ) (2020-06-18T10:56:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。