論文の概要: Any-Dimensional Learning by Sampling
- arxiv url: http://arxiv.org/abs/2607.07680v1
- Date: Wed, 08 Jul 2026 17:38:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-09 22:50:30.479952
- Title: Any-Dimensional Learning by Sampling
- Title(参考訳): サンプリングによる任意の次元学習
- Authors: Eitan Levin, Venkat Chandrasekaran,
- Abstract要約: 異なるサイズの入力を比較し、小さな入力で大きな入力を近似する統一的なアプローチを提案する。
我々のフレームワークは、選択されたサンプリングの概念に関して連続的な関数クラスに対する明示的な一般化とスケッチ率をもたらす。
- 参考スコア(独自算出の注目度): 6.167825877904448
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many machine learning models are defined for inputs of different sizes, such as point clouds containing different numbers of points, sequences of tokens of different lengths, and graphs on different numbers of nodes. Such models are trained on finitely-many examples of necessarily limited sizes. How well do these models generalize from inputs of small size to larger inputs of size not seen during training? Furthermore, evaluating such models on large inputs is often expensive. How can we sketch large inputs to obtain smaller ones on which the model takes similar values? At the heart of both questions is the need to compare inputs of different sizes and to approximate large inputs by small ones. We present a unified approach to address these questions by using random sampling maps to compare inputs of different sizes. The sampling maps we consider are generalizations of sampling with replacement, random binning, and species sampling. We characterize the application domains in which each type of sampling is appropriate in terms of the symmetries and relations between problem instances of different sizes in the domain. Our framework yields explicit generalization and sketching rates for function classes continuous with respect to a chosen notion of sampling, encompassing large families of functions defined on sequences, graphs, and tensors of different sizes. Specific examples include moment polynomials on measures, homomorphism densities and numbers of graphs, permutation-invariant transformers, and graph neural networks.
- Abstract(参考訳): 多くの機械学習モデルは、異なる数のポイントを含む点雲、異なる長さのトークンのシーケンス、異なる数のノード上のグラフなど、異なるサイズの入力に対して定義される。
そのようなモデルは、必然的に制限されたサイズの有限個の例に基づいて訓練される。
これらのモデルは、小さなサイズの入力からトレーニング中に見えないより大きなサイズの入力まで、どの程度の精度で一般化できるのか?
さらに、そのようなモデルを大きな入力で評価することは、しばしばコストがかかる。
モデルが同じような値を取る小さなインプットを得るには、どうやって大きなインプットをスケッチすればよいのか?
両方の質問の中心には、異なるサイズの入力を比較し、小さな入力で大きな入力を近似する必要がある。
異なる大きさの入力をランダムなサンプリングマップで比較することにより,これらの問題に対処する統一的な手法を提案する。
私たちが考慮しているサンプリングマップは、置換されたサンプリング、ランダムなビンニング、種サンプリングの一般化である。
我々は,各種類のサンプリングが適切なアプリケーション領域を,ドメイン内の異なるサイズの問題インスタンス間の対称性と関係性の観点から特徴付ける。
我々のフレームワークは、サンプリングという選択された概念に関して連続した関数クラスに対する明示的な一般化とスケッチの速度をもたらし、異なるサイズのシーケンス、グラフ、テンソルで定義される関数の大規模なファミリーを包含する。
具体的な例としては、測度上のモーメント多項式、準同型密度、グラフの数、置換不変変換器、グラフニューラルネットワークなどがある。
関連論文リスト
- TN-SHAP-G: Graph-Structured Tensor Network Surrogates for Shapley Values and Interactions [6.149584741927582]
グラフ構造入力の構造を利用してShapley値と高次相互作用指標を効率的に計算するフレームワークを提案する。
学習された因子分解は、小さなグラフ上の正確なShapley値と密に一致し、サンプリングベースの手法が実現不可能な大きなグラフに効率よくスケールすることを示す。
論文 参考訳(メタデータ) (2026-06-01T01:41:29Z) - Large Language Monkeys: Scaling Inference Compute with Repeated Sampling [81.34900892130929]
モデルから候補解を繰り返しサンプリングする簡単な手法を用いて、推論計算をスケーリングのための別の軸として検討する。
複数のタスクやモデルにまたがって、カバレッジは4桁以上のサンプル数でスケールする。
コードや形式的証明のようなドメインでは、回答が自動的に検証されるので、カバレッジの増加は直接的にパフォーマンスの向上につながります。
論文 参考訳(メタデータ) (2024-07-31T17:57:25Z) - Generalized Relevance Learning Grassmann Quantization [0.0]
イメージ集合をモデル化する一般的な方法は部分空間であり、グラスマン多様体と呼ばれる多様体を形成する。
一般化関連学習ベクトル量子化の応用を拡張して、グラスマン多様体を扱う。
本稿では,手書き文字認識,顔認識,アクティビティ認識,オブジェクト認識など,いくつかのタスクに適用する。
論文 参考訳(メタデータ) (2024-03-14T08:53:01Z) - Any-dimensional equivariant neural networks [1.4469725791865984]
従来の教師付き学習は、関数を一定次元の入出力ペアの集合に適合させることで未知のマッピングを学習することを目的としている。
我々は、代数トポロジで新たに発見された現象である表現安定性を利用して、一定次元のデータでトレーニングできる同変ニューラルネットワークを定義する。
論文 参考訳(メタデータ) (2023-06-10T00:55:38Z) - Cherry-Picking Gradients: Learning Low-Rank Embeddings of Visual Data
via Differentiable Cross-Approximation [53.95297550117153]
本稿では,大規模な視覚データテンソルの処理を行うエンドツーエンドのトレーニング可能なフレームワークを提案する。
提案手法は大規模多次元グリッドデータや,大規模受容領域上のコンテキストを必要とするタスクに特に有用である。
論文 参考訳(メタデータ) (2021-05-29T08:39:57Z) - Finding Geometric Models by Clustering in the Consensus Space [61.65661010039768]
本稿では,未知数の幾何学的モデル,例えばホモグラフィーを求めるアルゴリズムを提案する。
複数の幾何モデルを用いることで精度が向上するアプリケーションをいくつか提示する。
これには、複数の一般化されたホモグラフからのポーズ推定、高速移動物体の軌道推定が含まれる。
論文 参考訳(メタデータ) (2021-03-25T14:35:07Z) - Size Matters [0.0]
完全畳み込み画像分類器は入力サイズに非依存ではなく、性能に有意な差があることを示す。
より詳しく見てみると、入力サイズとモデルパフォーマンスの間には単純な関係がないことがわかります。
識別的特徴の大きさが、層間における推論プロセスの分散方法に重大な影響を与えていることが判明した。
論文 参考訳(メタデータ) (2021-02-02T16:17:52Z) - When is Memorization of Irrelevant Training Data Necessary for
High-Accuracy Learning? [53.523017945443115]
我々は,十分な精度のトレーニングアルゴリズムが,予測モデルにおいて,そのトレーニング例の大規模サブセットに関する情報を本質的にすべてエンコードしなければならない自然予測問題を記述する。
私たちの結果は、トレーニングアルゴリズムや学習に使用されるモデルのクラスに依存しません。
論文 参考訳(メタデータ) (2020-12-11T15:25:14Z) - Learning Gaussian Graphical Models via Multiplicative Weights [54.252053139374205]
乗算重み更新法に基づいて,Klivans と Meka のアルゴリズムを適用した。
アルゴリズムは、文献の他のものと質的に類似したサンプル複雑性境界を楽しみます。
ランタイムが低い$O(mp2)$で、$m$サンプルと$p$ノードの場合には、簡単にオンライン形式で実装できる。
論文 参考訳(メタデータ) (2020-02-20T10:50:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。