論文の概要: Universal Approximation of Measure-to-Measure Operators by Pushforwards
- arxiv url: http://arxiv.org/abs/2609.35483v1
- Date: Mon, 28 Sep 2026 15:58:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 05:00:41.911426
- Title: Universal Approximation of Measure-to-Measure Operators by Pushforwards
- Title(参考訳): プッシュフォワードによる測度・測度演算子の普遍近似
- Abstract要約: 有限$p$-次モーメントの出力を持つ任意の連続測度演算子は、連続的なプッシュフォワードにより、$p$-ヴァッサーシュタイン距離において一様近似できることを示す。
また、このフレームワークを継続的に変化するソース測度に拡張し、プッシュフォワードモデルのクラスに対して対応する結果を得る。
- 参考スコア(独自算出の注目度): 8.271195591114806
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many learning tasks map an input distribution to an output distribution. A natural way to model such an operator is to transform each input sample using a continuous function that may depend on the entire input distribution, and then take the distribution of the transformed samples. This defines a measure-dependent pushforward model and includes measure-theoretic formulations of transformers. We ask when such models can approximate arbitrary continuous operators between spaces of probability measures. We first show that universal approximation fails when atomic inputs are allowed: some continuous measure-to-measure operators that split or redistribute atomic mass cannot be approximated arbitrarily well by deterministic pushforward models. We then introduce the uniform level set condition, which requires a continuous measure-dependent scalarization whose shrinking level set neighborhoods carry uniformly vanishing mass over the input family. This condition is satisfied, in particular, by compact families of absolutely continuous measures. On every compact family satisfying this condition, we prove that any continuous measure-to-measure operator with outputs of finite $p$-th moment can be uniformly approximated, in the $p$-Wasserstein distance, by continuous measure-dependent pushforwards. Combining our theorem with existing approximation results for measure-dependent in-context maps yields universal approximation by measure-theoretic transformers. We also extend the framework to continuously-varying source measures, yielding a corresponding universality result for a class of pushforward models that are closely aligned with cross-attention architectures.
- Abstract(参考訳): 多くの学習タスクは、入力分布を出力分布にマッピングする。
そのような演算子をモデル化する自然な方法は、入力分布全体に依存するかもしれない連続関数を用いて各入力サンプルを変換し、変換されたサンプルの分布を取ることである。
これは測度依存のプッシュフォワードモデルを定義し、変圧器の測度理論の定式化を含む。
そのようなモデルが確率測度の空間間の任意の連続作用素を近似できるかどうかを問う。
原子質量を分割または再分割する連続測度演算子は、決定論的プッシュフォワードモデルでは任意に近似できない。
次に、一様レベル設定条件を導入する。これは、連続的な測度依存スカラー化が必要であり、その縮小レベル設定近傍は、入力されたファミリーに対して一様に消滅する質量を運ぶ。
この条件は、特に絶対連続測度のコンパクト族によって満たされる。
この条件を満たすすべてのコンパクト族上で、有限$p$-次モーメントの出力を持つ任意の連続測度-測度作用素が、連続測度依存のプッシュフォワードにより、$p$-ワッサーシュタイン距離において一様近似できることを示す。
我々の定理と既存の測度依存型インコンテキスト写像の近似結果を組み合わせることで、測度理論変換器による普遍近似が得られる。
また、フレームワークを連続的に変化するソース測度にまで拡張し、クロスアテンションアーキテクチャと密に整合したプッシュフォワードモデルのクラスに対して、対応する普遍性結果を得る。
関連論文リスト
- Universality and Generalization of Causal Transformers Across Context Lengths [29.587685183870775]
固定された正規化水平線をサンプリングする任意の長さの列に対して因果トークン・ツー・トケンマップを均一に近似できるかを検討した。
分解能間の連続性の概念は、長さに依存しないパラメータを持つ単一変圧器により、コンパクトな入力クラスに一様近似を許容する因果族を特徴づける。
物理時系列の実験は、データセット依存の適応指数を持つ観測スケールでのHlder-regularトークンモデルをサポートし、テキスト入力の埋め込みは対照的なケースを提供する。
論文 参考訳(メタデータ) (2026-09-28T12:50:27Z) - Sample-Weighted End-to-End Trace-Norm Geometry for Multitask Learning [0.0]
タスク係数から入力空間予測器へのエンド・ツー・エンドマップのサンプルサイズ重み付きトレースノルムについて検討する。
明示的な構成は、線形層をキャンセルするための配向と分解のギャップと指数的な深さのギャップを示す。
論文 参考訳(メタデータ) (2026-08-25T04:35:24Z) - Distributions of Noisy Expectation Values over Sets of Measurement Operators [0.39998518782208786]
量子状態がランダムに分布する場合、その期待値もランダムに分布する。
本研究では,局所偏極雑音を用いたシミュレーションHaarランダム量子回路の実験的分布を構築した。
最適モデルパラメータはまた、回路深さやノイズスケールとともに滑らかで一貫して変化する。
論文 参考訳(メタデータ) (2026-04-07T15:05:14Z) - Predicting Out-of-Domain Generalization with Neighborhood Invariance [59.05399533508682]
局所変換近傍における分類器の出力不変性の尺度を提案する。
私たちの測度は計算が簡単で、テストポイントの真のラベルに依存しません。
画像分類,感情分析,自然言語推論のベンチマーク実験において,我々の測定値と実際のOOD一般化との間に強い相関関係を示す。
論文 参考訳(メタデータ) (2022-07-05T14:55:16Z) - Distributional Gradient Boosting Machines [77.34726150561087]
私たちのフレームワークはXGBoostとLightGBMをベースにしています。
我々は,このフレームワークが最先端の予測精度を実現することを示す。
論文 参考訳(メタデータ) (2022-04-02T06:32:19Z) - GFlowNet Foundations [66.69854262276391]
Generative Flow Networks (GFlowNets) は、多様な候補をアクティブな学習コンテキストでサンプリングする方法として導入された。
GFlowNetのさらなる理論的性質について述べる。
論文 参考訳(メタデータ) (2021-11-17T17:59:54Z) - Generalized Sliced Distances for Probability Distributions [47.543990188697734]
我々は、一般化スライス確率測定(GSPM)と呼ばれる、幅広い確率測定値の族を紹介する。
GSPMは一般化されたラドン変換に根付いており、ユニークな幾何学的解釈を持つ。
GSPMに基づく勾配流を生成モデル応用に適用し、軽度な仮定の下では、勾配流が大域的最適に収束することを示す。
論文 参考訳(メタデータ) (2020-02-28T04:18:00Z) - Compact convex structure of measurements and its applications to
simulability, incompatibility, and convex resource theory of
continuous-outcome measurements [0.0]
測定空間 $mathfrakM(E)$ を、$E 上の連続測定のポストプロセッシング同値クラスの集合として定義する。
シミュレーション不可能性および非互換性性のロバスト性尺度は、シミュレーション可能あるいは互換性のある測定値と比較して、測定値の状態判別確率の最適比と一致することを示す。
論文 参考訳(メタデータ) (2020-02-10T02:42:11Z) - Distributed, partially collapsed MCMC for Bayesian Nonparametrics [68.5279360794418]
ディリクレ法やベータ・ベルヌーリ法のようなモデルでよく用いられる完全無作為測度は独立な部分測度に分解可能であるという事実を利用する。
この分解を用いて、潜在測度を、インスタンス化された成分のみを含む有限測度と、他のすべての成分を含む無限測度に分割する。
得られたハイブリッドアルゴリズムは、収束保証を犠牲にすることなくスケーラブルな推論を可能にすることができる。
論文 参考訳(メタデータ) (2020-01-15T23:10:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。