論文の概要: Global optimality under amenable symmetry constraints

• arxiv url: http://arxiv.org/abs/2402.07613v2
• Date: Fri, 19 Jul 2024 08:50:31 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-22 23:56:51.432126
• Title: Global optimality under amenable symmetry constraints
• Title（参考訳）: 可換対称性制約下における大域的最適性
• Authors: Peter Orbanz,
• Abstract要約: 凸性、群、および典型的には無限次元のベクトル空間の間の相互作用を示す。 このツールキットを不変最適性問題に適用する。 これは、不変カーネルの平均埋め込みとリスク-最適不変結合に関する新しい結果をもたらす。
• 参考スコア（独自算出の注目度）: 0.5656581242851759
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Consider a convex function that is invariant under an group of transformations. If it has a minimizer, does it also have an invariant minimizer? Variants of this problem appear in nonparametric statistics and in a number of adjacent fields. The answer depends on the choice of function, and on what one may loosely call the geometry of the problem -- the interplay between convexity, the group, and the underlying vector space, which is typically infinite-dimensional. We observe that this geometry is completely encoded in the smallest closed convex invariant subsets of the space, and proceed to study these sets, for groups that are amenable but not necessarily compact. We then apply this toolkit to the invariant optimality problem. It yields new results on invariant kernel mean embeddings and risk-optimal invariant couplings, and clarifies relations between seemingly distinct ideas, such as the summation trick used in machine learning to construct equivariant neural networks and the classic Hunt-Stein theorem of statistics.
• Abstract（参考訳）: 変換群の下で不変な凸函数を考える。 もしそれがミニマライザを持つなら、不変のミニマライザも持っているだろうか? この問題の変数は、非パラメトリック統計学やいくつかの隣接する分野に現れる。 答えは関数の選択に依存しており、その問題の幾何学(凸性、群、および典型的には無限次元であるベクトル空間の間の相互作用)を緩やかに呼ぶことができる。 我々は、この幾何学が空間の最小の閉凸不変部分集合に完全にエンコードされていることを観察し、これらの集合の研究を進める。 次に、このツールキットを不変最適性問題に適用する。 これは、不変カーネルの平均埋め込みとリスク-最適不変結合に関する新しい結果をもたらし、機械学習で同変ニューラルネットワークを構成するのに使用される和のトリックや統計学の古典的なハント・シュタインの定理のような、一見異なる概念の間の関係を明確にする。

関連論文リスト

• Riemannian stochastic optimization methods avoid strict saddle points [68.80251170757647]
  研究中のポリシーは、確率 1 の厳密なサドル点/部分多様体を避けていることを示す。 この結果は、アルゴリズムの極限状態が局所最小値にしかならないことを示すため、重要な正当性チェックを提供する。
  論文  参考訳（メタデータ） (2023-11-04T11:12:24Z)
• Geometry of Linear Neural Networks: Equivariance and Invariance under Permutation Groups [0.0]
  置換群の作用の下で同変あるいは不変な函数の部分多様体について検討する。 パラメータ化と等変線形ネットワークの設計に関する結論を導出する。
  論文  参考訳（メタデータ） (2023-09-24T19:40:15Z)
• The Exact Sample Complexity Gain from Invariances for Kernel Regression [37.74032673086741]
  実際には、モデルの不変性を符号化することで、サンプルの複雑さが向上する。 コンパクト多様体上でのカーネルリッジ回帰に対する最小値の最適値を与える。 我々の結果は任意の滑らかなコンパクトリー群作用、あるいは正次元の群に対しても成り立つ。
  論文  参考訳（メタデータ） (2023-03-24T20:47:31Z)
• Multi-block-Single-probe Variance Reduced Estimator for Coupled Compositional Optimization [49.58290066287418]
  構成問題の複雑さを軽減するために,MSVR (Multi-block-probe Variance Reduced) という新しい手法を提案する。 本研究の結果は, 試料の複雑さの順序や強靭性への依存など, 様々な面で先行して改善された。
  論文  参考訳（メタデータ） (2022-07-18T12:03:26Z)
• Linear programming with unitary-equivariant constraints [2.0305676256390934]
  ユニタリ同値(英: Unitary equivariance)は、物理学や数学において多くの文脈で発生する自然な対称性である。 追加の対称性の仮定の下では、この問題は、$d$でスケールしない時間で解決できる線形プログラムに還元されることを示す。 また,本手法を一般ユニタリ同変半定プログラムに拡張する可能性についても概説する。
  論文  参考訳（メタデータ） (2022-07-12T17:37:04Z)
• Low Dimensional Invariant Embeddings for Universal Geometric Learning [6.405957390409045]
  本稿では、適切な群作用に不変で、どの軌道を分離するかという、不変量:$D$次元領域上の写像について研究する。 この研究の動機は、同変ニューラルネットワークアーキテクチャの普遍性を証明するために不変量を分離することの有用性にある。
  論文  参考訳（メタデータ） (2022-05-05T22:56:19Z)
• The Schr\"odinger Bridge between Gaussian Measures has a Closed Form [101.79851806388699]
  我々は OT の動的定式化(Schr"odinger bridge (SB) 問題)に焦点を当てる。 本稿では,ガウス測度間のSBに対する閉形式表現について述べる。
  論文  参考訳（メタデータ） (2022-02-11T15:59:01Z)
• Lattice-Based Methods Surpass Sum-of-Squares in Clustering [98.46302040220395]
  クラスタリングは教師なし学習における基本的なプリミティブである。 最近の研究は、低次手法のクラスに対する低い境界を確立している。 意外なことに、この特定のクラスタリングモデルのtextitdoesは、統計的-計算的ギャップを示さない。
  論文  参考訳（メタデータ） (2021-12-07T18:50:17Z)
• On the Sample Complexity of Learning with Geometric Stability [42.813141600050166]
  対象関数がそのような不変性や安定性を示す学習問題のサンプル複雑性について検討する。 カーネル法における非パラメトリック収束率と,グループの大きさに等しい因子によるサンプル複雑性の改善について述べる。
  論文  参考訳（メタデータ） (2021-06-14T03:51:16Z)
• Coordinate Independent Convolutional Networks -- Isometry and Gauge Equivariant Convolutions on Riemannian Manifolds [70.32518963244466]
  平坦空間と比較して大きな複雑さは、コンボリューション核が多様体にどのようなアライメントを適用するべきかが不明確であることである。 コーディネート化の特定の選択は、ネットワークの推論に影響を与えるべきではない、と我々は主張する。 座標独立と重み共有の同時要求は、ネットワーク上の同変要求をもたらす。
  論文  参考訳（メタデータ） (2021-06-10T19:54:19Z)
• Hybrid Trilinear and Bilinear Programming for Aligning Partially Overlapping Point Sets [85.71360365315128]
  多くの応用において、部分重なり合う点集合が対応するRPMアルゴリズムに不変であるようなアルゴリズムが必要である。 まず、目的が立方体有界関数であることを示し、次に、三線型および双線型単相変換の凸エンベロープを用いて、その下界を導出する。 次に、変換変数上の分岐のみを効率よく実行するブランチ・アンド・バウンド(BnB)アルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-01-19T04:24:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。