論文の概要: Optimization and Sampling Under Continuous Symmetry: Examples and Lie Theory

• arxiv url: http://arxiv.org/abs/2109.01080v1
• Date: Thu, 2 Sep 2021 16:44:44 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-03 13:40:26.324919
• Title: Optimization and Sampling Under Continuous Symmetry: Examples and Lie Theory
• Title（参考訳）: 連続対称性による最適化とサンプリング:例とリー理論
• Authors: Jonathan Leake and Nisheeth K. Vishnoi
• Abstract要約: リーアンの定理、リー群、リー代数およびハリシュ・チャンドラ-イッツィ積分の公式の例を示す。 次に、連続対称性を捉えるために必要不可欠な数学的ツールキットである最適化理論を紹介する。
• 参考スコア（独自算出の注目度）: 26.555110725656963
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In the last few years, the notion of symmetry has provided a powerful and essential lens to view several optimization or sampling problems that arise in areas such as theoretical computer science, statistics, machine learning, quantum inference, and privacy. Here, we present two examples of nonconvex problems in optimization and sampling where continuous symmetries play -- implicitly or explicitly -- a key role in the development of efficient algorithms. These examples rely on deep and hidden connections between nonconvex symmetric manifolds and convex polytopes, and are heavily generalizable. To formulate and understand these generalizations, we then present an introduction to Lie theory -- an indispensable mathematical toolkit for capturing and working with continuous symmetries. We first present the basics of Lie groups, Lie algebras, and the adjoint actions associated with them, and we also mention the classification theorem for Lie algebras. Subsequently, we present Kostant's convexity theorem and show how it allows us to reduce linear optimization problems over orbits of Lie groups to linear optimization problems over polytopes. Finally, we present the Harish-Chandra and the Harish-Chandra--Itzykson--Zuber (HCIZ) formulas, which convert partition functions (integrals) over Lie groups into sums over the corresponding (discrete) Weyl groups, enabling efficient sampling algorithms.
• Abstract（参考訳）: ここ数年、対称性の概念は、理論計算機科学、統計学、機械学習、量子推論、プライバシといった領域で発生するいくつかの最適化やサンプリング問題を見るために強力で不可欠なレンズを提供してきた。 本稿では,非凸問題に対する最適化とサンプリングの2つの例を示し,連続対称性が効率的アルゴリズムの開発において重要な役割を担っていることを示す。 これらの例は、非凸対称多様体と凸多面体の間の深いおよび隠れた接続に依存し、非常に一般化可能である。 これらの一般化を定式化し、理解するために、連続対称性を捉え、扱うのに必要な数学的ツールキットであるリー理論を紹介します。 まず、リー群、リー代数、それに付随する随伴作用の基本を提示し、リー代数の分類定理についても言及する。 その後、コスタントの凸性定理を示し、リー群の軌道上の線形最適化問題をポリトープ上の線形最適化問題に還元する方法を示す。 最後に、リー群上の分割関数(積分)を対応する(離散)ワイル群上の和に変換し、効率的なサンプリングアルゴリズムを実現するハリシュ・チャンドラ式とハリシュ・チャンドラ-イジークソン-ズーバー式(HCIZ)を示す。

関連論文リスト

• Understanding Matrix Function Normalizations in Covariance Pooling through the Lens of Riemannian Geometry [63.694184882697435]
  グローバル共分散プーリング(GCP)は、高レベルの表現の2階統計を利用して、ディープニューラルネットワーク(DNN)の性能を向上させることが実証されている。
  論文  参考訳（メタデータ） (2024-07-15T07:11:44Z)
• Sample Complexity for Quadratic Bandits: Hessian Dependent Bounds and Optimal Algorithms [64.10576998630981]
  最適なヘッセン依存型サンプルの複雑さを, 初めて厳密に評価した。 ヘシアン非依存のアルゴリズムは、すべてのヘシアンインスタンスに対して最適なサンプル複雑さを普遍的に達成する。 本アルゴリズムにより得られたサンプルの最適複雑さは,重み付き雑音分布においても有効である。
  論文  参考訳（メタデータ） (2023-06-21T17:03:22Z)
• Learning Graphical Factor Models with Riemannian Optimization [70.13748170371889]
  本稿では,低ランク構造制約下でのグラフ学習のためのフレキシブルなアルゴリズムフレームワークを提案する。 この問題は楕円分布のペナルティ化された最大推定値として表される。 楕円モデルによく適合する正定行列と定ランクの正半定行列のジオメトリを利用する。
  論文  参考訳（メタデータ） (2022-10-21T13:19:45Z)
• Sum-of-Squares Relaxations for Information Theory and Variational Inference [0.0]
  シャノン相対エントロピーの拡張($f$-divergences)を考える。 これらの分岐を計算するための凸緩和列を導出する。 我々は、量子情報理論から発せられるスペクトル情報に基づいて、より効率的な緩和を提供する。
  論文  参考訳（メタデータ） (2022-06-27T13:22:40Z)
• On a class of geodesically convex optimization problems solved via Euclidean MM methods [50.428784381385164]
  ユークリッド凸化関数の違いは、統計学と機械学習の異なるタイプの問題の違いとして記述できることを示す。 最終的に、より広い範囲、より広い範囲の作業を支援するのです。
  論文  参考訳（メタデータ） (2022-06-22T23:57:40Z)
• Geometric Methods for Sampling, Optimisation, Inference and Adaptive Agents [102.42623636238399]
  我々は,サンプリング,最適化,推論,適応的意思決定といった問題に根ざした基本的な幾何学的構造を同定する。 これらの問題を効率的に解くためにこれらの幾何学的構造を利用するアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2022-03-20T16:23:17Z)
• Noncommutative polynomial optimization under symmetry [0.0]
  我々は、ナヴァスク-ピロニオ-アックの半定緩和における対称性を利用するための一般的な枠組みを提案する。 我々はモーメントと2乗の双対アプローチに等しく重点を置いている。
  論文  参考訳（メタデータ） (2021-12-20T19:02:16Z)
• Nonconvex Factorization and Manifold Formulations are Almost Equivalent in Low-rank Matrix Optimization [8.59387261480044]
  我々は、広く研究された多様体の幾何学的地形接続と、低ランク正半定値(PSD)および一般行列最適化における分解公式を考える。 サンドイッチ関係は、ある定式化から別の定式化へのより定量的な幾何学的性質の伝達に利用できることを示す。
  論文  参考訳（メタデータ） (2021-08-03T22:14:01Z)
• Curvature-Dependant Global Convergence Rates for Optimization on Manifolds of Bounded Geometry [6.85316573653194]
  1-有界幾何多様体上で定義される弱凸函数に対する曲率依存性収束率を与える。 最適化文献でよく用いられる多様体に対して、これらの境界を明示的に計算する。 指数写像の微分のノルムに完全一般境界の自己完備証明を与える。
  論文  参考訳（メタデータ） (2020-08-06T08:30:35Z)
• Asymptotic Errors for Teacher-Student Convex Generalized Linear Models (or : How to Prove Kabashima's Replica Formula) [23.15629681360836]
  凸一般化線形モデルの再構成性能に関する解析式を検証した。 解析的継続を行えば、結果を凸(非強直)問題に拡張できることを示す。 主流学習法に関する数値的な例で,本主張を述べる。
  論文  参考訳（メタデータ） (2020-06-11T16:26:35Z)
• Stochastic Flows and Geometric Optimization on the Orthogonal Group [52.50121190744979]
  直交群 $O(d)$ 上の幾何駆動最適化アルゴリズムの新しいクラスを示す。 提案手法は,深層,畳み込み,反復的なニューラルネットワーク,強化学習,フロー,メトリック学習など,機械学習のさまざまな分野に適用可能であることを示す。
  論文  参考訳（メタデータ） (2020-03-30T15:37:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。