論文の概要: Geometric Methods for Sampling, Optimisation, Inference and Adaptive
Agents
- arxiv url: http://arxiv.org/abs/2203.10592v1
- Date: Sun, 20 Mar 2022 16:23:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 16:01:16.277021
- Title: Geometric Methods for Sampling, Optimisation, Inference and Adaptive
Agents
- Title(参考訳): サンプリング、最適化、推論および適応剤の幾何学的方法
- Authors: Alessandro Barp, Lancelot Da Costa, Guilherme Fran\c{c}a, Karl
Friston, Mark Girolami, Michael I. Jordan, and Grigorios A. Pavliotis
- Abstract要約: 我々は,サンプリング,最適化,推論,適応的意思決定といった問題に根ざした基本的な幾何学的構造を同定する。
これらの問題を効率的に解くためにこれらの幾何学的構造を利用するアルゴリズムを導出する。
- 参考スコア(独自算出の注目度): 102.42623636238399
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this chapter, we identify fundamental geometric structures that underlie
the problems of sampling, optimisation, inference and adaptive decision-making.
Based on this identification, we derive algorithms that exploit these geometric
structures to solve these problems efficiently. We show that a wide range of
geometric theories emerge naturally in these fields, ranging from
measure-preserving processes, information divergences, Poisson geometry, and
geometric integration. Specifically, we explain how \emph{(i)} leveraging the
symplectic geometry of Hamiltonian systems enable us to construct (accelerated)
sampling and optimisation methods, \emph{(ii)} the theory of Hilbertian
subspaces and Stein operators provides a general methodology to obtain robust
estimators, \emph{(iii)} preserving the information geometry of decision-making
yields adaptive agents that perform active inference. Throughout, we emphasise
the rich connections between these fields; e.g., inference draws on sampling
and optimisation, and adaptive decision-making assesses decisions by inferring
their counterfactual consequences. Our exposition provides a conceptual
overview of underlying ideas, rather than a technical discussion, which can be
found in the references herein.
- Abstract(参考訳): 本章では,サンプリング,最適化,推論,適応的意思決定の問題に根ざした基本的な幾何学的構造を明らかにする。
この同定に基づいて,これらの幾何学的構造を効率的に解くアルゴリズムを導出する。
これらの分野では、測度保存過程、情報分岐、ポアソン幾何学、幾何積分など、幅広い幾何学理論が自然に現れることを示す。
具体的には、どのように 'emph{
(i) ハミルトン系のシンプレクティック幾何学を利用することで、(加速)サンプリングおよび最適化法である \emph{ を構築できる。
(ii)} ヒルベルト部分空間とシュタイン作用素の理論は、ロバストな推定子を得るための一般的な方法論を提供する。
(iii) 意思決定の情報幾何を保存することは、能動推論を行う適応的エージェントを産み出す。
例えば、推論はサンプリングと最適化に重点を置いており、適応的意思決定は、反事実的影響を推測することで決定を評価する。
私たちの展覧会は、技術的な議論ではなく、基礎となるアイデアを概念的に概観するものです。
関連論文リスト
- Geometrically Inspired Kernel Machines for Collaborative Learning Beyond Gradient Descent [36.59087823764832]
本稿では,幾何学的にインスパイアされたカーネルマシンを用いた協調学習のための新しい数学的枠組みを開発する。
分類問題に対しては、与えられたデータ点の周りの有界な幾何学構造を学習することができる。
論文 参考訳(メタデータ) (2024-07-05T08:20:27Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Adaptive Surface Normal Constraint for Geometric Estimation from Monocular Images [56.86175251327466]
本稿では,幾何学的文脈を取り入れつつ,画像から深度や表面正規度などの測地を学習するための新しい手法を提案する。
提案手法は,入力画像に存在する幾何学的変動を符号化した幾何学的文脈を抽出し,幾何的制約と深度推定を相関付ける。
本手法は,画像から高品質な3次元形状を生成可能な密着型フレームワーク内での深度と表面の正規分布推定を統一する。
論文 参考訳(メタデータ) (2024-02-08T17:57:59Z) - Optimizing Solution-Samplers for Combinatorial Problems: The Landscape
of Policy-Gradient Methods [52.0617030129699]
本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。
我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。
本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
論文 参考訳(メタデータ) (2023-10-08T23:39:38Z) - Warped geometric information on the optimisation of Euclidean functions [43.43598316339732]
我々は、潜在的に高次元ユークリッド空間で定義される実数値函数の最適化を考える。
函数の最適度は、曲がった計量を持つ多様体に沿う。
提案アルゴリズムは測地学の3次近似を用いており、標準ユークリッド勾配法よりも優れている傾向にある。
論文 参考訳(メタデータ) (2023-08-16T12:08:50Z) - A Survey of Geometric Optimization for Deep Learning: From Euclidean
Space to Riemannian Manifold [7.737713458418288]
ディープラーニング(DL)は複雑な人工知能(AI)タスクで成功したが、様々な悪名高い問題に悩まされている。
本稿では、DLにおける幾何最適化の適用に関する総合的な調査について述べる。
畳み込みニューラルネットワーク、リカレントニューラルネットワーク、トランスファー学習、最適輸送など、さまざまなAIタスクにおける異なるDLネットワークにおける幾何学的最適化の適用について検討する。
論文 参考訳(メタデータ) (2023-02-16T10:50:15Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - Learning Geometric Combinatorial Optimization Problems using
Self-attention and Domain Knowledge [0.0]
本稿では、自己注意に基づく幾何学を含むCOPを解く新しいニューラルネットワークモデルと、新しいアテンション機構を提案する。
提案モデルは,エンコーダにおける自己アテンションを用いた幾何を含むCOPのポイント・ツー・ポイント関係を効率的に学習するように設計されている。
このデコーダでは,問題の幾何学的要件が満たされない場合に高いペナルティを与えるために,ドメイン知識を用いた新しいマスキング方式を提案する。
論文 参考訳(メタデータ) (2021-07-05T01:56:37Z) - A Unifying and Canonical Description of Measure-Preserving Diffusions [60.59592461429012]
ユークリッド空間における測度保存拡散の完全なレシピは、最近、いくつかのMCMCアルゴリズムを単一のフレームワークに統合した。
我々は、この構成を任意の多様体に改善し一般化する幾何学理論を開発する。
論文 参考訳(メタデータ) (2021-05-06T17:36:55Z) - Some Geometrical and Topological Properties of DNNs' Decision Boundaries [4.976129960952446]
ディープニューラルネットワーク(DNN)による決定領域の幾何学的および位相的性質の探索に微分幾何学を用いる。
微分幾何学におけるガウス・ボネット・シェン定理に基づいて、コンパクトな決定境界のオイラー特性を計算する方法を提案する。
論文 参考訳(メタデータ) (2020-03-07T23:46:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。