論文の概要: On the Learning and Learnablity of Quasimetrics
- arxiv url: http://arxiv.org/abs/2206.15478v1
- Date: Thu, 30 Jun 2022 17:59:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-01 15:25:27.407479
- Title: On the Learning and Learnablity of Quasimetrics
- Title(参考訳): 準メトリックの学習と学習について
- Authors: Tongzhou Wang, Phillip Isola
- Abstract要約: 強化学習と制御において、最適目標獲得戦略はめったに逆転しない(対称)
一般的な外見にもかかわらず、準計量の学習についてはほとんど研究されていない。
提案したPoisson Quasimetric Embedding (PQE) は、勾配に基づく最適化で学習可能な最初の準メトリック学習定式化である。
- 参考スコア(独自算出の注目度): 32.0469500831667
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Our world is full of asymmetries. Gravity and wind can make reaching a place
easier than coming back. Social artifacts such as genealogy charts and citation
graphs are inherently directed. In reinforcement learning and control, optimal
goal-reaching strategies are rarely reversible (symmetrical). Distance
functions supported on these asymmetrical structures are called quasimetrics.
Despite their common appearance, little research has been done on the learning
of quasimetrics.
Our theoretical analysis reveals that a common class of learning algorithms,
including unconstrained multilayer perceptrons (MLPs), provably fails to learn
a quasimetric consistent with training data. In contrast, our proposed Poisson
Quasimetric Embedding (PQE) is the first quasimetric learning formulation that
both is learnable with gradient-based optimization and enjoys strong
performance guarantees. Experiments on random graphs, social graphs, and
offline Q-learning demonstrate its effectiveness over many common baselines.
- Abstract(参考訳): 私たちの世界は非対称性でいっぱいです。
重力と風は、戻ってくるよりも簡単に着くことができる。
系図や引用グラフなどのソーシャルアーティファクトは本質的に指向されている。
強化学習と制御では、最適目標獲得戦略はめったに逆転しない(対称)。
これらの非対称構造に支持される距離関数は準計量と呼ばれる。
それらの共通した外観にもかかわらず、準メトリックの学習に関する研究はほとんど行われていない。
理論解析により,非拘束多層パーセプトロン(mlps)を含む一般的な学習アルゴリズムでは,訓練データと整合した準メトリックを学習できないことが明らかとなった。
対照的に,提案したPoisson Quasimetric Embedding (PQE) は,勾配に基づく最適化で学習可能であり,高い性能保証を享受できる最初の準メトリック学習式である。
ランダムグラフ、ソーシャルグラフ、オフラインQ-ラーニングの実験は、多くの共通ベースラインに対する効果を示す。
関連論文リスト
- Learning Infinitesimal Generators of Continuous Symmetries from Data [15.42275880523356]
1-パラメータ群で定義された変換に基づく新しい対称性学習アルゴリズムを提案する。
この手法は最小限の帰納バイアスに基づいて構築され、リー群に根付いた一般的な対称性だけでなく、非線形発生器由来の対称性にまで拡張される。
論文 参考訳(メタデータ) (2024-10-29T08:28:23Z) - Mastery Guided Non-parametric Clustering to Scale-up Strategy Prediction [1.1049608786515839]
Node2Vecをベースとした表現を学び、熟達度やスキルレベルの対称性を符号化します。
我々は,MATHiaの大規模データセットから数学学習の戦略を学習するために,本モデルを適用した。
論文 参考訳(メタデータ) (2024-01-04T17:57:21Z) - Learning Layer-wise Equivariances Automatically using Gradients [66.81218780702125]
畳み込みは等価対称性をニューラルネットワークにエンコードし、より優れた一般化性能をもたらす。
対称性は、ネットワークが表現できる機能、事前に指定する必要、適応できない機能に対して、固定されたハード制約を提供する。
私たちのゴールは、勾配を使ってデータから自動的に学習できるフレキシブル対称性の制約を可能にすることです。
論文 参考訳(メタデータ) (2023-10-09T20:22:43Z) - Efficiently Learning the Graph for Semi-supervised Learning [4.518012967046983]
共役勾配法を用いてスパース族から最良のグラフを効率的に学習する方法を示す。
我々の手法は、軽度な滑らかさの仮定の下で、オンラインのサブ線形後悔でグラフを効率的に学習するためにも利用できる。
提案手法を実装し,ベンチマークデータセット上の学習グラフを用いた半教師付き学習の先行研究に対して,大幅な(sim$10-100x)スピードアップを示す。
論文 参考訳(メタデータ) (2023-06-12T13:22:06Z) - Theoretical Characterization of the Generalization Performance of
Overfitted Meta-Learning [70.52689048213398]
本稿では,ガウス的特徴を持つ線形回帰モデルの下で,過剰適合型メタラーニングの性能について検討する。
シングルタスク線形回帰には存在しない新しい興味深い性質が見つかる。
本分析は,各訓練課題における基礎的真理のノイズや多様性・変動が大きい場合には,良心過剰がより重要かつ容易に観察できることを示唆する。
論文 参考訳(メタデータ) (2023-04-09T20:36:13Z) - Beyond spectral gap (extended): The role of the topology in
decentralized learning [58.48291921602417]
機械学習モデルのデータ並列最適化では、労働者はモデルの推定値を改善するために協力する。
現在の理論では、コラボレーションはトレーニング単独よりも学習率が大きいことを説明していない。
本稿では,疎結合分散最適化の正確な図面を描くことを目的とする。
論文 参考訳(メタデータ) (2023-01-05T16:53:38Z) - BASiS: Batch Aligned Spectral Embedding Space [7.176107039687231]
スペクトルグラフ理論は、固体線型代数理論を背景とした強力なアルゴリズムを提供することが示されている。
固有接尾辞を直接学習する別のアプローチを提案する。
我々は,SOTAと比較して,NMI,ACC,グラスマン距離,直交性,分類精度の点で,学習したスペクトル埋め込みの方が優れていることを示す。
論文 参考訳(メタデータ) (2022-11-30T13:07:59Z) - Improved Representation of Asymmetrical Distances with Interval
Quasimetric Embeddings [45.69333765438636]
非対称距離構造(準距離構造)は、私たちの生活においてユビキタスであり、機械学習応用においてより注目を集めている。
このような準計量モデルに4つの望ましい性質を示し、先行研究がそれに対してどのように失敗するかを示す。
4つの基準を全て満たすために, IQE (Interval Quasimetric Embedding) を提案する。
論文 参考訳(メタデータ) (2022-11-28T08:22:26Z) - Simple Stochastic and Online Gradient DescentAlgorithms for Pairwise
Learning [65.54757265434465]
ペアワイズ学習(Pairwise learning)とは、損失関数がペアインスタンスに依存するタスクをいう。
オンライン降下(OGD)は、ペアワイズ学習でストリーミングデータを処理する一般的なアプローチである。
本稿では,ペアワイズ学習のための手法について,シンプルでオンラインな下降を提案する。
論文 参考訳(メタデータ) (2021-11-23T18:10:48Z) - Provable Guarantees for Self-Supervised Deep Learning with Spectral
Contrastive Loss [72.62029620566925]
自己教師型学習の最近の研究は、対照的な学習パラダイムを頼りに、最先端の技術の進歩を遂げている。
我々の研究は、正の対の条件的独立性を仮定することなく、対照的な学習を分析する。
本稿では,人口増分グラフ上でスペクトル分解を行う損失を提案し,コントラスト学習目的として簡潔に記述することができる。
論文 参考訳(メタデータ) (2021-06-08T07:41:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。