論文の概要: Distance Metric Learning through Minimization of the Free Energy
- arxiv url: http://arxiv.org/abs/2106.05495v1
- Date: Thu, 10 Jun 2021 04:54:25 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-11 14:15:44.631138
- Title: Distance Metric Learning through Minimization of the Free Energy
- Title（参考訳）: 自由エネルギーの最小化による距離計量学習
- Authors: Dusan Stosic, Darko Stosic, Teresa B. Ludermir, Borko Stosic
- Abstract要約: 本稿では, 統計物理学の概念に基づく簡単なアプローチを提案し, 与えられた問題に対する最適距離計量を学習する。
物理学における多くの問題と同様に、我々はメトロポリス・モンテカルロに基づくアプローチを提案し、最良の距離計量を求める。
提案手法は局所最小値を含む様々な制約を扱える。
- 参考スコア（独自算出の注目度）: 0.825845106786193
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distance metric learning has attracted a lot of interest for solving machine
learning and pattern recognition problems over the last decades. In this work
we present a simple approach based on concepts from statistical physics to
learn optimal distance metric for a given problem. We formulate the task as a
typical statistical physics problem: distances between patterns represent
constituents of a physical system and the objective function corresponds to
energy. Then we express the problem as a minimization of the free energy of a
complex system, which is equivalent to distance metric learning. Much like for
many problems in physics, we propose an approach based on Metropolis Monte
Carlo to find the best distance metric. This provides a natural way to learn
the distance metric, where the learning process can be intuitively seen as
stretching and rotating the metric space until some heuristic is satisfied. Our
proposed method can handle a wide variety of constraints including those with
spurious local minima. The approach works surprisingly well with stochastic
nearest neighbors from neighborhood component analysis (NCA). Experimental
results on artificial and real-world data sets reveal a clear superiority over
a number of state-of-the-art distance metric learning methods for nearest
neighbors classification.
- Abstract（参考訳）: 過去数十年間、距離距離学習は機械学習とパターン認識の問題を解決することに多くの関心を寄せてきた。
本研究では,与えられた問題の最適距離計量を学ぶための統計物理学の概念に基づく単純なアプローチを提案する。
パターン間の距離は物理系の構成要素を表し、目的関数はエネルギーに対応する。
そして,この問題を,距離距離距離学習と等価な複素系の自由エネルギーの最小化として表現する。
物理学における多くの問題と同様に、我々はメトロポリス・モンテカルロに基づく最良の距離計量を求めるアプローチを提案する。
これは距離計量を学ぶ自然な方法であり、学習過程は幾らかのヒューリスティックが満たされるまで距離空間を伸ばして回転させるものとして直感的に見ることができる。
提案手法はスプリアス局所ミニマを含む幅広い制約を扱うことができる。
このアプローチは、近隣成分分析 (nca) の確率的近傍と驚くほどうまく機能する。
人工的および実世界のデータセットに対する実験結果から、近隣の分類のための最先端距離距離学習法よりも明らかな優位性を示した。
関連論文リスト
- Computing distances and means on manifolds with a metric-constrained Eikonal approach [4.266376725904727]
距離関数の連続かつ微分可能な表現を得るために,距離制約付きアイコンソルバを導入する。
これらの表現の微分可能な性質は、多様体上の大域的長さ最小化パスの直接計算を可能にする。
論文 参考訳（メタデータ） (2024-04-12T18:26:32Z) - Approximation Theory, Computing, and Deep Learning on the Wasserstein Space [0.5735035463793009]
有限標本からの無限次元空間における近似関数の挑戦に対処する。
我々の焦点はワッサーシュタイン距離関数であり、これは関連する例である。
機能近似を定義するために,機械学習に基づく3つのアプローチを採用する。
論文 参考訳（メタデータ） (2023-10-30T13:59:47Z) - Vanishing Point Estimation in Uncalibrated Images with Prior Gravity
Direction [82.72686460985297]
我々はマンハッタンのフレームを推定する問題に取り組む。
2つの新しい2行解法が導出され、そのうちの1つは既存の解法に影響を与える特異点に悩まされない。
また、局所最適化の性能を高めるために、任意の行で実行される新しい最小でないメソッドを設計する。
論文 参考訳（メタデータ） (2023-08-21T13:03:25Z) - Learning the solution operator of two-dimensional incompressible
Navier-Stokes equations using physics-aware convolutional neural networks [68.8204255655161]
パラメトリゼーションを必要とせず, 種々の測地における定常ナビエ-ストークス方程式の近似解を学習する手法を提案する。
物理を意識したCNNの結果は、最先端のデータベースアプローチと比較される。
論文 参考訳（メタデータ） (2023-08-04T05:09:06Z) - Learning governing physics from output only measurements [0.0]
出力のみの測定から力学系の物理を学習する新しい枠組みを提案する。
特に、スパイクとスラブを前もって推進する空間性、ベイズ法、ユーラー・マルヤマ法則を組み合わせて、データから支配物理学を識別する。
論文 参考訳（メタデータ） (2022-08-11T02:24:03Z) - Neural Bregman Divergences for Distance Learning [60.375385370556145]
本稿では,入力凸ニューラルネットワークを用いて任意のブレグマン分岐を微分可能な方法で学習するための新しいアプローチを提案する。
提案手法は,新しいタスクと以前に研究されたタスクのセットにおいて,より忠実に相違点を学習することを示す。
我々のテストはさらに、既知の非対称なタスクにまで拡張するが、Bregmanでないタスクでは、不特定性にもかかわらず、我々のメソッドは競争的に機能する。
論文 参考訳（メタデータ） (2022-06-09T20:53:15Z) - Fast Uncertainty Quantification for Deep Object Pose Estimation [91.09217713805337]
深層学習に基づくオブジェクトポーズ推定は、しばしば信頼できない、自信過剰である。
本研究では,6-DoFオブジェクトのポーズ推定のための,シンプルで効率的かつプラグアンドプレイなUQ手法を提案する。
論文 参考訳（メタデータ） (2020-11-16T06:51:55Z) - Provably Robust Metric Learning [98.50580215125142]
既存のメトリクス学習アルゴリズムは、ユークリッド距離よりもロバストなメトリクスをもたらすことを示す。
対向摂動に対して頑健なマハラノビス距離を求めるための新しい距離学習アルゴリズムを提案する。
実験結果から,提案アルゴリズムは証明済みの堅牢な誤りと経験的堅牢な誤りの両方を改善した。
論文 参考訳（メタデータ） (2020-06-12T09:17:08Z) - Towards Certified Robustness of Distance Metric Learning [53.96113074344632]
我々は,距離学習アルゴリズムの一般化とロバスト性を改善するために,入力空間に逆のマージンを付与することを提唱する。
アルゴリズム的ロバスト性の理論手法を用いることにより,拡張マージンは一般化能力に有益であることを示す。
論文 参考訳（メタデータ） (2020-06-10T16:51:53Z) - Project and Forget: Solving Large-Scale Metric Constrained Problems [7.381113319198104]
データポイント間で異なる測定値のセットが与えられた場合、入力された測定値と最も「一致」したメトリック表現を決定することは、多くの機械学習アルゴリズムにおいて重要なステップである。
既存の手法は、そのような問題に大量のメートル法制約があるため、特定の種類のメトリクスや小さな問題のサイズに制限される。
本稿では,多くの(指数関数的に)不等式制約を持つ計量制約問題の解法として,ブレグマン射影を用いたプロジェクト・アンド・フォーゲット(Project and Forget)を提案する。
論文 参考訳（メタデータ） (2020-05-08T04:50:54Z) - Metric Learning for Ordered Labeled Trees with pq-grams [11.284638114256712]
pq-gram を用いた木構造データに対する新しい計量学習手法を提案する。
pq-gram 距離は順序付きラベル付き木の距離であり、木編集距離よりも計算コストがはるかに低い。
提案手法は,最先端の編集距離に基づく手法を用いて,競合的な結果が得られることを実証的に示す。
論文 参考訳（メタデータ） (2020-03-09T08:04:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。