論文の概要: Mutual Regression Distance

• arxiv url: http://arxiv.org/abs/2501.10617v1
• Date: Sat, 18 Jan 2025 00:43:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-22 14:25:31.254252
• Title: Mutual Regression Distance
• Title（参考訳）: 相互回帰距離
• Authors: Dong Qiao, Jicong Fan,
• Abstract要約: 制約付き相互回帰問題によって誘導されるMRD(Multual Regression Distance)と呼ばれる新しい距離を提案する。 我々は、MDDが計量の公理のほとんどを満足する擬計量であることを証明する。 我々のMDD、特に単純化されたMDDは、ワッサーシュタイン距離よりも計算の複雑さがはるかに低い。
• 参考スコア（独自算出の注目度）: 23.137310779463277
• License:
• Abstract: The maximum mean discrepancy and Wasserstein distance are popular distance measures between distributions and play important roles in many machine learning problems such as metric learning, generative modeling, domain adaption, and clustering. However, since they are functions of pair-wise distances between data points in two distributions, they do not exploit the potential manifold properties of data such as smoothness and hence are not effective in measuring the dissimilarity between the two distributions in the form of manifolds. In this paper, different from existing measures, we propose a novel distance called Mutual Regression Distance (MRD) induced by a constrained mutual regression problem, which can exploit the manifold property of data. We prove that MRD is a pseudometric that satisfies almost all the axioms of a metric. Since the optimization of the original MRD is costly, we provide a tight MRD and a simplified MRD, based on which a heuristic algorithm is established. We also provide kernel variants of MRDs that are more effective in handling nonlinear data. Our MRDs especially the simplified MRDs have much lower computational complexity than the Wasserstein distance. We provide theoretical guarantees, such as robustness, for MRDs. Finally, we apply MRDs to distribution clustering, generative models, and domain adaptation. The numerical results demonstrate the effectiveness and superiority of MRDs compared to the baselines.
• Abstract（参考訳）: 最大平均差とワッサースタイン距離は分布間の一般的な距離測度であり、計量学習、生成モデリング、ドメイン適応、クラスタリングといった多くの機械学習問題において重要な役割を果たす。 しかし、それらは2つの分布におけるデータポイント間のペアワイズ距離の関数であるため、滑らかさのようなデータの潜在的多様体特性を利用せず、したがって多様体の形で2つの分布間の相似性を測定するのに効果的ではない。 本稿では,従来の手法と異なり,制約付き相互回帰問題によって引き起こされるMRD(Multual Regression Distance)と呼ばれる,データの多様体特性を利用する新しい距離を提案する。 我々は、MDDが計量の公理のほとんどを満足する擬計量であることを証明する。 元のMDDの最適化はコストがかかるので、ヒューリスティックアルゴリズムが確立された厳密なMDDと簡易なMDDを提供する。 また、非線形データを扱う上でより効果的なMDDのカーネル変種も提供する。 我々のMDD、特に単純化されたMDDは、ワッサーシュタイン距離よりも計算の複雑さがはるかに低い。 我々はMDDに対するロバスト性などの理論的保証を提供する。 最後に、分散クラスタリング、生成モデル、ドメイン適応にMDDを適用する。 その結果, MRDの有効性と優越性は, ベースラインよりも高いことがわかった。

関連論文リスト

• SOFARI: High-Dimensional Manifold-Based Inference [8.860162863559163]
  我々は2つのSOFARI変種を導入し、強力で弱い潜伏要因を扱えるようにし、後者は広範囲のアプリケーションをカバーする。 そこで我々は,SOFARIが潜在左因子ベクトルと特異値の両方に対して偏差補正推定器を提供し,その平均零正規分布を疎分散で楽しむことを示す。 本稿では,SOFARIの有効性を概説し,シミュレーション例による理論結果の正当化と,経済予測における実データの適用について述べる。
  論文  参考訳（メタデータ） (2023-09-26T16:01:54Z)
• Provably Efficient Algorithm for Nonstationary Low-Rank MDPs [48.92657638730582]
  我々は,非定常RLを,遷移カーネルと報酬の両方が時間とともに変化するような,エピソードな低ランクMDPで調査する最初の試みを行っている。 本稿では,パラメータ依存型ポリシ最適化アルゴリズムである Portal を提案し,パラメータフリー版である Ada-Portal の Portal をさらに改良する。 両アルゴリズムとも,非定常性が著しく大きくない限り, Portal と Ada-PortAL はサンプリング効率が良く,サンプリング複雑性を伴う平均的動的準最適ギャップを任意に小さく得ることを示す。
  論文  参考訳（メタデータ） (2023-08-10T09:52:44Z)
• Optimal Multitask Linear Regression and Contextual Bandits under Sparse Heterogeneity [41.772562538698395]
  マルチタスク学習手法は、データセット間の共通性を活用することにより効率を向上する。 マルチタスク線形回帰と文脈帯域幅をスパースヘテロジニティ下で検討した。 提案手法は,多くの下界を提供することにより,最小限の最適化が可能であることを示す。
  論文  参考訳（メタデータ） (2023-06-09T22:48:13Z)
• The Curious Price of Distributional Robustness in Reinforcement Learning with a Generative Model [61.87673435273466]
  本稿では,強化学習(RL)におけるモデルロバスト性を検討した。 我々は,デプロイ環境が,名目MDPに規定された不確実性に陥る場合に,最悪の場合のパフォーマンスを最適化する政策を学習することを目的とした,分布的に堅牢なマルコフ決定プロセス(RMDP)の枠組みを採用する。
  論文  参考訳（メタデータ） (2023-05-26T02:32:03Z)
• MMD-ReID: A Simple but Effective Solution for Visible-Thermal Person ReID [20.08880264104061]
  本稿では,モダリティギャップを明示的な差分低減制約によって低減する,シンプルで効果的なMDD-ReIDを提案する。 我々はMDD-ReIDの有効性を定性的かつ定量的に実証するための広範囲な実験を行った。 提案手法は,SYSU-MM01およびRegDBデータセットにおける最先端の手法よりも優れている。
  論文  参考訳（メタデータ） (2021-11-09T11:33:32Z)
• Distributionally Robust Multi-Output Regression Ranking [3.9318191265352196]
  DRMRR(Distributedally Robust Multi-output Regression Ranking)と呼ばれるリストワイズ学習ランクモデルを導入する。 DRMRRは分散ロバスト最適化フレームワークを使用して、経験的データ分布の近傍で最も有害な分布の下でのマルチ出力損失関数を最小化する。 本実験は,医用文書検索と薬物反応予測の2つの実世界の応用について行った。
  論文  参考訳（メタデータ） (2021-09-27T05:19:27Z)
• A Wasserstein Minimax Framework for Mixed Linear Regression [69.40394595795544]
  マルチモーダル分布は、学習タスクにおいてクラスタ化されたデータをモデル化するために一般的に使用される。 混合線形回帰問題に対する最適輸送ベースフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-06-14T16:03:51Z)
• Rethink Maximum Mean Discrepancy for Domain Adaptation [77.2560592127872]
  本論文は,(1)最大平均距離の最小化は,それぞれソースとクラス内距離の最大化に等しいが,その差を暗黙の重みと共同で最小化し,特徴判別性は低下する,という2つの本質的な事実を理論的に証明する。 いくつかのベンチマークデータセットの実験は、理論的な結果の有効性を証明しただけでなく、我々のアプローチが比較した最先端手法よりも大幅に向上できることを実証した。
  論文  参考訳（メタデータ） (2020-07-01T18:25:10Z)
• An Online Method for A Class of Distributionally Robust Optimization with Non-Convex Objectives [54.29001037565384]
  本稿では,オンライン分散ロバスト最適化(DRO)のクラスを解決するための実用的なオンライン手法を提案する。 本研究は,ネットワークの堅牢性向上のための機械学習における重要な応用を実証する。
  論文  参考訳（メタデータ） (2020-06-17T20:19:25Z)
• Modal Regression based Structured Low-rank Matrix Recovery for Multi-view Learning [70.57193072829288]
  近年、低ランクなマルチビューサブスペース学習は、クロスビューの分類において大きな可能性を示している。 既存のLMvSLベースの手法では、ビューの区別と差別を同時に扱うことができない。 本稿では,視差を効果的に除去し,識別性を向上する独自の方法であるStructured Low-rank Matrix Recovery (SLMR)を提案する。
  論文  参考訳（メタデータ） (2020-03-22T03:57:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。