論文の概要: Measuring the Discrepancy between Conditional Distributions: Methods, Properties and Applications

• arxiv url: http://arxiv.org/abs/2005.02196v2
• Date: Tue, 29 Dec 2020 00:32:02 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-06 13:39:38.729536
• Title: Measuring the Discrepancy between Conditional Distributions: Methods, Properties and Applications
• Title（参考訳）: 条件分布の差の測定:方法、特性および応用
• Authors: Shujian Yu, Ammar Shaker, Francesco Alesiani, Jose C. Principe
• Abstract要約: 本稿では,2つの条件分布間の差分を定量化するために,単純かつ強力なテスト統計量を提案する。 新しい統計学は、高次元空間の基底分布の明示的な推定を避ける。 相関関数の利点を継承し、データに高次統計を明示的に組み込む。
• 参考スコア（独自算出の注目度）: 18.293397644865458
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a simple yet powerful test statistic to quantify the discrepancy between two conditional distributions. The new statistic avoids the explicit estimation of the underlying distributions in highdimensional space and it operates on the cone of symmetric positive semidefinite (SPS) matrix using the Bregman matrix divergence. Moreover, it inherits the merits of the correntropy function to explicitly incorporate high-order statistics in the data. We present the properties of our new statistic and illustrate its connections to prior art. We finally show the applications of our new statistic on three different machine learning problems, namely the multi-task learning over graphs, the concept drift detection, and the information-theoretic feature selection, to demonstrate its utility and advantage. Code of our statistic is available at https://bit.ly/BregmanCorrentropy.
• Abstract（参考訳）: 本稿では,2つの条件分布間の差分を定量化するために,単純かつ強力なテスト統計量を提案する。 新しい統計学は、高次元空間における基底分布の明示的な推定を回避し、ブレグマン行列の発散を用いて対称正半定値行列(SPS)の円錐上で作用する。 さらに、データに高次統計を明示的に組み込むために、コレントロピー関数の利点を継承する。 我々は,新しい統計学の特性を提示し,その先行技術との関連性を説明する。 最終的に、グラフ上のマルチタスク学習、コンセプトドリフト検出、情報理論の特徴選択という、3つの異なる機械学習問題に対する我々の新しい統計学の応用を示し、その有用性と利点を実証する。 統計のコードはhttps://bit.ly/BregmanCorrentropy.comで公開されている。

関連論文リスト

• Probabilistic Contrastive Learning for Long-Tailed Visual Recognition [78.70453964041718]
  細長い分布は、少数の少数派が限られた数のサンプルを含む実世界のデータにしばしば現れる。 近年の研究では、教師付きコントラスト学習がデータ不均衡を緩和する有望な可能性を示していることが明らかになっている。 本稿では,特徴空間の各クラスからのサンプルデータ分布を推定する確率論的コントラスト学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-03-11T13:44:49Z)
• Debiasing Multimodal Models via Causal Information Minimization [65.23982806840182]
  我々は、マルチモーダルデータのための因果グラフにおいて、共同創設者から生じるバイアスを研究する。 ロバストな予測機能は、モデルがアウト・オブ・ディストリビューションデータに一般化するのに役立つ多様な情報を含んでいる。 これらの特徴を共同設立者表現として使用し、因果理論によって動機づけられた手法を用いてモデルからバイアスを取り除く。
  論文  参考訳（メタデータ） (2023-11-28T16:46:14Z)
• A U-turn on Double Descent: Rethinking Parameter Counting in Statistical Learning [68.76846801719095]
  二重降下がいつどこで起こるのかを正確に示し、その位置が本質的に閾値 p=n に結び付けられていないことを示す。 これは二重降下と統計的直観の間の緊張を解消する。
  論文  参考訳（メタデータ） (2023-10-29T12:05:39Z)
• Measuring Statistical Dependencies via Maximum Norm and Characteristic Functions [0.0]
  本稿では, 連接関数と積対角特性関数の差の最大ノルムに基づく統計的依存度尺度を提案する。 提案手法は、2つの異なる次元のランダムベクトル間の任意の統計的依存を検出することができる。 シミュレーションデータと実データの両方を用いて実験を行う。
  論文  参考訳（メタデータ） (2022-08-16T20:24:31Z)
• Information Processing Equalities and the Information-Risk Bridge [10.451984251615512]
  本稿では,統計実験のための2つの新しい情報尺度について紹介する。 我々は,情報量測定と統計的決定問題のベイズリスクとの簡単な幾何学的関係を導出する。
  論文  参考訳（メタデータ） (2022-07-25T08:54:36Z)
• A Unifying Framework for Some Directed Distances in Statistics [0.0]
  密度に基づく有向距離(特に発散距離)は統計学で広く使われている。 本稿では、密度ベースと分布関数ベースの分散アプローチの両方を網羅する一般的なフレームワークを提供する。 我々は、有望な相互情報の代替として、確率変数間の依存の新たな概念を導出する。
  論文  参考訳（メタデータ） (2022-03-02T04:24:13Z)
• Uncertainty Modeling for Out-of-Distribution Generalization [56.957731893992495]
  特徴統計を適切に操作することで、ディープラーニングモデルの一般化能力を向上させることができると論じる。 一般的な手法では、特徴統計を学習した特徴から測定された決定論的値とみなすことが多い。 我々は、学習中に合成された特徴統計を用いて、領域シフトの不確かさをモデル化することにより、ネットワークの一般化能力を向上させる。
  論文  参考訳（メタデータ） (2022-02-08T16:09:12Z)
• Three rates of convergence or separation via U-statistics in a dependent framework [5.929956715430167]
  我々はこの理論的なブレークスルーを、3つの異なる研究分野における現在の知識の状態を推し進めることで実行した。 まず、MCMC法によるトレースクラス積分作用素のスペクトル推定のための新しい指数関数不等式を確立する。 さらに、ペアワイズ損失関数とマルコフ連鎖サンプルを扱うオンラインアルゴリズムの一般化性能について検討する。
  論文  参考訳（メタデータ） (2021-06-24T07:10:36Z)
• Learning Log-Determinant Divergences for Positive Definite Matrices [47.61701711840848]
  本稿では,データ駆動方式で類似度を学習することを提案する。 スカラーアルファとベータによってパラメトリ化されたメタダイバージェンスであるalphabeta-log-detの発散を利用する。 私たちの重要なアイデアは、これらのパラメータを連続体にキャストし、データから学ぶことです。
  論文  参考訳（メタデータ） (2021-04-13T19:09:43Z)
• Causal learning with sufficient statistics: an information bottleneck approach [3.720546514089338]
  システムの変数間の条件不依存から因果情報を抽出する方法は一般的である。 我々は、システムの生成機構を規定する法則が、変数の生成関数方程式に具現化された部分構造をもたらすことが多いという事実に乗じる。 本稿では,次元削減に一般的に応用されるインフォメーション・ボトルネック法を用いて,基礎となる十分な統計量を求めることを提案する。
  論文  参考訳（メタデータ） (2020-10-12T00:20:01Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。