論文の概要: Fast and Efficient MMD-based Fair PCA via Optimization over Stiefel Manifold

• arxiv url: http://arxiv.org/abs/2109.11196v1
• Date: Thu, 23 Sep 2021 08:06:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-24 22:45:45.381231
• Title: Fast and Efficient MMD-based Fair PCA via Optimization over Stiefel Manifold
• Title（参考訳）: Stiefel Manifold 上での最適化による高速かつ効率的なMDDベースFair PCA
• Authors: Junghyun Lee, Gwangsu Kim, Matt Olfat, Mark Hasegawa-Johnson, Chang D. Yoo
• Abstract要約: 本稿では,主成分分析(PCA)について,次元推定条件分布の最大誤差(MMD)を最小化するものとして定義する。 我々は最適性保証を提供し、実践的な環境で理論効果を明示的に示す。
• 参考スコア（独自算出の注目度）: 41.58534159822546
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper defines fair principal component analysis (PCA) as minimizing the maximum mean discrepancy (MMD) between dimensionality-reduced conditional distributions of different protected classes. The incorporation of MMD naturally leads to an exact and tractable mathematical formulation of fairness with good statistical properties. We formulate the problem of fair PCA subject to MMD constraints as a non-convex optimization over the Stiefel manifold and solve it using the Riemannian Exact Penalty Method with Smoothing (REPMS; Liu and Boumal, 2019). Importantly, we provide local optimality guarantees and explicitly show the theoretical effect of each hyperparameter in practical settings, extending previous results. Experimental comparisons based on synthetic and UCI datasets show that our approach outperforms prior work in explained variance, fairness, and runtime.
• Abstract（参考訳）: 本稿では,異なる保護クラスにおける最大平均偏差 (mmd) を最小化するために,fair principal component analysis (pca) を定義する。 MMD の組み入れは自然に、統計的性質のよい公正性の正確かつ引き算可能な数学的定式化につながる。 シュティーフェル多様体上の非凸最適化としてMDD制約を受ける公平PCAの問題を定式化し、Smoothing (REPMS; Liu and Boumal, 2019) を用いたリーマン排他法を用いて解決する。 重要となるのは,局所最適性保証を提供し,各ハイパーパラメータの理論的効果を実環境下で明示的に示すことである。 合成データセットとuciデータセットに基づく実験的比較により,提案手法は,分散性,公平性,実行時の説明作業よりも優れることが示された。

関連論文リスト

• A Gradient Analysis Framework for Rewarding Good and Penalizing Bad Examples in Language Models [63.949883238901414]
  本稿では,損失関数の勾配解析の特異な角度について述べる。 ExMATEはMLEの優れたサロゲートであり,DPOとMLEの代わりにExMATEを組み合わせることで,統計的(5-7%)と生成的(+18%)の性能が向上することがわかった。
  論文  参考訳（メタデータ） (2024-08-29T17:46:18Z)
• Provably Mitigating Overoptimization in RLHF: Your SFT Loss is Implicitly an Adversarial Regularizer [52.09480867526656]
  人間の嗜好を学習する際の分布変化と不確実性の一形態として,不一致の原因を同定する。 過度な最適化を緩和するために、まず、逆選択された報酬モデルに最適なポリシーを選択する理論アルゴリズムを提案する。 報奨モデルとそれに対応する最適ポリシーの等価性を用いて、優先最適化損失と教師付き学習損失を組み合わせた単純な目的を特徴とする。
  論文  参考訳（メタデータ） (2024-05-26T05:38:50Z)
• Benchmarking Parameter Control Methods in Differential Evolution for Mixed-Integer Black-Box Optimization [0.0]
  微分進化(DE)は一般に、スケール係数とクロスオーバー率のパラメータ制御法(PCM)を必要とする。 本稿では,混合整数ブラックボックス最適化ベンチマーク(bbob-mixint)スイート上で,DECのPCMをベンチマークする。 SHADEのPCMは数値ブラックボックス最適化の最先端技術であるが, 混合整数ブラックボックス最適化の性能は低かった。
  論文  参考訳（メタデータ） (2024-04-04T08:54:15Z)
• On the Asymptotic Mean Square Error Optimality of Diffusion Models [10.72484143420088]
  生成前駆体としての拡散モデル(DM)は近年,タスクを認知する大きな可能性を示している。 本稿では, MSE-Optimal Conditional mean (CME) の構造から着想を得た新しい認知戦略を提案する。 結果のDMベースのデノイザは、トレーニング済みのDMを用いて便利に使用することができ、特に逆拡散ステップをトラッピングすることで高速である。
  論文  参考訳（メタデータ） (2024-03-05T13:25:44Z)
• CoVO-MPC: Theoretical Analysis of Sampling-based MPC and Optimal Covariance Design [8.943418808959494]
  我々は,広く使用されているサンプリングベースモデル予測経路積分制御(MPPI)法の収束特性を特徴付ける。 時間変動LQRシステムをカバーする2次最適化では,MPPIは少なくとも線形収束率を満足することを示す。 我々の理論解析は、サンプリングに基づく新しいMPCアルゴリズム、CoVo-MPCに直結する。 実証的には、CoVo-MPCはシミュレーションと現実世界のクワッドアジャイルコントロールの両方で標準MPPIを43～54%上回っている。
  論文  参考訳（メタデータ） (2024-01-14T21:10:59Z)
• Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
  Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。 本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。 我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
  論文  参考訳（メタデータ） (2022-09-27T07:58:25Z)
• Sparse high-dimensional linear regression with a partitioned empirical Bayes ECM algorithm [62.997667081978825]
  疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。 パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。 提案手法はRパッケージプローブに実装されている。
  論文  参考訳（メタデータ） (2022-09-16T19:15:50Z)
• Pseudo-Spherical Contrastive Divergence [119.28384561517292]
  エネルギーベースモデルの最大学習確率を一般化するために,擬球面コントラスト分散(PS-CD)を提案する。 PS-CDは難解な分割関数を避け、学習目的の一般化されたファミリーを提供する。
  論文  参考訳（メタデータ） (2021-11-01T09:17:15Z)
• Exact and Approximation Algorithms for Sparse PCA [1.7640556247739623]
  本稿では,MISDP(MISDP)とMISDP(MISDP)について述べる。 次に、それらの連続緩和値の理論的最適性ギャップを分析し、それらが最先端の値よりも強いことを証明する。 市販の解法は一般にMISDPを解くのが難しいため,MISDPと同等の大きさのMILP(mixed-integer linear program)を用いてSPCAを任意の精度で近似する。
  論文  参考訳（メタデータ） (2020-08-28T02:07:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。