論文の概要: Fair Principal Component Analysis and Filter Design

• arxiv url: http://arxiv.org/abs/2002.06557v2
• Date: Tue, 1 Jun 2021 19:10:20 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-31 17:40:11.504729
• Title: Fair Principal Component Analysis and Filter Design
• Title（参考訳）: 公正主成分分析とフィルタ設計
• Authors: Gad Zalcberg and Ami Wiesel
• Abstract要約: 我々は、複数のターゲットベクトルに公平にまたがる低次元部分空間を探索する。 ターゲットの場合の最適化の背景となる環境を解析する。 ランドスケープが良性であることを証明し、すべての局所ミニマがグローバルに最適であることを示す。
• 参考スコア（独自算出の注目度）: 2.66512000865131
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We consider Fair Principal Component Analysis (FPCA) and search for a low dimensional subspace that spans multiple target vectors in a fair manner. FPCA is defined as a non-concave maximization of the worst projected target norm within a given set. The problem arises in filter design in signal processing, and when incorporating fairness into dimensionality reduction schemes. The state of the art approach to FPCA is via semidefinite relaxation and involves a polynomial yet computationally expensive optimization. To allow scalability, we propose to address FPCA using naive sub-gradient descent. We analyze the landscape of the underlying optimization in the case of orthogonal targets. We prove that the landscape is benign and that all local minima are globally optimal. Interestingly, the SDR approach leads to sub-optimal solutions in this simple case. Finally, we discuss the equivalence between orthogonal FPCA and the design of normalized tight frames.
• Abstract（参考訳）: 我々は,fair principal component analysis (fpca) を検討し,複数の対象ベクトルに公平にまたがる低次元部分空間を探索する。 FPCAは、与えられた集合内の最悪の射影目標ノルムの非凸最大化として定義される。 この問題は信号処理におけるフィルタ設計や、公平性を次元還元スキームに組み込む際に発生する。 FPCAへの芸術的アプローチの状況は半有限緩和によるものであり、多項式は計算に費用がかかる。 スケーラビリティを実現するために,naive sub-gradient descend を用いて fpca に対処することを提案する。 直交目標の場合, 基礎となる最適化の状況を分析する。 ランドスケープが良性であること、およびすべての局所ミニマがグローバルに最適であることを証明する。 興味深いことに、sdrアプローチは、この単純なケースでは、最適以下のソリューションにつながります。 最後に、直交FPCAと正規化タイトフレームの設計の等価性について論じる。

関連論文リスト

• Preference-Optimized Pareto Set Learning for Blackbox Optimization [1.9628841617148691]
  すべての目的を同時に最適化できる単一のソリューションはありません。 典型的なMOO問題では、目的間の好みを交換する最適解(パレート集合)を見つけることが目的である。 我々の定式化は、例えば微分可能なクロスエントロピー法によって解決できる二段階最適化問題につながる。
  論文  参考訳（メタデータ） (2024-08-19T13:23:07Z)
• Provably Mitigating Overoptimization in RLHF: Your SFT Loss is Implicitly an Adversarial Regularizer [52.09480867526656]
  人間の嗜好を学習する際の分布変化と不確実性の一形態として,不一致の原因を同定する。 過度な最適化を緩和するために、まず、逆選択された報酬モデルに最適なポリシーを選択する理論アルゴリズムを提案する。 報奨モデルとそれに対応する最適ポリシーの等価性を用いて、優先最適化損失と教師付き学習損失を組み合わせた単純な目的を特徴とする。
  論文  参考訳（メタデータ） (2024-05-26T05:38:50Z)
• Prescriptive PCA: Dimensionality Reduction for Two-stage Stochastic Optimization [1.1612308609123565]
  最適化フェーズにおける準最適度を最小化することを目的とした,規範的次元削減フレームワークを開発した。 下流最適化問題に期待値の目的がある場合、分散ロバスト最適化問題を解くことにより、規範的次元削減が可能であることを示す。 提案手法は, 実データおよび合成データを用いて主成分分析を著しく上回っている。
  論文  参考訳（メタデータ） (2023-06-04T00:50:35Z)
• SING: A Plug-and-Play DNN Learning Technique [25.563053353709627]
  我々は,Adam(W)の安定性とロバスト性を向上させるプラグアンドプレイ技術であるSING(StabIlized and Normalized Gradient)を提案する。 SINGは実装が簡単で、最小限の計算オーバーヘッドを持ち、Adam(W)に供給される勾配の層単位での標準化しか必要としない。
  論文  参考訳（メタデータ） (2023-05-25T12:39:45Z)
• Nesterov Meets Optimism: Rate-Optimal Separable Minimax Optimization [108.35402316802765]
  本稿では,新しい一階最適化アルゴリズムであるAcceleratedGradient-OptimisticGradient (AG-OG) Ascentを提案する。 我々はAG-OGが様々な設定に対して最適収束率(定数まで)を達成することを示す。 アルゴリズムを拡張して設定を拡張し、bi-SC-SCとbi-C-SCの両方で最適な収束率を達成する。
  論文  参考訳（メタデータ） (2022-10-31T17:59:29Z)
• Moment Centralization based Gradient Descent Optimizers for Convolutional Neural Networks [12.90962626557934]
  コナールニューラルネットワーク(CNN)は多くのコンピュータビジョンアプリケーションに非常に魅力的な性能を示している。 本稿では,CNNのためのモーメント集中型SGDデータセットを提案する。 提案されたモーメント集中は本質的には汎用的であり、既存の適応運動量ベースのいずれかと統合することができる。
  論文  参考訳（メタデータ） (2022-07-19T04:38:01Z)
• Large-scale Optimization of Partial AUC in a Range of False Positive Rates [51.12047280149546]
  ROC曲線 (AUC) の下の領域は、機械学習において最も広く使われている分類モデルのパフォーマンス指標の1つである。 近年の封筒平滑化技術に基づく効率的な近似勾配降下法を開発した。 提案アルゴリズムは,効率のよい解法を欠くランク付けされた範囲損失の和を最小化するためにも利用できる。
  論文  参考訳（メタデータ） (2022-03-03T03:46:18Z)
• Fast Batch Nuclear-norm Maximization and Minimization for Robust Domain Adaptation [154.2195491708548]
  ランダムに選択されたデータバッチの分類出力行列の構造について検討し,予測可能性と多様性について検討した。 本稿では,目標出力行列上で核ノルムを行い,目標予測能力を向上するBatch Nuclear-norm Maximization and Minimizationを提案する。 実験により,本手法は3つの典型的なドメイン適応シナリオにおいて適応精度とロバスト性を高めることができることが示された。
  論文  参考訳（メタデータ） (2021-07-13T15:08:32Z)
• Discretization-Aware Architecture Search [81.35557425784026]
  本稿では,離散化対応アーキテクチャサーチ(DAtextsuperscript2S)を提案する。 中心となる考え方は、超ネットワークを所望のトポロジの構成に向けることであり、離散化による精度損失がほとんど軽減される。 標準画像分類ベンチマークの実験は、我々のアプローチの優位性を実証している。
  論文  参考訳（メタデータ） (2020-07-07T01:18:58Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)
• Objective-Sensitive Principal Component Analysis for High-Dimensional Inverse Problems [0.0]
  本稿では,大規模乱数場の適応的,微分可能なパラメータ化手法を提案する。 開発した手法は主成分分析(PCA)に基づくが,目的関数の振る舞いを考慮した主成分の純粋にデータ駆動に基づく基礎を変更する。 最適パラメータ分解のための3つのアルゴリズムを2次元合成履歴マッチングの目的に適用した。
  論文  参考訳（メタデータ） (2020-06-02T18:51:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。