論文の概要: Functional Bilevel Optimization for Predictive Fairness
- arxiv url: http://arxiv.org/abs/2607.05098v1
- Date: Mon, 06 Jul 2026 13:56:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:30.169578
- Title: Functional Bilevel Optimization for Predictive Fairness
- Title(参考訳): 予測フェアネスのための機能的二値最適化
- Abstract要約: 本稿では, DPVar による人口統計学的同値性, センシティブな属性による条件平均予測のばらつきについて考察し, その最適化が機能的二段階問題をもたらすことを示す。
この問題に対して,2つのアルゴリズムを提案する: FBO, 正方形の随伴体を用いて, 正方形空間を正確に過次的に得るために導出する FBO と, 回転しない内部ステップで微分し, 正方形の損失を超えて拡張する ITD である。
- 参考スコア(独自算出の注目度): 25.649081304879218
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When sensitive attributes are continuous and high-dimensional $-$ demographic score vectors, posteriors over attributes, age or income profiles $-$ enforcing full statistical independence is often too restrictive, and existing relaxations rely on indirect dependence penalties or adversarial schemes that do not directly target the fairness-accuracy trade-off. We instead consider mean demographic parity through DPVar, the variance of the conditional-mean prediction given the sensitive attribute, and show that optimizing it yields a functional bilevel problem. We propose two algorithms for this problem: FBO, which uses a closed-form adjoint we derive for the squared-loss case to obtain an exact hypergradient, and ITD, which differentiates through unrolled inner steps and extends beyond squared loss. On synthetic data and a new semi-synthetic benchmark built from 60 tabular regression datasets, both methods achieve the lowest or near-lowest aggregate fairness-accuracy regret, and consistently match or outperform strong HSIC, adversarial, linear-dependence, and generalized-DP baselines.
- Abstract(参考訳): センシティブな属性が連続的で高次元の$-$の人口統計スコアベクトルである場合、属性、年齢または収入プロファイルよりも後方に$-$の完全な統計的独立を強制することはしばしば制限的であり、既存の緩和は間接的依存の罰則や、フェアネスの正確なトレードオフを直接ターゲットとしない敵のスキームに依存している。
そこで我々は,DPVarによる平均的な人口統計学的同値性について検討し,その感度特性から条件平均予測のばらつきについて考察し,その最適化が機能的二段階問題をもたらすことを示す。
この問題に対して,2つのアルゴリズムを提案する: FBO, 正方形の随伴体を用いて, 正方形空間を正確に過次的に得るために導出する FBO と, 回転しない内部ステップで微分し, 正方形の損失を超えて拡張する ITD である。
60の表付き回帰データセットから構築された合成データと新しい半合成ベンチマークでは、どちらの手法も最下位または最下位の集合的公正度-正確さの後悔を達成し、強いHSIC、逆数、線形依存性、一般化DPベースラインと一貫して一致または上回っている。
関連論文リスト
- Preference Data Selection for Mitigating the Alignment Tax in Large Language Models [52.18310687523229]
BALIGNは、アライメント効率を最適化しながら破滅的な忘れを緩和するバランスのとれたデータ選択戦略である。
3つの重要なデータ中心の機能を統一された複合リスクスコアに集約することにより、BALIGNは、ハイリスクな選好サンプルを体系的にフィルタリングする。
標準的な人間の嗜好データセットの実験では、BALIGNはアライメントゲインを損なうことなく基礎的能力を強く保持している。
論文 参考訳(メタデータ) (2026-08-25T07:58:42Z) - Distribution-Aware Robust Bilevel Optimization: Quantile-Guided Huber Updates in Two-Timescale Stochastic Approximation [16.106678611834102]
双レベル最適化(BLO)は階層的な決定には基本的だが、重み付き雑音下での臨界不安定性に悩まされている。
既存の技術は通常、等級チェックに依存しており、情報的幾何学的信号と外れ値の区別に失敗する。
論文 参考訳(メタデータ) (2026-06-21T10:57:37Z) - Zero-Inflated Gaussian Distributions Enable Parameter-Space Sparsity in Estimation-of-Distribution Algorithms [0.24469484645516834]
分布推定アルゴリズム(EDAs)はブラックボックス最適化のための進化的手法の強力なクラスである。
異なる指標と値次元を持つ潜在ガウスモデルが、空間パターン、アクティブパラメータ間の相関、および両者の相互作用を示すことを示す。
本研究では,本モデルの潜在パラメータが観測データから同定可能であることを示す。
論文 参考訳(メタデータ) (2026-06-11T18:43:18Z) - Fair regression under localized demographic parity constraints [9.082079838093371]
F f |S=s (z m ) = $ell$m という形の CDF 制約をグループ的に課する,新規な (ell$, Z)-fair predictor を導入する。
合成データセットと実データセットの実験では、解釈可能なフェアネス精度のトレードオフが示され、決定関連量子またはしきい値に対するターゲット修正が可能である。
論文 参考訳(メタデータ) (2026-03-26T09:21:05Z) - ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。
我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
論文 参考訳(メタデータ) (2026-02-27T05:22:01Z) - From Noisy Traces to Stable Gradients: Bias-Variance Optimized Preference Optimization for Aligning Large Reasoning Models [90.45197506653341]
大規模推論モデルは最終回答を生成する前に中間的推論トレースを生成する。
LRMと人間の好みの整合性は、モデルデプロイメントにとって重要な前提条件であり、まだ過小評価されていない。
共通の回避策は1つのサンプル軌道を最適化し、トレースサンプリングからかなり勾配のばらつきをもたらす。
論文 参考訳(メタデータ) (2025-10-06T17:58:01Z) - Controllable Feature Whitening for Hyperparameter-Free Bias Mitigation [26.926297904648393]
ディープニューラルネットワークは、データセットに存在する急激な相関を学習することができる。
目的とバイアスの特徴の線形相関を共分散行列により定量化し, ホワイトニングモジュールを通して除去する。
提案手法は,4つのベンチマークデータセットにおける既存手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2025-07-27T14:01:30Z) - Distributionally Robust Optimization with Adversarial Data Contamination [49.89480853499918]
凸リプシッツ損失関数を持つ一般化線形モデルに対するワッサーシュタイン-1 DRO 目標の最適化に焦点をあてる。
私たちの主な貢献は、データ汚染のトレーニングに対するロバストネスと分散シフトに対するロバストネスを統合した、新しいモデリングフレームワークです。
この研究は、データ汚染と分散シフトという2つの課題の下で学習するために、効率的な計算によって支援される最初の厳密な保証を確立する。
論文 参考訳(メタデータ) (2025-07-14T18:34:10Z) - Asymptotic Characterisation of Robust Empirical Risk Minimisation
Performance in the Presence of Outliers [18.455890316339595]
我々は,次元$d$とデータ点数$n$が固定比$alpha=n/d$で分岐した場合,高次元の線形回帰について検討し,出力率を含むデータモデルについて検討する。
我々は、$ell$-regularized $ell$, $ell_$, Huber損失を用いて、経験的リスク最小化(ERM)のパフォーマンスの正確性を提供する。
論文 参考訳(メタデータ) (2023-05-30T12:18:39Z) - Pessimistic Minimax Value Iteration: Provably Efficient Equilibrium
Learning from Offline Datasets [101.5329678997916]
両プレイヤーゼロサムマルコフゲーム(MG)をオフライン環境で研究する。
目標は、事前収集されたデータセットに基づいて、近似的なナッシュ均衡(NE)ポリシーペアを見つけることである。
論文 参考訳(メタデータ) (2022-02-15T15:39:30Z) - Improving Generalization via Uncertainty Driven Perturbations [107.45752065285821]
トレーニングデータポイントの不確実性による摂動について考察する。
損失駆動摂動とは異なり、不確実性誘導摂動は決定境界を越えてはならない。
線形モデルにおいて,UDPがロバスト性マージン決定を達成することが保証されていることを示す。
論文 参考訳(メタデータ) (2022-02-11T16:22:08Z) - On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。
本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。
理論的にも経験的にも二重降下現象を観察する。
論文 参考訳(メタデータ) (2021-10-13T17:47:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。