論文の概要: Differentiable Optimization Layers for Guaranteed Fairness in Deep Learning

• arxiv url: http://arxiv.org/abs/2605.17118v1
• Date: Sat, 16 May 2026 18:49:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 23:51:08.351985
• Title: Differentiable Optimization Layers for Guaranteed Fairness in Deep Learning
• Title（参考訳）: 深層学習における公平性確保のための微分可能な最適化層
• Authors: David Troxell, Noah Roemer, Guido Montúfar,
• Abstract要約: フェアネス層(Fairness layer)は、モデルの出力層に付加される微分可能な最適化層である。 オンライン原始双対推論アルゴリズムは、ストリーミング予測に対して証明可能な集合公正性を保証する。 数値実験は、フェアネス層と関連するアルゴリズムの有効性を実証する。
• 参考スコア（独自算出の注目度）: 12.440475340983374
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Differentiable optimization layers are traditionally integrated in predict-then-optimize frameworks where a neural model estimates parameters that subsequently serve as fixed inputs to downstream decision-making optimization problems. In this work, we introduce the concept of a "fairness layer": a differentiable optimization layer appended to a model's output layer that guarantees a chosen notion of output parity is satisfied when integrated into a neural network. Additionally, we introduce an online primal-dual inference algorithm that provides provable aggregate fairness guarantees for streaming predictions with arbitrarily small batch sizes, where traditional per-batch constraints become overly restrictive. Numerical experiments demonstrate the effectiveness of the fairness layer and associated algorithm, and theoretical analysis characterizes the layer's differentiability and stability properties during model training and backpropagation. Our code for these experiments is publicly available on GitHub (https://github.com/dtroxell19/FairDL-ICML-2026.git) and our public Python package documentation can be found online: https://dtroxell19.github.io/fairness_training/.
• Abstract（参考訳）: 微分可能な最適化レイヤは伝統的に予測テーマ最適化フレームワークに統合されており、ニューラルネットワークは、その後下流の意思決定最適化問題への固定入力として機能するパラメータを推定する。 本研究では,ニューラルネットワークに組み込むと,選択された出力パリティの概念が満たされることを保証するモデル出力層に,微分可能な最適化層を付加する「フェアネス層」の概念を導入する。 さらに,従来のバッチ単位の制約が過度に制限されるような,任意のバッチサイズのストリーミング予測に対して,保証可能なアグリゲートフェアネス保証を提供するオンラインプライマリ・デュアル推論アルゴリズムを導入する。 数値実験により、フェアネス層と関連するアルゴリズムの有効性を実証し、理論的解析により、モデルトレーニングおよびバックプロパゲーション中の層の微分性と安定性特性を特徴づける。 これらの実験のコードはGitHubで公開されている(https://github.com/dtroxell19/FairDL-ICML-2026.git)。

関連論文リスト

• Neural Network Optimization Reimagined: Decoupled Techniques for Scratch and Fine-Tuning [49.751529745537546]
  我々はDualOptを提案する。DualOptは、スクラッチからトレーニングに適した最適化技術を分離する新しいアプローチである。 スクラッチからのトレーニングでは、収束と一般化の両面を強化するために設計されたリアルタイムな層ワイド・ウェイト・デポジットを導入する。 我々は、異なる下流タスクの様々な要求に適応して、レイヤ単位の重量減衰を拡張して、レイヤ間のロールバックレベルを動的に調整する。
  論文  参考訳（メタデータ） (2026-04-21T06:27:18Z)
• Smoothed Normalization for Efficient Distributed Private Optimization [54.197255548244705]
  フェデレートされた学習は、参加者のプライバシを備えた機械学習モデルを可能にする。 トレーニングやフィードバックのない問題に対して、差分にプライベートな分散手法は存在しない。 証明可能な収束保証付き分散アルゴリズム$alpha$-$sf NormEC$を導入する。
  論文  参考訳（メタデータ） (2025-02-19T07:10:32Z)
• Training Deep Learning Models with Norm-Constrained LMOs [56.00317694850397]
  線形最小化オラクル(LMO)を用いて問題の幾何学に適応する新しいアルゴリズム群を提案する。 我々は,Adamに頼らずに,我々のアルゴリズムであるScionを用いたナノGPTトレーニングの大幅な高速化を示す。
  論文  参考訳（メタデータ） (2025-02-11T13:10:34Z)
• Gradient-free variational learning with conditional mixture networks [39.827869318925494]
  条件付き混合ネットワーク(CMN)の高速・勾配なし変分法であるCAVI-CMNを導入する。 CAVI-CMNは、バックプロパゲーションを伴う最大推定値(MLE)と比較して、競争力があり、しばしば優れた予測精度を達成する。 入力サイズや専門家の数が増加するにつれて、計算時間はMLEと競合的にスケールする。
  論文  参考訳（メタデータ） (2024-08-29T10:43:55Z)
• Integrating Fairness and Model Pruning Through Bi-level Optimization [16.213634992886384]
  フェアネス基準に準拠したスパースモデルを開発することを含む、フェアモデルプルーニングという新しい概念を導入する。 特に,プルーニングマスクと重み更新処理を公平性制約で協調的に最適化する枠組みを提案する。 このフレームワークは、統一されたプロセスにおける公正性を確保しながら、パフォーマンスを維持するモデルを圧縮するように設計されている。
  論文  参考訳（メタデータ） (2023-12-15T20:08:53Z)
• Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
  レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。 LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。 提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
  論文  参考訳（メタデータ） (2023-08-23T10:48:28Z)
• DFWLayer: Differentiable Frank-Wolfe Optimization Layer [33.20550212188619]
  ニューラルネットワークに基づく機械学習の分野において、差別化可能な最適化は基礎的な役割を担っているため、かなりの注目を集めている。 本稿では,Frank-Wolfe法をロールアウトした微分可能なFrank-Wolfe Layer (DFWLayer)を提案する。 実験の結果、DFWLayerは解と勾配の競争精度を得るだけでなく、制約に一貫して従うことを示した。
  論文  参考訳（メタデータ） (2023-08-21T15:53:38Z)
• Learnable Bernoulli Dropout for Bayesian Deep Learning [53.79615543862426]
  Learnable Bernoulli Dropout (LBD) は、他のモデルパラメータと共に最適化されたパラメータとしてドロップアウト率を考慮する新しいモデルに依存しないドロップアウトスキームである。 LBDは画像分類とセマンティックセグメンテーションにおける精度と不確実性の推定を改善する。
  論文  参考訳（メタデータ） (2020-02-12T18:57:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。