論文の概要: The empirical duality gap of constrained statistical learning
- arxiv url: http://arxiv.org/abs/2002.05183v1
- Date: Wed, 12 Feb 2020 19:12:29 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-01 19:46:10.197502
- Title: The empirical duality gap of constrained statistical learning
- Title(参考訳): 制約付き統計学習における経験的双対性ギャップ
- Authors: Luiz F. O. Chamon and Santiago Paternain and Miguel Calvo-Fullana and
Alejandro Ribeiro
- Abstract要約: 本研究では,制約付き統計学習問題(制約なし版)について,ほぼ全ての現代情報処理のコアとなる研究を行った。
本稿では, 有限次元パラメータ化, サンプル平均, 双対性理論を利用して, 無限次元, 未知分布, 制約を克服する制約付き統計問題に取り組むことを提案する。
フェアラーニングアプリケーションにおいて,この制約付き定式化の有効性と有用性を示す。
- 参考スコア(独自算出の注目度): 115.23598260228587
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper is concerned with the study of constrained statistical learning
problems, the unconstrained version of which are at the core of virtually all
of modern information processing. Accounting for constraints, however, is
paramount to incorporate prior knowledge and impose desired structural and
statistical properties on the solutions. Still, solving constrained statistical
problems remains challenging and guarantees scarce, leaving them to be tackled
using regularized formulations. Though practical and effective, selecting
regularization parameters so as to satisfy requirements is challenging, if at
all possible, due to the lack of a straightforward relation between parameters
and constraints. In this work, we propose to directly tackle the constrained
statistical problem overcoming its infinite dimensionality, unknown
distributions, and constraints by leveraging finite dimensional
parameterizations, sample averages, and duality theory. Aside from making the
problem tractable, these tools allow us to bound the empirical duality gap,
i.e., the difference between our approximate tractable solutions and the actual
solutions of the original statistical problem. We demonstrate the effectiveness
and usefulness of this constrained formulation in a fair learning application.
- Abstract(参考訳): 本稿では,現代の情報処理のほぼすべてにおいて,制約付き統計学習問題(制約なし版)について検討する。
しかし、制約を考慮に入れることは、事前の知識を取り入れ、ソリューションに望ましい構造的および統計的性質を課すのに最重要である。
しかし、制約付き統計問題を解くことは依然として困難であり、規則化された定式化を用いて取り組まなければならない。
実用的かつ効果的ではあるが、パラメータと制約の直接的な関係が欠如しているため、要求を満たすために正規化パラメータを選択することは可能な限り難しい。
本研究では,有限次元パラメータ化,サンプル平均,双対性理論を用いて,その無限次元性,未知分布,制約を克服する制約付き統計問題を直接解くことを提案する。
問題を抽出可能とする以外に、これらのツールは経験的双対性ギャップ、すなわち、近似的抽出可能解と元の統計問題の実際の解との差を拘束することができる。
フェアラーニングアプリケーションにおいて,この制約付き定式化の有効性と有用性を示す。
関連論文リスト
- Statistical learning for constrained functional parameters in infinite-dimensional models with applications in fair machine learning [4.974815773537217]
統計的機能レンズによる制約付き統計機械学習の一般的な問題について検討する。
ラグランジュ乗算器の定式化によるペナル化リスク基準の最小化として,制約付き関数パラメータを特徴付ける。
この結果から,制約パラメータの自然推定を非制約パラメータの推定と組み合わせて構築できることが示唆された。
論文 参考訳(メタデータ) (2024-04-15T14:59:21Z) - Near-Optimal Solutions of Constrained Learning Problems [85.48853063302764]
機械学習システムでは、振る舞いを縮小する必要性がますます顕在化している。
これは、双対ロバスト性変数を満たすモデルの開発に向けた最近の進歩によって証明されている。
この結果から, 豊富なパラメトリゼーションは非次元的, 有限な学習問題を効果的に緩和することが示された。
論文 参考訳(メタデータ) (2024-03-18T14:55:45Z) - Globally-Optimal Greedy Experiment Selection for Active Sequential
Estimation [1.1530723302736279]
逐次的に収集したデータの実験を適応的に選択するアクティブシーケンシャル推定の問題について検討する。
目標は、より正確なモデル推定のための実験選択ルールを設計することである。
そこで本稿では,グリーディ実験の選択手法のクラスを提案し,最大可能性の統計的解析を行う。
論文 参考訳(メタデータ) (2024-02-13T17:09:29Z) - Online Constraint Tightening in Stochastic Model Predictive Control: A
Regression Approach [49.056933332667114]
確率制約付き最適制御問題に対する解析解は存在しない。
制御中の制約強調パラメータをオンラインで学習するためのデータ駆動型アプローチを提案する。
提案手法は, 確率制約を厳密に満たす制約強調パラメータを導出する。
論文 参考訳(メタデータ) (2023-10-04T16:22:02Z) - Resilient Constrained Learning [94.27081585149836]
本稿では,学習課題を同時に解決しながら,要求に適応する制約付き学習手法を提案する。
我々はこの手法を、その操作を変更することで破壊に適応する生態システムを記述する用語に因んで、レジリエントな制約付き学習と呼ぶ。
論文 参考訳(メタデータ) (2023-06-04T18:14:18Z) - On data-driven chance constraint learning for mixed-integer optimization
problems [0.0]
本稿では,混合整数線形最適化問題に着目したCCL手法を提案する。
CCLは線形化可能な機械学習モデルを使用して、学習変数の条件量子を推定する。
実践者が使用するオープンアクセスソフトウェアが開発されている。
論文 参考訳(メタデータ) (2022-07-08T11:54:39Z) - Constrained Learning with Non-Convex Losses [119.8736858597118]
学習は現代の情報処理の中核技術になっているが、バイアス、安全でない、偏見のあるソリューションにつながるという証拠はたくさんある。
論文 参考訳(メタデータ) (2021-03-08T23:10:33Z) - Probably Approximately Correct Constrained Learning [135.48447120228658]
我々は、ほぼ正しい学習フレームワーク(PAC)に基づく一般化理論を開発する。
PAC学習可能なクラスも制約のある学習者であるという意味では,学習者の導入は学習問題を難しくするものではないことを示す。
このソリューションの特性を分析し,制約付き学習が公平でロバストな分類における問題にどのように対処できるかを説明する。
論文 参考訳(メタデータ) (2020-06-09T19:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。