論文の概要: Constrained Learning with Non-Convex Losses

• arxiv url: http://arxiv.org/abs/2103.05134v1
• Date: Mon, 8 Mar 2021 23:10:33 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-10 15:05:52.413442
• Title: Constrained Learning with Non-Convex Losses
• Title（参考訳）: 非凸損失を伴う制約学習
• Authors: Luiz F. O. Chamon and Santiago Paternain and Miguel Calvo-Fullana and Alejandro Ribeiro
• Abstract要約: 学習は現代の情報処理の中核技術になっているが、バイアス、安全でない、偏見のあるソリューションにつながるという証拠はたくさんある。
• 参考スコア（独自算出の注目度）: 119.8736858597118
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Though learning has become a core technology of modern information processing, there is now ample evidence that it can lead to biased, unsafe, and prejudiced solutions. The need to impose requirements on learning is therefore paramount, especially as it reaches critical applications in social, industrial, and medical domains. However, the non-convexity of most modern learning problems is only exacerbated by the introduction of constraints. Whereas good unconstrained solutions can often be learned using empirical risk minimization (ERM), even obtaining a model that satisfies statistical constraints can be challenging, all the more so a good one. In this paper, we overcome this issue by learning in the empirical dual domain, where constrained statistical learning problems become unconstrained, finite dimensional, and deterministic. We analyze the generalization properties of this approach by bounding the empirical duality gap, i.e., the difference between our approximate, tractable solution and the solution of the original (non-convex)~statistical problem, and provide a practical constrained learning algorithm. These results establish a constrained counterpart of classical learning theory and enable the explicit use of constraints in learning. We illustrate this algorithm and theory in rate-constrained learning applications.
• Abstract（参考訳）: 学習は現代の情報処理の中核技術になっているが、バイアス、安全でない、偏見のあるソリューションにつながるという証拠はたくさんある。 したがって、学習に要件を課す必要性は、特に社会、産業、医療分野で重要なアプリケーションに達するにつれて、最も重要です。 しかし、ほとんどの現代学習問題の非凸性は制約の導入によってのみ悪化する。 経験的なリスク最小化(ERM)を使用して、良い制約のないソリューションを学ぶことはよくありますが、統計的制約を満たすモデルを得ることさえ困難です。 本稿では,制約付き統計学習問題が制約なく,有限次元かつ決定論的になる経験的双対領域で学習することで,この問題を克服する。 このアプローチの一般化特性を、経験的双対性ギャップ、すなわち私たちの近似、トラクタブル解と元の(非凸)-統計問題の解との差を境界として解析し、実用的制約学習アルゴリズムを提供する。 これらの結果は、古典的学習理論の制約付き対応を確立し、学習における制約の明示的な使用を可能にする。 このアルゴリズムと理論をレート制約学習アプリケーションで説明します。

関連論文リスト

• Near-Optimal Solutions of Constrained Learning Problems [85.48853063302764]
  機械学習システムでは、振る舞いを縮小する必要性がますます顕在化している。 これは、双対ロバスト性変数を満たすモデルの開発に向けた最近の進歩によって証明されている。 この結果から, 豊富なパラメトリゼーションは非次元的, 有限な学習問題を効果的に緩和することが示された。
  論文  参考訳（メタデータ） (2024-03-18T14:55:45Z)
• Resilient Constrained Learning [94.27081585149836]
  本稿では,学習課題を同時に解決しながら,要求に適応する制約付き学習手法を提案する。 我々はこの手法を、その操作を変更することで破壊に適応する生態システムを記述する用語に因んで、レジリエントな制約付き学習と呼ぶ。
  論文  参考訳（メタデータ） (2023-06-04T18:14:18Z)
• On data-driven chance constraint learning for mixed-integer optimization problems [0.0]
  本稿では,混合整数線形最適化問題に着目したCCL手法を提案する。 CCLは線形化可能な機械学習モデルを使用して、学習変数の条件量子を推定する。 実践者が使用するオープンアクセスソフトウェアが開発されている。
  論文  参考訳（メタデータ） (2022-07-08T11:54:39Z)
• Efficient Performance Bounds for Primal-Dual Reinforcement Learning from Demonstrations [1.0609815608017066]
  本稿では,コスト関数の不明な大規模マルコフ決定プロセスについて考察し,限られた専門家による実証から政策を学習する問題に対処する。 既存の逆強化学習法には強力な理論的保証があるが、計算上は高価である。 ラグランジアン双対性を利用して理論と実践のギャップを埋める新しい双線型サドルポイントフレームワークを導入する。
  論文  参考訳（メタデータ） (2021-12-28T05:47:24Z)
• Adversarial Robustness with Semi-Infinite Constrained Learning [177.42714838799924]
  入力に対する深い学習は、安全クリティカルなドメインでの使用に関して深刻な疑問を提起している。 本稿では,この問題を緩和するために,Langevin Monte Carlo のハイブリッドトレーニング手法を提案する。 当社のアプローチは、最先端のパフォーマンスと堅牢性の間のトレードオフを軽減することができることを示す。
  論文  参考訳（メタデータ） (2021-10-29T13:30:42Z)
• Probably Approximately Correct Constrained Learning [135.48447120228658]
  我々は、ほぼ正しい学習フレームワーク(PAC)に基づく一般化理論を開発する。 PAC学習可能なクラスも制約のある学習者であるという意味では,学習者の導入は学習問題を難しくするものではないことを示す。 このソリューションの特性を分析し,制約付き学習が公平でロバストな分類における問題にどのように対処できるかを説明する。
  論文  参考訳（メタデータ） (2020-06-09T19:59:29Z)
• The empirical duality gap of constrained statistical learning [115.23598260228587]
  本研究では,制約付き統計学習問題(制約なし版)について,ほぼ全ての現代情報処理のコアとなる研究を行った。 本稿では, 有限次元パラメータ化, サンプル平均, 双対性理論を利用して, 無限次元, 未知分布, 制約を克服する制約付き統計問題に取り組むことを提案する。 フェアラーニングアプリケーションにおいて,この制約付き定式化の有効性と有用性を示す。
  論文  参考訳（メタデータ） (2020-02-12T19:12:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。