論文の概要: Geometry and Stability of Supervised Learning Problems
- arxiv url: http://arxiv.org/abs/2403.01660v1
- Date: Mon, 4 Mar 2024 00:48:36 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-06 20:27:38.163152
- Title: Geometry and Stability of Supervised Learning Problems
- Title(参考訳): 教師付き学習問題の幾何学と安定性
- Authors: Facundo M\'emoli, Brantley Vose, Robert C. Williamson
- Abstract要約: 本稿では,教師付き学習課題間の距離の概念を導入し,リスク距離と呼ぶ。
我々は、サンプリングバイアス、ノイズ、限られたデータ、近似などの深刻な問題が、これらの修正がどれだけリスク距離で問題を移動できるかを限定することによって、特定の問題を変化させる可能性を定量化します。
- 参考スコア(独自算出の注目度): 6.675805308519987
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a notion of distance between supervised learning problems, which
we call the Risk distance. This optimal-transport-inspired distance facilitates
stability results; one can quantify how seriously issues like sampling bias,
noise, limited data, and approximations might change a given problem by
bounding how much these modifications can move the problem under the Risk
distance. With the distance established, we explore the geometry of the
resulting space of supervised learning problems, providing explicit geodesics
and proving that the set of classification problems is dense in a larger class
of problems. We also provide two variants of the Risk distance: one that
incorporates specified weights on a problem's predictors, and one that is more
sensitive to the contours of a problem's risk landscape.
- Abstract(参考訳): 本稿では,教師付き学習課題間の距離の概念を導入し,リスク距離と呼ぶ。
サンプリングバイアス、ノイズ、制限されたデータ、近似などの深刻な問題が、これらの修正がどの程度リスク距離の下を移動できるかを制限することによって、特定の問題を変化させる可能性がある。
距離の確立により、教師付き学習問題の空間の幾何を探索し、明示的な測地学を提供し、分類問題の集合がより大規模な問題に密着していることを証明する。
また,リスク距離の2つの変種を提示する。1つは,特定の重みを問題の予測器に組み込むもので,もう1つは,問題のリスクランドスケープの輪郭に対してより敏感なものである。
関連論文リスト
- Best Arm Identification with Fixed Budget: A Large Deviation Perspective [54.305323903582845]
我々は、様々な武器の報酬間の経験的ギャップに基づいて、あらゆるラウンドで腕を拒絶できる真に適応的なアルゴリズムであるsredを提示する。
特に、様々な武器の報酬の間の経験的ギャップに基づいて、あらゆるラウンドで腕を拒絶できる真に適応的なアルゴリズムであるsredを提示する。
論文 参考訳(メタデータ) (2023-12-19T13:17:43Z) - Capsa: A Unified Framework for Quantifying Risk in Deep Neural Networks [142.67349734180445]
ディープニューラルネットワークにリスク認識を提供する既存のアルゴリズムは複雑でアドホックである。
ここでは、リスク認識でモデルを拡張するためのフレームワークであるcapsaを紹介します。
論文 参考訳(メタデータ) (2023-08-01T02:07:47Z) - Pure Exploration in Bandits with Linear Constraints [15.547603114649464]
マルチアーム・バンディット・セットアップにおいて、最適ポリシーを一定の信頼度で識別する問題に対処する。
この設定に最適な2つのアルゴリズムを導入する。1つはトラック・アンド・ストップ法であり、もう1つはゲーム理論に基づく手法である。
限界を検証し、制約が問題の硬さをどのように変えるかを視覚化する実験結果を提供する。
論文 参考訳(メタデータ) (2023-06-22T10:00:33Z) - It begins with a boundary: A geometric view on probabilistically robust learning [6.877576704011329]
我々はそのような方法の1つの新鮮で幾何学的な見方を取る --確率論的ロバスト学習(PRL)
我々は, 新規緩和法を用いて, オリジナルおよび修正問題の解が存在することを証明した。
また,適切な$Gamma$-convergence解析により,原型および修正型PRLモデルがリスク最小化と対向トレーニングの間を介在する方法を明らかにした。
論文 参考訳(メタデータ) (2023-05-30T06:24:30Z) - Federated Compositional Deep AUC Maximization [58.25078060952361]
本研究では,曲線(AUC)のスコアを直接最適化することにより,不均衡なデータに対する新しいフェデレート学習法を開発した。
私たちの知る限りでは、このような好ましい理論的な結果を達成した最初の作品である。
論文 参考訳(メタデータ) (2023-04-20T05:49:41Z) - Causal Deep Learning [77.49632479298745]
因果性は、現実世界の問題を解決する方法を変える可能性がある。
しかし因果関係は、実際にテストできない重要な仮定を必要とすることが多い。
我々は、因果性に関する新しい考え方を提案します。
論文 参考訳(メタデータ) (2023-03-03T19:19:18Z) - The Geometry of Adversarial Training in Binary Classification [1.2891210250935143]
我々は,非パラメトリック二分分類における対角的学習問題の族と正規化リスク最小化問題の族との同値性を確立する。
結果として生じる正規化リスク最小化問題は、$L1+$(非局所)$operatornameTV$の正確な凸緩和を許容する。
論文 参考訳(メタデータ) (2021-11-26T17:19:50Z) - Learning Risk-aware Costmaps for Traversability in Challenging
Environments [16.88528967313285]
トラバーサビリティコストの分散を頑健に学習するためのニューラルネットワークアーキテクチャを導入する。
ロボットの生命維持をモチベーションとするので,テールリスクの学習の観点から,この学習課題に取り組む。
提案手法は,0から1の間で所望の確率リスク閾値が与えられた場合,期待されるテールリスクを確実に学習することを示す。
論文 参考訳(メタデータ) (2021-07-25T04:12:03Z) - Solution of Physics-based Bayesian Inverse Problems with Deep Generative
Priors [0.5156484100374059]
逆問題(英語版)は、解がない、あるいは測定の小さな摂動に大きく反応する解を持つため、解決が難しいことで知られている。
推論問題として逆問題を引き起こすベイア推論は、これらの問題に対処する。
大きな次元のベクトルを推測する場合や、以前に取得したサンプルから事前情報が得られる場合、利用は困難である。
我々はこれらの考え方を、物理原則、事前知識の源泉、測定の種類、測定ノイズに関する利用可能な情報の範囲において多岐にわたる問題に応用する。
論文 参考訳(メタデータ) (2021-07-06T22:23:27Z) - Attribute-Guided Adversarial Training for Robustness to Natural
Perturbations [64.35805267250682]
本稿では,属性空間への分類器の露出を最大化するために,新しいサンプルを生成することを学習する逆学習手法を提案する。
我々のアプローチは、ディープニューラルネットワークが自然に発生する摂動に対して堅牢であることを可能にする。
論文 参考訳(メタデータ) (2020-12-03T10:17:30Z) - Robust Reinforcement Learning with Wasserstein Constraint [49.86490922809473]
最適なロバストなポリシーの存在を示し、摂動に対する感度分析を行い、新しいロバストな学習アルゴリズムを設計する。
提案アルゴリズムの有効性はCart-Pole環境で検証する。
論文 参考訳(メタデータ) (2020-06-01T13:48:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。