論文の概要: An implicit function learning approach for parametric modal regression
- arxiv url: http://arxiv.org/abs/2002.06195v2
- Date: Thu, 29 Oct 2020 17:46:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-01 04:15:13.059908
- Title: An implicit function learning approach for parametric modal regression
- Title(参考訳): パラメトリックモーダル回帰のための暗黙的関数学習手法
- Authors: Yangchen Pan, Ehsan Imani, Martha White, Amir-massoud Farahmand
- Abstract要約: 我々は暗黙の関数定理を用いて目的を定め、入力や目標に対する合同関数を学習する。
提案手法は,多値関数を学習し,条件付きモードを生成できる,いくつかの合成問題を実証的に実証する。
- 参考スコア(独自算出の注目度): 36.568208312835196
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: For multi-valued functions---such as when the conditional distribution on
targets given the inputs is multi-modal---standard regression approaches are
not always desirable because they provide the conditional mean. Modal
regression algorithms address this issue by instead finding the conditional
mode(s). Most, however, are nonparametric approaches and so can be difficult to
scale. Further, parametric approximators, like neural networks, facilitate
learning complex relationships between inputs and targets. In this work, we
propose a parametric modal regression algorithm. We use the implicit function
theorem to develop an objective, for learning a joint function over inputs and
targets. We empirically demonstrate on several synthetic problems that our
method (i) can learn multi-valued functions and produce the conditional modes,
(ii) scales well to high-dimensional inputs, and (iii) can even be more
effective for certain uni-modal problems, particularly for high-frequency
functions. We demonstrate that our method is competitive in a real-world modal
regression problem and two regular regression datasets.
- Abstract(参考訳): 入力が与えられた対象の条件分布がマルチモーダルであるような多値関数の場合--標準回帰アプローチは条件平均を提供するため必ずしも望ましいとは限らない。
モーダル回帰アルゴリズムは、代わりに条件モードを見つけることでこの問題に対処する。
しかしながら、ほとんどが非パラメトリックなアプローチであるため、スケールアップが難しい場合がある。
さらに、ニューラルネットワークのようなパラメトリック近似器は、入力とターゲットの間の複雑な関係の学習を容易にする。
本研究では,パラメトリックモーダル回帰アルゴリズムを提案する。
我々は暗黙の関数定理を用いて目的を定め、入力や目標に対する合同関数を学習する。
我々の手法が生み出すいくつかの 人工的な問題を実証し
i)多値関数を学習し、条件モードを生成する。
(ii)高次元入力によくスケールし、
iii) は特定のユニモーダル問題、特に高周波関数に対してより効果的である。
本手法は実世界のモーダル回帰問題と2つの正規回帰データセットにおいて競合することを示す。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Stochastic Optimization Algorithms for Instrumental Variable Regression with Streaming Data [17.657917523817243]
この問題を条件付き最適化問題とみなして,器用変分回帰のためのアルゴリズムを開発し,解析する。
最小二乗変数回帰の文脈では、我々のアルゴリズムは行列逆転やミニバッチを必要としない。
任意の$iota>0$に対して$mathcalO(log T/T)$と$mathcalO(1/T1-iota)$の順の収束率を導出する。
論文 参考訳(メタデータ) (2024-05-29T19:21:55Z) - MMSR: Symbolic Regression is a Multimodal Task [12.660401635672967]
記号回帰は、もともと最適化問題として定式化され、GPと強化学習アルゴリズムがそれを解決するために用いられた。
この問題を解決するために、研究者はデータから表現へのマッピングを翻訳問題として扱う。
本稿では,複数の主流データセット上で最も高度な結果が得られるMMSRを提案する。
論文 参考訳(メタデータ) (2024-02-28T08:29:42Z) - Learning Unseen Modality Interaction [54.23533023883659]
マルチモーダル学習は、すべてのモダリティの組み合わせが訓練中に利用でき、クロスモーダル対応を学ぶことを前提としている。
我々は、目に見えないモダリティ相互作用の問題を提起し、第1の解を導入する。
異なるモジュラリティの多次元的特徴を、豊富な情報を保存した共通空間に投影するモジュールを利用する。
論文 参考訳(メタデータ) (2023-06-22T10:53:10Z) - Mutual Information Learned Regressor: an Information-theoretic Viewpoint
of Training Regression Systems [10.314518385506007]
回帰問題を解くための既存の慣習は平均二乗誤差(MSE)最小化アプローチである。
近年,Yiらは相互情報に基づく教師あり学習フレームワークを提案し,ラベルエントロピー正規化を導入した。
本稿では,相互情報に基づく教師あり学習フレームワークにおける回帰について検討する。
論文 参考訳(メタデータ) (2022-11-23T03:43:22Z) - Communication-Efficient Distributed Quantile Regression with Optimal
Statistical Guarantees [2.064612766965483]
本稿では,分散量子レグレッションにおいて,厳密なスケーリング条件を伴わずに最適な推論を実現する方法の課題に対処する。
この問題は、ローカル(各データソース)とグローバルな目的関数に適用される二重平滑化アプローチによって解決される。
局所的および大域的滑らか化パラメータの微妙な組み合わせに依存するにもかかわらず、量子回帰モデルは完全にパラメトリックである。
論文 参考訳(メタデータ) (2021-10-25T17:09:59Z) - Solving weakly supervised regression problem using low-rank manifold
regularization [77.34726150561087]
我々は弱い教師付き回帰問題を解く。
weakly"の下では、いくつかのトレーニングポイントではラベルが知られ、未知のものもあれば、無作為なノイズの存在やリソースの欠如などの理由によって不確かであることが分かっています。
数値的な節ではモンテカルロモデルを用いて提案手法を人工と実のデータセットに適用した。
論文 参考訳(メタデータ) (2021-04-13T23:21:01Z) - A Hypergradient Approach to Robust Regression without Correspondence [85.49775273716503]
本稿では,入力データと出力データとの対応が不十分な回帰問題について考察する。
ほとんどの既存手法はサンプルサイズが小さい場合にのみ適用できる。
シャッフル回帰問題に対する新しい計算フレームワークであるROBOTを提案する。
論文 参考訳(メタデータ) (2020-11-30T21:47:38Z) - Online Model Selection for Reinforcement Learning with Function
Approximation [50.008542459050155]
我々は、$tildeO(L5/6 T2/3)$ regretで最適な複雑性に適応するメタアルゴリズムを提案する。
また、メタアルゴリズムは、インスタンス依存の後悔境界を著しく改善することを示す。
論文 参考訳(メタデータ) (2020-11-19T10:00:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。