論文の概要: Unimodal Distributions for Ordinal Regression

• arxiv url: http://arxiv.org/abs/2303.04547v1
• Date: Wed, 8 Mar 2023 13:00:40 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-09 14:14:57.938073
• Title: Unimodal Distributions for Ordinal Regression
• Title（参考訳）: 正規回帰のための一様分布
• Authors: Jaime S. Cardoso and Ricardo Cruz and Tom\'e Albuquerque
• Abstract要約: 予測モデルに一助分布の選好を組み込むための2つの新しいアプローチを提案する。 確率的単純性における一様分布の集合を解析し、基本的性質を確立する。 次に、一様分布を課す新しいアーキテクチャと、一様性を促進する集合における射影の概念に依存する新しい損失項を提案する。
• 参考スコア（独自算出の注目度）: 2.642698101441705
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In many real-world prediction tasks, class labels contain information about the relative order between labels that are not captured by commonly used loss functions such as multicategory cross-entropy. Recently, the preference for unimodal distributions in the output space has been incorporated into models and loss functions to account for such ordering information. However, current approaches rely on heuristics that lack a theoretical foundation. Here, we propose two new approaches to incorporate the preference for unimodal distributions into the predictive model. We analyse the set of unimodal distributions in the probability simplex and establish fundamental properties. We then propose a new architecture that imposes unimodal distributions and a new loss term that relies on the notion of projection in a set to promote unimodality. Experiments show the new architecture achieves top-2 performance, while the proposed new loss term is very competitive while maintaining high unimodality.
• Abstract（参考訳）: 多くの実世界の予測タスクでは、クラスラベルはラベル間の相対順序に関する情報を含んでおり、マルチカテゴリクロスエントロピーのような一般的な損失関数ではキャプチャされない。 近年,そのような順序付け情報を考慮したモデルや損失関数に,出力空間における一様分布の嗜好が組み込まれている。 しかし、現在のアプローチは理論的基礎を持たないヒューリスティックスに依存している。 本稿では,一様分布の選好を予測モデルに組み込むための2つの新しいアプローチを提案する。 確率シンプレックスにおける一様分布の集合を解析し,基本特性を定式化する。 次に、一様分布を課す新しいアーキテクチャと、一様性を促進する集合における射影の概念に依存する新しい損失項を提案する。 実験では、新しいアーキテクチャはトップ2のパフォーマンスを達成するが、提案された新しい損失項は、高い一様性を維持しながら非常に競争力がある。

関連論文リスト

• Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
  本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。 その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。 この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
  論文  参考訳（メタデータ） (2024-10-17T16:42:12Z)
• Rejection via Learning Density Ratios [50.91522897152437]
  拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。 そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。 私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
  論文  参考訳（メタデータ） (2024-05-29T01:32:17Z)
• SimPro: A Simple Probabilistic Framework Towards Realistic Long-Tailed Semi-Supervised Learning [49.94607673097326]
  ラベルなしデータの分散に関する前提を前提としない、高度に適応可能なフレームワークをSimProとして提案する。 我々のフレームワークは確率モデルに基づいており、期待最大化アルゴリズムを革新的に洗練する。 本手法は,様々なベンチマークやデータ分散シナリオにまたがる一貫した最先端性能を示す。
  論文  参考訳（メタデータ） (2024-02-21T03:39:04Z)
• Dr. FERMI: A Stochastic Distributionally Robust Fair Empirical Risk Minimization Framework [12.734559823650887]
  分散シフトが存在する場合、公正な機械学習モデルはテストデータに対して不公平に振る舞うことがある。 既存のアルゴリズムはデータへの完全なアクセスを必要とし、小さなバッチを使用する場合には使用できない。 本稿では,因果グラフの知識を必要としない収束保証付き分布安定度フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-09-20T23:25:28Z)
• Cooperative Distribution Alignment via JSD Upper Bound [7.071749623370137]
  教師なし分布アライメントは、2つ以上のソース分布を共有整列分布にマッピングする変換を推定する。 このタスクには、生成モデリング、教師なしドメイン適応、社会的に認識された学習など、多くの応用がある。 我々は,従来のフローベースアプローチを,単一の非逆数フレームワークで統一し,一般化することを提案する。
  論文  参考訳（メタデータ） (2022-07-05T20:09:03Z)
• Learning to Transfer with von Neumann Conditional Divergence [14.926485055255942]
  我々は、複数の領域間の転送可能性を改善するために、最近提案されたフォン・ノイマン条件分岐を導入する。 本研究では,これらの課題が同時に,あるいは逐次的に観察されることを前提として,新たな学習目標を設計する。 どちらのシナリオでも、新しいタスクの一般化誤差が小さく、(シーケンシャルな設定で)ソースタスクを忘れないという点で、最先端のメソッドに対して好ましい性能が得られる。
  論文  参考訳（メタデータ） (2021-08-07T22:18:23Z)
• Mode recovery in neural autoregressive sequence modeling [55.05526174291747]
  最近の研究では、神経自己回帰配列モデルの予期せぬ特性と望ましくない性質が明らかにされている。 本研究では,分布のモードや局所的な最大値が,学習チェーン全体を通してどのように維持されているかを検討する。 今後の研究は、潜在能力と危険性を完全に理解するために、学習連鎖全体を考慮しなくてはならないと結論付けている。
  論文  参考訳（メタデータ） (2021-06-10T02:17:28Z)
• An Online Learning Approach to Interpolation and Extrapolation in Domain Generalization [53.592597682854944]
  リスクを最小化するプレイヤーと新しいテストを示す敵の間のオンラインゲームとしてサブグループの一般化を再放送する。 両課題に対してERMは極小最適であることを示す。
  論文  参考訳（メタデータ） (2021-02-25T19:06:48Z)
• Deep Ordinal Regression using Optimal Transport Loss and Unimodal Output Probabilities [3.169089186688223]
  本稿では,単調な出力分布と最適輸送損失に基づく奥行き回帰の枠組みを提案する。 提案手法の異なるコンポーネントを実証的に分析し,モデルの性能への寄与を実証する。 8つの実世界のデータセットに対する実験結果から,提案手法が最近提案した深層学習手法と同等かつよく動作することを示す。
  論文  参考訳（メタデータ） (2020-11-15T19:19:40Z)
• Generative Model without Prior Distribution Matching [26.91643368299913]
  変分オートエンコーダ(VAE)とその変分は、いくつかの先行分布を満たすために低次元の潜在表現を学習することによって古典的な生成モデルである。 我々は、先行変数に適合させるのではなく、先行変数が埋め込み分布と一致するように提案する。
  論文  参考訳（メタデータ） (2020-09-23T09:33:24Z)
• Distributional Reinforcement Learning via Moment Matching [54.16108052278444]
  ニューラルネットワークを用いて各戻り分布から統計量の有限集合を学習する手法を定式化する。 我々の手法は、戻り分布とベルマン目標の間のモーメントの全ての順序を暗黙的に一致させるものとして解釈できる。 Atariゲームスイートの実験により,本手法は標準分布RLベースラインよりも優れていることが示された。
  論文  参考訳（メタデータ） (2020-07-24T05:18:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。