論文の概要: Robust and flexible learning of a high-dimensional classification rule
using auxiliary outcomes
- arxiv url: http://arxiv.org/abs/2011.05493v3
- Date: Wed, 22 Mar 2023 15:29:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-24 08:39:19.937059
- Title: Robust and flexible learning of a high-dimensional classification rule
using auxiliary outcomes
- Title(参考訳): 補助結果を用いた高次元分類規則のロバストで柔軟な学習
- Authors: Muxuan Liang, Jaeyoung Park, Qing Lu, Xiang Zhong
- Abstract要約: 我々は,高次元線形決定ルールを補助的な結果の存在下で推定する伝達学習手法を開発した。
最終推定器は,1つの利害関係のみを用いた推定よりも低い推定誤差が得られることを示す。
- 参考スコア(独自算出の注目度): 2.92281985958308
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Correlated outcomes are common in many practical problems. In some settings,
one outcome is of particular interest, and others are auxiliary. To leverage
information shared by all the outcomes, traditional multi-task learning (MTL)
minimizes an averaged loss function over all the outcomes, which may lead to
biased estimation for the target outcome, especially when the MTL model is
mis-specified. In this work, based on a decomposition of estimation bias into
two types, within-subspace and against-subspace, we develop a robust transfer
learning approach to estimating a high-dimensional linear decision rule for the
outcome of interest with the presence of auxiliary outcomes. The proposed
method includes an MTL step using all outcomes to gain efficiency, and a
subsequent calibration step using only the outcome of interest to correct both
types of biases. We show that the final estimator can achieve a lower
estimation error than the one using only the single outcome of interest.
Simulations and real data analysis are conducted to justify the superiority of
the proposed method.
- Abstract(参考訳): 関連する結果は、多くの実践的な問題に共通している。
ある設定では、ある結果が特に興味を持ち、別の結果が補助的になる。
全ての結果から共有される情報を活用するために、従来のマルチタスク学習(MTL)は、全ての結果に対して平均損失関数を最小化し、特にMTLモデルが不特定である場合、対象結果に対するバイアス推定につながる可能性がある。
本研究では,inside-subspace と against-subspace の2つのタイプに推定バイアスを分解し,補助的な結果が存在する場合の利子結果に対する高次元線形決定規則を推定するためのロバストな伝達学習手法を開発した。
提案手法は、すべての結果を用いて効率を上げるためのMTLステップと、興味のある結果のみを用いて両方のバイアスを補正するキャリブレーションステップとを含む。
最終推定器は,1つの利害関係のみを用いた推定よりも低い推定誤差が得られることを示す。
提案手法の優位性を正当化するためにシミュレーションと実データ解析を行う。
関連論文リスト
- Off-policy estimation with adaptively collected data: the power of online learning [20.023469636707635]
適応的に収集したデータを用いて, 処理効果の線形関数を推定する。
本稿では,オンライン学習を通じて治療効果の一連の推定を生成できる一般還元方式を提案する。
論文 参考訳(メタデータ) (2024-11-19T10:18:27Z) - Dissecting Misalignment of Multimodal Large Language Models via Influence Function [12.832792175138241]
コントラスト損失に対する拡張影響関数 (ECIF) を導入し, コントラスト損失に対する影響関数について検討した。
ECIFは正と負の両方のサンプルを考慮し、対照的な学習モデルの閉形式近似を提供する。
ECIFを基盤として,MLLMにおけるデータ評価,誤アライメント検出,誤予測トレースバックタスクなどの一連のアルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-11-18T15:45:41Z) - Assumption-Lean Post-Integrated Inference with Negative Control Outcomes [0.0]
負の制御結果を用いて遅延不均一性を調整する頑健なポストインテグレート推論(PII)手法を提案する。
提案手法は,予測された直接効果推定値,隠された仲介者,共同設立者,モデレーターまで拡張する。
提案された二重頑健な推定器は、最小の仮定と潜在的な不特定性の下で一貫性があり、効率的である。
論文 参考訳(メタデータ) (2024-10-07T12:52:38Z) - Reduced-Rank Multi-objective Policy Learning and Optimization [57.978477569678844]
実際には、因果研究者は先験を念頭において1つの結果を持っていない。
政府支援の社会福祉プログラムでは、政策立案者は貧困の多次元的性質を理解するために多くの成果を集めている。
本稿では、最適政策学習の文脈において、複数の結果に対するデータ駆動型次元性推論手法を提案する。
論文 参考訳(メタデータ) (2024-04-29T08:16:30Z) - Preference Fine-Tuning of LLMs Should Leverage Suboptimal, On-Policy Data [102.16105233826917]
好みラベルからの学習は、微調整された大きな言語モデルにおいて重要な役割を果たす。
好みの微調整には、教師付き学習、オンライン強化学習(RL)、コントラスト学習など、いくつかの異なるアプローチがある。
論文 参考訳(メタデータ) (2024-04-22T17:20:18Z) - Learning Bias-Invariant Representation by Cross-Sample Mutual
Information Minimization [77.8735802150511]
対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。
相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。
我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
論文 参考訳(メタデータ) (2021-08-11T21:17:02Z) - Learning with Multiclass AUC: Theory and Algorithms [141.63211412386283]
ROC曲線 (AUC) の下の領域は、不均衡学習やレコメンダシステムといった問題に対するよく知られたランキング基準である。
本稿では,マルチクラスAUCメトリクスを最適化することで,多クラススコアリング関数を学習する問題について検討する。
論文 参考訳(メタデータ) (2021-07-28T05:18:10Z) - Counterfactual Maximum Likelihood Estimation for Training Deep Networks [83.44219640437657]
深層学習モデルは、予測的手がかりとして学習すべきでない急激な相関を学習する傾向がある。
本研究では,観測可能な共同設立者による相関関係の緩和を目的とした因果関係に基づくトレーニングフレームワークを提案する。
自然言語推論(NLI)と画像キャプションという2つの実世界の課題について実験を行った。
論文 参考訳(メタデータ) (2021-06-07T17:47:16Z) - Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。
ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。
本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
論文 参考訳(メタデータ) (2021-05-11T03:38:16Z) - Counterfactual Propagation for Semi-Supervised Individual Treatment
Effect Estimation [21.285425135761795]
個別治療効果(英: individual treatment effect、ITE)とは、特定の標的に特定の行動をとる結果の期待された改善を示す。
本研究では、より容易に利用可能な未ラベルのインスタンスを利用する半教師付きITE推定問題について考察する。
本稿では,最初の半教師付きITT推定法である反実伝搬法を提案する。
論文 参考訳(メタデータ) (2020-05-11T13:32:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。