論文の概要: Generative multitask learning mitigates target-causing confounding
- arxiv url: http://arxiv.org/abs/2202.04136v1
- Date: Tue, 8 Feb 2022 20:42:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-10 14:24:02.701488
- Title: Generative multitask learning mitigates target-causing confounding
- Title(参考訳): 生成型マルチタスク学習はターゲット・キャウンド・コンバウンディングを緩和する
- Authors: Taro Makino, Krzysztof Geras, Kyunghyun Cho
- Abstract要約: マルチタスク学習のための因果表現学習のためのシンプルでスケーラブルなアプローチを提案する。
改善は、目標を狙うが入力はしない、観測されていない共同ファウンダーを緩和することによる。
人の属性とタスクノミーのデータセットに対する我々の結果は、事前の確率シフトに対するロバストネスの概念的改善を反映している。
- 参考スコア(独自算出の注目度): 61.21582323566118
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a simple and scalable approach to causal representation learning
for multitask learning. Our approach requires minimal modification to existing
ML systems, and improves robustness to prior probability shift. The improvement
comes from mitigating unobserved confounders that cause the targets, but not
the input. We refer to them as target-causing confounders. These confounders
induce spurious dependencies between the input and targets. This poses a
problem for the conventional approach to multitask learning, due to its
assumption that the targets are conditionally independent given the input. Our
proposed approach takes into account the dependency between the targets in
order to alleviate target-causing confounding. All that is required in addition
to usual practice is to estimate the joint distribution of the targets to
switch from discriminative to generative classification, and to predict all
targets jointly. Our results on the Attributes of People and Taskonomy datasets
reflect the conceptual improvement in robustness to prior probability shift.
- Abstract(参考訳): マルチタスク学習のための因果表現学習のためのシンプルでスケーラブルなアプローチを提案する。
提案手法では,既存のMLシステムに最小限の変更を加え,事前の確率シフトに対する堅牢性を向上させる。
改善は、目標を狙うが入力はしない、観測されていない共同ファウンダーを緩和することによる。
ターゲットカウンセラーコンビナート(target-causing confounders)と呼ぶ。
これらの共同設立者は、入力とターゲットの間に刺激的な依存関係を引き起こす。
これは、従来のマルチタスク学習のアプローチにおいて、入力が条件的に独立であるという仮定から問題となる。
提案手法では,ターゲット間の依存関係を考慮し,ターゲット・カウティングの混同を緩和する。
通常の慣行に加えて必要となるのは、識別から生成的な分類に切り替える対象の同時分布を推定し、すべての対象を共同で予測することである。
人属性とタスクノミーデータセットの結果は,事前確率シフトに対するロバスト性の概念的改善を反映したものである。
関連論文リスト
- Multi-Target Multiplicity: Flexibility and Fairness in Target
Specification under Resource Constraints [76.84999501420938]
対象の選択が個人の結果にどのように影響するかを評価するための概念的および計算的枠組みを導入する。
目的変数選択から生じる多重度は, 1つのターゲットのほぼ最適モデルから生じるものよりも大きいことが示される。
論文 参考訳(メタデータ) (2023-06-23T18:57:14Z) - Generating Adversarial Examples with Task Oriented Multi-Objective
Optimization [21.220906842166425]
敵の訓練はモデルの堅牢性を改善する最も効率的な方法の1つである。
我々はこの問題に対処するためにemphTask Oriented MOOを提案する。
私たちの原則は、目標達成タスクのみを維持しながら、目標達成タスクの改善により多くの労力を費やすことです。
論文 参考訳(メタデータ) (2023-04-26T01:30:02Z) - TIDo: Source-free Task Incremental Learning in Non-stationary
Environments [0.0]
モデルベースのエージェントを更新して新しいターゲットタスクを学習するには、過去のトレーニングデータを格納する必要があります。
ラベル付きターゲットデータセットの制限を克服するタスクインクリメンタル学習手法はほとんどない。
本研究では,非定常的および目標的タスクに適応可能なワンショットタスクインクリメンタル学習手法を提案する。
論文 参考訳(メタデータ) (2023-01-28T02:19:45Z) - Discrete Factorial Representations as an Abstraction for Goal
Conditioned Reinforcement Learning [99.38163119531745]
離散化ボトルネックを適用することにより,目標条件付きRLセットアップの性能が向上することを示す。
分布外目標に対する期待した回帰を実験的に証明し、同時に表現的な構造で目標を指定できるようにします。
論文 参考訳(メタデータ) (2022-11-01T03:31:43Z) - Optimal Representations for Covariate Shift [18.136705088756138]
リスク最小化が堅牢であることが保証されるすべての表現の集合を最適とする単純な変分対象を導入する。
我々の目標は、DomainBedにおける最先端の成果を達成し、CLIPのような最近の手法の堅牢性に関する洞察を提供する。
論文 参考訳(メタデータ) (2021-12-31T21:02:24Z) - Goal-Aware Cross-Entropy for Multi-Target Reinforcement Learning [15.33496710690063]
本稿では,目標認識型クロスエントロピー(GACE)ロスを提案する。
次に、目標関連情報を利用して与えられた指示に集中する目標識別型注意ネットワーク(GDAN)を考案する。
論文 参考訳(メタデータ) (2021-10-25T14:24:39Z) - Adversarial Intrinsic Motivation for Reinforcement Learning [60.322878138199364]
政策状態の訪問分布と目標分布とのワッサースタイン-1距離が強化学習タスクに有効に活用できるかどうかを検討する。
我々のアプローチは、AIM (Adversarial Intrinsic Motivation) と呼ばれ、このワッサーシュタイン-1距離をその双対目的を通して推定し、補足報酬関数を計算する。
論文 参考訳(メタデータ) (2021-05-27T17:51:34Z) - Automatic Curriculum Learning through Value Disagreement [95.19299356298876]
新しい未解決タスクを継続的に解決することが、多様な行動を学ぶための鍵です。
エージェントが複数の目標を達成する必要があるマルチタスク領域では、トレーニング目標の選択はサンプル効率に大きな影響を与える可能性がある。
そこで我々は,エージェントが解決すべき目標のための自動カリキュラムを作成することを提案する。
提案手法は,13のマルチゴールロボットタスクと5つのナビゲーションタスクにまたがって評価し,現在の最先端手法よりも高い性能を示す。
論文 参考訳(メタデータ) (2020-06-17T03:58:25Z) - Learning Diverse Representations for Fast Adaptation to Distribution
Shift [78.83747601814669]
本稿では,複数のモデルを学習する手法を提案する。
分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
論文 参考訳(メタデータ) (2020-06-12T12:23:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。