論文の概要: Foreseeing the Benefits of Incidental Supervision

• arxiv url: http://arxiv.org/abs/2006.05500v2
• Date: Fri, 10 Sep 2021 16:32:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-23 14:08:34.905096
• Title: Foreseeing the Benefits of Incidental Supervision
• Title（参考訳）: インシデント・スーパービジョンのメリットを予見する
• Authors: Hangfeng He, Mingyuan Zhang, Qiang Ning, Dan Roth
• Abstract要約: 本稿では,実験を行なわずに,特定の目標タスクに対して,様々な種類の偶発信号の利点を定量化できるかどうかを考察する。 本稿では,PABI(PAC-Bayesian motivated informativeness measure)を提案する。
• 参考スコア（独自算出の注目度）: 83.08441990812636
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Real-world applications often require improved models by leveraging a range of cheap incidental supervision signals. These could include partial labels, noisy labels, knowledge-based constraints, and cross-domain or cross-task annotations -- all having statistical associations with gold annotations but not exactly the same. However, we currently lack a principled way to measure the benefits of these signals to a given target task, and the common practice of evaluating these benefits is through exhaustive experiments with various models and hyperparameters. This paper studies whether we can, in a single framework, quantify the benefits of various types of incidental signals for a given target task without going through combinatorial experiments. We propose a unified PAC-Bayesian motivated informativeness measure, PABI, that characterizes the uncertainty reduction provided by incidental supervision signals. We demonstrate PABI's effectiveness by quantifying the value added by various types of incidental signals to sequence tagging tasks. Experiments on named entity recognition (NER) and question answering (QA) show that PABI's predictions correlate well with learning performance, providing a promising way to determine, ahead of learning, which supervision signals would be beneficial.
• Abstract（参考訳）: 現実世界のアプリケーションは、様々な安価なインシデント監視信号を活用することで、モデルの改善を必要とすることが多い。 その中には、部分的なラベル、ノイズのあるラベル、知識に基づく制約、クロスドメインまたはクロスタスクアノテーションが含まれます。 しかし、現在、与えられた目標タスクに対するこれらの信号の利点を測定するための原則的な方法が欠如しており、これらの利点を評価する一般的な実践は、様々なモデルとハイパーパラメータによる徹底的な実験である。 本稿では,1つのフレームワークで,組合せ実験を行なわずに,与えられた目標タスクに対して,様々な種類の偶発信号の利点を定量化できるかどうかを検討する。 我々は,付随的監視信号による不確実性低減を特徴付ける統一的pac-bayesianmotived informativeness measure(pabi)を提案する。 PABIの有効性は、列タギングタスクに対して、様々な種類のインシデント信号が付加する値の定量化によって示される。 名前付きエンティティ認識(NER)と質問応答(QA)の実験は、PABIの予測が学習性能とよく相関していることを示し、教師信号が有益である学習よりも先に決定する有望な方法を提供する。

関連論文リスト

• Learning Contrastive Feature Representations for Facial Action Unit Detection [13.834540490373818]
  顔アクションユニット(AU)検出は、AUが活性化する際の微妙な特徴差を検出するという課題に長年遭遇してきた。 本稿では、自己教師付き信号と教師付き信号の両方を組み込んだAU検出を目的とした、新しいコントラスト学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-02-09T03:48:20Z)
• Mitigating Shortcut Learning with Diffusion Counterfactuals and Diverse Ensembles [95.49699178874683]
  拡散確率モデル(DPM)を利用したアンサンブル多様化フレームワークDiffDivを提案する。 DPMは、相関した入力特徴を示すサンプルを用いて訓練しても、新しい特徴の組み合わせで画像を生成することができることを示す。 そこで本研究では,DPM誘導の多様化は,教師付き信号の追加を必要とせず,ショートカットキューへの依存を取り除くのに十分であることを示す。
  論文  参考訳（メタデータ） (2023-11-23T15:47:33Z)
• Leveraging Diffusion Disentangled Representations to Mitigate Shortcuts in Underspecified Visual Tasks [92.32670915472099]
  拡散確率モデル(DPM)を用いた合成カウンターファクトの生成を利用したアンサンブルの多様化フレームワークを提案する。 拡散誘導型分散化は,データ収集を必要とする従来の手法に匹敵するアンサンブル多様性を達成し,ショートカットからの注意を回避できることを示す。
  論文  参考訳（メタデータ） (2023-10-03T17:37:52Z)
• Unsupervised Visible-Infrared Person ReID by Collaborative Learning with Neighbor-Guided Label Refinement [53.044703127757295]
  教師なし学習 可視赤外人物再識別 (USL-VI-ReID) は、ラベルなしのクロスモダリティデータセットからモダリティ不変の特徴を学習することを目的としている。 本稿では,生成したラベルを1つのモダリティからそれに対応するモダリティに同時に割り当てる,Dual Optimal Transport Label Assignment (DOTLA) フレームワークを提案する。 提案したDOTLA機構は、相互強化と相互モダリティデータアソシエーションの効率的な解を定式化することにより、不十分でノイズの多いラベルアソシエーションの副作用を効果的に低減することができる。
  論文  参考訳（メタデータ） (2023-05-22T04:40:30Z)
• Be Your Own Neighborhood: Detecting Adversarial Example by the Neighborhood Relations Built on Self-Supervised Learning [64.78972193105443]
  本稿では,予測に有効な新しいAE検出フレームワークを提案する。 AEの異常な関係と拡張バージョンを区別して検出を行う。 表現を抽出し、ラベルを予測するために、既製の自己監視学習(SSL)モデルが使用される。
  論文  参考訳（メタデータ） (2022-08-31T08:18:44Z)
• XPASC: Measuring Generalization in Weak Supervision [5.197057543520865]
  弱教師付きデータセットを用いて訓練されたモデルの一般化を計測するためのXPASC(eXPlainability-Association SCore)を提案する。 我々は XPASC を用いて、ラベリング関数から一般化の度合いを制御するための敵アーキテクチャである KnowMAN を解析する。
  論文  参考訳（メタデータ） (2022-06-03T08:16:50Z)
• Feature Diversity Learning with Sample Dropout for Unsupervised Domain Adaptive Person Re-identification [0.0]
  本稿では,ノイズの多い擬似ラベルを限定することで,より優れた一般化能力を持つ特徴表現を学習する手法を提案する。 我々は,古典的な相互学習アーキテクチャの下で,FDL(Feature Diversity Learning)と呼ばれる新しい手法を提案する。 実験の結果,提案するFDL-SDは,複数のベンチマークデータセット上での最先端性能を実現することがわかった。
  論文  参考訳（メタデータ） (2022-01-25T10:10:48Z)
• WSSOD: A New Pipeline for Weakly- and Semi-Supervised Object Detection [75.80075054706079]
  弱機能および半教師付きオブジェクト検出フレームワーク(WSSOD)を提案する。 エージェント検出器は、まず関節データセット上でトレーニングされ、弱注釈画像上で擬似境界ボックスを予測するために使用される。 提案フレームワークはPASCAL-VOC と MSCOCO のベンチマークで顕著な性能を示し,完全教師付き環境で得られたものと同等の性能を達成している。
  論文  参考訳（メタデータ） (2021-05-21T11:58:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。