論文の概要: KnowMAN: Weakly Supervised Multinomial Adversarial Networks

• arxiv url: http://arxiv.org/abs/2109.07994v1
• Date: Thu, 16 Sep 2021 14:01:30 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-17 14:28:09.223162
• Title: KnowMAN: Weakly Supervised Multinomial Adversarial Networks
• Title（参考訳）: knowman: 弱い教師付き多項逆ネットワーク
• Authors: Luisa M\"arz, Ehsaneddin Asgari, Fabienne Braune, Franziska Zimmermann and Benjamin Roth
• Abstract要約: 本研究では,ラベリング関数に関連する信号の影響を制御可能な,対位法であるノウマンを提案する。 KnowMANは、事前訓練されたトランスフォーマー言語モデルと機能ベースのベースラインによる直接教師付き学習と比較して、結果を改善する。
• 参考スコア（独自算出の注目度）: 8.135448729558876
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The absence of labeled data for training neural models is often addressed by leveraging knowledge about the specific task, resulting in heuristic but noisy labels. The knowledge is captured in labeling functions, which detect certain regularities or patterns in the training samples and annotate corresponding labels for training. This process of weakly supervised training may result in an over-reliance on the signals captured by the labeling functions and hinder models to exploit other signals or to generalize well. We propose KnowMAN, an adversarial scheme that enables to control influence of signals associated with specific labeling functions. KnowMAN forces the network to learn representations that are invariant to those signals and to pick up other signals that are more generally associated with an output label. KnowMAN strongly improves results compared to direct weakly supervised learning with a pre-trained transformer language model and a feature-based baseline.
• Abstract（参考訳）: ニューラルネットワークを訓練するためのラベル付きデータがないことは、特定のタスクに関する知識を活用することでしばしば解決される。 知識は、トレーニングサンプルの特定の規則性やパターンを検出し、トレーニングのために対応するラベルを注釈付けするラベル付け関数でキャプチャされる。 この弱い教師付きトレーニングのプロセスは、ラベル付け関数によって取得された信号に過度に依存し、他の信号を利用するためにモデルを妨げる可能性がある。 本稿では,特定のラベリング関数に関連する信号の影響を制御可能な敵スキームであるknowmanを提案する。 KnowMANはネットワークにこれらの信号に不変な表現を学習させ、出力ラベルとより一般的に関連付けられている他の信号を拾うように強制する。 KnowMANは、事前学習されたトランスフォーマー言語モデルと機能ベースのベースラインによる直接教師付き学習と比較して、結果を強く改善する。

関連論文リスト

• Learning Discriminative Dynamics with Label Corruption for Noisy Label Detection [25.55455239006278]
  トレーニング信号のダイナミクスに基づいて,誤ラベル付きインスタンスと正しくラベル付けされたインスタンスを識別するDynaCorフレームワークを提案する。 我々の総合的な実験により、DynaCorは最先端のライバルより優れており、様々なノイズタイプやノイズレートに対して強い堅牢性を示している。
  論文  参考訳（メタデータ） (2024-05-30T10:06:06Z)
• Channel-Wise Contrastive Learning for Learning with Noisy Labels [60.46434734808148]
  チャネルワイド・コントラッシブ・ラーニング(CWCL)を導入し,真正なラベル情報とノイズを区別する。 従来のインスタンス単位のコントラスト学習(IWCL)とは異なり、CWCLはよりニュアンスでレジリエントな特徴を真のラベルと一致させる傾向にある。 まずCWCLを用いて、クリーンにラベル付けされたサンプルを識別し、次に、これらのサンプルを段階的に微調整する。
  論文  参考訳（メタデータ） (2023-08-14T06:04:50Z)
• Losses over Labels: Weakly Supervised Learning via Direct Loss Construction [71.11337906077483]
  プログラム可能な弱い監視は、機械学習のパラダイムとして成長している。 ラベルの中間ステップを経由することなく,直接損失を発生させるため,ラベルのロバスト・オーバー・ラベル(Losses over Labels, LoL)を提案する。 いくつかのベンチマークテキストおよび画像分類タスクにおいて、LoLは既存の弱い監督手法を改善していることを示す。
  論文  参考訳（メタデータ） (2022-12-13T22:29:14Z)
• Label Noise-Resistant Mean Teaching for Weakly Supervised Fake News Detection [93.6222609806278]
  本稿では,弱い教師付き偽ニュース検出のためのラベル雑音耐性平均教育手法 (LNMT) を提案する。 LNMTは、未ラベルのニュースとユーザのフィードバックコメントを活用して、トレーニングデータの量を増やす。 LNMTはラベル伝搬とラベル信頼性推定を備えた平均教師フレームワークを確立する。
  論文  参考訳（メタデータ） (2022-06-10T16:01:58Z)
• Data Consistency for Weakly Supervised Learning [15.365232702938677]
  機械学習モデルのトレーニングには、大量の人間が注釈付けしたデータを使用する。 本稿では、雑音ラベル、すなわち弱い信号を処理する新しい弱監督アルゴリズムを提案する。 本研究では,テキストと画像の分類作業において,最先端の弱い監督手法を著しく上回っていることを示す。
  論文  参考訳（メタデータ） (2022-02-08T16:48:19Z)
• PseudoSeg: Designing Pseudo Labels for Semantic Segmentation [78.35515004654553]
  ラベルなしまたは弱いラベル付きデータを用いたトレーニングのための構造化された擬似ラベルを生成するための擬似ラベルの再設計を提案する。 提案手法の有効性を,低データと高データの両方において示す。
  論文  参考訳（メタデータ） (2020-10-19T17:59:30Z)
• Knowledge-Guided Multi-Label Few-Shot Learning for General Image Recognition [75.44233392355711]
  KGGRフレームワークは、ディープニューラルネットワークと統計ラベル相関の事前知識を利用する。 まず、統計ラベルの共起に基づいて異なるラベルを相関させる構造化知識グラフを構築する。 次に、ラベルセマンティクスを導入し、学習セマンティクス固有の特徴をガイドする。 グラフノードの相互作用を探索するためにグラフ伝搬ネットワークを利用する。
  論文  参考訳（メタデータ） (2020-09-20T15:05:29Z)
• Constrained Labeling for Weakly Supervised Learning [15.365232702938677]
  本稿では、弱い監視信号を組み合わせるための単純なデータフリーアプローチを提案する。 我々の手法は効率よく安定しており、数回の降下を繰り返して収束する。 本手法は,様々なテキスト・画像分類タスクにおいて,他の弱い監督手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-09-15T21:30:53Z)
• Foreseeing the Benefits of Incidental Supervision [83.08441990812636]
  本稿では,実験を行なわずに,特定の目標タスクに対して,様々な種類の偶発信号の利点を定量化できるかどうかを考察する。 本稿では,PABI(PAC-Bayesian motivated informativeness measure)を提案する。
  論文  参考訳（メタデータ） (2020-06-09T20:59:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。