論文の概要: Variation and generality in encoding of syntactic anomaly information in sentence embeddings

• arxiv url: http://arxiv.org/abs/2111.06644v1
• Date: Fri, 12 Nov 2021 10:23:43 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-15 20:47:04.219882
• Title: Variation and generality in encoding of syntactic anomaly information in sentence embeddings
• Title（参考訳）: 文埋め込みにおける構文異常情報の符号化のバリエーションと一般化
• Authors: Qinxuan Wu and Allyson Ettinger
• Abstract要約: 文中の異常が発生する階層レベルが異なる探索タスクを設計することにより、異常符号化の微妙な相違について検討する。 我々は、与えられた異常を検出するモデルだけでなく、検出された異常信号の一般性もテストする。 その結果、全てのモデルが異常検出をサポートする情報を符号化しているが、検出性能は異常毎に異なることが示唆された。
• 参考スコア（独自算出の注目度）: 7.132368785057315
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While sentence anomalies have been applied periodically for testing in NLP, we have yet to establish a picture of the precise status of anomaly information in representations from NLP models. In this paper we aim to fill two primary gaps, focusing on the domain of syntactic anomalies. First, we explore fine-grained differences in anomaly encoding by designing probing tasks that vary the hierarchical level at which anomalies occur in a sentence. Second, we test not only models' ability to detect a given anomaly, but also the generality of the detected anomaly signal, by examining transfer between distinct anomaly types. Results suggest that all models encode some information supporting anomaly detection, but detection performance varies between anomalies, and only representations from more recent transformer models show signs of generalized knowledge of anomalies. Follow-up analyses support the notion that these models pick up on a legitimate, general notion of sentence oddity, while coarser-grained word position information is likely also a contributor to the observed anomaly detection.
• Abstract（参考訳）: 文異常は周期的にNLPの検査に応用されているが,NLPモデルからの表現における異常情報の正確な状態の図面は確立されていない。 本稿では,構文異常の領域に着目した2つの主要なギャップを埋めることを目的とする。 まず,文中の異常が発生する階層レベルの異なる探索タスクを設計することにより,異常符号化の微妙な相違について検討する。 第二に, モデルが与えられた異常を検出できるだけでなく, 検出された異常信号の一般性についても, 異なる異常タイプ間の伝達を調べることにより検証した。 その結果、全てのモデルが異常検出をサポートする情報を符号化していることが示唆されたが、検出性能は異常によって異なり、より最近のトランスフォーマーモデルの表現のみが異常の一般的な知識の兆候を示している。 フォローアップ分析は、これらのモデルが正当で一般的な文奇性の概念を拾い上げ、粗い単語の位置情報が観察された異常検出に寄与する可能性を支持している。

関連論文リスト

• Can I trust my anomaly detection system? A case study based on explainable AI [0.4416503115535552]
  本稿では,変分自己エンコーダ生成モデルに基づく異常検出システムのロバスト性について検討する。 目標は、再構成の違いを利用する異常検知器の実際の性能について、異なる視点を得ることです。
  論文  参考訳（メタデータ） (2024-07-29T12:39:07Z)
• AnomalyDiffusion: Few-Shot Anomaly Image Generation with Diffusion Model [59.08735812631131]
  製造業において異常検査が重要な役割を担っている。 既存の異常検査手法は、異常データが不足しているため、その性能に制限がある。 本稿では,新しい拡散型マイクロショット異常生成モデルであるAnomalyDiffusionを提案する。
  論文  参考訳（メタデータ） (2023-12-10T05:13:40Z)
• Prototypical Residual Networks for Anomaly Detection and Localization [80.5730594002466]
  本稿では,PRN(Prototypeal Residual Network)というフレームワークを提案する。 PRNは、異常領域の分割マップを正確に再構築するために、異常領域と正常パターンの間の様々なスケールとサイズの特徴的残差を学習する。 異常を拡大・多様化するために,見かけの相違と外観の相違を考慮に入れた様々な異常発生戦略を提示する。
  論文  参考訳（メタデータ） (2022-12-05T05:03:46Z)
• Anomaly Detection by Leveraging Incomplete Anomalous Knowledge with Anomaly-Aware Bidirectional GANs [15.399369134281775]
  異常検出の目標は、正常なサンプルから異常なサンプルを特定することである。 本稿では,少数の異常がトレーニング段階で利用可能であることが想定されているが,これらは複数の異常タイプからのみ収集されていると推定されている。 本稿では,通常のサンプルをモデル化するだけでなく,収集した異常に対して低密度値の割り当てを保証できる確率分布の学習を提案する。
  論文  参考訳（メタデータ） (2022-04-28T08:12:49Z)
• Catching Both Gray and Black Swans: Open-set Supervised Anomaly Detection [90.32910087103744]
  ラベル付き異常な例は、多くの現実世界のアプリケーションでよく見られる。 これらの異常例は、アプリケーション固有の異常について貴重な知識を提供する。 トレーニング中に見られる異常は、可能なあらゆる種類の異常を説明できないことが多い。 本稿では,オープンセット型教師付き異常検出に取り組む。
  論文  参考訳（メタデータ） (2022-03-28T05:21:37Z)
• SLA$^2$P: Self-supervised Anomaly Detection with Adversarial Perturbation [77.71161225100927]
  異常検出は、機械学習の基本的な問題であるが、難しい問題である。 本稿では,非教師付き異常検出のための新しい強力なフレームワークであるSLA$2$Pを提案する。
  論文  参考訳（メタデータ） (2021-11-25T03:53:43Z)
• Explainable Deep Few-shot Anomaly Detection with Deviation Networks [123.46611927225963]
  本稿では,弱い教師付き異常検出フレームワークを導入し,検出モデルを訓練する。 提案手法は,ラベル付き異常と事前確率を活用することにより,識別正規性を学習する。 我々のモデルはサンプル効率が高く頑健であり、クローズドセットとオープンセットの両方の設定において最先端の競合手法よりもはるかに優れている。
  論文  参考訳（メタデータ） (2021-08-01T14:33:17Z)
• Understanding the Effect of Bias in Deep Anomaly Detection [15.83398707988473]
  異常検出はラベル付き異常データの不足のため、機械学習においてユニークな課題となる。 最近の研究は、追加のラベル付き異常サンプルによる深部異常検出モデルのトレーニングを増強することで、このような問題を緩和しようとするものである。 本稿では,異常検出に対するバイアス付き異常集合の効果を理解することを目的とする。
  論文  参考訳（メタデータ） (2021-05-16T03:55:02Z)
• Deep Weakly-supervised Anomaly Detection [118.55172352231381]
  ペアワイズ関係予測ネットワーク(PReNet)は、ペアワイズ関係の特徴と異常スコアを学習する。 PReNetは、学習したペアの異常パターンに適合する見知らぬ異常を検出できる。 12の実世界のデータセットに対する実証的な結果から、PReNetは目に見えない異常や異常を検知する9つの競合する手法を著しく上回っている。
  論文  参考訳（メタデータ） (2019-10-30T00:40:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。