論文の概要: Dimensionality-Aware Anomaly Detection in Learned Representations of Self-Supervised Speech Models
- arxiv url: http://arxiv.org/abs/2605.02715v1
- Date: Mon, 04 May 2026 15:18:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:50.370111
- Title: Dimensionality-Aware Anomaly Detection in Learned Representations of Self-Supervised Speech Models
- Title(参考訳): 自己教師付き音声モデルの学習表現における次元性を考慮した異常検出
- Authors: Sandra Arcos-Holzinger, Sarah M. Erfani, James Bailey, Sanjeev Khudanpur,
- Abstract要約: 自己教師付き音声モデル(S3Ms)は、下流での強い性能を達成するが、その学習された表現は、自然と逆の摂動の下では理解し難いままである。
本稿では,WavLM とwav2vec 2.0 のレイヤワイド表現における局所固有次元(LID)を用いたフレームワーク GRIDS を提案する。
- 参考スコア(独自算出の注目度): 22.960033047333024
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-supervised speech models (S3Ms) achieve strong downstream performance, yet their learned representations remain poorly understood under natural and adversarial perturbations. Prior studies rely on representation similarity or global dimensionality, offering limited visibility into local geometric changes. We ask: how do perturbations deform local geometry, and do these shifts track downstream automatic speech recognition (ASR) degradation? To address this, we present GRIDS, a framework using Local Intrinsic Dimensionality (LID) across layer-wise representations in WavLM and wav2vec 2.0. We find that LID increases for all low signal-to noise ratio (SNR) perturbations and diverges at high SNR: benign noise converges toward the clean profile, while adversarial inputs retain early-layer LID elevation. We show LID elevation co-occurs with increased WER, and that layer-wise LID features enable anomaly detection (AUROC 0.78-1.00), opening the door to transcript-free monitoring in S3Ms.
- Abstract(参考訳): 自己教師付き音声モデル(S3Ms)は、下流での強い性能を達成するが、その学習された表現は、自然と逆の摂動の下では理解し難いままである。
以前の研究では、表現の類似性や大域的な次元性に依存しており、局所的な幾何学的変化に対する限られた可視性を提供している。
摂動はどのように局所幾何学を変形させ、これらのシフトは下流自動音声認識(ASR)の劣化を追跡するのか?
そこで我々は,WavLM とwav2vec 2.0 のレイヤワイド表現における局所固有次元(LID)を用いたフレームワーク GRIDS を提案する。
LIDは低信号対雑音比 (SNR) の摂動を増大させ, 高いSNRで発散し, 良性雑音はクリーンプロファイルに収束するが, 逆入力は初期層LID上昇を維持する。
We show LID elevation co-occurs with increase WER, and that layer-wise LID features possible anomaly detection (AUROC 0.78-1.00), open the door to transcript-free monitoring in S3Ms。
関連論文リスト
- Implicit Neural Representations: A Signal Processing Perspective [54.57279006229212]
入射神経表現(INR)は、離散的なサンプルデータから連続的な機能的表現へと、信号モデリングの根本的な変化を示す。
本稿では、信号処理の観点からのINRの進化を考察し、スペクトル挙動、サンプリング理論、マルチスケール表現を強調する。
医療・レーダ画像の逆問題,圧縮,3次元シーン表現など,幅広い応用分野におけるINRの有用性を強調した。
論文 参考訳(メタデータ) (2026-04-16T14:12:06Z) - Disentangle-then-Refine: LLM-Guided Decoupling and Structure-Aware Refinement for Graph Contrastive Learning [8.080589414732982]
テキスト分散グラフ(TAG)上の従来のグラフコントラスト学習(GCL)は、意図せずノイズを伴うタスク関連信号を絡み合わせるブラインド拡張に依存している。
近似直交分解に固定された頑健なフレームワークであるSDM-SCRを提案する。
論文 参考訳(メタデータ) (2026-04-16T07:57:11Z) - Overlap-Aware Feature Learning for Robust Unsupervised Domain Adaptation for 3D Semantic Segmentation [9.578322021478426]
3Dポイントクラウドセマンティックセグメンテーション(PCSS)は、ロボットシステムと自律運転における環境認識の基礎である。
既存の方法は、現実の摂動(例えば、雪、霧、雨)と敵の歪みに固有の脆弱性を批判的に見落としている。
この研究は、まず、現在のPCSS-UDAロバスト性を損なう2つの本質的な制限を特定する。
1) 強靭性指標による敵攻撃・破壊タイプに対するレジリエンスを定量化する頑健性評価モデル,2) 注意誘導重複抑制による識別構造を維持しつつ,双方向のドメインマッピングを可能にする非可逆的注意アライメントモジュール(IAAM) とからなる三部構成のフレームワークを提案する。
論文 参考訳(メタデータ) (2025-04-02T12:16:23Z) - Improving Gaussian Splatting with Localized Points Management [52.009874685460694]
局所的点管理(LPM)は、点加算と幾何校正の両方を最大限に必要としながら、これらの誤り貢献ゾーンを特定することができる。
LPMは特定されたゾーンに点密度を適用し、これらの領域の前にある点の不透明度をリセットし、不適切な点を修正する新しい機会を生み出す。
特に、LPMは静的3DGSとダイナミックなSpaceTimeGSの両方を改善して、リアルタイム速度を維持しながら最先端のレンダリング品質を実現している。
論文 参考訳(メタデータ) (2024-06-06T16:55:07Z) - StableDreamer: Taming Noisy Score Distillation Sampling for Text-to-3D [88.66678730537777]
本稿では3つの進歩を取り入れた方法論であるStableDreamerを紹介する。
まず、SDS生成前の等価性と、簡単な教師付きL2再構成損失を定式化する。
第2に,画像空間拡散は幾何学的精度に寄与するが,色調の鮮明化には潜時空間拡散が不可欠であることを示す。
論文 参考訳(メタデータ) (2023-12-02T02:27:58Z) - Directional ASR: A New Paradigm for E2E Multi-Speaker Speech Recognition
with Source Localization [73.62550438861942]
本稿では、指向性自動音声認識(D-ASR)と呼ばれる、エンドツーエンドのニューラルネットワーク方式で遠距離場マルチスピーカデータを処理するための新しいパラダイムを提案する。
D-ASRでは、マイクロホンアレイに対するソースの方位角を潜時変数として定義する。
論文 参考訳(メタデータ) (2020-10-30T20:26:28Z) - Characterizing Speech Adversarial Examples Using Self-Attention U-Net
Enhancement [102.48582597586233]
本稿では,U-Net$_At$という,U-Netに基づくアテンションモデルを提案する。
対戦型音声アタックを用いた自動音声認識(ASR)タスクの実験を行った。
論文 参考訳(メタデータ) (2020-03-31T02:16:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。