論文の概要: Machine Unlearning for Speech Question Answering in Large Audio-Language Models

• arxiv url: http://arxiv.org/abs/2609.13195v1
• Date: Thu, 13 Aug 2026 03:52:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 16:32:15.651423
• Title: Machine Unlearning for Speech Question Answering in Large Audio-Language Models
• Title（参考訳）: 大規模音声言語モデルにおける音声質問応答の機械学習
• Abstract要約: 大規模音声言語モデル(LALM)における音声QAのための機械学習の研究 我々は、勾配上昇、タスク算術、アライメントに基づく微調整など、複数の未学習戦略を提示し、評価する。 これらの未学習手法は、非私的音声QAおよび一般音声理解ベンチマークにおいて、ほぼ中立な性能を維持しながら、プライバシー漏洩率を最大80%削減できることを示す。
• 参考スコア（独自算出の注目度）: 5.67379336475756
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Audio-Language Models (LALMs) have recently shown strong capabilities in speech understanding and question answering (QA), but they also inherit privacy risks from large-scale training data, including the unintended memorization of sensitive information. In this work, we study machine unlearning for speech QA in LALMs, a setting that is more challenging than prior work on text-based Large Language Models (LLMs) or Automatic Speech Recognition (ASR) due to the tight coupling between acoustic perception and factual knowledge. We present and evaluate multiple unlearning strategies, including gradient ascent, task arithmetic, and alignment-based fine-tuning methods that enforce safe refusal responses, to remove private knowledge while still preserving performance on core capabilities. Through extensive experiments on speech QA datasets, we show that these unlearning methods can reduce the privacy leakage rate by up to 80% while maintaining near-neutral performance on non-private speech QA and general speech understanding benchmarks.
• Abstract（参考訳）: LALM(Large Audio-Language Models)は、最近、音声理解と質問応答(QA)において強力な能力を示しているが、機密情報の意図しない記憶を含む大規模なトレーニングデータからプライバシーリスクを継承している。 本研究では,テキストベース大規模言語モデル (LLM) や自動音声認識 (ASR) において, 音声知覚と事実知識の密接な結合により, 従来の作業よりも難易度の高い学習環境であるLALMにおける音声QAの機械学習について検討する。 コア機能の性能を維持しつつ,私的知識を除去する,勾配上昇,タスク算術,アライメントに基づく微調整手法など,複数の未学習戦略を提示し,評価する。 音声QAデータセットに関する広範な実験を通じて、これらの未学習手法は、非プライベートな音声QAおよび一般音声理解ベンチマークにおいて、ほぼ中立な性能を維持しながら、プライバシー漏洩率を最大80%削減できることを示す。

関連論文リスト

• Quantum-Inspired Audio Unlearning: Towards Privacy-Preserving Voice Biometrics [44.60499998155848]
  QPAudioEraserは量子にインスパイアされたオーディオアンラーニングフレームワークである。 シングルクラス、マルチクラス、シーケンシャル、アクセントレベルの消去シナリオにまたがって、従来のベースラインを一貫して超越している。
  論文  参考訳（メタデータ） (2025-07-29T20:12:24Z)
• Speech Unlearning [14.755831733659699]
  音声タスクのための機械学習を導入し,新しい研究課題について紹介する。 本研究の目的は、訓練された音声モデルから特定のデータの影響を、完全に再訓練することなく効率的に効果的に除去することである。 プライバシー保護、時代遅れまたはノイズの多いデータの削除、バイアス軽減に重要な応用がある。
  論文  参考訳（メタデータ） (2025-06-01T06:04:16Z)
• DeSTA2: Developing Instruction-Following Speech Language Model Without Speech Instruction-Tuning Data [84.01401439030265]
  最近のエンドツーエンド言語モデル(SLM)は、大規模言語モデル(LLM)の機能に拡張されている。 音声とテキストのペアデータを生成するための,シンプルで効果的な自動処理手法を提案する。 本モデルでは,音声教育データを必要としない音声関連タスクの汎用性を示す。
  論文  参考訳（メタデータ） (2024-09-30T07:01:21Z)
• DiscreteSLU: A Large Language Model with Self-Supervised Discrete Speech Units for Spoken Language Understanding [51.32965203977845]
  本稿では,連続的な音声エンコーダ出力の代わりに離散音声単位(DSU)を用いることを提案する。 提案モデルでは, 未知領域からの音声入力に対する頑健な性能と, 音声質問応答における指示追従能力を示す。 この結果から,ASRタスクとデータセットは,音声質問応答タスクの指導訓練に必須ではないことが示唆された。
  論文  参考訳（メタデータ） (2024-06-13T17:28:13Z)
• Instruction-Following Speech Recognition [21.591086644665197]
  本稿では,命令追従音声認識を導入し,多様な自由形式のテキスト命令の理解と実行を行うリステン・アテンド・スペルモデルを訓練する。 注目すべきは、我々のモデルは、Librispeechでゼロから訓練され、大規模言語モデルや事前訓練された音声モジュールを必要とせずに、簡単な命令を解釈し、実行します。
  論文  参考訳（メタデータ） (2023-09-18T14:59:10Z)
• Audio Self-supervised Learning: A Survey [60.41768569891083]
  SSL(Self-Supervised Learning)は、人間のアノテーションを必要とせずに、大規模データから一般的な表現を見つけることを目的としている。 コンピュータビジョンと自然言語処理の分野での成功により、近年では音声処理や音声処理の分野で採用されている。
  論文  参考訳（メタデータ） (2022-03-02T15:58:29Z)
• Self-Supervised Learning for speech recognition with Intermediate layer supervision [52.93758711230248]
  自己教師付き学習(ILS-SSL)のための中間層スーパービジョンを提案する。 ILS-SSLは、中間層にSSL損失を追加することで、可能な限りコンテンツ情報に集中させます。 LibriSpeech の他のテストセットの実験により,本手法は HuBERT を著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-12-16T10:45:05Z)
• WavLM: Large-Scale Self-Supervised Pre-Training for Full Stack Speech Processing [102.45426364965887]
  そこで本研究では,フルスタックダウンストリーム音声タスクを解決するための,事前学習型モデルWavLMを提案する。 WavLMはHuBERTフレームワークに基づいて構築されており、音声コンテンツモデリングと話者アイデンティティ保存の両方に重点を置いている。 トレーニングデータセットを60k時間から94k時間までの公開オーディオデータにスケールアップし、そのトレーニング手順を最適化して表現抽出を改善する。
  論文  参考訳（メタデータ） (2021-10-26T17:55:19Z)
• Conformer-Based Self-Supervised Learning for Non-Speech Audio Tasks [20.316239155843963]
  本稿では,音声表現学習手法を提案し,それを下流の音声非音声タスクに適用する。 AudioSetベンチマークでは、平均平均精度(mAP)スコアが0.415に達しています。
  論文  参考訳（メタデータ） (2021-10-14T12:32:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。