論文の概要: Forgive or forget: Understanding the context of hate in audio retrieval systems

• arxiv url: http://arxiv.org/abs/2606.05857v1
• Date: Thu, 04 Jun 2026 08:29:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-05 22:39:44.647822
• Title: Forgive or forget: Understanding the context of hate in audio retrieval systems
• Title（参考訳）: Forgive or forget: 音声検索システムにおける憎悪の文脈理解
• Authors: Arghya Pal, Sailaja Rajanala, Raphael C. -W. Phan, Shekhar Nayak,
• Abstract要約: 既存の戦略(例えば、言い換え、要約)は意図を変えるか、詳細を省略する。 本稿では,感情制御媒介者が有害な言論を抑えながら意味的関連性を維持するために,感傷的因果性嫌悪の枠組みを提案する。 我々のアプローチはモデルに依存しず、既存の検索パイプラインとシームレスに統合されます。
• 参考スコア（独自算出の注目度）: 9.716306854178216
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Handling toxic retrieval in text-to-audio systems is challenging due to contextual dependencies. Existing strategies (e.g., rephrasing, summarization) risk altering intent or omitting details. We propose a post hoc causal debiasing framework with a sentiment-controlled mediator to preserve semantic relevance while suppressing harmful speech. Our approach is model-agnostic and integrates seamlessly with existing retrieval pipelines. We introduce two variants: Forgive, which re-ranks and filters toxic audio via logit adjustment, and Forget, which generates counterfactual toxic prompts to mitigate harmful retrievals. Experiments show consistent toxicity reduction with minimal loss in retrieval accuracy, improving both safety and reliability.
• Abstract（参考訳）: テクスト・ツー・オーディオシステムにおける有害な検索の扱いは、文脈依存のため困難である。 既存の戦略(例えば、言い換え、要約)は意図を変えるリスクや詳細を省略します。 本稿では,感情制御媒介者が有害な言論を抑えながら意味的関連性を維持するために,感傷的因果性嫌悪の枠組みを提案する。 我々のアプローチはモデルに依存しず、既存の検索パイプラインとシームレスに統合されます。 Forgiveはロジット調整によって有害なオーディオを再ランクしフィルタする手法であり、Forgetは有害な検索を軽減するための有害なプロンプトを生成する。 実験では、検索精度の低下を最小限に抑えながら、一貫した毒性の低下を示し、安全性と信頼性の両方を改善した。

関連論文リスト

• Beyond Content: A Comprehensive Speech Toxicity Dataset and Detection Framework Incorporating Paralinguistic Cues [17.62673716826934]
  ToxiAlert-Benchは7つの主要な毒性カテゴリと20のきめ細かい毒性ラベルを付加した大規模オーディオデータセットである。 本稿では,有毒な音声検出に適した多段階トレーニング戦略を持つデュアルヘッドニューラルネットワークを提案する。 実験結果から,パラ言語的特徴の活用は検出性能を著しく向上させることが示された。
  論文  参考訳（メタデータ） (2026-05-15T14:17:19Z)
• Measuring and Mitigating Toxicity in Large Language Models: A Comprehensive Replication Study [0.0]
  Webスケールコーパスでトレーニングされた大規模言語モデル(LLM)は、本質的にトレーニングデータから有害なパターンを吸収する。 復号時間エキスパート(Decoding-time Experts, DExperts)は、モデルの再訓練を必要とせずに生成を行う推論時間緩和手法である。 この研究は、明示的な毒性軽減と暗黙的な毒性軽減のギャップを強調することで、AI安全性に関する研究の活発化に寄与する。
  論文  参考訳（メタデータ） (2026-05-13T20:12:30Z)
• Explain the Flag: Contextualizing Hate Speech Beyond Censorship [2.796818629124347]
  本稿では,Large Language Models(LLMs)と新たに作成された3つの語彙を組み合わせたハイブリッドアプローチを提案する。 本システムでは,2つの相補的なパイプラインを通して,個人特性と直接グループ目標コンテンツに関連付けられた弁解表現を抽出する。 アウトプットは、なぜコンテンツがフラグ付けされているのかを明確にする根拠付きの説明に融合される。
  論文  参考訳（メタデータ） (2026-04-16T13:06:28Z)
• Synthetic Voices, Real Threats: Evaluating Large Text-to-Speech Models in Generating Harmful Audio [63.18443674004945]
  この研究は、TSシステムを利用して有害なコンテンツを含む音声を生成する、コンテンツ中心の脅威を探究する。 HARMGENは、これらの課題に対処する2つのファミリーにまとめられた5つの攻撃群である。
  論文  参考訳（メタデータ） (2025-11-14T03:00:04Z)
• Exploiting Vulnerabilities in Speech Translation Systems through Targeted Adversarial Attacks [59.87470192277124]
  本稿では,非知覚的音声操作による音声翻訳システム構築手法について検討する。 本研究では,(1)ソース音声への摂動注入,(2)ターゲット翻訳を誘導する対向音楽の生成という2つの革新的なアプローチを提案する。 我々の実験では、注意深く作られた音声摂動は、ターゲットとなる有害な出力を生成するために翻訳モデルを誤解させる可能性があるが、敵対的な音楽はこの目標をより隠蔽的に達成する。 この研究の意味は、直ちにセキュリティ上の懸念を越えて、ニューラル音声処理システムの解釈可能性と堅牢性に光を当てることである。
  論文  参考訳（メタデータ） (2025-03-02T16:38:16Z)
• Illusions of Relevance: Using Content Injection Attacks to Deceive Retrievers, Rerankers, and LLM Judges [52.96987928118327]
  検索,リランカー,大型言語モデル(LLM)の埋め込みモデルは,コンテンツインジェクション攻撃に対して脆弱であることがわかった。 主な脅威は,(1) 意味不明な内容や有害な内容の挿入,(2) 関連性を高めるために,問合せ全体あるいはキークエリ用語の挿入,の2つである。 本研究は, 注射内容の配置や関連物質と非関連物質とのバランスなど, 攻撃の成功に影響を与える要因を系統的に検討した。
  論文  参考訳（メタデータ） (2025-01-30T18:02:15Z)
• On the Role of Speech Data in Reducing Toxicity Detection Bias [22.44133159647888]
  マルチリンガルな MuTox データセットに対して,高品質なグループアノテーションセットを作成する。 次に、これらのアノテーションを利用して、音声およびテキストに基づく毒性分類器を体系的に比較する。 以上の結果から,推測中の音声データへのアクセスは,グループ言及に対する偏見の低減に役立つことが示唆された。
  論文  参考訳（メタデータ） (2024-11-12T19:26:43Z)
• Elastic Weight Removal for Faithful and Abstractive Dialogue Generation [61.40951756070646]
  対話システムは、関連する文書に含まれる知識に忠実な応答を生成するべきである。 多くのモデルは、それと矛盾したり、検証不可能な情報を含んでいる代わりに幻覚応答を生成する。 本手法は,幻覚と抽出反応を同時に阻止するために拡張できることが示唆された。
  論文  参考訳（メタデータ） (2023-03-30T17:40:30Z)
• Challenges in Automated Debiasing for Toxic Language Detection [81.04406231100323]
  バイアスド・アソシエーションは、有害な言語を検出するための分類器の開発において課題となっている。 我々は最近,有害な言語検出に適用されたテキスト分類データセットとモデルに対するデバイアス法について検討した。 我々の焦点は語彙(例えば、誓い言葉、スラー、アイデンティティの言及)と方言マーカー(特にアフリカ系アメリカ人の英語)である。
  論文  参考訳（メタデータ） (2021-01-29T22:03:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。