論文の概要: Bias Mitigation in Audio-Enabled LLMs through Adversarial Training and Distillation Methods

• arxiv url: http://arxiv.org/abs/2610.21763v1
• Date: Thu, 15 Oct 2026 12:19:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-17 06:09:33.063236
• Title: Bias Mitigation in Audio-Enabled LLMs through Adversarial Training and Distillation Methods
• Title（参考訳）: 敵対的学習と蒸留法によるLLMのバイアス低減
• Abstract要約: モデルによる性別認識は、他のベンチマークタスクのパフォーマンスを損なうことなく、逆法を用いて学習できることを示す。 提案手法を3つのAuLLMに適用し, 性別学習部で満足な結果を得るとともに, 蒸留部で部分的に満足な結果を得る。
• 参考スコア（独自算出の注目度）: 21.194185740548054
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Audio-enabled large language models (AuLLMs) allow users to interact with them simply by talking to them, without the need for an intermediate transcription. This expands the model's accessibility and capabilities by encoding non-verbal cues. However, using non-verbal cues may lead to biased behaviour based on the attributes inferred (or assumed) from them. In this work, we focus on the gender attribute and show that models' perception of it can be unlearned using adversarial methods without a loss in performance on other benchmarked tasks. Such models are useful in situations where gender inference is unwanted. However, in other practical settings, gender perception (without bias) may be desired.As a less radical measure, we distil the gender-agnostic model, creating a model that perceives gender but responds similarly to the gender-agnostic teacher, unless explicitly asked.We apply our newly proposed methods to three AuLLMs and obtain satisfactory results in the gender-unlearning part and partially satisfactory results in the distilling part.
• Abstract（参考訳）: オーディオ対応の大規模言語モデル (AuLLMs) では、ユーザーは中間的な文字起こしを必要とせず、単に話しかけることで対話できる。 これにより、非言語的なキューを符号化することで、モデルのアクセシビリティと機能を拡張することができる。 しかし、非言語的手がかりを使用することは、それらから推論された(または仮定された)属性に基づいてバイアスのある振る舞いを引き起こす可能性がある。 本研究は,性別属性に焦点をあて,他のベンチマークタスクのパフォーマンスを損なうことなく,逆法を用いてモデルが知覚できることを示す。 このようなモデルは、性別の推測が望ましくない状況において有用である。 しかし,他の実践的な設定では,男女認識(偏見を伴わない)が望まれる場合がある。より急進的な尺度として,性別を知覚するが,明示的には問わない,男女認識の教師に類似するモデルを作成し,新たに提案した手法を3つのAuLLMに適用し,性別学習部で満足な結果を得るとともに,蒸留部で部分的に満足な結果を得る。

関連論文リスト

• Gender Bias Mitigation for Bangla Classification Tasks [2.6285986998314783]
  バングラ語事前学習言語モデルにおける性別バイアスについて検討する。 名前と性別固有の用語を変更することで、これらのデータセットが性別バイアスを検出し緩和するのに適していることを確認した。
  論文  参考訳（メタデータ） (2024-11-16T00:04:45Z)
• Disclosure and Mitigation of Gender Bias in LLMs [64.79319733514266]
  大規模言語モデル(LLM)はバイアス応答を生成することができる。 条件生成に基づく間接探索フレームワークを提案する。 LLMにおける明示的・暗黙的な性バイアスを明らかにするための3つの戦略を探求する。
  論文  参考訳（メタデータ） (2024-02-17T04:48:55Z)
• Probing Explicit and Implicit Gender Bias through LLM Conditional Text Generation [64.79319733514266]
  大規模言語モデル(LLM)はバイアスと有害な応答を生成する。 本研究では,あらかじめ定義されたジェンダーフレーズやステレオタイプを必要としない条件付きテキスト生成機構を提案する。
  論文  参考訳（メタデータ） (2023-11-01T05:31:46Z)
• Integrating Language Models into Direct Speech Translation: An Inference-Time Solution to Control Gender Inflection [23.993869026482415]
  本稿では,音声翻訳における話者関連性摂動を制御するための最初の推論時解を提案する。 我々のソリューションは、STデコーダによって暗黙的に学習された(バイアス付き)内部言語モデル(LM)を、性別固有の外部LMに部分的に置き換える。
  論文  参考訳（メタデータ） (2023-10-24T11:55:16Z)
• How To Build Competitive Multi-gender Speech Translation Models For Controlling Speaker Gender Translation [21.125217707038356]
  発音性言語から文法性言語に翻訳する場合、生成された翻訳は、話者を参照する者を含む様々な単語に対して、明確なジェンダー代入を必要とする。 このような偏見や包括的行動を避けるために、話者の性別に関する外部から提供されたメタデータによって、話者関連表現の性別割当を導出すべきである。 本稿では、話者のジェンダーメタデータを単一の「マルチジェンダー」ニューラルSTモデルに統合し、維持しやすくすることで、同じ結果を達成することを目的とする。
  論文  参考訳（メタデータ） (2023-10-23T17:21:32Z)
• DiFair: A Benchmark for Disentangled Assessment of Gender Knowledge and Bias [13.928591341824248]
  事前訓練された言語モデルでよく見られる性別バイアスを軽減するために、デバイアス技術が提案されている。 これらはしばしば、予測においてモデルが性中立である範囲をチェックするデータセットで評価される。 この評価プロトコルは、バイアス緩和が有意義なジェンダー知識に悪影響を及ぼす可能性を見落としている。
  論文  参考訳（メタデータ） (2023-10-22T15:27:16Z)
• No Pitch Left Behind: Addressing Gender Unbalance in Automatic Speech Recognition through Pitch Manipulation [20.731375136671605]
  本稿では,基本周波数(f0)とホルマントを操作するデータ拡張手法を提案する。 この手法は、表現不足の女性話者の声をシミュレートすることにより、性別間のデータ不均衡を低減する。 自発性英語音声の実験では,女性話者の発話に対して,WERの相対的な改善が9.87%に達することが示された。
  論文  参考訳（メタデータ） (2023-10-10T12:55:22Z)
• The Impact of Debiasing on the Performance of Language Models in Downstream Tasks is Underestimated [70.23064111640132]
  我々は、幅広いベンチマークデータセットを用いて、複数の下流タスクのパフォーマンスに対するデバイアスの影響を比較した。 実験により、デバイアスの効果は全てのタスクにおいて一貫して見積もられていることが示されている。
  論文  参考訳（メタデータ） (2023-09-16T20:25:34Z)
• Gender Biases in Automatic Evaluation Metrics for Image Captioning [87.15170977240643]
  画像キャプションタスクのためのモデルに基づく評価指標において、性別バイアスの体系的研究を行う。 偏りのある世代と偏りのない世代を区別できないことを含む、これらの偏りのあるメトリクスを使用することによる負の結果を実証する。 人間の判断と相関を損なうことなく、測定バイアスを緩和する簡便で効果的な方法を提案する。
  論文  参考訳（メタデータ） (2023-05-24T04:27:40Z)
• Mitigating Gender Bias in Distilled Language Models via Counterfactual Role Reversal [74.52580517012832]
  言語エクセルモデルは、性中立性を持つ男女の知識を含むバイアスを受けることができる。 本稿では,複数の学習ロール設定に基づくジェンダー格差を緩和するための新しいアプローチを提案する。 男女極性言語を減少させるモデルは、公平さや下流の分類を改善しない。
  論文  参考訳（メタデータ） (2022-03-23T17:34:35Z)
• Multi-Dimensional Gender Bias Classification [67.65551687580552]
  機械学習モデルは、性別に偏ったテキストでトレーニングする際に、社会的に望ましくないパターンを不注意に学習することができる。 本稿では,テキスト中の性バイアスを複数の実用的・意味的な次元に沿って分解する一般的な枠組みを提案する。 このきめ細かいフレームワークを用いて、8つの大規模データセットにジェンダー情報を自動的にアノテートする。
  論文  参考訳（メタデータ） (2020-05-01T21:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。