論文の概要: SpeechCritic: Learning a Diagnostic Speech Judge from Limited Human Preferences
- arxiv url: http://arxiv.org/abs/2609.34582v1
- Date: Mon, 28 Sep 2026 08:24:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 12:15:18.188235
- Title: SpeechCritic: Learning a Diagnostic Speech Judge from Limited Human Preferences
- Title(参考訳): SpeechCritic: 限られた人間の選好から診断音声判断を学習する
- Abstract要約: SpeechCriticは、約300の人間ラベルの比較から、基準条件付き言語間設定で診断ジャッジを学習する。
SpeechCritic がこれらのラベルで校正することを示す。
次に、この監督下で7B判事を訓練し、異なる訓練信号が異なる判断行動を形成することを見つけます。
- 参考スコア(独自算出の注目度): 8.012710351205852
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Human speech conveys rich perceptual information, such as emotion and speaker identity, yet most automatic speech quality judges reduce it to a single naturalness score. We study diagnostic speech judges: given two candidates, a diagnostic judge decides which is better, along which perceptual dimensions (e.g., timbre, emotion, timing) they differ, and which audible cues support its decision. Learning such judges is challenging: expert annotation is costly, and simply prompting a frontier audio-language model to produce labels is unreliable: our probing reveals substantial errors and unstable instruction following. We introduce SpeechCritic, which learns a diagnostic judge in a reference-conditioned cross-lingual setting from only about 300 human-labeled comparisons. Rather than replacing the frontier model, SpeechCritic calibrates it with these labels: for each dimension, it selects the acoustic measurements that agree with human judgments, maps them to A/Tie/B probabilities, and passes these to the model as non-binding hints alongside the audio. Compared with the same model labeling without hints, this raises dimension-level agreement with humans by 6.3 points and cuts the mismatch with human Tie rates by 10.4 points. We then train a 7B judge on this supervision and find that different training signals shape different judge behaviors: SFT establishes the task, OPD transfers the teacher's dimension-level strengths and weaknesses, and RL helps most on clear-cut comparisons where human raters agree. Notably, human listeners also find that RL makes rationales cite more specific, localized acoustic cues, although it never directly rewards rationale text. Finally, we show that the pipeline is language-pair agnostic by instantiating it on both English-Japanese and English-Spanish. Together, these results demonstrate a path from limited human preferences to a diagnostic speech judge.
- Abstract(参考訳): 人間の発話は、感情や話者のアイデンティティなどの豊富な知覚情報を伝達するが、ほとんどの自動的な音声品質判断器は、それを1つの自然度スコアに還元する。
本研究は,2つの候補について検討し,どちらがよいか,どの知覚的次元(例えば,音色,感情,タイミング)が異なるか,どの聴覚的手がかりがその決定を支持するかを検討した。
専門家のアノテーションはコストがかかり、ラベルを生成するためのフロンティアなオーディオ言語モデルを単純に促すことは、信頼できない。
我々は,約300の人ラベル比較から,基準条件付き言語間設定における診断判断を学習するSpeechCriticを紹介した。
また、フロンティアモデルを置き換える代わりに、SpeechCriticはこれらのラベルを校正する: それぞれの次元において、人間の判断に合致する音響測定を選択し、それらをA/Tie/B確率にマッピングし、これらをオーディオの横にある非結合ヒントとしてモデルに渡す。
ヒントのない同じモデルラベリングと比較して、これは人間との次元レベルの合意を6.3ポイント引き上げ、人間のティーレートとのミスマッチを10.4ポイント削減する。
SFTはタスクを確立し、PDは教師の次元レベルの強みと弱みを伝達し、RLは人間のレイパーが同意する明確な比較に最も役立ちます。
人間のリスナーは、RLがより特殊で局所的な音響的手がかりを引用する合理性を持っていることもわかっています。
最後に、パイプラインは英語と英語とスペイン語の両方でインスタンス化することで、言語対非依存であることを示す。
これらの結果は,ヒトの嗜好が限られたものから,診断音声判断者への道筋を示すものである。
関連論文リスト
- Hearing Like Humans? Sound Symbolism and Perceptual Alignment in Speech Language Models [42.615235483872844]
音声記号(英: Sound symbolism)とは、音声を丸さや鋭さなどの知覚的な性質にマッピングする人間の傾向であり、主にスペルではなく音声の音響から生じる。
本研究は、実際の人間の音声記録を用いて、その効果の聴覚、クロスモーダル、視覚的要素にまたがる人間のデータとモデル判断を比較して研究する。
音声言語モデルの聴覚判断は、人間の知覚と不一致であり、人間の直感を駆動するスペクトル傾きなどの音響的手がかりを見逃すことが判明した。
論文 参考訳(メタデータ) (2026-07-11T06:55:40Z) - The Voice Behind the Words: Quantifying Intersectional Bias in SpeechLLMs [34.359037939013085]
音声大言語モデル(SpeechLLMs)は音声入力を直接処理し、アクセントや知覚性などの手がかりを保持する。
我々は,2,880の対話を用いた3つのSpeechLLMにおけるアクセントと性差の大規模交叉評価を行った。
論文 参考訳(メタデータ) (2026-03-15T16:54:36Z) - SpeakerSleuth: Evaluating Large Audio-Language Models as Judges for Multi-turn Speaker Consistency [12.420484491347073]
LALMがマルチターン対話における話者の一貫性を確実に判断できるかどうかを評価するベンチマークである SpeakerSleuth を提案する。
合成音声と実音声を対象とする4つの多種多様なデータセットを対象とした1,818の人間検証評価インスタンスを構築した。
モデルは音響的不整合を確実に検出するのに苦労している。
論文 参考訳(メタデータ) (2026-01-07T15:45:41Z) - SpeechR: A Benchmark for Speech Reasoning in Large Audio-Language Models [60.72029578488467]
SpeechRは、大規模な音声言語モデルにおける音声に対する推論を評価するための統一的なベンチマークである。
事実検索、手続き推論、規範的判断の3つの重要な側面に沿ったモデルを評価する。
11個の最先端のLALMの評価は、高い転写精度が強い推論能力に変換されないことを示している。
論文 参考訳(メタデータ) (2025-08-04T03:28:04Z) - SpeechIQ: Speech Intelligence Quotient Across Cognitive Levels in Voice Understanding Large Language Models [76.07833875692722]
音声に基づくインテリジェンス・クオシエント(SIQ)は、人間の認知にインスパイアされた評価パイプラインの新たな形態であり、大きな言語モデルを理解するためのものである。
私たちのフレームワークは、認知原則を音声指向のベンチマークでブリッジする、第一種知能検査を表現しています。
論文 参考訳(メタデータ) (2025-07-25T15:12:06Z) - AudioJudge: Understanding What Works in Large Audio Model Based Speech Evaluation [55.607230723223346]
本研究は,Large Audio Model (LAM) をAudioJudgeの裁判官として体系的に研究し,両課題に対処する統一評価フレームワークを提供することができるかどうかを検討する。
本稿では、発音、発話速度、話者識別、音声品質、自動ベンチマークのためのシステムレベルの人間の嗜好シミュレーションなど、音声特徴検出タスクにまたがるAudioJudgeについて検討する。
本稿では,多視点アンサンブルAudioJudgeを導入し,音声評価を語彙内容,音声品質,パラ言語特徴の専門判断者に分解し,人間の嗜好と最大0.91のスピアマン相関を達成させる手法を提案する。
論文 参考訳(メタデータ) (2025-07-17T00:39:18Z) - Audio-Aware Large Language Models as Judges for Speaking Styles [123.36224336701237]
音声認識型大言語モデル(ALLM)を自動判断器として用いて音声の話し方を評価する。
4つの音声言語モデル(SLM)を用いて2つのタスクを完了し、人間とALMを用いてSLMの応答を判断する。
以上の結果から,現在のSLM,GPT-4o-audioでさえも,発話スタイルの制御や自然な対話生成に改善の余地があることが示唆された。
論文 参考訳(メタデータ) (2025-06-06T11:05:48Z) - CLAIR-A: Leveraging Large Language Models to Judge Audio Captions [73.51087998971418]
機械生成オーディオキャプションの評価は、様々な要因を検討する必要がある複雑なタスクである。
本稿では,大規模言語モデルのゼロショット機能を活用するシンプルで柔軟なCLAIR-Aを提案する。
我々の評価では、CLAIR-Aは従来のメトリクスと比較して品質の人的判断を良く予測する。
論文 参考訳(メタデータ) (2024-09-19T17:59:52Z) - Establishing degrees of closeness between audio recordings along
different dimensions using large-scale cross-lingual models [4.349838917565205]
そこで本稿では,メタデータを慎重にキュレートした音声録音におけるABXテストを用いた教師なしの新しい手法を提案する。
3つの実験が考案され、1つは室内音響、もう1つは言語学的ジャンル、もう1つは音声学的側面である。
その結果,異なる言語・言語的特徴を持つ記録から抽出した表現は,同じ線に沿って異なることが明らかとなった。
論文 参考訳(メタデータ) (2024-02-08T11:31:23Z) - The Perceptimatic English Benchmark for Speech Perception Models [11.646802225841153]
ベンチマークは、ABX刺激と91人のアメリカ語を話すリスナーの反応で構成されている。
標準的な英語音声認識器であるDeepSpeechは、英語のリスナーよりも英語の音素識別に特化していることを示す。
論文 参考訳(メタデータ) (2020-05-07T12:35:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。