論文の概要: Honeyed Words, Hidden Daggers: Benchmarking and Training LLMs to See Through Mock Politeness
- arxiv url: http://arxiv.org/abs/2610.26059v1
- Date: Mon, 19 Oct 2026 09:19:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:44:00.782919
- Title: Honeyed Words, Hidden Daggers: Benchmarking and Training LLMs to See Through Mock Politeness
- Title(参考訳): Honeyed Words, Hidden Daggers: モックポリテネスを通したLLMのベンチマークとトレーニング
- Abstract要約: ZhenhuanBenchは1,592石のベンチマークで、宮殿の皇后に関する専門家のコメントから作られている。
話者意図、感情的な言葉のミスマッチ、リスナー毎の取り込みをカバーしている。
GPT-6 アストラは全体の73.48%でリーダーボードをリードし、リスナー反応スコアは58.37%である。
- 参考スコア(独自算出の注目度): 39.486063466850865
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The Chinese idiom "kou mi fu jian" ("honeyed words, hidden daggers") names speech that is polite in form but hostile in function. We present ZhenhuanBench, a 1,592-item benchmark built from expert commentary on Empresses in the Palace, covering speaker intent, emotion-language mismatch, and per-listener uptake. Text-only evaluation covers 34 LLMs. GPT-6 Astra leads the leaderboard at 73.48% overall, while its listener-reaction score is 58.37%. The annotations also supply supervised traces and string-verifiable training rewards. With 338 gold traces, an 8B model outperforms teacher distillation on identical items. Subsequent RL saturates, and chance correction reduces the estimated recoverable performance gap by a factor of 7.5. Our CPR-GRPO loop (Compress-Probe-Replenish) uses this estimate to weight gold supervision, reaching 67.0 on public multiple-choice tasks and 74.5 under the training-matched hidden protocol. Without target-task training, CPR outperforms Base, SFT, and GRPO across six Chinese and English pragmatic and sarcasm evaluations. On three external datasets, training with CPR yields higher mean Macro-F1 than SFT and GRPO.
- Abstract(参考訳): 中国語の慣用句"kou mi fu jian"は、形は丁寧だが、機能的には敵対的な言葉である。
ZhenhuanBenchは1,592石のベンチマークで、宮殿の皇后に関する専門家のコメントから構築され、話者の意図、感情言語によるミスマッチ、リスナー一人当たりの獲得をカバーしている。
テキストのみの評価は34 LLMである。
GPT-6 アストラは全体の73.48%でリーダーボードをリードし、リスナー反応スコアは58.37%である。
アノテーションは、教師付きトレースと文字列検証可能なトレーニング報酬も提供する。
338個の金の痕跡を持つ8Bモデルは、同じアイテムで教師の蒸留を上回ります。
その後RLは飽和し、確率補正により推定される回復可能な性能ギャップを7.5に削減する。
我々のCPR-GRPOループ(Compress-Probe-Replenish)は、この推定値を用いて金の監督を重み付け、公共の多重選択タスクで67.0、トレーニングマッチングされた隠れプロトコルで74.5に達する。
目標タスクトレーニングがなければ、CPRは、中国語と英語の6つの実践的および皮肉な評価において、Base、SFT、GRPOを上回ります。
3つの外部データセットでは、CPRによるトレーニングにより、SFTやGRPOよりも平均的なマクロF1が得られる。
関連論文リスト
- Pronouncing Hard Words: Phoneme Adaptation of a Pretrained Conversational Text to Speech Model [50.335253821316805]
プレ/ミドルトレーニングなしで、事前訓練された会話型TSモデルに音素制御性を再現する。
臨床薬の発音評価では, 厳密なジェミニ・ジャッジドの正しさを54.6%から90.7%に引き上げた。
訓練段階が薬名を見ないため、評価全体がドメイン外であるため、学習した発音を記憶するよりも、学習した発音を反映する。
論文 参考訳(メタデータ) (2026-10-16T19:41:23Z) - Learning Lean Feedback for Efficient Proof-Candidate Evaluation on GPUs [13.445668749134411]
我々は、4.84Mラベル付きプログラムを使用して、ニューラルネットワーク評価器をトレーニングし、Lean 4の予測とコンパイラフィードバックをGPU上で予測する。
候補を分類器でスクリーニングし、フィードバックモデルで肯定的な予測をスコアする2段階評価器は、Leanが候補証明を受け入れたかどうかを予測する精度が87.8%に達する。
評価ツールとリーンの判断を組み合わせることで,GRPOのトレーニングステップを約31%短縮するハイブリッド報酬システムを実現しています。
論文 参考訳(メタデータ) (2026-10-15T13:46:41Z) - A Sovereign, Indic-First, Reasoning Model [0.0]
Gnani-Evon-v3.3-30B-A3B (Gnani-Evon-v3.3-30B-A3B) は、英語とインドの8つの言語における推論、指示、ツール使用のための長文ハイブリッド型Mamba-Transformerモデルである。
52層のバックボーンを保持し、語彙、トレーニングデータ、訓練後の目的を変更する。
論文 参考訳(メタデータ) (2026-10-11T05:52:29Z) - TeachGrade: Training-Free Short Answer Scoring with Teacher Evidence [17.711751115047292]
TeachGradeは、教師級の例を使ったトレーニング不要のフレームワークである。
12タスクにわたる3,829のSAS-Bench回答では、公式なマクロ協調一貫性スコア(CCS)がネイティブの67.99から81.32(+13.33ポイント)に上昇した。
論文 参考訳(メタデータ) (2026-10-10T13:22:16Z) - Robust Assamese Speech Recognition through Controlled Fine-Tuning of Whisper Models [1.4095958360608893]
本稿ではMozilla Common Voice 24.0-Assamese corpusで学習したWhisper-based Assamese ASRシステムについて述べる。
ハードウェア対応の最適化トレーニングパイプラインは、リソース制約のある環境向けに実装されている。
論文 参考訳(メタデータ) (2026-07-19T09:54:52Z) - RTLC -- Research, Teach-to-Learn, Critique: A three-stage prompting paradigm inspired by the Feynman Learning Technique that lifts LLM-as-judge accuracy on JudgeBench with no fine-tuning [0.0]
RTLC は単一のブラックボックス LLM を微調整、検索、外部ツールのないアンサンブル・オブ・シント・ジャッジにプロモートする。
RTLCがN=10の得票率(77.7%)とゼロショット第1候補(74.0%)を破る
RTLCは、ポストホックの判定スコアの校正で構成され、2つの介入が実際に乗法的に合成される。
論文 参考訳(メタデータ) (2026-05-13T15:48:16Z) - Breaking Language Barriers in Multilingual Mathematical Reasoning: Insights and Observations [59.056367787688146]
本稿では, マルチリンガル数学推論 (xMR) LLM の探索と学習の先駆者である。
我々は10の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
翻訳を利用して、10個の異なる言語を含む最初の多言語数学推論命令データセットMGSM8KInstructを構築した。
論文 参考訳(メタデータ) (2023-10-31T08:09:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。