論文の概要: Does the Linguistic Register of Thinking Matter? Wenyan as a Compact Reasoning Register for Chinese LLMs
- arxiv url: http://arxiv.org/abs/2610.19741v1
- Date: Wed, 14 Oct 2026 08:04:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.027066
- Title: Does the Linguistic Register of Thinking Matter? Wenyan as a Compact Reasoning Register for Chinese LLMs
- Title(参考訳): 言語学的思考登録簿は、中国のLLMのコンパクト推論登録簿として存在するか?
- Abstract要約: 古典中国語の中間的推論を発信するウイニャン思考(ウイニャンウェン)を提案する。
我々は、同じソースデータ、教師家族、ベースモデル、SFTレシピを用いて、コンパクトな現代中国語制御を構築する。
Wenyan氏は、主要なベンチマークでコンパクトな現代中国語コントロールを一貫して上回り、追加ベンチマークで競争力を維持している。
- 参考スコア(独自算出の注目度): 20.96368967546077
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Visible reasoning traces of Chinese reasoning-oriented LLMs are typically written in modern vernacular Chinese, which may be verbose under limited decoding budgets. We ask whether the linguistic register of reasoning can be used to improve efficiency. We propose Wenyan Thinking, which emits intermediate reasoning in Classical Chinese (wenyanwen) while retaining a short direct-answer output. Starting from modern-Chinese reasoning traces, we rewrite only the reasoning field into wenyan and fine-tune Qwen3-4B-Thinking-2507 on the rewritten supervision. To distinguish register shift from generic compression, we construct a compact modern-Chinese control using the same source data, teacher family, base model, and SFT recipe. Across budget-sensitive evaluations on MMLU-ProX-Lite-ZH, CEVAL, and AGIEval-CN, Wenyan Thinking substantially reduces reasoning length and missing-answer rates under constrained decoding. Compact rewriting explains much of the efficiency gain, while wenyan consistently outperforms the compact modern-Chinese control on the primary benchmark and remains competitive across the additional benchmarks. These results identify linguistic register as a practical design axis for efficient visible reasoning in Chinese LLMs.
- Abstract(参考訳): 中国の推論指向のLLMの可視的推論トレースは、典型的には現代中国語で書かれており、限定的な復号予算の下では冗長である。
推論の言語レジスタが効率向上に有効かどうかを問う。
本稿では,古典中国語で中間的推論を出力し,短時間のダイレクト・アンサー・アウトプットを維持できるWenyan Thinkingを提案する。
現代中国語の推論トレースから始めて、我々は推論フィールドのみをウィニアンと微調整のQwen3-4B-Thinking-2507に書き換えた。
レジスタシフトとジェネリック圧縮を区別するために、同じソースデータ、教師家族、ベースモデル、SFTレシピを用いて、コンパクトな現代中国語制御を構築する。
MMLU-ProX-Lite-ZH, CEVAL, およびAGIEval-CNに対する予算に敏感な評価では、Wenyan Thinkingは制約付き復号法における推論長と解答率を大幅に削減する。
コンパクトリライトは効率性の大部分を説明できる一方、Wenyanは主要なベンチマークでコンパクトな現代中国語の制御を一貫して上回り、追加ベンチマークでは競争力を維持している。
これらの結果は,中国語LLMにおける効率的な可視的推論のための実用的な設計軸として言語レジスタを同定する。
関連論文リスト
- ChLogic: Evaluating Robustness of Logical Reasoning in Chinese Expressions [9.811382608695341]
ChLogicは、同じ潜在論理構造が英語および多種多様な中国表面実現で表されるときに、モデルが論理的推論性能を維持するかどうかをテストする、英語と中国語の一致したベンチマークである。
Qwen3、Ministral、GLMモデルの実験では、持続的な英語と中国語のパフォーマンスギャップが明らかになった。
標準中国語から英語への逆翻訳は、しばしばジェネラル・アライメント・セットのパフォーマンスを改善するが、ディフィカルト・アライメント・セットに混合効果をもたらす。
論文 参考訳(メタデータ) (2026-06-16T13:28:57Z) - DivLogicEval: A Framework for Benchmarking Logical Reasoning Evaluation in Large Language Models [58.439517684779936]
本稿では,多種多様な文からなる自然文からなる古典論理ベンチマークDivLogicEvalを提案する。
また,より信頼性の高い評価を実現するために,大規模言語モデルに固有のバイアスやランダム性の影響を緩和する新たな評価指標を導入する。
論文 参考訳(メタデータ) (2025-09-19T04:40:46Z) - Dissecting Logical Reasoning in LLMs: A Fine-Grained Evaluation and Supervision Study [40.143148197878354]
我々は3次元にわたる論理的推論を評価するためのきめ細かい評価フレームワークであるFinalLogicを紹介した。
微調整形推論能力の異なる監督形式について検討する。
自然言語の監督は一般化において優れており、シンボリックな監督は構造的に健全な原子推論のステップを打つのに優れている。
論文 参考訳(メタデータ) (2025-06-05T09:34:12Z) - Sketch-of-Thought: Efficient LLM Reasoning with Adaptive Cognitive-Inspired Sketching [64.74765550805024]
Chain-of-Thoughtはステップバイステップの問題解決を促すが、中間出力の過剰な冗長性を犠牲にすることが多い。
我々は,認知にインスパイアされた推論パラダイムを言語制約と統合する促進フレームワークであるSketch-of-Thought(SoT)を提案する。
SoTはトークンを最大84%削減し、18の推論データセットで最小限の精度ロスを達成している。
論文 参考訳(メタデータ) (2025-03-07T06:57:17Z) - SoftCoT: Soft Chain-of-Thought for Efficient Reasoning with LLMs [48.28847964704554]
CoT(Chain-of-Thought)推論により、LLM(Large Language Models)は複雑な推論タスクを解くことができる。
LLMの変更を必要としない連続空間推論のための新しい手法を提案する。
論文 参考訳(メタデータ) (2025-02-17T18:52:29Z) - Training Large Language Models to Reason in a Continuous Latent Space [71.0274000348354]
我々は、言語を超えた推論の可能性を探るため、Coconut (Chain of Continuous Thought)と呼ばれる新しいパラダイムを導入します。
この状態を単語に復号するのではなく、連続した空間に直接埋め込む次の入力としてモデルにフィードバックします。
この潜在的推論パラダイムは、継続的思考が複数の代替の次のステップをエンコードできる高度な推論パターンを可能にする。
論文 参考訳(メタデータ) (2024-12-09T18:55:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。