論文の概要: Chinese Decision: A Family of Language Models for Single-Pass Probabilistic Decision-Making
- arxiv url: http://arxiv.org/abs/2610.23170v1
- Date: Fri, 16 Oct 2026 09:08:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.838374
- Title: Chinese Decision: A Family of Language Models for Single-Pass Probabilistic Decision-Making
- Title(参考訳): 中国語決定:単一パス確率決定のための言語モデルの一家系
- Abstract要約: 我々は、単一パス確率的意思決定のための中国語モデルのファミリーである中国語決定を提示する。
13.048万の判定で分布クロスエントロピーでトレーニングした0.8Bモデルと、追加のRCCD目標でトレーニングした2Bチェックポイントを報告する。
2Bモデルは40.13%の期間を経て72.56%の一般ドメイン精度に達するが、専門ドメイン平均では0.8Bモデルを超えていない。
- 参考スコア(独自算出の注目度): 1.8430422880689117
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many language-based applications require probabilities over a finite set of decisions rather than open-ended responses. We present Chinese Decision, a family of Chinese-language models for single-pass probabilistic decision-making. Given context, an instruction, and candidate descriptions, the model extracts final-position candidate-letter logits in one forward pass and normalizes them over valid options, without autoregressive answer generation. A shared interface supports Boolean judgments, categorical choices, and ordinal scores. We report a completed 0.8B model trained with distribution cross-entropy on 13.048 million decisions and preliminary 2B checkpoints trained with an additional RLCD objective. On the full CJ-Bench of 307,900 decisions, the uncalibrated 0.8B model achieves 72.24% general-domain accuracy and 76.98% average accuracy across medicine, law, and finance using a single checkpoint, with 1.07% overall expected calibration error. The 2B model reaches 72.56% general-domain accuracy after 40.13% of one epoch but has not surpassed the completed 0.8B model on the professional-domain average. We further evaluate a validation-temperature-scaled deployment model and its Q8 quantization, finding close aggregate performance while documenting individual prediction changes. We release the training, evaluation, and deployment pipeline. The current results establish a reproducible approach to Chinese probabilistic decisions but do not isolate the effect of model scale.
- Abstract(参考訳): 多くの言語ベースのアプリケーションは、オープンな応答ではなく、有限個の決定に対して確率を必要とする。
我々は、単一パス確率的意思決定のための中国語モデルのファミリーである中国語決定を提示する。
文脈、命令、および候補記述が与えられたモデルでは、最終位置候補レターロジットを1つの前方通過で抽出し、自動回帰応答生成なしで有効オプションで正規化する。
共有インターフェースはブール判断、カテゴリー選択、順序スコアをサポートする。
13.048万の判定で分布クロスエントロピーでトレーニングした0.8Bモデルと、追加のRCCD目標でトレーニングした2Bチェックポイントを報告する。
307,900の判定の完全なCJ-Benchでは、補正されていない0.8Bモデルは72.24%の一般ドメインの精度と76.98%の平均的な精度を単一のチェックポイントで達成し、総キャリブレーション誤差は1.07%である。
2Bモデルは40.13%の期間を経て72.56%の一般ドメイン精度に達するが、専門ドメイン平均では0.8Bモデルを超えていない。
さらに,個別の予測変化を文書化しながら,検証・温度スケール展開モデルとそのQ8量子化を評価した。
トレーニング、評価、デプロイメントパイプラインをリリースしています。
現在の結果は、中国の確率論的決定に対する再現可能なアプローチを確立するが、モデルスケールの効果を分離しない。
関連論文リスト
- Intern-Decision: Efficient Multimodal Decision Making with Autoregressive Masked Language Modeling [26.882267847221353]
Intern-Decisionは0.8B、2B、4Bマルチモーダル決定モデルである。
我々の自己回帰型マスキング言語は、フィールドごとに1つの決定的プレースホルダーを完全なアシスタントスケルトンに配置する。
結果は、より大きなエージェントシステムの実用的なコンポーネントとして、コンパクトな決定モデルをサポートする。
論文 参考訳(メタデータ) (2026-10-15T16:05:48Z) - Large Decision Models: Repurposing Large Language Models as Single-Pass Decision Makers [11.47184779374245]
本研究では,実行時に指定されたラベルよりも明確な確率を返すために,言語モデルを再購入する大規模決定モデルを提案する。
まず、DDS(Diverse Decision Supervision)を通じて、さまざまなドメイン、ルール、ラベルをカバーし、このインターフェースにモデルを適用する。
推論モデルに対するパフォーマンスギャップをさらに狭めるため、SPRD(Self-Posed Reasoning Distillation)では、凍結教師が生成したタスクを追加し、回答整合性をフィルタし、繰り返し教師の推論から得られたラベル分布をトレーニングする。
論文 参考訳(メタデータ) (2026-10-11T10:04:59Z) - Semi-Automatic Quantification of Bayesian Networks for Software Decision Support: Comparing WSA and RNM in a Software R&D Organization [1.723850585687833]
半自動的手法は直接の推論を減少させるが、実践者は運用上の決定プロセスから比較した証拠はほとんどない。
我々は、重み付きSum Algorithm (WSA) と Ranked Nodes Method (RNM) を2つの文脈で完全なElicitation-and-quantificationパイプラインとして比較する。
論文 参考訳(メタデータ) (2026-09-25T13:49:10Z) - Auditing System-1 Models on Biosecurity-Relevant Benchmarks: Calibration, Selective Prediction, and Permutation Instability in a Non-Generative Model [0.0]
System-1"モデルは、自己回帰復号化なしで単一の前方パスで構造化された確率的決定を返す。
精度,キャリブレーション,エラー検出,選択予測,および解答オプションが提示される順序に対する感度を測定する。
回転の平均確率は、WMDP-Cyberの精度を3.8ポイント向上させる。
論文 参考訳(メタデータ) (2026-09-24T18:46:53Z) - Pinocchio: Fast Uncertainty Estimates for Black-Box Language Models [73.50370994588927]
ブラックボックスAPIモデルから応答の正しさを推定する外部キャリブレータであるPinocchioを紹介する。
我々のモデルは、不確実な推定を生成するために1つのフォワードパスしか必要とせず、ターゲットモデルのロジット、重み、または内部状態へのアクセスを必要としない。
論文 参考訳(メタデータ) (2026-09-21T16:48:50Z) - Beyond Correctness: Evaluating Subjective Writing Preferences Across Cultures [87.75098311090642]
現在の選好学習法は、標準ベンチマークで高い精度を達成するが、客観的な品質信号を取り除いた場合、顕著な性能劣化を示す。
我々は、8つのクリエイティブな著作ジャンルにまたがる1,800の人手による好みペア(1,200の英語、600の中国語)のデータセットであるWriteingPreferenceBenchを紹介した。
論文 参考訳(メタデータ) (2025-10-16T12:23:13Z) - A Probabilistic Perspective on Unlearning and Alignment for Large Language Models [48.96686419141881]
大規模言語モデル(LLM)のための最初の形式的確率的評価フレームワークを紹介する。
すなわち,モデルの出力分布に関する確率保証の高い新しい指標を提案する。
私たちのメトリクスはアプリケーションに依存しないので、デプロイ前にモデル機能についてより信頼性の高い見積を行うことができます。
論文 参考訳(メタデータ) (2024-10-04T15:44:23Z) - Reconciling Model Multiplicity for Downstream Decision Making [24.335927243672952]
2つの予測モデルがほぼ至るところでそれぞれの予測にほぼ一致しているとしても、最も応答性の高い行動が人口のかなりの部分で相違していることが示される。
本稿では,下流決定問題と個別確率予測の両方に関して,予測モデルを校正する枠組みを提案する。
論文 参考訳(メタデータ) (2024-05-30T03:36:46Z) - Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。
これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。
おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
論文 参考訳(メタデータ) (2020-02-17T19:23:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。