論文の概要: Training Language Models To Be Coherent Decision-Makers

• arxiv url: http://arxiv.org/abs/2610.09164v1
• Date: Tue, 06 Oct 2026 22:07:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.630633
• Title: Training Language Models To Be Coherent Decision-Makers
• Title（参考訳）: 言語モデルがコヒーレントな意思決定者になるためのトレーニング
• Abstract要約: 教師付き微調整から言語モデルが意思決定手順を学習できるかどうかを検討する。 我々は、期待された有用性を最大化するアクションを選択しながら、提案された信念を保存するためにモデルを訓練する。 ターゲットの微調整は、一貫性のある意思決定を大幅に改善する。
• 参考スコア（独自算出の注目度）: 19.62361785608829
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reliable decision-making requires more than accurate prediction: a model must preserve its beliefs, apply the relevant utilities, and recognize when the information needed to justify an action is missing. We study whether language models can learn this decision procedure from supervised fine-tuning and generalize it across domains and differing natural-language expressions of the decision challenge. Across 20 datasets, we explore challenges of belief instability and decision-making errors by first eliciting probabilities of outcomes and then varying only the utilities and the framing of the decision problems, while holding the evidence fixed. We train models to preserve elicited beliefs while selecting the action that maximizes expected utility, and evaluate transfer to unseen application domains, held-out framings, and different classes of payoff structures. We further introduce incomplete-information settings in which required utilities are withheld and replaced with irrelevant text, testing whether models can distinguish missing decision-relevant information from merely additional context. We find that targeted fine-tuning substantially improves coherent decision-making and that in many situations, learning transfers across domains and framings to situations unobserved during training. Further, models trained for decidability learn to identify when action cannot be justified based on missing information. Finally, we show the value of a routed system that considers separately the recognition of decision completeness and utility-sensitive decision execution.
• Abstract（参考訳）: モデルは信念を維持し、関連するユーティリティを適用し、アクションを正当化するために必要な情報が欠落していることを認識しなければならない。 言語モデルがこの決定手順を教師付き微調整から学習し、ドメイン間で一般化し、決定課題の自然言語表現を異にするかどうかを検討する。 20データセットにわたって、まず結果の確率を導出し、次に決定問題のユーティリティとフレーミングだけを変化させ、証拠を定めながら、信念の不安定性と意思決定エラーの課題を探求する。 我々は、期待される有用性を最大化するアクションを選択しながら、勧誘された信条を保存するためにモデルを訓練し、未確認のアプリケーションドメイン、保留のフレーミング、および異なる支払構造のクラスへの転送を評価する。 さらに、不要な決定関連情報を単に追加のコンテキストと区別できるかどうかをモデルが検証し、必要なユーティリティを保持せず、無関係のテキストに置き換える不完全情報設定を導入する。 対象の微調整は、一貫性のある意思決定を大幅に改善し、多くの状況において、ドメイン間での学習や、トレーニング中に観察されていない状況へのフレーミングが促進される。 さらに、決定可能性のために訓練されたモデルは、欠落した情報に基づいて、アクションが正当化できないかを識別する。 最後に、決定完全性と実用性に敏感な決定実行の認識を別々に検討する経路システムの価値を示す。

関連論文リスト

• Counterfactual Explanations and the Scope of Contestability [0.0]
  本稿では,特定の知識の提供によってエージェンシーを復活させる方法について述べる。 我々は、特定のタイプの説明、反事実的説明が、アルゴリズム決定に異議を唱える能力を促進するかどうかを論じる。
  論文  参考訳（メタデータ） (2026-08-25T13:45:16Z)
• DecisionFlow: Advancing Large Language Model as Principled Decision Maker [49.088778182807395]
  DecisionFlowは、モデルにアクション、属性、制約の構造化された表現を推論するように誘導する、新しい決定モデリングフレームワークである。 プロンプトから直接回答を予測するのではなく、DecisionFlowは意味論的に根拠のある決定空間を構築し、潜在ユーティリティ関数を推論する。 実験の結果,DecisionFlowの精度は,強いプロンプトベースラインよりも最大30%向上した。
  論文  参考訳（メタデータ） (2025-05-27T16:23:53Z)
• Sequential sampling without comparison to boundary through model-free reinforcement learning [0.0]
  不確実性を考慮した知覚決定のためのモデルなし強化学習アルゴリズムを提案する。 我々のモデルは、利用可能な証拠を与えられた決定にコミットするか、あるいは情報収集をコストで継続するかを学習する。
  論文  参考訳（メタデータ） (2024-08-12T11:56:39Z)
• Preservation of Feature Stability in Machine Learning Under Data Uncertainty for Decision Support in Critical Domains [0.0]
  人間の活動における決定は、しばしば重要な領域であっても不完全なデータに依存する。 本稿では,従来の機械学習手法を用いた一連の実験を行うことで,このギャップに対処する。 ML記述法は,データの不完全性が増大するにつれて特徴選択の安定性を確保しつつ,高い分類精度を維持する。
  論文  参考訳（メタデータ） (2024-01-19T22:11:54Z)
• Explainable Data-Driven Optimization: From Context to Decision and Back Again [76.84947521482631]
  データ駆動最適化では、コンテキスト情報と機械学習アルゴリズムを使用して、不確実なパラメータによる決定問題の解決策を見つける。 本稿では,データ駆動型問題に対する解法を説明するために,対実的説明手法を提案する。 在庫管理やルーティングといった運用管理における重要な問題を説明することで,我々のアプローチを実証する。
  論文  参考訳（メタデータ） (2023-01-24T15:25:16Z)
• RISE: Robust Individualized Decision Learning with Sensitive Variables [1.5293427903448025]
  素直なベースラインは、決定規則を学習する際の繊細な変数を無視し、重大な不確実性と偏見をもたらすことである。 本稿では、オフライントレーニング中に機密変数を組み込む決定学習フレームワークを提案するが、モデル展開中に学習された決定ルールの入力には含まない。
  論文  参考訳（メタデータ） (2022-11-12T04:31:38Z)
• Explainability's Gain is Optimality's Loss? -- How Explanations Bias Decision-making [0.0]
  説明は、アルゴリズムと人間の意思決定者とのコミュニケーションを促進するのに役立つ。 因果モデルに関する特徴に基づく説明のセマンティクスは、意思決定者の以前の信念から漏れを引き起こす。 このような違いは、準最適かつ偏った決定結果をもたらす可能性がある。
  論文  参考訳（メタデータ） (2022-06-17T11:43:42Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• Inverse Active Sensing: Modeling and Understanding Timely Decision-Making [111.07204912245841]
  我々は,内因性,文脈依存型時間圧下でのエビデンスに基づく意思決定の一般的な設定のための枠組みを開発する。 意思決定戦略において、サプライズ、サスペンス、最適性の直感的な概念をモデル化する方法を実証する。
  論文  参考訳（メタデータ） (2020-06-25T02:30:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。