論文の概要: Uncertainty-Aware Generation and Decision-Making Under Ambiguity

• arxiv url: http://arxiv.org/abs/2606.30578v1
• Date: Mon, 29 Jun 2026 17:20:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.360739
• Title: Uncertainty-Aware Generation and Decision-Making Under Ambiguity
• Title（参考訳）: あいまいさ下における不確実性認識の生成と意思決定
• Abstract要約: 本稿では,ベイズ決定理論とリスク逆決定法に基づく不確実性を考慮した意思決定アルゴリズムを提示し,評価する。 これらのアルゴリズムは世代別の有用性を向上させることができるが、あいまいさが高い場合には慎重に実装する必要があることを実証的に見出した。
• 参考スコア（独自算出の注目度）: 57.15357080072861
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With rapidly improving capabilities, Large Language Models (LLMs) are increasingly used in many complex real-world tasks. Beyond requiring in-depth knowledge and reasoning skills, many of these tasks exhibit a high degree of subjectivity and require that the outputs of the model can be trusted. While a lot of progress has been made to train better models, decision-making algorithms have received less attention. In this work, we present and evaluate various uncertainty-aware decision-making algorithms based on Bayesian decision theory and risk-averse decision making on the tasks of tutoring and automatic peer reviewing. Concretely, we take uncertainty over tutoring strategies and review scores into account when generating a tutor response or review and use conformal prediction to provide guarantees over strategy and score. We find empirically that these algorithms can improve the utility of the generations but need to be carefully implemented when ambiguity is high. For example, risk-averse rules can degrade performance by optimizing for generic outputs, while Bayesian methods tend to perform better. Our work uses techniques from decision theory to improve LLM-based decision-making and outlines open challenges for the community.
• Abstract（参考訳）: 急速に改善された機能により、Large Language Models (LLM) は、多くの複雑な現実世界のタスクでますます使われている。 深い知識と推論スキルを必要とするだけでなく、これらのタスクの多くは高い主観性を示し、モデルのアウトプットを信頼する必要がある。 より良いモデルをトレーニングするための多くの進歩があったが、意思決定アルゴリズムはあまり注目されていない。 本研究では, ベイズ決定理論に基づく不確実性を考慮した意思決定アルゴリズムと, 教師や自動ピアレビューのタスクに基づくリスク-逆決定アルゴリズムを提示し, 評価する。 具体的には、教師の回答を生成したり、レビューしたりする際に、学習戦略に対する不確実性を考慮し、コンフォーマルな予測を用いて戦略とスコアの保証を行う。 これらのアルゴリズムは世代別の有用性を向上させることができるが、あいまいさが高い場合には慎重に実装する必要があることを実証的に見出した。 例えば、リスク逆ルールはジェネリックアウトプットを最適化することで性能を低下させるが、ベイジアン法は性能を向上する傾向がある。 我々の研究は、LCMに基づく意思決定を改善するために意思決定理論からのテクニックを使用し、コミュニティにとってのオープンな課題を概説している。

関連論文リスト

• LLMs for Explainable Business Decision-Making: A Reinforcement Learning Fine-Tuning Approach [9.942833203981069]
  大規模言語モデル(LLM)は、自然言語の説明を生成する機会を提供する。 観客に適切な説明を与える強化学習に基づく微調整フレームワークであるLEXMAを紹介する。 LEXMAは他のLLMベースラインに比べて予測性能が大幅に向上した。
  論文  参考訳（メタデータ） (2025-12-10T04:16:31Z)
• Conformalized Decision Risk Assessment [5.391713612899277]
  本稿では,任意の候補決定を定量化する新しいフレームワークCREDOを紹介し,その決定が最適以下である確率の分布自由上限について紹介する。 逆最適化幾何と共形予測と生成モデリングを組み合わせることで、CREDOは統計的に厳密で実用的な解釈が可能なリスク証明書を生成する。
  論文  参考訳（メタデータ） (2025-05-19T15:24:38Z)
• MR-Ben: A Meta-Reasoning Benchmark for Evaluating System-2 Thinking in LLMs [55.20845457594977]
  大規模言語モデル(LLM)は、問題解決と意思決定の能力の向上を示している。 本稿ではメタ推論技術を必要とするプロセスベースのベンチマークMR-Benを提案する。 メタ推論のパラダイムは,システム2のスロー思考に特に適しています。
  論文  参考訳（メタデータ） (2024-06-20T03:50:23Z)
• Balancing Rigor and Utility: Mitigating Cognitive Biases in Large Language Models for Multiple-Choice Questions [0.46873264197900916]
  認知バイアスが合理的な偏差やショートカットによって意思決定効率を高めることを示す。 モデレーションと禁忌オプションを導入することで、エラー率を減らし、意思決定精度を改善し、意思決定率を最適化する。 このアプローチは、認知バイアスを活用する新しい方法を提供し、大きな言語モデルの実用性を改善する。
  論文  参考訳（メタデータ） (2024-06-16T16:25:22Z)
• On strategies for risk management and decision making under uncertainty shared across multiple fields [55.2480439325792]
  本稿では、このような戦略の110以上の例を見つけ、リスクに対するこのアプローチをRDOT: Risk-reducing Design and Operations Toolkitと呼ぶ。 RDOT戦略は、構造的、反応性、形式的、敵対的、多段階、ポジティブの6つの幅広いカテゴリに分類される。 全体的なRDOTは、不確実性に対する多目的応答の見過ごされたクラスを表している。
  論文  参考訳（メタデータ） (2023-09-06T16:14:32Z)
• Rational Decision-Making Agent with Internalized Utility Judgment [88.01612847081677]
  大規模言語モデル(LLM)は目覚ましい進歩を示し、従来のNLPアプリケーションを超えて複雑な多段階決定タスクを実行できるエージェントにLLMを開発するための重要な努力を惹きつけている。 本稿では,RadAgentを提案する。このRadAgentは,経験探索とユーティリティ学習を含む反復的なフレームワークを通じて,合理性の発展を促進する。 ToolBenchデータセットの実験結果は、RadAgentがベースラインよりも優れていることを示している。
  論文  参考訳（メタデータ） (2023-08-24T03:11:45Z)
• On solving decision and risk management problems subject to uncertainty [91.3755431537592]
  不確実性は意思決定とリスク管理において広範囲にわたる課題である。 本稿では,このような戦略を体系的に理解し,その適用範囲を判断し,それらをうまく活用するための枠組みを開発する。
  論文  参考訳（メタデータ） (2023-01-18T19:16:23Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• Improving Human Sequential Decision-Making with Reinforcement Learning [29.334511328067777]
  トレースデータから"ベストプラクティス"を抽出できる新しい機械学習アルゴリズムを設計する。 我々のアルゴリズムは、労働者の行動と最適な政策によって取られた行動のギャップを最もうまく埋めるヒントを選択する。 実験の結果,提案アルゴリズムが生成したチップは人体の性能を著しく向上させることができることがわかった。
  論文  参考訳（メタデータ） (2021-08-19T02:57:58Z)
• Decision Rule Elicitation for Domain Adaptation [93.02675868486932]
  ヒトインザループ機械学習は、専門家からラベルを引き出すために人工知能(AI)で広く使用されています。 この作業では、専門家が意思決定を説明する決定ルールを作成できるようにします。 決定規則の適用はアルゴリズムのドメイン適応を改善し、専門家の知識をAIモデルに広めるのに役立つことを示す。
  論文  参考訳（メタデータ） (2021-02-23T08:07:22Z)
• Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
  建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。 本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。 本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
  論文  参考訳（メタデータ） (2021-01-24T05:40:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。