論文の概要: Preference Reasoning under Indeterminacy in Large Language Models

• arxiv url: http://arxiv.org/abs/2608.18631v1
• Date: Wed, 19 Aug 2026 07:27:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-20 20:13:55.319925
• Title: Preference Reasoning under Indeterminacy in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける不確定性の下での選好推論
• Abstract要約: 不確定性は、正確性だけでなく、AI推論における中心的な課題である、と我々は主張する。 現状の言語モデルは、決定されたインスタンスと未決定のインスタンスを体系的に区別できないことを示す。
• 参考スコア（独自算出の注目度）: 36.06390570712731
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large language models evolve into decision-making agents, the ability to reason over preferences becomes fundamental to alignment, coordination, and collective intelligence. Yet, unlike standard benchmarks, real-world preference reasoning is inherently indeterminate: information may be incomplete, and valid solutions may not exist. We argue that indeterminacy, rather than correctness alone, is a central challenge for AI reasoning. We formalize this challenge along two axes, (i) epistemic indeterminacy, arising from incomplete, partial, or expressive preferences, and (ii) structural indeterminacy, arising from the non-existence of solutions under standard social choice concepts. Across a hierarchy of tasks, we show that state-of-the-art language models systematically fail to distinguish between determined and undetermined instances, exhibiting miscalibrated reasoning even in verification settings.
• Abstract（参考訳）: 大きな言語モデルが意思決定エージェントへと進化するにつれて、好みを推論する能力は、調整、調整、集団知性に欠かせないものとなる。 しかし、標準的なベンチマークとは異なり、現実世界の選好推論は本質的に不完全であり、情報が不完全であり、有効な解決策が存在しない。 不確定性は、正確性だけでなく、AI推論における中心的な課題である、と我々は主張する。 私たちはこの挑戦を2つの軸に沿って形式化する。 一 不完全、部分的又は表現的嗜好から生じるてんかん不確定性 (II) 標準的な社会的選択概念の下での解の非存在から生じる構造的不決定性。 タスク階層全体にわたって、最先端の言語モデルは、決定されたインスタンスと未決定なインスタンスを体系的に区別することができず、検証設定においても誤った推論がなされていることを示す。

関連論文リスト

• A CAP-like Trilemma for Large Language Models: Correctness, Non-bias, and Utility under Semantic Underdetermination [0.0]
  本稿では,大言語モデル(LLM)に対するCAP様予想を定式化する。 提案されたトリレンマは、意味的下決定の下では、LLMは常に強い正当性、厳密な非バイアス、高ユーティリティを保証できない。
  論文  参考訳（メタデータ） (2026-05-12T07:28:38Z)
• Personalized Reasoning: Just-In-Time Personalization and Why LLMs Fail At It [81.50711040539566]
  現在の大規模言語モデル(LLM)開発は、タスク解決と優先順位調整を別の課題として扱う。 静的ベンチマークを対話型パーソナライズタスクに変換する評価手法であるPreFDISCOを紹介する。 我々のフレームワークは、ユーザコンテキストに応じて、同じ質問が異なる推論チェーンを必要とするシナリオを作成します。
  論文  参考訳（メタデータ） (2025-09-30T18:55:28Z)
• From Logic to Language: A Trust Index for Problem Solving with LLMs [0.0]
  本稿では,Large Language Models (LLM) の理解と対比を目的とした統合フレームワークを提案する。 形式言語と自然言語で対応可能な問題空間を定義し,記述する。 そこで, ベクトル値信頼度指数Qを導入し, 解の品質を反映し, 形式解のバイナリ正当性を自然言語解の連続性スペクトル特性と区別する。
  論文  参考訳（メタデータ） (2025-07-21T19:50:45Z)
• DecisionFlow: Advancing Large Language Model as Principled Decision Maker [49.088778182807395]
  DecisionFlowは、モデルにアクション、属性、制約の構造化された表現を推論するように誘導する、新しい決定モデリングフレームワークである。 プロンプトから直接回答を予測するのではなく、DecisionFlowは意味論的に根拠のある決定空間を構築し、潜在ユーティリティ関数を推論する。 実験の結果,DecisionFlowの精度は,強いプロンプトベースラインよりも最大30%向上した。
  論文  参考訳（メタデータ） (2025-05-27T16:23:53Z)
• SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
  SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。 我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。 我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
  論文  参考訳（メタデータ） (2025-04-19T03:01:45Z)
• Are language models rational? The case of coherence norms and belief revision [63.78798769882708]
  我々は、論理的コヒーレンス規範と、言語モデルにおける信念の強さに結びついたコヒーレンス規範を考察する。 コヒーレンスに結びついた有理ノルムはいくつかの言語モデルに適用できるが、他のモデルには適用されない。
  論文  参考訳（メタデータ） (2024-06-05T16:36:21Z)
• How Ambiguous Are the Rationales for Natural Language Reasoning? A Simple Approach to Handling Rationale Uncertainty [0.9790236766474201]
  本研究では,自然言語推論のモデル性能におけるあいまいな有理性の役割について検討する。 そこで本研究では,理論のあいまいさに応じて2つの異なる推論経路を選択するための簡単な方法を提案する。
  論文  参考訳（メタデータ） (2024-02-22T07:12:34Z)
• A Semantic Approach to Decidability in Epistemic Planning (Extended Version) [72.77805489645604]
  我々は決定可能性を達成するために新しい意味論的アプローチを用いる。 具体的には、知識の論理S5$_n$と(知識)可換性と呼ばれる相互作用公理を拡大する。 我々は,本フレームワークが,独立した知識である共通知識の有限的非固定点的特徴を認めていることを証明した。
  論文  参考訳（メタデータ） (2023-07-28T11:26:26Z)
• Semantic Uncertainty: Linguistic Invariances for Uncertainty Estimation in Natural Language Generation [37.37606905433334]
  我々は,「意味的同値性」により,自然言語の不確実性の測定が困難であることを示す。 意味的エントロピー(semantic entropy)は、共有された意味によって生成される言語的不変性を含むエントロピーである。 本手法は教師なしで,単一のモデルのみを使用し,既製の言語モデルの変更は不要である。
  論文  参考訳（メタデータ） (2023-02-19T20:10:07Z)
• An Argumentation-based Approach for Identifying and Dealing with Incompatibilities among Procedural Goals [1.1744028458220426]
  インテリジェントエージェントは複数のパース可能なゴールを生成し、それら間で互換性がない可能性がある。 本稿では,これらの非互換性の定義,識別,解決に焦点をあてる。
  論文  参考訳（メタデータ） (2020-09-11T01:01:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。