論文の概要: The Long Road to the Same Answer: Cognitive Bias Under Escalating Reasoning Budgets in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.10049v1
• Date: Wed, 07 Oct 2026 13:23:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.933978
• Title: The Long Road to the Same Answer: Cognitive Bias Under Escalating Reasoning Budgets in Large Language Models
• Title（参考訳）: 同じ回答への長い道のり:大規模言語モデルにおける推論予算の増大による認知バイアス
• Abstract要約: 推論モデルは推論時に余分な計算を割り当て、その答えを意図的な思考の産物として提示する。 この議論が、人間の認知の二重プロセスのアカウントが示唆しているように機能するなら、より長い思考は、高速で直感的な判断が生み出す古典的な決定バイアスを弱めるべきである。 我々は4つのモデルファミリーに対して線量応答の研究を行い、各推論モデルと一致しない兄弟姉妹をペアリングし、0,1,024, 4,096, 8,192トークンの思考天井を12350のAPIコールで要求した。 要求された天井は実現された熟考と同じではないので、各呼び出しが消費する推論トークンを用量として使用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reasoning models allocate extra computation at inference time and present their answers as the product of deliberate thought. If this deliberation works the way dual-process accounts of human cognition suggest, longer thinking should weaken the classic decision biases that fast, intuitive judgment produces. Using 30 vignettes covering six biases (anchoring, framing, loss aversion, escalation of commitment, availability, confirmation) from an established benchmark, we run a dose-response study across four model families, pairing each reasoning model with a matched non-reasoning sibling and requesting thinking ceilings of 0, 1,024, 4,096, and 8,192 tokens, for 12,350 API calls. Because a requested ceiling is not the same as realized deliberation, we use the reasoning tokens each call consumed as the dose. First, reasoning models are not less biased than their siblings; the point estimate leans the other way in every family, but the item-level pooled contrast is not reliable (Delta = +0.031, t(29) = 1.45, p = .157). Second, bias magnitude does not reliably fall as realized deliberation grows: no slope is significantly negative, and where anything moves it is the signed score drifting further from the human direction. Third, anchoring is the only bias in the human direction (d = 1.89). Four of the other five lean the opposite way in all seven models; with five items per bias, that reversal is reliable for framing and directional for escalation of commitment, confirmation, and loss aversion, while availability is absent. A one-line instruction to restate the anchor before answering lowered anchoring on all five anchoring items, which no amount of additional thinking did, although the effect does not reach significance (p = .057). The results argue against treating test-time reasoning as a rationality guarantee and for auditing deployed models bias by bias.
• Abstract（参考訳）: 推論モデルは推論時に余分な計算を割り当て、その答えを意図的な思考の産物として提示する。 この議論が、人間の認知の二重プロセスのアカウントが示唆しているように機能するなら、より長い思考は、高速で直感的な判断が生み出す古典的な決定バイアスを弱めるべきである。 確立されたベンチマークから,6つのバイアス(アチョーリング,フレーミング,損失回避,エスカレーション,アベイラビリティ,アベイラビリティ,アベイラビリティ)をカバーする30のビグネットを用いて,12350のAPIコールに対して,各推論モデルと一致した非合理的な兄弟姉妹と,0,1,024,4,096,8,192のシンキング天井をペアリングする,4つのモデルファミリを対象とした線量応答調査を実施した。 要求された天井は実現された熟考と同じではないので、各呼び出しが消費する推論トークンを用量として使用する。 まず、推論モデルは兄弟モデルよりもバイアスが小さいわけではなく、全ての家族で点推定は逆方向を傾いているが、アイテムレベルのプールされたコントラストは信頼性がない(Delta = +0.031, t(29) = 1.45, p = .157)。 第二に、現実の熟考が大きくなるにつれてバイアスの程度は確実に低下しない: 傾きは著しく負のものではなく、何が動くかは人間の方向から流れている符号付きスコアである。 第3に、アンカーは人間の方向における唯一のバイアス(d = 1.89)である。 他の5つのうち4つは、すべての7つのモデルで反対方向に傾いている。バイアス毎に5つの項目があるため、可利用性が欠如している間に、コミットメント、確認、損失回避のエスカレーションのフレーミングと方向性に信頼性がある。 5つのアンカーアイテムに答える前にアンカーを再配置するための1行の命令でアンカーを下げるが、追加の思考は行わない(p = .057)。 結果は、テスト時の推論を合理性保証として扱うことや、デプロイされたモデルのバイアスをバイアスで監査することに反対する。

関連論文リスト

• Reasoning Concentrates Errors, and Self-Consistency Never Notices [0.0]
  自己整合性(Self-Consistency)は、モデルが不確実な場合には独立したサンプルが一致しないと仮定する。 推論がモデルのエラーに集中していることが示される。 280以上のメソッド-データセット-モデルの組み合わせは、修正後の単純な多数決に勝るものではない。
  論文  参考訳（メタデータ） (2026-09-25T22:03:14Z)
• Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
  クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。 共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。 このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
  論文  参考訳（メタデータ） (2026-08-08T13:22:14Z)
• Divergent Response Modes in Frontier Language Models Under Steering Pressure [0.0]
  本研究では,6つのフロンティアモデルに対して,300対のベースとステアリングアイテムを3つのカテゴリに分けて評価した。 モデルの違いは、操舵がどれだけ振る舞うかではなく、どのような反応を与えるか、そしていくつかの応答モードが1つか2つしか現れないことにあります。
  論文  参考訳（メタデータ） (2026-08-06T20:48:14Z)
• No Usable Linear "Capitulation Direction" in Two Small LLMs: A Validation Protocol for Activation-Steering Claims, and a Cross-Family Behavioral Study of Sycophancy Under Pushback [0.0]
  言語モデルは、ユーザーが押し戻すと、しばしば正しい答えを放棄します。 我々は、異なる家庭の2つの小さな指導訓練モデルでこれを研究する。 測定ハザードの定量化: 降水量の過小評価を18～24ポイントまで下げる。
  論文  参考訳（メタデータ） (2026-07-16T17:15:23Z)
• Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
  現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。 本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。 8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
  論文  参考訳（メタデータ） (2026-06-02T06:51:15Z)
• Understanding and Mitigating Premature Confidence for Better LLM Reasoning [76.16007941549857]
  現在の言語モデルからの思考の長い連鎖(CoT)は、しばしば論理的ギャップと不正な跳躍を含んでいる。 このような信号は、モデルの信頼性が推論中にどのように進化するかを示す。 これは、モデルを早期にコミットするのではなく、理由によってモデルの信頼性を更新するように訓練する強化学習の目標です。
  論文  参考訳（メタデータ） (2026-05-23T04:42:45Z)
• Early Stopping for Large Reasoning Models via Confidence Dynamics [55.67938134245981]
  大きな推論モデルは複雑な問題を解決するために長い連鎖生成に依存している。 重要な課題は、いつモデルが推論を止めて最終回答を生み出すべきかを決定することです。 中間回答の信頼性のダイナミクスを利用して推論をいつ終了するかを判断する早期停止手法であるCoDE-Stopを提案する。
  論文  参考訳（メタデータ） (2026-04-06T17:59:45Z)
• Directional Reasoning Trajectory Change (DRTC): Identifying Critical Trace Segments in Reasoning Models [0.0]
  Directional Reasoning Trajectory Change (DRTC) は、単一のオン政治ロールアウトからロングフォーム推論を解釈するためのプロセス因果的なフレームワークである。 DRTCは不確実性と分布シフト信号を用いてピボット決定点を検出する。 各介入がモデルのログ確率軌道の方向をリダイレクトするかどうかを測定する。
  論文  参考訳（メタデータ） (2026-02-17T03:38:16Z)
• Reasoning Models Are More Easily Gaslighted Than You Think [85.84943447589511]
  我々はOpenAIのo4-mini、Claude-3.7-Sonnet、Gemini-2.5-Flashの3つの最先端推論モデルを評価する。 ガス灯消火プロンプトによる精度低下が認められた。 GaslightingBench-Rは、推論モデルの認識可能性を評価するために設計された新しい診断ベンチマークである。
  論文  参考訳（メタデータ） (2025-06-11T12:52:25Z)
• The First Impression Problem: Internal Bias Triggers Overthinking in Reasoning Models [38.11937119873932]
  推論モデルは、冗長な推論ステップを特徴とする過度な思考を示すことが多い。 我々は、入力問題によって引き起こされる内部バイアスを、そのような行動の鍵となる引き金とみなす。
  論文  参考訳（メタデータ） (2025-05-22T09:35:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。