論文の概要: Probing Outcome-Level Resemblance and Mechanism-Level Alignment in LLM Risk Decisions: Evidence from the St. Petersburg Game
- arxiv url: http://arxiv.org/abs/2606.04978v1
- Date: Wed, 03 Jun 2026 15:01:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-04 20:44:18.843867
- Title: Probing Outcome-Level Resemblance and Mechanism-Level Alignment in LLM Risk Decisions: Evidence from the St. Petersburg Game
- Title（参考訳）: LLMリスク決定におけるアウトカムレベル再帰とメカニズムレベルアライメントの提案:サンクトペテルブルクゲームからの証拠
- Authors: Chensong Huang, Changyu Chen, Chenwei Lin, Hanjia Lyu, Xian Xu, Jiebo Luo,
- Abstract要約: LLMは人間と共存するメカニズムを示さずに人間のようなリスク決定を下す。
これらの結果から,リスク意思決定における行動アライメントは表面レベルである可能性が示唆された。
- 参考スコア（独自算出の注目度）: 44.97835810818409
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLMs can appear cautious in risk decision-making tasks, yet cautious-looking outputs do not necessarily indicate alignment with human decision-making mechanisms. We investigate this distinction using the St. Petersburg game as a controlled testbed, a classical paradox in which the expected payoff is infinite, yet humans typically report low, finite willingness to pay. We evaluate 28 LLMs with a structured prompt suite that includes the original game; controlled decision variants that perturb truncation, repeated play, numeric endowment, and occupational identity; a human-perspective prompt that asks models to reason as human decision makers; and paired comparisons between base models and their instruction-tuned counterparts. In the original game, most models generate finite bids, creating the appearance of human-like risk behavior. However, this outcome-level resemblance masks substantial mechanism-level differences. The controlled variants reveal that rather than maintaining human-like behavior seen in the original game, models often shift to conditionally and computationally rational behavior. Human-cue prompting and instruction tuning often lower bids and reduce some visible pathologies, but most mechanism-level response patterns remain largely unchanged. These findings show that behavioral alignment in risk decision-making can be surface-level: LLMs may produce human-like risk decisions without exhibiting human-consistent mechanisms. High-stakes evaluations of LLM decision-making should therefore move beyond outcome similarity and examine whether the alignment is supported by mechanism-level consistency.
- Abstract（参考訳）: LLMはリスク意思決定タスクにおいて慎重に見えるが、慎重なアウトプットは必ずしも人間の意思決定メカニズムと一致しているとは限らない。
我々は、サンクトペテルブルクのゲームを制御テストベッド(古典的なパラドックス)として、期待される支払いが無限であるが、人間は通常、支払いに対する低い、有限の意志を報告している。
本研究は,オリジナルゲームを含む構造化プロンプトスイートを用いた28個のLSMを評価し,乱れ,繰り返しプレイ,数値的寄付,職業的アイデンティティを乱す制御された決定変種,モデルに人間の意思決定者としての推論を依頼するヒューマンパースペクティブプロンプト,ベースモデルと指導訓練対象とのペア比較を行った。
オリジナルのゲームでは、ほとんどのモデルが有限入札を生成し、人間のようなリスク行動のように見える。
しかし、この結果レベルの類似性マスクはメカニズムレベルの大きな違いがある。
制御された変種は、オリジナルのゲームに見られる人間のような行動を維持するのではなく、モデルが条件付きおよび計算学的に合理的な行動に移行することを明らかにしている。
ヒューマンキューのプロンプトと命令のチューニングは、しばしば入札を減らし、いくつかの可視的病理を減少させるが、ほとんどのメカニズムレベルの応答パターンは、ほとんど変化しない。
これらの結果から,リスク意思決定における行動アライメントは表面レベルである可能性が示唆された。
LLM意思決定における高い評価は、結果の類似性を超えて、メカニズムレベルの整合性によってアライメントが支持されるかどうかを検証すべきである。
関連論文リスト
- ActTraitBench: Quantifying the Knowledge-Decision Gap in Large Language Models via Human-Grounded Behavioral Validation [8.82034003345674]
大規模言語モデル(LLM)は、明示的な自己報告でペルソナを確実にシミュレートするが、暗黙の行動決定においてしばしば逸脱する。
既存のベンチマークは、構成の妥当性の制限、多次元の絡み合い、分布バイアスのために、この非対称性を測定するのに苦労している。
本稿では,LLMの人格整合性を評価するための人為的評価フレームワークである ActTraitBench を提案する。
論文 参考訳（メタデータ） (2026-05-28T11:40:35Z) - The Illusion of Intervention: Your LLM-Simulated Experiment is an Observational Study [56.649987197786096]
大規模言語モデル(LLM)は人間の行動のシミュレータとしての可能性を示している。
LLMは潜在ユーザ属性の意図しないシフトを誘発し、ユーザのドリフトを引き起こす。
ユーザのドリフトによって生じる不確実性や選択バイアスを形式化する。
論文 参考訳（メタデータ） (2026-05-20T06:09:41Z) - Aligning LLM Uncertainty with Human Disagreement in Subjectivity Analysis [57.78407973423517]
我々は、モデルが人間の不一致を反映した不確実性を表現しながら予測する不確実性を考慮した主観性分析を提唱する。
この視点を運用するために,二相認識と不確実性アライメントの枠組みを提案する。
3つの主観的分析課題の実験は、DPUAが人間の不一致とモデルの不確実性をよりよく整合させながら、タスク性能を保っていることを示している。
論文 参考訳（メタデータ） (2026-05-11T11:52:58Z) - Sparks of Rationality: Do Reasoning LLMs Align with Human Judgment and Choice? [10.367910587365529]
大規模言語モデルは、雇用、医療、経済判断のための意思決定エンジンとしてますます位置づけられている。
不合理性と偏見の類似パターンを示すかどうかを評価することは重要である。
論文 参考訳（メタデータ） (2026-01-29T21:17:06Z) - Towards Reliable LLM-based Robot Planning via Combined Uncertainty Estimation [68.106428321492]
大規模言語モデル (LLM) は高度な推論能力を示し、ロボットが自然言語の命令を理解し、適切な接地で高レベルな計画を生成することができる。
LLMの幻覚は重大な課題であり、しばしば過度に信頼され、不一致または安全でない計画に繋がる。
本研究は, 信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性評価を別々に評価するものである。
論文 参考訳（メタデータ） (2025-10-09T10:26:58Z) - Who Gets the Kidney? Human-AI Alignment, Indecision, and Moral Values [36.47201247038004]
本研究では,Large Language Models (LLMs) が,様々な属性の優先順位付けにおいて,人的価値との相違を示すことを示す。
少ないサンプルを用いた低ランク教師あり微調整は、決定整合性の向上と不確定性モデリングの校正に有効であることを示す。
論文 参考訳（メタデータ） (2025-05-30T01:23:11Z) - Answer, Refuse, or Guess? Investigating Risk-Aware Decision Making in Language Models [63.559461750135334]
言語モデル(LM)は、目標を達成するために自律的に行動可能なエージェントを構築するために、ますます使われています。
本研究では,人為的リスク構造を体系的に変化させる評価枠組みを用いて,この「回答または延期」問題を考察する。
回答や判断に要する独立したスキルを分離した簡易なスキル分解手法が,LMの意思決定ポリシーを一貫して改善できることがわかった。
論文 参考訳（メタデータ） (2025-03-03T09:16:26Z) - Self-Healing Machine Learning: A Framework for Autonomous Adaptation in Real-World Environments [50.310636905746975]
実世界の機械学習システムは、基礎となるデータ生成プロセスの分散シフトによって、モデルの性能劣化に遭遇することが多い。
概念のドリフト適応のような既存のシフトへのアプローチは、その理性に依存しない性質によって制限される。
我々はこれらの制限を克服するために自己修復機械学習(SHML)を提案する。
論文 参考訳（メタデータ） (2024-10-31T20:05:51Z) - Decision-Making Behavior Evaluation Framework for LLMs under Uncertain Context [5.361970694197912]
本稿では,大規模言語モデル(LLM)の意思決定行動を評価するための行動経済学に基づく枠組みを提案する。
本稿では,ChatGPT-4.0-Turbo,Claude-3-Opus,Gemini-1.0-proの3つの商用LCMにおけるリスク嗜好,確率重み付け,損失回避の程度を推定する。
以上の結果から,LSMはリスク回避や損失回避といった人間に類似したパターンを呈し,その傾向は小さすぎることが示唆された。
論文 参考訳（メタデータ） (2024-06-10T02:14:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。