論文の概要: Some Large Language Models Exhibit Consistent Risk Attitudes

• arxiv url: http://arxiv.org/abs/2607.16197v1
• Date: Fri, 24 Apr 2026 16:11:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 00:46:13.027438
• Title: Some Large Language Models Exhibit Consistent Risk Attitudes
• Title（参考訳）: 持続的リスク態度を規定する大規模言語モデル
• Abstract要約: 大規模言語モデル(LLM)が不確実性の下で体系的かつ一貫したリスク態度を示すかどうかを検証する。 回帰モデルを用いて,各エージェントの信念と意思決定のマッピングを抽出し,リスク感度とリスク態度バイアスを定量化する。
• 参考スコア（独自算出の注目度）: 14.534723442159008
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As artificial intelligence systems are deployed in open-ended, high-stakes settings, a critical dimension remains unmeasured: how perceived risk is translated into action. We test whether large language models (LLMs) exhibit systematic and consistent risk attitudes under uncertainty. We introduce a cross-domain framework that decouples contextual risk belief from categorical decision, and apply it to six representative LLMs and 100 human participants across spatial navigation, clinical triage, and financial allocation tasks. Using regression models, we extract each agents belief-to-decision mapping and quantify risk sensitivity and risk attitude bias. We find that most tested LLMs exhibit (i) robust intra-task consistency, indicating stable mappings from contextual belief to risk decision within a fixed task domain; (ii) cross-domain rank-order stability, preserving relative risk posture across tasks; and (iii) a convergence toward a restricted risk-attitude distribution relative to the broader human baseline. These results reveal risk attitude as a stable and previously uncharacterized dimension of LLM behavior, establishing a foundation for evaluating and aligning AI systems in open-ended decision-making and motivating further investigation into the origins of these intrinsic behavioral dispositions.
• Abstract（参考訳）: 人工知能システムは、オープンエンドでハイテイクな設定で展開されているため、重要な次元は未測定のままである。 大規模言語モデル(LLM)が不確実性の下で体系的かつ一貫したリスク態度を示すかどうかを検証する。 カテゴリー決定からコンテキストリスク信念を分離するクロスドメインフレームワークを導入し,空間ナビゲーション,臨床トリアージ,財務割当タスクの6つの代表的LCMと100人の参加者に適用する。 回帰モデルを用いて,各エージェントの信念と意思決定のマッピングを抽出し,リスク感度とリスク態度バイアスを定量化する。 ほとんどのLLMが展示されていることが分かりました i) 一定のタスク領域内での状況的信念からリスク決定への安定したマッピングを示す、堅牢なタスク内整合性。 二 クロスドメインの階位安定性、タスク間の相対的リスク姿勢の維持 三 より広義の人的基準に対するリスク-態度分布の制限に対する収束 これらの結果から,LLM行動の安定的かつ未適合な次元としてのリスク態度が明らかとなり,AIシステムをオープンな意思決定において評価・整合させる基盤が確立され,本質的な行動配置の起源に関するさらなる研究が動機となった。

関連論文リスト

• Behavioural Signatures of Risk-Sensitive Decision-Making in Large Language Models [121.70781851874035]
  大規模言語モデル(LLM)は、意思決定支援にますます使われている。 不確実性の下での選択が安定かつ解釈可能な行動規則性を示すかどうかを理解することが重要である。 本稿では,無制限テキサスホールドエムに基づく制御型マルチモデルフレームワークを用いて,この問題について検討する。
  論文  参考訳（メタデータ） (2026-07-11T10:33:39Z)
• Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
  エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。 この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。 各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
  論文  参考訳（メタデータ） (2026-05-17T10:26:37Z)
• Uncertainty-Aware Vision-based Risk Object Identification via Conformal Risk Tube Prediction [7.840136094141999]
  既存のアプローチは意思決定を行い、不確実性を無視します。 これらの課題にもかかわらず、現在の手法には、空間と時間にわたって共同でリスクの不確実性をモデル化する原則的な枠組みが欠如している。 本稿では, リスクの原則的不確実性を把握し, 真のリスクに対するカバレッジ保証を提供し, 不確実性を考慮した校正リスクスコアを生成するコンフォーマルリスク予測統一定式化を提案する。
  論文  参考訳（メタデータ） (2026-03-25T04:13:42Z)
• The Shadow Self: Intrinsic Value Misalignment in Large Language Model Agents [37.75212140218036]
  コントロの損失リスクを定式化し、これまで過小評価されていた内因性価値の相違(内因性VM)を識別する。 次に、このリスクを体系的に評価するシナリオ駆動フレームワークであるIMPRESSを紹介します。 我々は,21種類のLLMエージェント上での固有のVMの評価を行い,モデル間での安全性のリスクが広く見られることを発見した。
  論文  参考訳（メタデータ） (2026-01-24T07:09:50Z)
• RADAR: A Risk-Aware Dynamic Multi-Agent Framework for LLM Safety Evaluation via Role-Specialized Collaboration [81.38705556267917]
  大規模言語モデル(LLM)の既存の安全性評価手法は、固有の制約に悩まされている。 リスク概念空間を再構築する理論的枠組みを導入する。 マルチエージェント協調評価フレームワークRADARを提案する。
  論文  参考訳（メタデータ） (2025-09-28T09:35:32Z)
• Unveiling Trust in Multimodal Large Language Models: Evaluation, Analysis, and Mitigation [51.19622266249408]
  MultiTrust-XはMLLMの信頼性問題を評価、分析、緩和するためのベンチマークである。 分類に基づいて、MultiTrust-Xには32のタスクと28のキュレートデータセットが含まれている。 私たちの実験は、現在のモデルに重大な脆弱性を明らかにします。
  論文  参考訳（メタデータ） (2025-08-21T09:00:01Z)
• RiskNet: Interaction-Aware Risk Forecasting for Autonomous Driving in Long-Tail Scenarios [6.024186631622774]
  RiskNetは自動運転車のリスク予測フレームワークである。 決定論的リスクモデリングと確率論的行動予測を統合し、包括的リスク評価を行う。 リアルタイムでシナリオ適応型のリスク予測をサポートし、不確実な運転環境全体にわたって強力な一般化を示す。
  論文  参考訳（メタデータ） (2025-04-22T02:36:54Z)
• Answer, Refuse, or Guess? Investigating Risk-Aware Decision Making in Language Models [63.559461750135334]
  言語モデル(LM)は、目標を達成するために自律的に行動可能なエージェントを構築するために、ますます使われています。 本研究では,人為的リスク構造を体系的に変化させる評価枠組みを用いて,この「回答または延期」問題を考察する。 回答や判断に要する独立したスキルを分離した簡易なスキル分解手法が,LMの意思決定ポリシーを一貫して改善できることがわかった。
  論文  参考訳（メタデータ） (2025-03-03T09:16:26Z)
• Navigating the Risks: A Survey of Security, Privacy, and Ethics Threats in LLM-Based Agents [67.07177243654485]
  この調査は、大規模言語モデルに基づくエージェントが直面するさまざまな脅威を収集、分析する。 LLMをベースとしたエージェントの6つの重要な特徴を概説する。 4つの代表エージェントをケーススタディとして選択し,実践的に直面する可能性のあるリスクを分析した。
  論文  参考訳（メタデータ） (2024-11-14T15:40:04Z)
• One Risk to Rule Them All: A Risk-Sensitive Perspective on Model-Based Offline Reinforcement Learning [25.218430053391884]
  両問題に共同で対処するためのメカニズムとしてリスク感受性を提案する。 相対的不確実性へのリスク回避は、環境に悪影響を及ぼす可能性のある行動を妨げる。 実験の結果,提案アルゴリズムは決定論的ベンチマーク上での競合性能を実現することがわかった。
  論文  参考訳（メタデータ） (2022-11-30T21:24:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。