論文の概要: Characterizing Rhetorical Misalignment in Decision-Making with Language Models
- arxiv url: http://arxiv.org/abs/2608.14630v1
- Date: Fri, 24 Jul 2026 02:36:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-23 14:54:39.92151
- Title: Characterizing Rhetorical Misalignment in Decision-Making with Language Models
- Title（参考訳）: 言語モデルを用いた意思決定における修辞的ミスアライメントの特徴付け
- Abstract要約: 大規模言語モデル (LLMs) は、ハイテイクな人間とAIの意思決定にますます統合されている。
本研究では,LLMが与えられた意思決定コンテキストに対して,修辞的に不適切な表現形式を使用するような失敗モードである修辞的不適応について検討する。
LLMは、異なるモデルにまたがる有害な決定のフリップの平均2.81%の率を誘導する。
- 参考スコア（独自算出の注目度）: 22.79503625028684
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Human decision-making is often shaped by a range of well-documented cognitive biases. As large language models (LLMs) become increasingly integrated into high-stakes human-AI decision-making, it is important to understand whether their outputs can amplify potential biases, how this influences human decisions, and crucially, whether it can lead to harmful consequences. In this work, we develop a decision-theoretic framework to study rhetorical misalignment, a failure mode where an LLM uses rhetorically inappropriate forms of presentation for a given decision context, thereby inducing suboptimal human decisions. We empirically investigate this phenomenon through a human-subject experiment in realistic clinical decision-making using a dataset curated from the United States Medical Licensing Examination. By measuring how LLM-generated information affects decisions, we observe that LLMs induce an average 2.81% rate of harmful decision flips across different models, where clinician participants change from a correct to an incorrect answer. Rationales reported by participants provide evidence that these revisions are closely related to the language used by LLMs that may induce different types of cognitive biases, including anchoring, authority bias, and loss aversion. To enable scalable evaluation, we instantiate our theoretical framework using decision-makers simulated by LLMs to computationally measure rhetorical misalignment. Our findings reveal a safety concern previously unrecognized in high-stakes domains: a model can be factually aligned yet still induce harm through its rhetorical presentation.
- Abstract（参考訳）: 人間の意思決定は、よく文書化された認知バイアスによって形成されることが多い。
大規模言語モデル (LLMs) がハイテイクな人間-AI意思決定に統合されるにつれて、アウトプットが潜在的なバイアスを増幅するかどうか、それが人間の決定にどのように影響するか、そしてそれが有害な結果をもたらすかどうかを理解することが重要である。
本研究では,LLMが与えられた決定コンテキストに対して,修辞的に不適切な表現形式を用いて,最適人為的決定を誘導する失敗モードである修辞的不整合を研究するための決定論的な枠組みを開発する。
我々は、米国医学ライセンス試験から得られたデータセットを用いて、現実的な臨床的意思決定における人物体実験を通じて、この現象を実証的に調査する。
LLMが生成した情報が意思決定にどのように影響するかを測定することで、LLMは様々なモデルで平均2.81%の有害な意思決定のフリップを誘導し、臨床参加者が正しい回答から間違った回答へと変化するのを観察する。
参加者によって報告された合理性は、これらの修正が、アンカー、権威バイアス、損失回避を含む様々な種類の認知バイアスを誘発するLLMが使用する言語と密接に関連していることを示す。
スケーラブルな評価を実現するために,LLMでシミュレートされた意思決定者を用いて理論的枠組みをインスタンス化し,修辞的ミスアライメントを計算的に測定する。
本研究は, 既往の高評価領域における安全性上の懸念を明らかにし, モデルが実際に整列しても, その修辞的提示によって害を生じさせる可能性があることを明らかにする。
関連論文リスト
- Can Induced Emotion Bias LLM Behaviors in Sequential Decision Making? [64.5408523407693]
大規模言語モデル(LLM)は、高い領域における自律的なエージェントとして、ますます多くデプロイされている。
アイオワ・ギャンブリング・タスクを用いて,誘因的感情が意思決定に影響を及ぼすかどうかを検討する。
人間の感情とは違って、LLMエージェントの意思決定ダイナミクスは平均的に有意な偏見を示さないことが判明した。
論文 参考訳（メタデータ） (2026-07-14T11:09:51Z) - Artificial Intolerance: Stigmatizing Language in Clinical Documentation Skews Large Language Model Decision-Making [13.79732306725696]
大規模言語モデル(LLM)は、臨床上の意思決定支援や医療ドキュメントなど、高度な領域にますます展開されている。
臨床テキストの処理において、フロンティアLSMが人間のバイアスを継承し、伝播するかどうかを検討する。
論文 参考訳（メタデータ） (2026-05-17T02:28:25Z) - LLMs in Cybersecurity: Friend or Foe in the Human Decision Loop? [0.15293427903448023]
大規模言語モデル(LLM)は、認知的協力者としての行動によって人間の意思決定を変革している。
本稿では,LLMがセキュリティクリティカルな文脈でどのように人間の判断を形作るかを検討する。
論文 参考訳（メタデータ） (2025-09-08T12:06:06Z) - Prospect Theory Fails for LLMs: Revealing Instability of Decision-Making under Epistemic Uncertainty [41.94502767947584]
プロスペクト理論が現代の大規模言語モデルに適用されるかどうかは、まだ明らかになっていない。
PT下でのLCMの意思決定動作をモデル化するための,より汎用的で正確な評価フレームワークを提案する。
以上の結果から,LPMのPTによる意思決定のモデル化は信頼性が低いことが示唆された。
論文 参考訳（メタデータ） (2025-08-12T15:02:16Z) - Self-Adaptive Cognitive Debiasing for Large Language Models in Decision-Making [71.71796367760112]
大規模言語モデル(LLM)は意思決定アプリケーションをサポートする可能性を示している。
我々は,自己適応型認知脱バイアス(SACD)という認知脱バイアス手法を提案する。
オープンウェイトとクローズドウェイトの両方を用いた金融・医療・法的意思決定タスクにおけるSACDの評価を行った。
論文 参考訳（メタデータ） (2025-04-05T11:23:05Z) - Fact or Guesswork? Evaluating Large Language Models' Medical Knowledge with Structured One-Hop Judgments [108.55277188617035]
大規模言語モデル(LLM)は、様々な下流タスクドメインで広く採用されているが、実際の医学的知識を直接呼び起こし、適用する能力は、まだ探索されていない。
標準化された語彙と知識グラフの包括的なリポジトリであるUMLS(Unified Medical Language System)から派生したデータセットであるMKJ(Messical Knowledge Judgment dataset)を紹介する。
バイナリ分類フレームワークを通じて、MKJは、簡潔なワンホップ文の妥当性を評価することによって、LCMが基本的な医学的事実を把握できることを評価する。
論文 参考訳（メタデータ） (2025-02-20T05:27:51Z) - Decision-Making Behavior Evaluation Framework for LLMs under Uncertain Context [5.361970694197912]
本稿では,大規模言語モデル(LLM)の意思決定行動を評価するための行動経済学に基づく枠組みを提案する。
本稿では,ChatGPT-4.0-Turbo,Claude-3-Opus,Gemini-1.0-proの3つの商用LCMにおけるリスク嗜好,確率重み付け,損失回避の程度を推定する。
以上の結果から,LSMはリスク回避や損失回避といった人間に類似したパターンを呈し,その傾向は小さすぎることが示唆された。
論文 参考訳（メタデータ） (2024-06-10T02:14:19Z) - Evaluating Interventional Reasoning Capabilities of Large Language Models [58.52919374786108]
大規模言語モデル(LLM)は意思決定タスクを自動化するために使用される。
本稿では,LPMが介入に応じてデータ生成プロセスの知識を正確に更新できるかどうかを評価する。
さまざまな因果グラフ(例えば、コンバウンディング、仲介)と変数タイプにまたがるベンチマークを作成します。
これらのベンチマークにより、LLMが事実を記憶したり、他のショートカットを見つけたりすることで、変化を正確に予測する能力を切り離すことができます。
論文 参考訳（メタデータ） (2024-04-08T14:15:56Z) - Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。
本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。
観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
論文 参考訳（メタデータ） (2023-11-15T00:02:25Z) - Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。
本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。
本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
論文 参考訳（メタデータ） (2021-01-24T05:40:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。