論文の概要: Large language models underrepresent malice and overreport virtue

• arxiv url: http://arxiv.org/abs/2611.01332v1
• Date: Sat, 31 Oct 2026 22:56:35 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:14:55.367792
• Title: Large language models underrepresent malice and overreport virtue
• Title（参考訳）: 大規模言語モデルは悪意と過剰に報告される美徳を表現する
• Abstract要約: 人々は大きな言語モデル(LLM)を使って他人の行動を解釈し、LLMが人間のように動機を推測することが多い。 ここでは, LLMの内部状態の線形プローブ読み出しと, 4つのモチベーションの同時的位置での自己評価を比較した。 2つの大胆な動機について、自己関心と害の意図は、内的・表現的読み出しとの違いは認められなかった。 2つの好意的な動機、他者に対する義務と関心について、評価は内部の読み出しを上回っ、報告書の増幅を示している。
• 参考スコア（独自算出の注目度）: 8.482472310212062
• License:
• Abstract: People increasingly use large language models (LLMs) to interpret others' behaviour, often assuming that LLMs infer motives as humans do. Aligned LLMs attribute more benevolent and less malevolent motives to a whistleblower than humans do, but ratings alone cannot reveal whether these differences arise in internal representations or at report. Here we compare linear-probe readouts of LLMs' internal states with their own ratings at the same prompt position for four motives, in two preregistered studies. For the two malevolent motives, self-interest and intent to harm, internal and expressed readouts did not differ: the lower ratings reflect weaker signal along the probed directions, not suppression at output. For the two benevolent motives, duty and concern for others, expressed ratings exceeded the internal readouts, indicating amplification at report. In free text the model rarely volunteered a motive against the colleague, far less often than humans did, yet produced one readily once the scenario supplied a reason. Shifting the internal representation along a malevolent-motive direction brought both malevolent ratings to the human level, whereas the rating of duty yielded only past a threshold at which the other motives had overshot. LLMs' more charitable motive profile thus has two distinct sources: reduced malevolent signal in the probed representation and amplified benevolent attribution at report.
• Abstract（参考訳）: 人々は大きな言語モデル(LLM)を使って他人の行動を解釈し、LLMが人間のように動機を推測することが多い。 調整されたLLMは、人間よりも吹聴者に対する好意的かつ悪意的な動機が低いとされているが、評価だけでは、これらの違いが内部表現や報告で生じるかどうかを明らかにすることはできない。 ここでは, LLMの内部状態の線形プローブ読み出しと, 4つのモチベーションの同時評価とを, 2つの事前登録研究で比較する。 2つの主観的動機に対して、自己関心と害の意図は、内部的および表現された読み出しとは違い、低格付けは、出力の抑制ではなく、探究された方向に沿った弱いシグナルを反映する。 2つの好意的な動機、他者に対する義務と関心について、評価は内部の読み出しを上回っ、報告書の増幅を示している。 フリーテキストでは、このモデルが同僚に対する動機をボランティアすることは滅多になく、人間よりもはるかに少ない頻度で、シナリオが理由を提供したらすぐにそれを生成した。 マレヴォレント・モチベーションの方向に沿った内部表現のシフトは、両方のマレヴォレント・レーティングを人間レベルに引き上げ、一方、義務のレーティングは、他のモチベーションがオーバーショットしたしきい値を超えるだけだった。 LLMsのより慈善的なモチーフプロファイルは、調査された表現におけるマレヴォレント信号の減少と、レポートにおけるベネヴォレント属性の増幅の2つの異なるソースを持つ。

関連論文リスト

• Human-like moral judgments conceal divergent motive attributions in large language models [2.744405920210276]
  大規模言語モデル(LLM)は、心理学研究における人間の参加者をシミュレートするために用いられる。 口笛吹き者の道徳的性格の人間評価を再現するモデルも,それに伴う動機付けを再現するかどうかを質問した。 モデルでは、医師の道徳的性格の人間のランクを再現するが、ホイッスルブロワーはより役立ち、利己的でなく、敵対的ではないと表現した。
  論文  参考訳（メタデータ） (2026-09-07T11:16:21Z)
• LLMs Do Not Grade Essays Like Humans [3.686530147760242]
  自動エッセイ評価のためのツールとして大規模な言語モデルが提案されているが、人間の評価との合意はいまだに不明である。 我々は,LLM生成スコアがヒトの成績とどのように比較され,GPTおよびLlamaファミリーから得られるいくつかのモデルの格付け挙動を,アウト・オブ・ザ・ボックス設定で解析する。
  論文  参考訳（メタデータ） (2026-03-24T21:02:53Z)
• Are Large Language Models Sensitive to the Motives Behind Communication? [9.246336669308665]
  大規模言語モデル(LLM)とAIエージェントは、人間の意図とインセンティブによって本質的にフレーム化された情報を処理する。 LLMが現実世界で有効であるためには、ソースのモチベーションを要因としてコンテンツの評価を批判的に行う必要がある。 我々は認知科学から制御された実験を用いて、LCMの行動が動機付けられた証言からの学習の合理的モデルと一致していることを検証する。 LLMの推論は、合理的なモデルをほとんど正確に追跡していないことが分かっています -- 一部には、警戒と関連する考慮を妨げている追加情報があるからです。
  論文  参考訳（メタデータ） (2025-10-22T15:35:00Z)
• MORABLES: A Benchmark for Assessing Abstract Moral Reasoning in LLMs with Fables [50.29407048003165]
  MORABLESは,歴史文献から引用されたファブレットと短編から構築された人間検証ベンチマークである。 主なタスクは、道徳的推論をターゲットとした複数選択の質問として構成されており、モデルが浅く抽出された質問応答を超えるよう挑戦する注意深い注意を払っている。 以上の結果から,より大きなモデルはより小さなモデルよりも優れているが,敵の操作に敏感であり,真の道徳的推論よりも表面的パターンに頼っていることが示唆された。
  論文  参考訳（メタデータ） (2025-09-15T19:06:10Z)
• Beyond Prompt-Induced Lies: Investigating LLM Deception on Benign Prompts [79.1081247754018]
  大規模言語モデル(LLM)は、推論、計画、意思決定のタスクに広くデプロイされている。 そこで我々は, 接触探索質問(CSQ)に基づく枠組みを提案し, 騙しの可能性を定量化する。
  論文  参考訳（メタデータ） (2025-08-08T14:46:35Z)
• Many LLMs Are More Utilitarian Than One [12.348007064643193]
  道徳的判断は、大きな言語モデル(LLM)の社会的推論に不可欠なものである。 グループ協議は、利益を最大化するが害を与える規範違反を支持する傾向にある。 エージェントが他人の利益のために個人に直接損害を与えるかどうかを判断する個人的なジレンマでは、すべてのモデルが、集団の一部として道徳的違反をより受け入れやすいものと評価した。
  論文  参考訳（メタデータ） (2025-07-01T14:46:16Z)
• Unveiling Causal Reasoning in Large Language Models: Reality or Mirage? [62.17959154852391]
  因果推論能力は、強力な人工知能に向けて大きな言語モデルを進める上で重要である。 大規模言語モデル (LLM) は, 浅い (レベル-1) 因果推論しか実行できないことを示す。 本稿では,LLMの因果推論プロセスに一般知識と目標指向のプロンプトを組み込んだG2-Reasonerを提案する。
  論文  参考訳（メタデータ） (2025-06-26T13:11:01Z)
• White Men Lead, Black Women Help? Benchmarking and Mitigating Language Agency Social Biases in LLMs [58.27353205269664]
  社会的バイアスは、Large Language Model(LLM)生成コンテンツにおいて言語エージェンシーに現れる。 LLMのバイアスを包括的に評価するLanguage Agency Bias Evaluationベンチマークを導入する。 LABEを用いて,近年の3つのLLM(ChatGPT,Llama3,Mistral)における言語エージェントの社会的バイアスを明らかにした。
  論文  参考訳（メタデータ） (2024-04-16T12:27:54Z)
• Pride and Prejudice: LLM Amplifies Self-Bias in Self-Refinement [75.7148545929689]
  大規模言語モデル(LLM)は、特定のタスクの自己フィードバックを通じてパフォーマンスを向上し、他のタスクを劣化させる。 我々は、LSMの自己バイアス(自称世代を好む傾向)を正式に定義する。 我々は、翻訳、制約付きテキスト生成、数学的推論の6つのLCMを解析する。
  論文  参考訳（メタデータ） (2024-02-18T03:10:39Z)
• Benchmarking Large Language Models for News Summarization [79.37850439866938]
  大規模言語モデル(LLM)は自動要約を約束しているが、その成功の背景にある理由はよく分かっていない。 LLMのゼロショット要約能力の鍵は、モデルサイズではなく、命令チューニングにある。
  論文  参考訳（メタデータ） (2023-01-31T18:46:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。