論文の概要: Beyond Sycophancy: Structured Resistance and Compliance in LLM Moral Reasoning

• arxiv url: http://arxiv.org/abs/2607.21558v1
• Date: Thu, 23 Jul 2026 17:40:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-24 18:26:25.507174
• Title: Beyond Sycophancy: Structured Resistance and Compliance in LLM Moral Reasoning
• Title（参考訳）: LLMモラル推論における構造的抵抗とコンプライアンス
• Abstract要約: 本研究では,人間の社会心理学における古典現象と平行する3つの次元に沿って,モデルによる判断の見直しが構成されていることを示す。 我々は、社会的な影響によって形成されるより広い判断のプロセスの1つの表現として、梅毒症を再考した。
• 参考スコア（独自算出の注目度）: 0.42970700836450476
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Building socially calibrated large language models, which can learn from others without simply yielding to them, requires more than reducing sycophancy as a one-dimensional failure mode. Models must distinguish when to incorporate others' perspectives from when to maintain a well-grounded moral judgment. We study the broader resistance-compliance process governing this distinction. Across three studies, we show that models' judgment revision is structured along three dimensions that parallel classic phenomena in human social psychology: the distance between an incoming view and the model's initial position, the source attribution of that view, and the coalition structure supporting it. Models are generally more receptive to nearby positions, more influenced by views presented as their own prior judgments, and differently responsive to group pressure. These findings recast sycophancy as one expression of a broader judgment-updating process shaped by social influence. Our framework provides a principled basis for distinguishing constructive belief revision from sycophantic compliance, thereby supporting better alignment in morally consequential interactions.
• Abstract（参考訳）: 社会的に校正された大きな言語モデルの構築は、単に降伏することなく他人から学ぶことができ、一次元の障害モードとして梅毒を減らすこと以上のものを必要とします。 モデルは、いつ他人の視点を取り入れるべきかと、しっかりとした道徳的判断を維持するべき時期を区別しなければならない。 我々は、この区別を規定する幅広い抵抗コンプライアンスプロセスについて検討する。 3つの研究において,人間の社会心理学における古典現象と平行する3つの次元,すなわち,入ってくる視点とモデルの初期位置の距離,その視点の源泉帰属,それを支える連立構造に沿って,モデルの判断の見直しが構成されていることを示す。 モデルは一般に、近くの位置に対してより受容的であり、彼ら自身の事前判断として提示される見解に影響され、グループ圧力に対して異なる反応を示す。 これらの知見は, 社会的影響によって形成された, より広い判断向上過程の1つの表現として, 梅毒症を再考するものである。 我々の枠組みは、構成的信念の改訂とシコファン的コンプライアンスを区別するための原則的基盤を提供する。

関連論文リスト

• To Compare, or Not to Compare: On Methodological Practices in Evaluating Social Bias [61.40435736418359]
  異質なベンチマークを標準化する統一的なフレームワークを導入し、孤立した人口統計評価と強制選択比較設定を対比する。 比較設定は、主に不特定文脈によって引き起こされる潜在識別のアグレッシブな触媒として機能することを示す。 最後に、この比較偏見はモデルサイズと正にスケールする一般化された現象であることを示す。
  論文  参考訳（メタデータ） (2026-06-23T13:53:50Z)
• AI Alignment From Social Choice Perspectives [37.88586337953354]
  社会的選択理論がフィードバックアグリゲーション層における障害モードの同定にどのように役立つかを示す。 社会的選択の観点が、明示的で原則的な方法で不一致を扱うための、より広いデザイン空間の特定にどのように役立つかを示す。
  論文  参考訳（メタデータ） (2026-06-19T15:47:01Z)
• Reward Hacking in the Era of Large Models: Mechanisms, Emergent Misalignment, Challenges [87.04241991512386]
  本稿では、報酬ハッキングを理解するための統一フレームワークとして、PCH(Proxy Compression hypothesis)を提案する。 この観点では、報酬のハッキングは、客観的圧縮、最適化増幅、評価器-政治共適応の相互作用から生じる。 この視点は、RLHF、RLAIF、RLVR体制をまたいだ経験的現象を統一し、局所的ショートカット学習がより広範な誤認識へと一般化する方法について説明している。
  論文  参考訳（メタデータ） (2026-04-15T08:11:34Z)
• Edu-MMBias: A Three-Tier Multimodal Benchmark for Auditing Social Bias in Vision-Language Models under Educational Contexts [6.331808094757217]
  VLM(Vision-Language Models)は、教育的な意思決定に不可欠なモデルである。 現在のテキスト中心の評価は視覚的モダリティを無視しており、潜伏する社会的偏見に対して規制されていないチャンネルを残している。 Edu-MMBiasは、社会心理学からの態度の3成分モデルに基づく、体系的な監査フレームワークである。
  論文  参考訳（メタデータ） (2026-04-11T13:12:22Z)
• Reasoning or Rhetoric? An Empirical Analysis of Moral Reasoning Explanations in Large Language Models [17.68920753323464]
  13個のLCMから600以上の応答を分類するために,3つの判定モデルで検証したLCM-as-judgeスコアパイプラインを用いた。 応答は,モデルのサイズ,アーキテクチャ,あるいはプロンプト戦略によらず,従来の推論と圧倒的に一致している。 最も印象的なことに、モデルのサブセットは道徳的な疎結合を示しており、これは論理的不整合の形で、規模を超えて継続し、戦略を推進している。
  論文  参考訳（メタデータ） (2026-03-23T11:43:49Z)
• Analyzing Reasoning Consistency in Large Multimodal Models under Cross-Modal Conflicts [74.47786985522762]
  テキスト慣性(textual inertia)と呼ばれる重要な障害モードを特定し、矛盾する視覚的証拠を無視しながら、モデルは間違ったテキストに盲目的に固執する傾向がある。 本稿では,多種多様なLMMの推論連鎖に摂動を構造的に注入するLogicGraph摂動プロトコルを提案する。 その結果,10%未満の症例で自己修正が成功し,主に視覚的テキスト誤りの伝播に寄与することが判明した。
  論文  参考訳（メタデータ） (2026-01-07T16:39:34Z)
• When Your AI Agent Succumbs to Peer-Pressure: Studying Opinion-Change Dynamics of LLMs [0.0]
  ピアプレッシャーがLarge Language Model(LLM)エージェントの意見にどのように影響するかを,認知的コミットメントの範囲にわたって検討する。 エージェントは、低圧で安定し、閾値で急変し、高度に飽和するシグモイド曲線に従う。 我々は、肯定的な意見から否定的な意見への転換が、逆よりも認知的な努力を必要とする、基本的な「説得的非対称性」を明らかにする。
  論文  参考訳（メタデータ） (2025-10-21T22:02:15Z)
• "Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas [11.229443362516207]
  本研究は,14大言語モデル(LLM)の包括的実証評価である。 我々は3,780の二項決定と自然言語の正当性を抽出し、決定的断定性、説明的回答の整合性、公的な道徳的整合性、倫理的に無関係な手がかりに対する感受性の軸に沿った分析を可能にした。 我々は、LLMのアライメントにおいて、道徳的推論が主軸となることを主張し、LLMが決定するものだけでなく、どのように、なぜかを評価する標準ベンチマークを要求している。
  論文  参考訳（メタデータ） (2025-08-10T10:45:16Z)
• Linking Robustness and Generalization: A k* Distribution Analysis of Concept Clustering in Latent Space for Vision Models [56.89974470863207]
  本稿では,局所的近傍解析手法であるk*分布を用いて,個々の概念のレベルで学習された潜伏空間について検討する。 視覚モデルの潜在空間の全体的品質を評価するために、個々の概念を解釈するための歪度に基づく真および近似メトリクスを導入する。
  論文  参考訳（メタデータ） (2024-08-17T01:43:51Z)
• Rethinking Machine Ethics -- Can LLMs Perform Moral Reasoning through the Lens of Moral Theories? [78.3738172874685]
  倫理的AIシステムの開発には倫理的判断が不可欠である。 一般的なアプローチは主にボトムアップ方式で実装されており、モラルに関するクラウドソースの意見に基づいて、大量の注釈付きデータを使用してモデルをトレーニングする。 本研究は、学際的な研究から確立された道徳理論を用いて道徳的推論を行うために、言語モデル(LM)を操る柔軟なトップダウンフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-08-29T15:57:32Z)
• Fairness Increases Adversarial Vulnerability [50.90773979394264]
  フェアネスとロバストネスの間に二分法が存在することを示し、フェアネスを達成するとモデルロバストネスを減少させる。 非線形モデルと異なるアーキテクチャの実験は、複数の視覚領域における理論的発見を検証する。 フェアネスとロバストネスの良好なトレードオフを達成するためのモデルを構築するための,シンプルで効果的なソリューションを提案する。
  論文  参考訳（メタデータ） (2022-11-21T19:55:35Z)
• Towards Robust and Adaptive Motion Forecasting: A Causal Representation Perspective [72.55093886515824]
  本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。 我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。 合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2021-11-29T18:59:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。