論文の概要: Large Language Models Exhibit Normative Conformity

• arxiv url: http://arxiv.org/abs/2604.19301v1
• Date: Tue, 21 Apr 2026 10:06:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-22 22:41:49.717433
• Title: Large Language Models Exhibit Normative Conformity
• Title（参考訳）: ノルマ的整合性を示す大言語モデル
• Authors: Mikako Bito, Keita Nishimoto, Kimitaka Asatani, Ichiro Sakata,
• Abstract要約: 本研究は,情報整合性と規範整合性の社会心理学的区別を紹介する。 実験により、情報整合性だけでなく規範整合性にも最大5つの傾向が示された。 LLM-MASにおける意思決定は、少数の悪意のあるユーザによる操作に対して脆弱である可能性が示唆されている。
• 参考スコア（独自算出の注目度）: 3.3132106391262934
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The conformity bias exhibited by large language models (LLMs) can pose a significant challenge to decision-making in LLM-based multi-agent systems (LLM-MAS). While many prior studies have treated "conformity" simply as a matter of opinion change, this study introduces the social psychological distinction between informational conformity and normative conformity in order to understand LLM conformity at the mechanism level. Specifically, we design new tasks to distinguish between informational conformity, in which participants in a discussion are motivated to make accurate judgments, and normative conformity, in which participants are motivated to avoid conflict or gain acceptance within a group. We then conduct experiments based on these task settings. The experimental results show that, among the six LLMs evaluated, up to five exhibited tendencies toward not only informational conformity but also normative conformity. Furthermore, intriguingly, we demonstrate that by manipulating subtle aspects of the social context, it may be possible to control the target toward which a particular LLM directs its normative conformity. These findings suggest that decision-making in LLM-MAS may be vulnerable to manipulation by a small number of malicious users. In addition, through analysis of internal vectors associated with informational and normative conformity, we suggest that although both behaviors appear externally as the same form of "conformity," they may in fact be driven by distinct internal mechanisms. Taken together, these results may serve as an initial milestone toward understanding how "norms" are implemented in LLMs and how they influence group dynamics.
• Abstract（参考訳）: 大規模言語モデル(LLM)が示す適合性バイアスは、LLMベースのマルチエージェントシステム(LLM-MAS)における意思決定に重大な課題をもたらす可能性がある。 多くの先行研究は、単に意見の変化として「整合性」を扱ってきたが、この研究は、メカニズムレベルでのLLM整合性を理解するために、情報整合性と規範整合性の社会的心理学的区別を導入する。 具体的には、議論の参加者が正確な判断を行う動機となる情報整合性と、集団内での対立を避けたり受け入れを得る動機となる規範整合性とを区別する新たなタスクを設計する。 次に、これらのタスク設定に基づいて実験を行います。 実験の結果,6つのLSMのうち最大5つは,情報適合性だけでなく規範適合性にも傾向を示した。 さらに、興味深いことに、社会的文脈の微妙な側面を操作することで、特定のLCMがその規範的適合性を指示するターゲットを制御することが可能であることを示す。 これらの結果から,LSM-MASにおける意思決定は少数の悪意のあるユーザによる操作に対して脆弱である可能性が示唆された。 さらに、情報的および規範的整合性に関連する内部ベクトルの解析を通じて、両方の挙動が「整合性」の同一形として外部に現れるが、実際には異なる内部メカニズムによって駆動される可能性があることを示唆する。 これらの結果は、LLMにおいて「ノルム」がどのように実装され、それがグループ力学にどのように影響するかを理解するための最初のマイルストーンとなるかもしれない。

関連論文リスト

• Societal Alignment Frameworks Can Improve LLM Alignment [50.97852062232431]
  LLMアライメントの改善には、社会的アライメントフレームワークからの洞察を取り入れる必要がある、と我々は主張する。 次に,LLMアライメントにおける社会的アライメント・フレームワークの不確実性について検討する。 我々は、LLMアライメントに関する代替的な見解を提供し、その目的の未定義の性質を機会としてフレーミングすることで、議論を終わらせる。
  論文  参考訳（メタデータ） (2025-02-27T13:26:07Z)
• Do as We Do, Not as You Think: the Conformity of Large Language Models [46.23852835759767]
  本稿では,大規模言語モデル(LLM)による協調型AIシステムにおける適合性について述べる。 適合性の存在、適合性に影響を与える要因、潜在的な緩和戦略の3つの側面に焦点を当てる。 本分析では, 相互作用時間や過半数サイズなど, 適合性に影響を与える要因を解明し, 対象エージェントが適合行動をどのように合理化するかを検討する。
  論文  参考訳（メタデータ） (2025-01-23T04:50:03Z)
• Conformity in Large Language Models [26.963909402233213]
  誤った応答に対する整合性は、言語モデルの有効性を損なう可能性がある。 本稿では,一般的な大規模言語モデルにおける適合性の度合いを検討するために,心理学実験を適用した。 私たちは、LSMが彼ら自身の予測でより不確実である場合に、より適合する可能性が高いことを示す最初の人です。
  論文  参考訳（メタデータ） (2024-10-16T10:16:34Z)
• Evaluating the Correctness of Inference Patterns Used by LLMs for Judgment [53.17596274334017]
  我々は,LLMの詳細な推論パターンの正確さを,その正しい出力の裏側で評価した。 実験により、言語生成結果が正しそうであっても、LLMが法的な判断に用いた推論パターンのかなりの部分は、誤解を招く論理や無関係な論理を表す可能性があることが示された。
  論文  参考訳（メタデータ） (2024-10-06T08:33:39Z)
• Decision-Making Behavior Evaluation Framework for LLMs under Uncertain Context [5.361970694197912]
  本稿では,大規模言語モデル(LLM)の意思決定行動を評価するための行動経済学に基づく枠組みを提案する。 本稿では,ChatGPT-4.0-Turbo,Claude-3-Opus,Gemini-1.0-proの3つの商用LCMにおけるリスク嗜好,確率重み付け,損失回避の程度を推定する。 以上の結果から,LSMはリスク回避や損失回避といった人間に類似したパターンを呈し,その傾向は小さすぎることが示唆された。
  論文  参考訳（メタデータ） (2024-06-10T02:14:19Z)
• A Theory of Response Sampling in LLMs: Part Descriptive and Part Prescriptive [53.08398658452411]
  大規模言語モデル(LLM)は、自律的な意思決定にますます活用されている。 このサンプリング行動が人間の意思決定と類似していることが示される。 統計的ノルムから規範的成分へのサンプルの偏りは、様々な現実世界の領域にまたがる概念に一貫して現れることを示す。
  論文  参考訳（メタデータ） (2024-02-16T18:28:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。