論文の概要: Conflict and Congruency Effects in Large Language Models: In-Weight and In-Context Competition in a Verbal Conflict Task
- arxiv url: http://arxiv.org/abs/2608.11510v1
- Date: Tue, 11 Aug 2026 23:47:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.403939
- Title: Conflict and Congruency Effects in Large Language Models: In-Weight and In-Context Competition in a Verbal Conflict Task
- Title（参考訳）: 大規模言語モデルにおけるコンフリクトとコングリクトの効果: 言語衝突タスクにおけるインウェイトとインコンテクストの競合
- Abstract要約: ストループのような対立タスクや側面のタスクで観察される合同効果は、心理学や神経科学において約1世紀にわたって研究されてきた。
本稿では,プロンプトがデフォルトの同色補完を付与し,明示的な規則が(一致条件)に一致するか,あるいは(矛盾条件)に矛盾する,動詞のみのLLM競合タスクを導入する。
因果属性分析,注意分析,注意改善を用いて,これらのLCMの異なる処理経路を同定した。
- 参考スコア（独自算出の注目度）: 7.688881515976692
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Congruency effects, observed in conflict tasks such as Stroop and flanker tasks, have been investigated for nearly a century in psychology and neuroscience, but their mechanistic basis is not fully understood. We introduce a verbal-only LLM conflict task in which a prompt stem elicits a default same-color completion and an explicit rule either agrees with (congruent condition) or conflicts with (incongruent condition) the completion. Gemma-2-2B and six Pythia models ranging from 410M to 12B parameters showed strong default same-color tendencies, and six of seven models showed strong congruency effects. Using causal attribution analysis, attention analysis, and attention ablations, we identified distinct processing pathways in these LLMs: a pathway involving short-range attention to a superficial color cue that is preferentially activated in the congruent condition, and a pathway involving long-range attention to the rule prefix that is preferentially activated in the incongruent condition. Fine-tuning that strengthened the default same-color tendency had divergent effects on task conditions, reducing incongruent performance while increasing congruent performance. In contrast, increasing rule set size selectively impaired incongruent performance. These converging findings support an account in which congruency effects in this task arise from competition between an in-weight default mapping and an in-context rule-based mapping. More broadly, our findings illustrate how LLMs can serve as model systems for mechanistic analysis of competition between default and rule-governed response tendencies within a single learned network.
- Abstract（参考訳）: ストループのような対立タスクや側面のタスクで観察される合同効果は、心理学や神経科学において約1世紀にわたって研究されてきたが、その機械的基礎は完全には理解されていない。
本稿では,プロンプトがデフォルトの同色補完を付与し,明示的な規則が(一致条件)に一致するか,あるいは(矛盾条件)に矛盾する,動詞のみのLLM競合タスクを導入する。
410Mから12BパラメータのGemma-2-2Bと6種のPythiaモデルでは、デフォルトの同色傾向が強く、7つのモデルのうち6つは強い一致性を示した。
因果帰属分析,注意分析,注意改善を用いて,これらのLCMの異なる処理経路を同定した。この経路は,一致条件下で優先的に活性化される表面色覚への近距離注意を含む経路と,不一致条件下で活性化される規則前置詞への遠距離注意を含む経路である。
デフォルトの同色傾向を強化した微調整はタスク条件にばらつきがあり、不整合性能が低下し、整合性能が向上した。
対照的に、ルールセットのサイズが大きくなると、不整合性能が選択的に損なわれる。
これらの収束した発見は、このタスクにおける一致効果が、非重み付きデフォルトマッピングとコンテキスト内ルールベースのマッピングとの競合から生じるアカウントをサポートする。
より広範に、LLMが1つの学習ネットワークにおいて、デフォルトとルールが支配する応答傾向の競合を機械的解析するためのモデルシステムとして機能することを示す。
関連論文リスト
- Seirênes: Adversarial Self-Play with Evolving Distractions for LLM Reasoning [56.48520300004217]
本稿では、文脈干渉を内部の訓練信号に変換するセルフプレイのRLフレームワークであるSeyrnesを紹介する。
単一のモデルでは、可視的かつ気を散らすようなコンテキストの構築と、それ自身で盲点を露呈するように訓練されている。
これらの競合する目標を互いに衝突させることで、Sailnes氏は、表面的なパターンマッチングを超えてモデルを補完する。
論文 参考訳（メタデータ） (2026-05-12T06:58:35Z) - Compliance versus Sensibility: On the Reasoning Controllability in Large Language Models [46.26628756478016]
大規模言語モデル(LLM)は、事前学習データにおける共用推論パターンを通じて推論能力を取得することが知られている。
コンフリクト中に信頼性スコアが著しく低下するため、推論競合は内部で検出可能であることを示す。
その結果, LLM推論は具体例に固定されているものの, アクティブな機械的介入は論理的スキーマをデータから効果的に切り離すことができることがわかった。
論文 参考訳（メタデータ） (2026-04-29T22:55:40Z) - Framing Effects in Independent-Agent Large Language Models: A Cross-Family Behavioral Analysis [5.9342526365947625]
本研究では,個別グループ間の利害対立を含むしきい値投票課題において,迅速なフレーミングが意思決定にどのように影響するかを検討する。
その結果、迅速なフレーミングは選択分布に大きく影響し、しばしばリスク-逆オプションに切り替えることが示された。
論文 参考訳（メタデータ） (2026-03-02T16:10:34Z) - CoG: Controllable Graph Reasoning via Relational Blueprints and Failure-Aware Refinement over Knowledge Graphs [53.199517625701475]
CoGはDual-Process Theoryにインスパイアされたトレーニング不要のフレームワークで、直観と熟考の相互作用を模倣している。
CoGは精度と効率の両方において最先端のアプローチを著しく上回っている。
論文 参考訳（メタデータ） (2026-01-16T07:27:40Z) - Analyzing Reasoning Consistency in Large Multimodal Models under Cross-Modal Conflicts [74.47786985522762]
テキスト慣性(textual inertia)と呼ばれる重要な障害モードを特定し、矛盾する視覚的証拠を無視しながら、モデルは間違ったテキストに盲目的に固執する傾向がある。
本稿では,多種多様なLMMの推論連鎖に摂動を構造的に注入するLogicGraph摂動プロトコルを提案する。
その結果,10%未満の症例で自己修正が成功し,主に視覚的テキスト誤りの伝播に寄与することが判明した。
論文 参考訳（メタデータ） (2026-01-07T16:39:34Z) - When in Doubt, Deliberate: Confidence-Based Routing to Expert Debate for Sexism Detection [7.299050989302629]
我々は,(i)低表現,(ii)雑音,(iii)データおよびモデル予測における概念的あいまいさの複合効果に対処する枠組みを提案する。
提案手法では,タスク EXIST 2025 タスク 1.1 では F1 が +2.72% 改善され,EDOS A と B では +4.48% と +1.30% が得られた。
論文 参考訳（メタデータ） (2025-12-21T05:48:57Z) - AdaCAD: Adaptively Decoding to Balance Conflicts between Contextual and Parametric Knowledge [57.66282463340297]
知識の衝突は、大きな言語モデルの文脈における情報と、そのパラメータに格納された知識との相違から生じる。
コンフリクトの度合いに基づいて動的に調整の重みを推定する,AdaCADと呼ばれる細粒度なインスタンスレベルのアプローチを提案する。
ADACADは静的コントラストベースラインよりも平均QA精度14.21%(絶対)のデコードベースラインを一貫して上回り、要約の事実性を6.19倍(AlignScore)向上させることを示す。
論文 参考訳（メタデータ） (2024-09-11T16:35:18Z) - Fairness-Aware Meta-Learning via Nash Bargaining [63.44846095241147]
本稿では,機械学習におけるグループレベルの公平性の問題に対処する2段階のメタ学習フレームワークを提案する。
第1段階では、過度な競合を解決するためにNash Bargaining Solution(NBS)を使用して、モデルをステアリングする。
6つのキーフェアネスデータセットと2つの画像分類タスクにおいて、様々なフェアネス目標に対して経験的効果を示す。
論文 参考訳（メタデータ） (2024-06-11T07:34:15Z) - Estimating the Causal Effects of Natural Logic Features in Transformer-Based NLI Models [16.328341121232484]
文脈介入の効果を測定するために因果効果推定手法を適用した。
本研究はトランスフォーマーの無関係な変化に対する堅牢性と影響の高い変化に対する感受性について検討する。
論文 参考訳（メタデータ） (2024-04-03T10:22:35Z) - Fairness and robustness in anti-causal prediction [73.693135253335]
分散シフトと公平性に対するロバストさは、機械学習モデルに必要な2つの重要なデシラタとして独立に現れている。
これら2つのデシダラタは関連しているように見えるが、実際にはその関連性はしばしば不明である。
この観点から見れば、共通フェアネス基準(分離)とロバストネスの共通概念との明確な関係を描いています。
論文 参考訳（メタデータ） (2022-09-20T02:41:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。