論文の概要: Implicit Reasoning Steering via Concept Chaining
- arxiv url: http://arxiv.org/abs/2607.14242v1
- Date: Wed, 15 Jul 2026 18:03:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:32.879946
- Title: Implicit Reasoning Steering via Concept Chaining
- Title（参考訳）: 概念連鎖によるインシシシト推論ステアリング
- Abstract要約: 自然言語のテキストを使って、明示的な指示やトリガー、直接回答の手がかりを使わずに、指定された回答に向けてモデルをバイアスする。
間接的な自然なテキストは、直接のパラフレーズよりも推論がかなり少ないまま、体系的にモデル予測を操ることができることを示す。
- 参考スコア（独自算出の注目度）: 29.121206944212556
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models often appear to reason reliably, yet on many questions repeated sampling yields both correct and incorrect answers, revealing an underlying fragility in how final decisions are formed. We study whether this fragility can be exploited through implicit reasoning steering: using natural-language text to bias a model toward a designated answer without explicit instructions, triggers, or direct answer cues. Our approach, Concept Chaining, generates a short connection paragraph that links question entities to a target option through one or two intermediate concepts. We then continue pretraining a victim model on these connection paragraphs and evaluate whether its answer preference shifts on the original multiple-choice questions. Our results show that indirect, natural-looking text can systematically steer model predictions while remaining substantially less inferable than direct paraphrases, which shows that reasoning brittleness is not merely an evaluation artifact: it creates a practical channel through which latent biases can be amplified by ordinary-looking text to covertly redirect model decisions.
- Abstract（参考訳）: 大規模な言語モデルは、しばしば確実に理にかなっているように見えるが、繰り返しサンプリングされる多くの質問では、正しい答えと間違った答えの両方が得られ、最終的な決定の仕方における基盤となる脆弱性が明らかになる。
自然言語のテキストを用いて、明示的な指示やトリガー、直接回答の手がかりを使わずに、指定された回答に対してモデルに偏見を与える。
我々のアプローチであるConcept Chainingは、質問エンティティを1つか2つの中間概念を介してターゲットオプションにリンクする短い接続文を生成する。
次に、これらの接続段落上で被害者モデルを事前訓練し、その回答嗜好が元の複数選択質問にシフトするかどうかを評価する。
本研究の結果から, 間接的, 自然的に見えるテキストは, モデル予測を体系的に行うことができるが, 直接のパラフレーズよりも推論しにくいため, 脆さの推論は単なる評価成果ではなく, モデル決定を隠蔽するために, 通常のテキストで潜伏バイアスを増幅する実用的なチャネルを作成することができることがわかった。
関連論文リスト
- Clarify, Abstain or Answer? Strategising in Conversation with Belief-Augmented Generation [38.81368744366676]
大規模言語モデル(LLM)はテキスト上の分布を定義し、不確実性の確率的表現と見なすことができる。
提案するBelief-Augmented Generation (BAG) は,これらのKサンプルに対して,会話戦略を決定するための理由を与える。
BAGは6つのモデルのQA精度を改善し、即時のみのベースラインよりも信条に忠実な戦略決定を下す。
論文 参考訳（メタデータ） (2026-05-25T13:29:02Z) - Decoding Answers Before Chain-of-Thought: Evidence from Pre-CoT Probes and Activation Steering [5.427346259545067]
CoT(Chain-of- Thought)は、大規模言語モデルにおける推論機能のスケーリングの中心となっている。
命令調整モデルがCoTを生成する前に解答を決定する場合が多いことを示す。
論文 参考訳（メタデータ） (2026-03-02T04:33:55Z) - Analyzing Reasoning Consistency in Large Multimodal Models under Cross-Modal Conflicts [74.47786985522762]
テキスト慣性(textual inertia)と呼ばれる重要な障害モードを特定し、矛盾する視覚的証拠を無視しながら、モデルは間違ったテキストに盲目的に固執する傾向がある。
本稿では,多種多様なLMMの推論連鎖に摂動を構造的に注入するLogicGraph摂動プロトコルを提案する。
その結果,10%未満の症例で自己修正が成功し,主に視覚的テキスト誤りの伝播に寄与することが判明した。
論文 参考訳（メタデータ） (2026-01-07T16:39:34Z) - More Bias, Less Bias: BiasPrompting for Enhanced Multiple-Choice Question Answering [53.09478307383865]
大規模言語モデル(LLM)のための新しい推論フレームワークであるBiasPromptingを紹介する。
最終的な予測に到達する前に、LCMにすべての妥当な答えオプションの推論を生成し、批判的に評価するように誘導する。
広く使われている5つの質問応答ベンチマークにおいて、大幅な改善が示されている。
論文 参考訳（メタデータ） (2025-11-25T09:01:08Z) - From Disagreement to Understanding: The Case for Ambiguity Detection in NLI [3.5164356851161984]
このポジションペーパーでは、自然言語推論(NLI)におけるアノテーションの不一致は単なるノイズではなく、しばしば意味のある変化を反映していると主張している。
まず、あいまいな入力ペアを識別し、それらの型を分類し、次に推論に進む、あいまいさを意識したNLIへのシフトを呼びます。
論文 参考訳（メタデータ） (2025-07-20T20:27:35Z) - A Closer Look at Bias and Chain-of-Thought Faithfulness of Large (Vision) Language Models [58.32070787537946]
思考の連鎖(CoT)推論は、大きな言語モデルの性能を高める。
大規模視覚言語モデルにおけるCoT忠実度に関する最初の総合的研究について述べる。
論文 参考訳（メタデータ） (2025-05-29T18:55:05Z) - Threading the Needle: Reweaving Chain-of-Thought Reasoning to Explain Human Label Variation [60.18907916989796]
大規模言語モデル(LLM)は最終答を出す前に思考の連鎖(CoT)を生成する。
本稿では,各回答オプションに対するサポート文と反対文を抽出するために,言語的に接頭した談話セグメンタを付加した新しいパイプラインを提案する。
また、正確なスコアよりも回答のランクを優先するランクベースHLV評価フレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-29T11:47:18Z) - Reasoning-Grounded Natural Language Explanations for Language Models [2.7855886538423182]
本稿では,忠実な自然言語説明を得るための大規模言語モデル説明可能性手法を提案する。
トークンのシーケンスに変換されると、推論プロセスの出力がモデルコンテキストの一部となる。
また,提案手法を用いることで,回答の質を向上できることを示す。
論文 参考訳（メタデータ） (2025-03-14T10:00:03Z) - Abductive Commonsense Reasoning Exploiting Mutually Exclusive
Explanations [118.0818807474809]
帰納的推論は、イベントのもっともらしい説明を見つけることを目的としている。
自然言語処理における帰納的推論のための既存のアプローチは、しばしば監督のために手動で生成されたアノテーションに依存している。
この研究は、ある文脈に対して、説明のサブセットのみが正しいという事実を活用する、帰納的コモンセンス推論のアプローチを提案する。
論文 参考訳（メタデータ） (2023-05-24T01:35:10Z) - Logical Satisfiability of Counterfactuals for Faithful Explanations in
NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。
これは、説明に表される論理述語に基づいて、反実仮説を生成する。
そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文 参考訳（メタデータ） (2022-05-25T03:40:59Z) - A Semantic-based Method for Unsupervised Commonsense Question Answering [40.18557352036813]
ラベル付きタスクデータに依存しないため、教師なしのコモンセンス質問応答は魅力的である。
教師なしコモンセンス質問応答のためのSemantic-based Question Answering法(SEQA)を提案する。
論文 参考訳（メタデータ） (2021-05-31T08:21:52Z) - Contrastive Explanations for Model Interpretability [77.92370750072831]
分類モデルの対照的説明を生成する手法を提案する。
本手法は潜在空間へのモデル表現の投影に基づいている。
本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
論文 参考訳（メタデータ） (2021-03-02T00:36:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。