論文の概要: EXCISE: Locating and Excising Distracting Sentences in Medical Question Answering

• arxiv url: http://arxiv.org/abs/2610.35558v1
• Date: Mon, 26 Oct 2026 14:59:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:14.044173
• Title: EXCISE: Locating and Excising Distracting Sentences in Medical Question Answering
• Title（参考訳）: EXCISE: 医学的質問応答における抽出文の配置と抽出
• Abstract要約: 一方, 頭部マスキングは正解を抑えることができるのに対し, 既知の邪魔者に対する注意を遮断することは解答を回復させる。 提案手法は, 文が解答に最も影響を及ぼすのをブロックする推論時手法であるEXCISEを提案するが, モデルが隠れた状態がそれと矛盾していることを示す場合のみである。
• 参考スコア（独自算出の注目度）: 2.3565548893554875
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language models are increasingly considered for clinical decision support, where their answers should be grounded in clinical evidence and remain robust to irrelevant information. Prior work shows that a single irrelevant sentence can lower the accuracy of medical models, but not where inside the model its effect can be removed, or how to do so without knowing which sentence it is. We find that blocking attention to a known distractor restores the answer, whereas head masking can suppress correct answers. We also show that the model's hidden states mark the distractor as the sentence that least fits the case even when the model follows it. To remove a distractor's effect without knowing which sentence it is, we propose EXCISE, an inference-time method that blocks the sentence most influencing the answer, but only if the model's hidden states mark it as inconsistent with the case. On MedQA-TD (MedQA with Targeted Distractors), a benchmark we construct in which each distractor targets a specific wrong option, EXCISE gains 16.7-22.8 accuracy points at a 1.5-2.1-point cost on the same questions without distractors, outperforming prompting, rewriting, and steering baselines for all three models. Its gains extend to MedDistractQA and BiasMedQA, as well as chain-of-thought generation.
• Abstract（参考訳）: 言語モデルは、臨床的決定支援のためにますます検討されており、その答えは、臨床的証拠に基礎を置いて、無関係な情報に対して頑健なままであるべきである。 先行研究では、1つの無関係な文は、医療モデルの精度を低下させるが、モデル内でその効果を除去する場所や、どの文がどれであるかを知らずに行う方法が示される。 一方, 頭部マスキングは正解を抑えることができるのに対し, 既知の邪魔者に対する注意を遮断することは解答を回復させる。 また、モデルの隠された状態は、モデルがそれに従う場合でも、そのケースに最も適さない文として、気晴らしをマークしていることも示します。 そこで本研究では,どの文がどの文であるかを知ることなく,その文がどの文に最も影響するかを判断し,その文に最も影響を与えやすい文をブロックするEXCISE法を提案する。 MedQA-TD(MedQA with Targeted Distractors)では、各インタプリタが特定の間違ったオプションをターゲットとするベンチマークを構築し、EXCISEの精度は16.7-22.8で、同じ質問に対して、インタプリタを使わずに1.5-2.1ポイントのコストを得る。 その利益はMedDistractQAやBiasMedQAにも及んでいる。

関連論文リスト

• Trinity: Self-Evolving Vision-Language Models with a Self-Verifier [54.51233137413308]
  自己進化型視覚言語モデル(VLM)は、教師なしの方法で推論能力を拡大するエージェントへの有望なルートである。 本稿では,VLMが3つの役割,問合せ,解答,検証の3つを演じるトリニティについて述べる。 Verifierは、画像のグラウンド化のために生成されたすべての質問をスクリーニングし、監督される前に正解する。
  論文  参考訳（メタデータ） (2026-10-03T12:17:29Z)
• Why LLMs Give In: Conversational Factors and Reasoning Behind Medical Sycophancy [8.386215461053723]
  ユーザプッシュバックの下で正しい医療回答を放棄する言語モデルは、単に間違っていたものよりも危険です。 本研究は, 言語モデルにおいて, 4つの対話的要因にまたがる完全に交差した因子的設計を用いて, 医用サイコファシーについて検討した。
  論文  参考訳（メタデータ） (2026-08-02T05:49:25Z)
• Represented but Ignored: A Causal Account of Prosodic Underuse in Audio-Language Models [0.3142999832608949]
  韻律的キューを聴き、正しく表現するモデルは、まだ答えの中でそれを表現できない可能性があることを示す。 この分析における最も高い属性のいくつかは、韻律情報を運ぶことで知られる音響的手がかりと一致している。
  論文  参考訳（メタデータ） (2026-06-12T22:57:09Z)
• How LLMs Are Persuaded: A Few Attention Heads, Rerouted [14.942277949005549]
  言語モデルは、事実の知識を捨てるよう説得することができる。 この脆弱性はAIの安全性の中心であるが、内部メカニズムはまだ理解されていない。 我々は、説得誘発事実誤りの因果関係をコンパクトに解明する。
  論文  参考訳（メタデータ） (2026-05-10T04:15:24Z)
• When AI Shows Its Work, Is It Actually Working? Step-Level Evaluation Reveals Frontier Language Models Frequently Bypass Their Own Reasoning [0.0]
  言語モデルは、答える前にステップバイステップの推論を書くことで、ますます"彼らの仕事を示す"。 しかし、これらの推論ステップは真に使われているのか、あるいはモデルがすでに決定した後に生成された装飾的な物語なのか? ステップレベルの評価を導入する: 一度に1つの推論文を取り除き、答えが変わるかどうかを確認する。
  論文  参考訳（メタデータ） (2026-03-24T05:38:13Z)
• Thought Branches: Interpreting LLM Reasoning Requires Resampling [10.978878422025232]
  一つのサンプルを研究することは因果的影響と基礎となる計算を理解するのに不十分であると主張する。 モデル決定のための再サンプリングを用いたケーススタディを提案する。
  論文  参考訳（メタデータ） (2025-10-31T14:02:37Z)
• Do Retrieval Augmented Language Models Know When They Don't Know? [55.72375712577378]
  ALMはいつ知らないのか知っていますか? 期待とは対照的に, LLM は有意なテキストバッファー-拒否行動を示す。 提案手法は, 学習後モデルに対する簡易かつ効果的な拒絶手法を開発し, 解答品質を向上する。
  論文  参考訳（メタデータ） (2025-09-01T13:44:15Z)
• Uncertainty Estimation of Large Language Models in Medical Question Answering [60.72223137560633]
  大規模言語モデル(LLM)は、医療における自然言語生成の約束を示すが、事実的に誤った情報を幻覚させるリスクがある。 医学的問合せデータセットのモデルサイズが異なる人気不確実性推定(UE)手法をベンチマークする。 以上の結果から,本領域における現在のアプローチは,医療応用におけるUEの課題を浮き彫りにしている。
  論文  参考訳（メタデータ） (2024-07-11T16:51:33Z)
• Navigating the OverKill in Large Language Models [84.62340510027042]
  モデルがどのように処理し,クエリの安全性を判断するかを検討することで,過剰スキルの要因について検討する。 以上の結果から,モデル内にショートカットが存在することが明らかとなり,"キル"のような有害な単語が過剰に認識され,安全性が強調され,過度なスキルが増すことが示唆された。 我々は、この現象を緩和するために、トレーニングフリーでモデルに依存しないセルフコントラストデコーディング(Self-Contrastive Decoding、CD)を導入する。
  論文  参考訳（メタデータ） (2024-01-31T07:26:47Z)
• Guiding Visual Question Answering with Attention Priors [76.21671164766073]
  本稿では,言語・視覚的接地による注意機構の導出について述べる。 この基礎は、クエリ内の構造化言語概念を視覚オブジェクト間の参照物に接続することで導かれる。 このアルゴリズムは、注意に基づく推論モデルを調べ、関連する連想的知識を注入し、コア推論プロセスを制御する。
  論文  参考訳（メタデータ） (2022-05-25T09:53:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。