論文の概要: MisleadQA: Diagnosing LLM Failures under Misleading Context

• arxiv url: http://arxiv.org/abs/2610.24851v1
• Date: Sat, 17 Oct 2026 19:58:32 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 11:45:45.487154
• Title: MisleadQA: Diagnosing LLM Failures under Misleading Context
• Title（参考訳）: MisleadQA: 誤解を招くコンテキスト下でのLLM障害の診断
• Abstract要約: 大規模言語モデル(LLM)は、検索されたコンテキストやユーザが提供するコンテキストからの質問に答えるために広く使われている。 与えられたコンテキストは、実際に真実だがスコープ外であり、質問対象と異なるエンティティ、時間、場所を記述することができる。 このようなスコープ外コンテキストがモデルを偽コンテキストと同じくらい誤解させるのか、ゴールドコンテキストを追加することでモデルが誤解されるのを防ぐのかは、いまだ不明である。
• 参考スコア（独自算出の注目度）: 11.155038854786225
• License:
• Abstract: Large language models (LLMs) are widely used to answer questions from retrieved or user-provided context. However, provided context can be factually true yet out-of-scope, describing a different entity, time, or location from the one the question targets, and still lead models to a wrong answer. Prior work has mainly studied factually false or irrelevant context. It remains unclear whether such out-of-scope context misleads models as much as false context, and whether adding gold context prevents models from being misled by either. We introduce **MisleadQA**, a diagnostic dataset of multiple-choice questions with an abstention option. Each question pairs gold context (G) with true but out-of-scope context (S) and false but in-scope context (F) supporting the same wrong answer. We evaluate six open-weight LLMs. On questions they answer correctly without context, providing S alone leads them to switch to this wrong answer in 29.3% of cases, and providing F alone does so in 75.4%. Adding G nearly removes the effect of S, but F still misleads models in 21.0% of cases, especially when F comes first. A context-faithful instruction reduces these errors mainly through abstention and lowers accuracy even with G. These findings suggest that evaluations should check whether context applies to the question, not only whether it is true, and should report correct, misled, and abstention rates together. Data and code are available at [https://anonymous.4open.science/r/MisleadQA](https://anonymous.4open.science/r/MisleadQA).
• Abstract（参考訳）: 大規模言語モデル(LLM)は、検索されたコンテキストやユーザが提供するコンテキストからの質問に答えるために広く使われている。 しかし、与えられたコンテキストは実際は真実だが、スコープ外であり、質問対象のエンティティ、時間、場所が異なることを記述し、モデルが間違った答えを導きます。 先行研究は主に事実的または無関係な文脈について研究してきた。 このようなスコープ外コンテキストがモデルを偽コンテキストと同じくらい誤解させるのか、ゴールドコンテキストを追加することでモデルが誤解されるのを防ぐのかは、いまだ不明である。 提案する**MisleadQA**は、複数質問の診断データセットであり、棄権オプションがある。 各質問は、ゴールドコンテキスト(G)と真だがスコープ外コンテキスト(S)と、同じ間違った答えをサポートする偽だがスコープ内コンテキスト(F)とをペアリングする。 オープンウェイトLLMを6種類評価した。 質問に対して、彼らは文脈なしで正しく答え、Sのみを与えると29.3%のケースで間違った答えに切り替え、Fのみを与えると75.4%になる。 G を追加することは S の効果をほとんど排除するが、F は F が最初に現れる場合の 21.0% のケースでモデルを誤解させる。 これらの知見は、文脈が真実かどうかだけでなく、その問題に文脈が当てはまるかどうかを評価すべきであり、正しく、誤解し、無視率を一緒に報告すべきであることを示唆している。 データとコードは[https://anonymous.4open.science/r/MisleadQA](https://anonymous.4open.science/r/MisleadQA]で入手できる。

関連論文リスト

• FramingQA: Does the Question Shape the Answer? Measuring the Compositional Framing Effect [69.8983512616053]
  大規模な言語モデルは、しばしばユーザによる暗黙のスタンスと一致する微妙な言い換えに応答を変更する。 これによってユーザーは、根拠となる事実ではなく、どのようにして質問を言い表したかというアドバイスをユーザーに残すことができる。 FramingQAは、法律、医学、ファイナンス、ロボットシミュレーションにまたがるフレーミングに疑問を呈するモデル感度を測定するベンチマークである。
  論文  参考訳（メタデータ） (2026-09-07T12:56:44Z)
• Prompt-Based Abstention Fails Under Misleading Context: A Controlled Study of Small Frozen RAG Models [0.0]
  誤りや誤解を招く証拠は、検索強化世代でも同じ問題ではない。 証拠が欠落している場合、モデルは確実に棄却されるが、明示的な棄却の下では、誤解を招く質問の41.6%は依然として答えている。
  論文  参考訳（メタデータ） (2026-08-23T05:43:27Z)
• Sufficient Context: A New Lens on Retrieval Augmented Generation Systems [19.238772793096473]
  LLMをコンテキストで拡張すると、多くのアプリケーションのパフォーマンスが向上する。 我々は、クエリに答える十分な情報を持つインスタンスを分類すると共に、十分なコンテキストという新しい概念を開発する。 文脈充足度に基づく誤りの階層化により,コンテキストが十分であれば,より高いベースライン性能を持つ大規模モデルの方がクエリの応答に優れることがわかった。
  論文  参考訳（メタデータ） (2024-11-09T02:13:14Z)
• LLM Robustness Against Misinformation in Biomedical Question Answering [50.98256373698759]
  探索拡張生成(RAG)アプローチは,質問応答のための大規模言語モデル(LLM)の折り畳みを低減するために用いられる。 バイオメディカル質問に対する誤報に対する4つのLDMの有効性とロバスト性を評価した。
  論文  参考訳（メタデータ） (2024-10-27T16:23:26Z)
• LACIE: Listener-Aware Finetuning for Confidence Calibration in Large Language Models [69.68379406317682]
  暗黙的および明示的な信頼マーカーを校正するリスナー対応微調整法 (LACIE) を提案する。 我々は,LACIEがリスナーをモデル化し,回答が正しいかどうかだけでなく,リスナーに受け入れられるかどうかを考察する。 LACIEによるトレーニングの結果、正しい回答の受け入れレベルを維持しながら、誤った回答が受け入れられる割合が47%減少することがわかった。
  論文  参考訳（メタデータ） (2024-05-31T17:16:38Z)
• Characterizing LLM Abstention Behavior in Science QA with Context Perturbations [13.897212714309548]
  本研究では,LLMが不十分あるいは誤った文脈で科学的な疑問に答えることを禁じる能力について検討する。 性能はモデルによって大きく異なり、提供されたコンテキストの種類や質問タイプによっても大きく異なることを示す。 以上の結果から,QAデータセットの設計と評価において,モデル棄却の正しさと下流への影響をより効果的に評価するために,変更が必要であることが示唆された。
  論文  参考訳（メタデータ） (2024-04-18T18:26:43Z)
• TASA: Deceiving Question Answering Models by Twin Answer Sentences Attack [93.50174324435321]
  本稿では,質問応答(QA)モデルに対する敵対的攻撃手法であるTASA(Twin Answer Sentences Attack)を提案する。 TASAは、金の回答を維持しながら、流動的で文法的な逆境を生み出す。
  論文  参考訳（メタデータ） (2022-10-27T07:16:30Z)
• Invariant Grounding for Video Question Answering [72.87173324555846]
  Video Question Answering (ビデオQA)は、ビデオに関する質問に答えるタスクである。 先行するビデオQAモデルでは、典型的な学習目標である経験的リスク最小化(ERM)が、ビデオクエストペアと回答の間の表面的相関に基づく。 Invariant Grounding for VideoQA (IGV) という新たな学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-06T04:37:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。