論文の概要: Reading Too Much into Context: Passive Exposure Can Steer LLM Decisions

• arxiv url: http://arxiv.org/abs/2609.33065v1
• Date: Sun, 27 Sep 2026 00:54:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 10:49:10.352001
• Title: Reading Too Much into Context: Passive Exposure Can Steer LLM Decisions
• Title（参考訳）: 過剰にコンテキストを読み込む:パッシブ露光はLCMの決定を安定させる
• Abstract要約: 大きな言語モデル(LLM)アシスタントは、Webを検索し、ユーザリクエストを完了しながら外部ソースを参照することができる。 このような受動的露光は、追加コンテンツが変更の理由を提供しなくても決定を下すことができるのか? このような外部コンテンツの有無にかかわらず,同じタスクにおけるモデル決定の安定性について検討する。
• 参考スコア（独自算出の注目度）: 4.51474355742719
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) assistants can now search the web and consult external sources while completing user requests. These sources can provide useful evidence, but they can also introduce additional content into the model's context. Can such passive exposure steer a decision even when the added content provides no reason to change it? We examine the stability of model decisions on the same tasks with and without such external content. Across all open-weight and closed-weight models we test, exposure systematically shifts decisions, with effects reaching nearly 50 percentage points in closed-weight models. The same pattern appears with real-world online opinions. The influence also extends beyond subjective preferences. Such exposure can steer models toward choices that violate explicit user requirements and increase their acceptance of false claims. In short, what enters an LLM's context can influence its decision even when it should not determine it.
• Abstract（参考訳）: 大きな言語モデル(LLM)アシスタントは、Webを検索し、ユーザリクエストを完了しながら外部ソースを参照することができる。 これらのソースは有用なエビデンスを提供することができるが、モデルのコンテキストに追加のコンテンツを導入することもできる。 このような受動的露光は、追加コンテンツが変更の理由を提供しなくても決定を下すことができるのか? このような外部コンテンツの有無にかかわらず,同じタスクにおけるモデル決定の安定性について検討する。 テストしたすべてのオープンウェイトおよびクローズドウェイトモデルの中で、露出は決定を体系的にシフトし、効果はクローズドウェイトモデルで50ポイント近くに達する。 同じパターンが、現実世界のオンラインの意見と共に現れる。 また、その影響は主観的嗜好にも及ばない。 このような露出は、明示的なユーザー要求に違反する選択に向けてモデルを操り、虚偽のクレームの受け入れを増加させる可能性がある。 要するに、LLMのコンテキストに入るものは、その決定を下すべきではないとしても、その決定に影響を与える可能性がある。

関連論文リスト

• Can Revealed Preferences Clarify LLM Alignment and Steering? [23.175180848107093]
  LLMの観測した選択が最適化するインプリート嗜好を推定するための経験的パイプラインを提案する。 提案手法は,モデルが一貫したゴール指向の振る舞いをするかどうかの厳密な評価を可能にすることを示す。
  論文  参考訳（メタデータ） (2026-05-08T23:26:35Z)
• Understanding Knowledge Drift in LLMs through Misinformation [11.605377799885238]
  大規模言語モデル(LLM)は多くのアプリケーションに革命をもたらしました。 我々は,QnAシナリオで誤情報に遭遇した場合に,現状のLCMの事実的不正確性に対する感受性を解析する。 実験の結果,LLMの不確実性が56.6%まで増加することが判明した。
  論文  参考訳（メタデータ） (2024-09-11T08:11:16Z)
• How Susceptible are LLMs to Influence in Prompts? [6.644673474240519]
  大規模言語モデル(LLM)は、追加のコンテキストを含むプロンプトに非常に敏感である。 我々は,複数の質問に対するLLMの応答が,他のモデルからの予測と説明を含む場合,どのように変化するかを検討する。 本研究は, モデルが強い影響を受けており, 説明が提供されると, 説明の質に関わらず, ゆがみが生じることを示した。
  論文  参考訳（メタデータ） (2024-08-17T17:40:52Z)
• LLMs' Reading Comprehension Is Affected by Parametric Knowledge and Struggles with Hypothetical Statements [59.71218039095155]
  言語モデルの自然言語理解(NLU)能力を評価するための主要な手段として、読解理解(RC)があげられる。 文脈がモデルの内部知識と一致している場合、モデルの回答がコンテキスト理解に由来するのか、あるいは内部情報から生じるのかを識別することは困難である。 この問題に対処するために、架空の事実や実体に基づいて、想像上のデータにRCを使うことを提案する。
  論文  参考訳（メタデータ） (2024-04-09T13:08:56Z)
• Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
  大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。 本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。 観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
  論文  参考訳（メタデータ） (2023-11-15T00:02:25Z)
• Adapting Large Language Models for Content Moderation: Pitfalls in Data Engineering and Supervised Fine-tuning [79.53130089003986]
  大規模言語モデル(LLM)は、様々なドメインでタスクを処理するための実現可能なソリューションとなっている。 本稿では、コンテンツモデレーションのためにプライベートにデプロイ可能なLLMモデルを微調整する方法を紹介する。
  論文  参考訳（メタデータ） (2023-10-05T09:09:44Z)
• Intuitive or Dependent? Investigating LLMs' Behavior Style to Conflicting Prompts [9.399159332152013]
  本研究では,Large Language Models (LLM) の動作を,内部記憶と競合するプロンプトに直面する場合の挙動について検討する。 これにより、LLMの意思決定機構を理解し、検索強化生成(RAG)のような現実世界のアプリケーションにも役立つ。
  論文  参考訳（メタデータ） (2023-09-29T17:26:03Z)
• Modeling Content Creator Incentives on Algorithm-Curated Platforms [76.53541575455978]
  本研究では,アルゴリズムの選択が露出ゲームにおける(ナッシュ)平衡の存在と性格にどのように影響するかを検討する。 本研究では、露出ゲームにおける平衡を数値的に見つけるためのツールを提案し、MovieLensとLastFMデータセットの監査結果を示す。
  論文  参考訳（メタデータ） (2022-06-27T08:16:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。