論文の概要: Evaluating and Explaining Prompt Sensitivity of LLMs Using Interactions
- arxiv url: http://arxiv.org/abs/2608.18539v1
- Date: Wed, 19 Aug 2026 04:45:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.281468
- Title: Evaluating and Explaining Prompt Sensitivity of LLMs Using Interactions
- Title（参考訳）: 相互作用を用いたLDMのプロンプト感度評価と説明
- Abstract要約: さらに微妙で意味的に無関係なプロンプトの変化は、パフォーマンスの劇的な変動を引き起こす可能性がある。
本稿では,インタラクションに微妙な変化を導入した場合のインタラクションの変化を定量化して,インタラクションに基づくPrompt Sensitivityメトリックを提案する。
- 参考スコア（独自算出の注目度）: 10.595427068095397
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The remarkable capabilities of large language models (LLMs) are often undermined by their instability. Even subtle and semantically irrelevant changes in prompts can cause dramatic fluctuations in performance, a phenomenon known as prompt sensitivity. Previous studies typically evaluate prompt sensitivity by comparing the LLM's final outputs when prompts change. However, such coarse-grained metrics fail to explain the internal reasons for prompt sensitivity. In this paper, we introduce interactions as a fine-grained tool to analyze prompt sensitivity of LLMs. Specifically, we decompose the output score of the LLM into a set of interactions. Each interaction represents a nonlinear relationship involving a set of input variables. We discover that subtle changes to prompts can trigger severe instability in interactions, even when the outputs of the LLM remain the same. To this end, we propose an Interaction-based Prompt Sensitivity (IPS) metric by quantifying changes in interactions when we introduce subtle changes to prompts. We apply the IPS metric to 50 open-source LLMs and uncover four factors that reduce the prompt sensitivity of LLMs, including supervised fine-tuning, increased model scales, dense architectures, and few-shot learning. More crucially, we discover a common mechanism by which these four factors reduce prompt sensitivity: all four factors tend to reduce the prompt sensitivity of low-order interactions (i.e., interactions involving few input variables).
- Abstract（参考訳）: 大きな言語モデル(LLM)の顕著な能力は、しばしばその不安定さによって損なわれます。
さらに微妙で意味的に無関係なプロンプトの変化は、パフォーマンスの劇的な変動を引き起こす可能性がある。
従来の研究は、通常、変化を起こす際にLLMの最終出力を比較することで、迅速な感度を評価する。
しかし、そのような粗い測定基準は、迅速な感度を示す内部の理由を説明するには至らなかった。
本稿では,LLMの迅速な感度解析を行うための細粒度ツールとしてインタラクションを導入する。
具体的には、LLMの出力スコアを一連の相互作用に分解する。
各相互作用は入力変数の集合を含む非線形関係を表す。
我々は,LLMの出力が同じである場合でも,プロンプトに対する微妙な変化が相互作用の不安定性を引き起こすことを発見した。
そこで本研究では,インタラクションに微妙な変化を導入した場合のインタラクションの変化を定量化して,インタラクションに基づくプロンプト感度(IPS)尺度を提案する。
IPSメトリックを50個のオープンソースLCMに適用し、教師付き微調整、モデルスケールの増大、高密度アーキテクチャ、数ショット学習など、LCMの迅速な感度を低下させる4つの要因を明らかにする。
さらに重要なことは、これらの4つの要因が迅速な感度を低下させる共通のメカニズムを発見し、これら4つの要因はいずれも低次相互作用の迅速な感度を低下させる傾向がある(つまり、入力変数の少ない相互作用)。
関連論文リスト
- Toxic HallucinAItions: Perturbing Prompts and Tracing LLM Circuits [17.92293259974243]
語彙と音調に基づく急激な摂動が大規模言語モデル(LLM)の事実的信頼性に与える影響について検討する。
有害な語彙摂動は事実の精度を一貫して低下させ,不確実性を増大させる一方,丁寧な表現は限定的かつ一貫性のない変化をもたらす。
論文 参考訳（メタデータ） (2026-05-29T06:58:47Z) - Understanding the Prompt Sensitivity [24.53996114318076]
プロンプト感度(英: Prompt sensitivity)とは、大きな言語モデルの出力が入力プロンプトの正確な語遣いに依存することを指す。
我々は,意味保存プロンプト,その勾配,およびモデルの次のトークンのログ確率の関係を解析する。
LLMは、小さなニューラルネットワークのように内部的に類似した入力をクラスタリングするのではなく、分散することを示す。
論文 参考訳（メタデータ） (2026-04-20T15:13:33Z) - Revisiting Prompt Sensitivity in Large Language Models for Text Classification: The Role of Prompt Underspecification [3.2059646106414967]
大型言語モデル (LLM) はゼロショットと少数ショットの分類器として広く使われている。
特定されていないプロンプトと特定の指示を提供するプロンプトの感度を研究・比較する。
命令プロンプトがそのような問題に苦しむのに対して、未特定プロンプトは、関連するトークンに対して高い性能のばらつきとロジット値の低下を示す。
論文 参考訳（メタデータ） (2026-02-04T07:59:28Z) - Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。
故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。
本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
論文 参考訳（メタデータ） (2025-10-16T05:29:36Z) - Flaw or Artifact? Rethinking Prompt Sensitivity in Evaluating LLMs [34.51801559719707]
ハイプロンプト感度は、大規模言語モデルのコアリミットとして広く受け入れられている。
広く報告されているハイプロンプト感度は、本当にLLMの本質的な弱点なのか、それとも、主に評価プロセスの成果物なのか?
即発感度の多くは,ログライクなスコアリングや厳密な回答マッチングなど,評価手法に起因していることがわかった。
論文 参考訳（メタデータ） (2025-09-01T21:38:28Z) - Sensitivity Meets Sparsity: The Impact of Extremely Sparse Parameter Patterns on Theory-of-Mind of Large Language Models [55.46269953415811]
ToM感受性パラメータを同定し、これらのパラメータの0.001%の摂動がToM性能を著しく低下させることを示す。
我々の結果は、モデルアライメントの強化、バイアス軽減、ヒューマンインタラクション用に設計されたAIシステムの改善に影響を及ぼす。
論文 参考訳（メタデータ） (2025-04-05T17:45:42Z) - ProSA: Assessing and Understanding the Prompt Sensitivity of LLMs [72.13489820420726]
ProSAは、大規模な言語モデルにおいて、迅速な感度を評価し、理解するために設計されたフレームワークである。
我々の研究は、データセットやモデル間で迅速に感度が変動することを発見し、より大きなモデルでは堅牢性が向上することを示した。
論文 参考訳（メタデータ） (2024-10-16T09:38:13Z) - Hate Personified: Investigating the role of LLMs in content moderation [64.26243779985393]
ヘイト検出などの主観的タスクでは,人々が嫌悪感を知覚する場合には,多様なグループを表現できるLarge Language Model(LLM)の能力は不明確である。
追加の文脈をプロンプトに含めることで、LLMの地理的プライミングに対する感受性、ペルソナ属性、数値情報を分析し、様々なグループのニーズがどの程度反映されているかを評価する。
論文 参考訳（メタデータ） (2024-10-03T16:43:17Z) - Understanding the Relationship between Prompts and Response Uncertainty in Large Language Models [55.332004960574004]
大規模言語モデル(LLM)は意思決定に広く使用されているが、特に医療などの重要なタスクにおける信頼性は十分に確立されていない。
本稿では,LSMが生成する応答の不確実性が,入力プロンプトで提供される情報とどのように関連しているかを検討する。
本稿では,LLMが応答を生成する方法を説明し,プロンプトと応答の不確実性の関係を理解するためのプロンプト応答の概念モデルを提案する。
論文 参考訳（メタデータ） (2024-07-20T11:19:58Z) - How are Prompts Different in Terms of Sensitivity? [50.67313477651395]
本稿では,関数の感度に基づく包括的即時解析を提案する。
出力に対する入力トークンの関連性に異なるプロンプトがどう影響するかを実証的に示すために、勾配に基づく唾液度スコアを使用する。
本稿では, 感度推定をペナルティ項として組み込んだ感度認識復号法を標準グリーディ復号法で導入する。
論文 参考訳（メタデータ） (2023-11-13T10:52:01Z) - ReEval: Automatic Hallucination Evaluation for Retrieval-Augmented Large Language Models via Transferable Adversarial Attacks [91.55895047448249]
本稿では,LLMベースのフレームワークであるReEvalについて述べる。
本稿では、ChatGPTを用いてReEvalを実装し、2つの人気のあるオープンドメインQAデータセットのバリエーションを評価する。
我々の生成したデータは人間可読であり、大きな言語モデルで幻覚を引き起こすのに役立ちます。
論文 参考訳（メタデータ） (2023-10-19T06:37:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。