論文の概要: When Both Sides Adapt: The Challenges of Evaluating Interactive LLM Systems
- arxiv url: http://arxiv.org/abs/2611.17239v1
- Date: Thu, 12 Nov 2026 18:26:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.586693
- Title: When Both Sides Adapt: The Challenges of Evaluating Interactive LLM Systems
- Title(参考訳): 双方が適応する: 対話型LLMシステム評価の課題
- Abstract要約: 本研究では,LLMの評価におけるユーザ適応性と即時内在性の影響について検討する。
オフラインベンチマーク評価とライブA/Bテストは,異なる量を対象としている。
この作業は、モデルのパフォーマンスと、モデルが引き起こすユーザー行動の変化を測定することの必要性を強調します。
- 参考スコア(独自算出の注目度): 0.14504054468850666
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In interactive systems where users engage with LLMs, users are adaptive and, after observing LLM responses, can change their prompting strategy, as well as the type and difficulty of subsequent tasks. Thus model responses can influence the set of prompts on which the model is subsequently evaluated. We study the implications of this user adaptivity and prompt endogeneity for the evaluation of LLMs. We define two classes of estimands for comparing models: the common-distribution effect, which compares model performance on the same distribution of prompts, and the induced-distribution effect, which compares each model on the prompt distribution generated through user interaction. We show that offline benchmark evaluation and live A/B testing target different quantities, with the standard difference-in-means estimators for the two methods converging to the common-distribution effect and the induced-distribution effect, respectively. This distinction can affect decision-making: the two comparisons can rank models differently and lead to discrepancies in deployment recommendations. We characterize when such ranking reversals occur and provide a sufficient condition under which the rankings are guaranteed to agree. This result provides a practical heuristic for assessing whether offline evaluation is sufficient to reproduce the decision suggested by a live experiment. Third, we show, in a stylized linear model of interactions, that user adaptivity can increase variance in estimation. Finally, we discuss implications of user adaptivity for the interpretation of experiments and show that adaptivity creates a common mechanism leading to common evaluation challenges, such as reward hacking and novelty effects. Together, this work highlights the necessity of measuring both model performance as well as changes in the user behavior that the model induces.
- Abstract(参考訳): LLMを利用する対話型システムでは、ユーザは適応的であり、LCMの応答を観察すると、その後のタスクのタイプや難易度だけでなく、プロンプト戦略を変えることができる。
したがって、モデル応答は、モデルがその後評価されるプロンプトのセットに影響を与える可能性がある。
本研究は,LLMの評価において,ユーザ適応性と即時内在性の影響について検討する。
提案手法では,プロンプトの同一分布におけるモデル性能を比較する共通分布効果と,ユーザインタラクションによって生成されたプロンプト分布に関する各モデルを比較する帰納分布効果の2つのクラスを定義した。
両手法の標準差分推定器をそれぞれ共通分布効果と帰属分布効果に収束させることにより, オフラインベンチマーク評価とライブA/Bテストは, それぞれ異なる量を対象としていることを示す。
この2つの比較はモデルを異なるランク付けし、デプロイメントレコメンデーションの相違につながる可能性がある。
このようなランク逆転が発生すると特徴付け、ランクが一致することが保証される十分な条件を提供する。
この結果は,ライブ実験によって提案された決定を再現するのにオフライン評価が十分かどうかを評価するための実践的ヒューリスティックを提供する。
第3に,スタイリングされた線形相互作用モデルにおいて,ユーザ適応性は推定のばらつきを増大させることができることを示す。
最後に,実験の解釈におけるユーザ適応性の影響を論じ,報酬ハッキングや新規性効果などの一般的な評価課題につながる共通メカニズムを,適応性が生み出すことを示す。
この作業は、モデルのパフォーマンスと、モデルが引き起こすユーザー行動の変化の両方を測定することの必要性を強調します。
関連論文リスト
- Interpreting Model Reasoning through Behavioral Counterfactuals [29.031290303212163]
本稿では,ある介入がモデル推論にどう影響するかを,行動的反事実を通して局所化し,分析する手法を提案する。
Gemma-4-E4B-itとDeepSeek-R1-0528-Qwen3-8Bのケーススタディにおいて、提案が言語的に認識されていない場合でもモデル推論にどのように影響するかを検討する。
論文 参考訳(メタデータ) (2026-10-22T02:53:04Z) - Modeling Deletion Requests in Machine Unlearning [4.0914245867848935]
我々は、ユーザーが「消去の権利」を行使する際に、AIモデルの振る舞いにどのように影響するかを示す。
データの削除を要求する際に、ユーザが採用する可能性のある2つの行動、すなわち適応性と収集性を定義します。
モデル動作を大幅に変更できる削除要求を設計するために、データアセスメントからのテクニックがどのように使われるかを示す。
論文 参考訳(メタデータ) (2026-10-03T05:49:51Z) - DualEval: Joint Model-Item Calibration for Unified LLM Evaluation [67.99119926012686]
DualEvalは、モデルと評価項目を共有空間で表現する潜在モデルイテムキャリブレーションフレームワークである。
我々はDualEvalを、コーディング、数学、雑多なドメイン知識タスク、汎用的な日常的なユーザクエリの4つの領域にまたがって適用する。
論文 参考訳(メタデータ) (2026-06-24T22:40:46Z) - The Illusion of Intervention: Your LLM-Simulated Experiment is an Observational Study [56.649987197786096]
大規模言語モデル(LLM)は人間の行動のシミュレータとしての可能性を示している。
LLMは潜在ユーザ属性の意図しないシフトを誘発し、ユーザのドリフトを引き起こす。
ユーザのドリフトによって生じる不確実性や選択バイアスを形式化する。
論文 参考訳(メタデータ) (2026-05-20T06:09:41Z) - Diverging Preferences: When do Annotators Disagree and do Models Know? [92.24651142187989]
我々は,4つのハイレベルクラスにまたがる10のカテゴリにまたがる相違点の分類法を開発した。
意見の相違の大部分は、標準的な報酬モデリングアプローチに反対している。
本研究は,選好の変化を識別し,評価とトレーニングへの影響を緩和する手法を開発する。
論文 参考訳(メタデータ) (2024-10-18T17:32:22Z) - Causal Disentangled Variational Auto-Encoder for Preference
Understanding in Recommendation [50.93536377097659]
本稿では,コメンテータシステムにおける対話データから因果不整合表現を学習するためのCaD-VAE(Causal Disentangled Variational Auto-Encoder)を提案する。
この手法は構造因果モデルを用いて、潜在因子間の因果関係を記述する因果表現を生成する。
論文 参考訳(メタデータ) (2023-04-17T00:10:56Z) - Variable Importance Matching for Causal Inference [73.25504313552516]
これらの目標を達成するためのModel-to-Matchと呼ばれる一般的なフレームワークについて説明する。
Model-to-Matchは、距離メートル法を構築するために変数重要度測定を使用する。
LASSO を用いて Model-to-Match フレームワークを運用する。
論文 参考訳(メタデータ) (2023-02-23T00:43:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。