論文の概要: Can LLMs Ignore What They Know? Measuring Knowledge Leakage in Persona-Based User Simulation

• arxiv url: http://arxiv.org/abs/2610.39939v1
• Date: Thu, 29 Oct 2026 12:38:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:16:50.049948
• Title: Can LLMs Ignore What They Know? Measuring Knowledge Leakage in Persona-Based User Simulation
• Title（参考訳）: LLMは知っていることを無視できるか? ペルソナによるユーザシミュレーションにおける知識漏洩の測定
• Abstract要約: テストされた低知識および明示的無知のプロンプトの下で、永続的に好適な実双対評価の分離を見いだす。 得られた問題(知識リーク)を定義し,その測定方法を提案する。
• 参考スコア（独自算出の注目度）: 6.565508752540301
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When persona-conditioned responses are read as respondent-level simulations, each response should reflect the described persona's knowledge, and the respondent written to know nothing must act as if the model's knowledge were not there. We test whether it can, and find persistent favourable-item real-twin rating separation under the tested low-knowledge and explicit-ignorance prompts. We define the resulting problem (knowledge leakage: a response bias that arises when knowledge the real user could not have enters the simulated response) and present a methodology for measuring it quantitatively. The core instrument pairs real items with fabricated twins matched in surface form: screened fabricated variants designed to minimize prior item-specific knowledge. The paired difference therefore provides a diagnostic contrast for knowledge leakage even in rating tasks where no answer is correct. In a rating experiment across three knowledge-handling arms and five API endpoints from two model families, we find, first, that the personas we test do not fully suppress real-item existence and familiarity signals: a favourable-item real-twin rating contrast remains under an explicit in-context statement that the persona has never heard of the item. Second, the unfavourable-item contrast reverses sign across domain groups: pooling all unfavourable-content items across domains the contrast sits near zero (+0.077 [-0.057, +0.204]), yet the same estimator in the same conditions returns -0.359 where the rating scale asks about an item's documented hazard and +0.438 where it asks about a company or an organisation. A pooled analysis of unfavourable-content items against zero therefore does not detect the opposing domain-group differences. All estimates are conditional on the adequacy of twin construction and screening; human low-knowledge baselines remain necessary for population-level interpretation.
• Abstract（参考訳）: ペルソナ条件の応答が応答レベルシミュレーションとして読まれると、各応答は記述されたペルソナの知識を反映し、モデルが知識を持っていないかのように何も振る舞う必要はない。 テスト可能なかどうかを検証し、テストされた低知識と明示的な無知のプロンプトの下で、永続的に好ましい実-ツイン評価の分離を見つけます。 得られた問題(知識リーク:実際のユーザがシミュレートされた応答を入力できない場合に発生する応答バイアス)を定義し,定量的に測定する方法を提案する。 コア機器は、製造された双子が表面形状で一致した実際のアイテムをペアリングする: 以前のアイテム固有の知識を最小限に抑えるために設計された、スクリーニングされた製造された変種。 したがって、ペアの違いは、答えが正しくない評価タスクにおいても、知識リークの診断コントラストを提供する。 3つの知識処理アームと2つのモデルファミリーの5つのAPIエンドポイントを対象とした評価実験では、まず、テスト対象のペルソナが実物の存在と親しみやすさの信号を完全に抑制していないことが判明した。 第2に、不測のイテムコントラストはドメイングループ間で符号を逆転する: ドメイン間ですべての不測のアイテムをプールする コントラストはゼロに近い(+0.077[-0.057, +0.204])が、同じ条件下で同じ推定器が-0.359を返す。 したがって、0 に対する望ましくない内容のプール解析は、反対の領域群差を検知しない。 人口レベルの解釈には、人間の低知識ベースラインが依然として必要である。

関連論文リスト

• Synthetic Data in Marketing Research: How to Evaluate and When to Trust [0.0]
  マーケティング研究における合成データに関する議論は、大きな言語モデル(LLM)が人間の不履行を時代遅れにするという主張と、それらを完全に回避するよう呼びかける主張との間を分断している。 総合的な回答者が働くかどうかではなく、いつ働くのか。 まず、我々は3種類の合成データを区別し、それぞれがサポートできる決定にマップする。 第2に, 精度測定の4つの家系の分類法を開発し, ほぼ完全から近精度まで, 報告された2つの精度の幅広い範囲が, 測定方法の質よりも測定対象の差異を反映していることが示唆された。
  論文  参考訳（メタデータ） (2026-09-12T15:13:10Z)
• Off-Target Effects of Response-Style Alignment in a Korean 27B Language Model [2.8678936590409028]
  本研究の目的は,不明瞭な社会的質問の棄却と証券ガイダンスの未公表の2つの行動を測定することである。 一致したターゲットフォームコントロールは、回答の妥当性がトレーニング対象に依存していることを示し、プロンプトセットやレシピのみに依存しない。
  論文  参考訳（メタデータ） (2026-09-10T09:23:04Z)
• Do Large Language Models Know What They Don't Know II? A Fully Behavioral, Non-Cognitive Measure of Epistemic Honesty [8.148357447770893]
  大規模言語モデル(LLM)は、しばしば自信を持ち、雄弁で、よく理解されている。 彼らは知らないことを知っていますか。 我々は,LLMがその知識の境界を適切に認識するかどうかを評価するための新しい指標を開発した。
  論文  参考訳（メタデータ） (2026-09-07T18:40:08Z)
• Do Synthetic Personas Predict Real Audience Response? A Sim-to-Real Study Where a No-Persona Baseline Beats Persona-Based Copy Simulation [51.56484100374058]
  そこで我々は,Upworthy Research Archiveを用いて,シミュレート・トゥ・リアルな妥当性について検討する。 実際の聴衆の人口統計に基づく10人のパネルと、一般的な読者がクリックする確率をモデルに尋ねるゼロショットベースラインを比較した。
  論文  参考訳（メタデータ） (2026-07-27T17:03:03Z)
• LivingArena: Do LLMs Know What Other LLMs Don't? Peer-Probing as Scalable Evaluation [79.03892269184145]
  LivingArenaは自動汚染耐性評価フレームワークである。 モデルは質問を交互に提案し、相手が正しく答えられないアイテムを提示する。 質問者は、相手の知識境界を積極的に特定し、活用することが奨励される。
  論文  参考訳（メタデータ） (2026-06-19T06:20:58Z)
• Two-Faced Social Agents: Context Collapse in Role-Conditioned Large Language Models [0.0]
  GPT-5は完全な数学の文脈崩壊を示し、最適応答に対する特異な同一性を採用した。 クロード・ソネット4.5はSATアイテムに限定的ではあるが測定可能な役割特異的なバリエーションを保持していた。 全てのモデルは、異なる役割条件の感情的嗜好を示し、認知的制約が緩和されたときに社会影響の変動が再燃することを示した。
  論文  参考訳（メタデータ） (2025-11-19T16:04:49Z)
• A Framework for Evaluating LLMs Under Task Indeterminacy [49.298107503257036]
  大規模言語モデル(LLM)の評価は、評価コーパスの各項目に対して単一の正しい応答(ゴールドラベル)があると仮定することが多い。 タスク不確定性の下でLLMを評価するためのフレームワークを開発する。
  論文  参考訳（メタデータ） (2024-11-21T00:15:44Z)
• Certainly Uncertain: A Benchmark and Metric for Multimodal Epistemic and Aleatoric Awareness [106.52630978891054]
  視覚言語AIシステムに特有の不確実性の分類法を提案する。 また、精度と校正誤差の両方によく相関する新しい計量信頼度重み付き精度を導入する。
  論文  参考訳（メタデータ） (2024-07-02T04:23:54Z)
• Relying on the Unreliable: The Impact of Language Models' Reluctance to Express Uncertainty [53.336235704123915]
  提案手法は, 自然言語による応答の信頼度と, LMによる不確実性に応答して下流ユーザーがどのように振る舞うかを考察する。 誤応答を生じた場合でも,LMは疑問に答える際の不確実性を表現することに消極的であることがわかった。 我々は、人間の実験によって、LM過信のリスクを検証し、ユーザがLM世代に大きく依存していることを示します。 最後に、トレーニング後のアライメントに使用する嗜好アノテートデータセットを調査し、不確実性のあるテキストに対して人間がバイアスを受けていることを確認する。
  論文  参考訳（メタデータ） (2024-01-12T18:03:30Z)
• Improving the Reliability of Large Language Models by Leveraging Uncertainty-Aware In-Context Learning [76.98542249776257]
  大規模言語モデルはしばしば「ハロシン化」の課題に直面している 本研究では,不確実性に応答してモデルが出力を拡張あるいは拒否することを可能にする,不確実性を考慮したコンテキスト内学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-07T12:06:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。