論文の概要: The Curse of Knowledge in Role-Playing Language Models

• arxiv url: http://arxiv.org/abs/2610.17327v1
• Date: Mon, 12 Oct 2026 19:37:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-18 02:09:52.466427
• Title: The Curse of Knowledge in Role-Playing Language Models
• Title（参考訳）: ロールプレイング言語モデルにおける知識のカース
• Abstract要約: ロールプレイング言語モデルはゲームやエージェントシミュレーションのキャラクターとして話され、システムは各キャラクターが何を聴くかを記録し、観察し、理解する。 我々は、これらの境界を480の場面で尊重するかどうかを検証し、それぞれが、隠れた事実だけを変える反実的な双子を持つので、双子の事実測度の推定について言及する。 11個のオープンウェイトモデルにまたがって、文字はこのベースライン上の67と72のパーセンテージポイント(pp)で理解または聴くことができない音声のコンテンツを使用するが、ほとんどのモデルは文字が知覚するものを正しく記述する。
• 参考スコア（独自算出の注目度）: 4.479714617176091
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Role-playing language models speak as characters in games and agent simulations, where the system records what each character can hear, see and understand. We test whether characters respect these boundaries in 480 scenes, each with a counterfactual twin that changes only the hidden fact, so mentions of the twin's fact measure guessing. Across 11 open-weight models, characters use content from speech they cannot understand or hear at 67 and 72 percentage points (pp) above this baseline, although most models correctly state what the character perceives. This is a curse of knowledge. The leak extends to hidden actions and private messages and changes where characters search. Five of six proprietary models rarely leak, but compliance in strong models depends on input format. Changing only the scene layout or character description raises the rate in two otherwise compliant open-weight models from under 10 to over 60 pp, and combined changes raise two proprietary models from near zero to 13 and 21~pp. Writing the line as the scene's author leaks nearly as much as role-play, and thinking rarely helps. Giving models only what the character observes stops the leak without hiding what it may report.
• Abstract（参考訳）: ロールプレイング言語モデルはゲームやエージェントシミュレーションのキャラクターとして話され、システムは各キャラクターが何を聴くかを記録し、観察し、理解する。 我々は、これらの境界を480の場面で尊重するかどうかを検証し、それぞれが、隠れた事実だけを変える反実的な双子を持つので、双子の事実測度の推定について言及する。 11個のオープンウェイトモデルにまたがって、文字はこのベースライン上の67と72のパーセンテージポイント(pp)で理解または聴くことができない音声のコンテンツを使用するが、ほとんどのモデルは文字が知覚するものを正しく記述する。 これは知識の呪いです。 リークは、隠れたアクションやプライベートメッセージ、文字が検索する場所の変更にまで及ぶ。 6つのプロプライエタリなモデルのうち5つはほとんどリークしないが、強いモデルのコンプライアンスは入力形式に依存している。 シーンレイアウトやキャラクタ記述だけを変えると、他の2つの標準準拠のオープンウェイトモデルでは10pp未満から60pp以上に上昇し、2つのプロプライエタリモデルではほぼゼロから13ppから21ppに上昇する。 シーンの作者として行を書くことはロールプレイと同じくらいに漏れ、思考がほとんど役に立たない。 キャラクタが観察するもののみをモデルにすることは、報告するものを隠すことなく、リークを止める。

関連論文リスト

• Apertus 1.5: From Open Text Models to Open Multimodal Reasoners [148.09760591577466]
  Apertus 1.5は、完全にオープンなApertusファミリーをテキストからマルチモーダル推論まで拡張している。 マルチモーダリティはトークン化子を通して入力され、言語モデルヘッドはテキストに制限され、アーキテクチャは変わらない。
  論文  参考訳（メタデータ） (2026-10-11T11:34:43Z)
• ANIMASK: What the Model Contributes to Role Play in Simulated Story Worlds [7.891251085330825]
  ANIMASKは本やスクリプトをフリーズし、各ストーリーをフリーズポイントから再生するフレームワークである。 40のストーリー、6つのアクターモデル、3,846の意思決定ポイントで、リプレイはキャノンから1つの共有方向に収束する。
  論文  参考訳（メタデータ） (2026-09-15T05:43:35Z)
• CHARM: Character Hallucination for Multicultural Role Play Benchmark [10.7522550144773]
  実写と架空の40文字のベンチマークであるCHARMを紹介する。 時間的(歴史的対現代的)とクロスユニバース(人物の物語や歴史的宇宙の外側の領域)という2つの境界タイプを、禁忌対応の多重選択質問を用いて探索する。 幻覚は、主にコンプライアンスの失敗によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2026-09-01T14:57:14Z)
• Prompt Design at Scale: How Format, Instruction Count, and Context Length Shape Instruction Adherence and Hallucination in Large Language Models [0.0]
  2つの実験は、保持された汚染のない合成コーパス上の3つの因子全てを横断する。 実験1では,規則数Nが10から160に増加するにつれて,命令追従減衰を測定する。 実験2では, 2k-to-512k-tokenのコンテキストラグ上での精度, 虚偽の前提条件, ファクトファクトファクトファクチャリングの測定を行った。
  論文  参考訳（メタデータ） (2026-07-21T16:31:35Z)
• What-If World: A Causal Benchmark for General World Models in Embodied Scenarios [23.527918480081013]
  ビデオ生成モデルは、運転やロボット操作といったタスクのための世界シミュレータとして、ますます使われている。 これらの設定で重要なのは、単一のビデオが正しく見えるかどうかではなく、入力が変わったときにモデルの出力が変わるかどうかです。 我々は、同じシーンを1つの物理的詳細で記述した2つのプロンプトをモデルに与え、この2つのビデオが物理の予測方法が異なるかどうかを確認することによって、これを検証した。
  論文  参考訳（メタデータ） (2026-05-26T19:02:26Z)
• Can You Keep a Secret? Involuntary Information Leakage in Language Model Writing [18.511263298743895]
  モデルが彼らの記述から情報を引き出すことができるかどうかをテストする。 それぞれのモデルに、それを公開しないように指示した秘密の言葉を与え、それからストーリーを書くように頼みます。 2つ目のモデルは、二項判別テストでストーリーから秘密を識別しようとします。
  論文  参考訳（メタデータ） (2026-05-11T16:23:28Z)
• Breaking the Assistant Mold: Modeling Behavioral Variation in LLM Based Procedural Character Generation [62.54606886226136]
  手続き的コンテンツ生成は、レベル、マップ、クエストを通じて巨大な仮想世界を可能にするが、大規模なキャラクター生成は未調査のままである。 既存の手法では2つのアライメント誘起バイアスを同定する。 我々は、行動構築から世界構築を遠ざけるフレームワークであるPersonaWeaverを紹介した。
  論文  参考訳（メタデータ） (2026-01-06T20:18:01Z)
• OmniCharacter: Towards Immersive Role-Playing Agents with Seamless Speech-Language Personality Interaction [123.89581506075461]
  OmniCharacter は,低レイテンシで没入型 RPA を実現するための対話型対話モデルである。 具体的には、OmniCharacterは、エージェントが相互作用を通して、ロール固有の性格特性と声質特性を一貫して表示できるようにする。 提案手法は,既存のRPAモデルや主流言語モデルと比較して,応答遅延を289msに抑えながら,内容とスタイルの両面で優れた応答が得られる。
  論文  参考訳（メタデータ） (2025-05-26T17:55:06Z)
• Does Liking Yellow Imply Driving a School Bus? Semantic Leakage in Language Models [113.58052868898173]
  我々は、モデルが予期しない方法でプロンプトから生成元に無関係な情報を漏らす現象を識別し、特徴付けする。 本研究では,人間と自動の両方でセマンティックリークを検出するための評価設定を提案し,その振る舞いを診断するための多様なテストスイートをキュレートし,13のフラッグシップモデルにおいて重要なセマンティックリークを測定する。
  論文  参考訳（メタデータ） (2024-08-12T22:30:55Z)
• Tails Tell Tales: Chapter-Wide Manga Transcriptions with Character Names [53.24414727354768]
  本論文は,マンガ全章の対話書き起こしを完全自動生成することを目的とする。 i) 言っていることを識別し、各ページのテキストを検出し、それらが本質的か非本質的かに分類する。 また、章を通して同じ文字が一貫した名前で呼ばれることも保証している。
  論文  参考訳（メタデータ） (2024-08-01T05:47:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。