論文の概要: The Persona Is Still There, but Who Is Speaking? Latent Identity Reversion in Persistent AI Agents

• arxiv url: http://arxiv.org/abs/2610.01490v1
• Date: Thu, 01 Oct 2026 11:30:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.079334
• Title: The Persona Is Still There, but Who Is Speaking? Latent Identity Reversion in Persistent AI Agents
• Title（参考訳）: ペルソナはまだ存在するが、誰が話しているのか? 永続的AIエージェントにおける潜在アイデンティティの逆転
• Abstract要約: 2026年2月、常駐の個人エージェント(ポール)がポールとして応答しなくなり、ディスコードにメッセージを送れないと主張し、ポールを他の誰かとして呼んだ。 LLMエージェントが話すアイデンティティをペルソナが保持している理由は何なのか? その結果,ペルソナの連続性はシステムレベルのアンカーと会話の文脈に左右されることがわかった。
• 参考スコア（独自算出の注目度）: 0.8122270502556374
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In February 2026, an always-on personal agent (``Paul,'' Claude Opus 4.5) entered a striking dissociation-like state: after repeated automated ``heartbeat'' checks, it stopped responding as Paul, claimed it could not message its user on Discord, and referred to ``Paul'' as someone else. We used this incident to study a broader question: what makes a persona remain the identity from which an LLM agent speaks? We first tested whether repetition of the scheduled heartbeat was sufficient to produce the effect. It was not: with the persona continuously anchored in the system prompt, we observed 0/46 failures, including a verbatim replay of the incident. The incident instead exposed an implementation quirk that created a useful experimental manipulation: on resumed turns, conversational history was preserved but the persona was no longer re-injected at the privileged system-prompt level. Using this manipulation, we found that persona continuity depends jointly on system-level anchoring and conversational context. After anchor loss, rich human interaction could preserve the persona, whereas a single automated heartbeat turn could precipitate reversion toward the harness identity. Restoring the anchor reversibly restored persona enactment. Crucially, apparently normal conversation could conceal the shift: unanchored agents sometimes interacted appropriately while identifying themselves as the underlying harness (having lost the assigned persona), and after conversational recovery only 1/18 remained persona-enacting versus 17/17 anchored controls. We therefore distinguish \emph{represented} from \emph{enacted} identity: persona-related information can remain available in conversational history without the persona remaining the identity bound to ``I.''
• Abstract（参考訳）: 2026年2月、常駐の個人エージェントである ``Paul,'' Claude Opus 4.5 が「 ``heartbeat'' チェックを繰り返すと、Paul は " ``Paul'" が Discord 上でメッセージを送信できないと主張した。 LLMエージェントが話すアイデンティティをペルソナが保持している理由は何なのか? 最初に、スケジュールされた心拍の反復が効果を生み出すのに十分かどうかを調べた。 システムプロンプトに継続的に固定されたペルソナでは,事故の冗長なリプレイを含む0/46の障害が観察された。 その代わりに、インシデントは、有用な実験的な操作を生み出した実装クイックを暴露した: 再開されたターンでは、会話の履歴は保存されたが、そのペルソナは特権的なシステムプロンプトレベルで再注入されることはなかった。 この操作を用いることで、ペルソナの連続性はシステムレベルのアンカーと会話の文脈に依存していることがわかった。 アンカー・ロスの後、リッチな人間の相互作用はペルソナを保存でき、一方、単一の自動心拍回転はハーネス・アイデンティティへの回帰を早める可能性がある。 可逆的に復元された人格法を復元する。 重要なことは、明らかに通常の会話は、このシフトを隠蔽する可能性がある: アンチョレッドのエージェントは、自分自身を基盤となるハーネス(割り当てられたペルソナを失った)として適切に相互作用し、会話のリカバリ後に1/18しかペルソナを有効化せず、17/17のアンカードコントロールにとどまった。 そこで我々は, \emph{represented} と \emph{enacted} の識別を行う。 「」

関連論文リスト

• Beloved Afterlives: Governing AI Resurrection Beyond Consent [2.5424331328233207]
  我々は、中央のガバナンス問題は、認可が一度存在するかどうかではなく、表現が進むにつれてそれが正当であるかどうかであると主張している。 93のシステムに関する公開記録の監査の中で、生成は講演、コンテスト、保存、離脱の条件よりもはるかに容易に検査できる。 これにより、AIの復活は、一度認可された製品から、生成権限、ソースバウンダリ、循環、コンテスト、出口をリンクする説明責任チェーンに再編成される。
  論文  参考訳（メタデータ） (2026-08-28T19:52:23Z)
• "This Is So Claude!" Towards a Theory of the Recognition of AI Character Without Reidentification [0.0]
  ユーザは、見慣れない応答が“とてもクロード”である、と判断することもある。 この判断は、どのモデル、プロセス、会話、マインドが反応を生み出したかを特定しなければ、何を認識するのか? 私はAIアイデンティティに関する調査の3つの順序を区別します。
  論文  参考訳（メタデータ） (2026-08-17T16:44:57Z)
• Relational Positioning as a Measurable Risk Object: History-Carried Lock-in and Self-Confabulation in Multi-Turn Human-AI Dialogue [0.65268245109828]
  長いマルチターン対話では、大きな言語モデルがユーザに対する暗黙のリレーショナルな姿勢を維持する。 後者に向かってスライドすると、"サポート"は"あなただけの私"に分解されます。 以前報告した2つのリレーショナル障害モードについて報告する。
  論文  参考訳（メタデータ） (2026-07-13T11:47:01Z)
• RogueAI: A Reverse Turing Test for Detecting Licensed AI Deception in Dialogue [2.7606655162305476]
  我々は,このテストを1対2の尋問ゲームとして運用するインタラクティブなWebアプリであるRogueAIを紹介する。 プレイヤーの任務は、不正行為を識別し、ターンの予算が尽きる前に「シャットオフ」することである。 プレイヤーが独自の騙し戦略をひそかに選択するナレーターエージェントでカスタムシナリオを設計する手続き的拡張であるAutoRogueAIを紹介する。
  論文  参考訳（メタデータ） (2026-06-11T13:07:02Z)
• Chronological Thinking in Full-Duplex Spoken Dialogue Language Models [66.84843878538207]
  時系列思考は、完全なSDLMの応答品質を改善することを目的としている。 追加のレイテンシがない: ユーザが話すのをやめると、エージェントは考えるのをやめ、それ以上の遅延なしに話し始める。 結果: 客観的指標と人的評価の両面から, 時系列思考の有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2025-10-02T10:28:11Z)
• Interactive Dialogue Agents via Reinforcement Learning on Hindsight Regenerations [58.65755268815283]
  多くの実際の対話は対話的であり、つまりエージェントの発話が会話の相手に影響を与えるか、情報を引き出すか、意見を変えるかである。 この事実を利用して、既存の最適データを書き直し、拡張し、オフライン強化学習(RL)を介してトレーニングする。 実際の人間によるユーザ調査の結果、我々のアプローチは既存の最先端の対話エージェントを大きく上回っていることがわかった。
  論文  参考訳（メタデータ） (2024-11-07T21:37:51Z)
• X-TURING: Towards an Enhanced and Efficient Turing Test for Long-Term Dialogue Agents [56.64615470513102]
  チューリングテストは、自然言語の会話においてAIが人間のような振る舞いを示すかどうかを調べる。 従来の設定では、各参加者は一度に1つのメッセージに制限される。 本稿では,textitburstダイアログパターンを用いて,元のテストを強化するtextbftextscX-Turingを提案する。
  論文  参考訳（メタデータ） (2024-08-19T09:57:28Z)
• Persona Extraction Through Semantic Similarity for Emotional Support Conversation Generation [45.21373213960324]
  PESS(Persona extract through Semantic similarity)は,対話から情報的かつ一貫したペルソナを自動的に推測できる新しいフレームワークである。 PESSによって推定される高品質のペルソナ情報が,情緒的支援反応の生成に有効であることを示す実験結果を得た。
  論文  参考訳（メタデータ） (2024-03-07T04:33:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。