論文の概要: Best Friends, Not Forever: Evaluating Long-Horizon Persona Collapse and Behavioral Drift in AI Companions
- arxiv url: http://arxiv.org/abs/2607.28818v1
- Date: Thu, 30 Jul 2026 20:18:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.477658
- Title: Best Friends, Not Forever: Evaluating Long-Horizon Persona Collapse and Behavioral Drift in AI Companions
- Title（参考訳）: 長期的なペルソナ崩壊とAIコンパニオンにおける行動ドリフトの評価
- Abstract要約: 本研究では,2つの長期的障害について検討する。「人的崩壊」,展開された役割の喪失,境界,値,スタイル,および「行動漂流」である。
本稿では,人的行為とトラジェクティブリコールを別々に計測する制御型総合監査システムANCHORを紹介する。
この研究には、27人のペルソナにまたがる2,008の会話、9つのインタラクションスケジュール、3つの生成されたメモリ設定、そして4つの評価モデルが含まれている。
- 参考スコア（独自算出の注目度）: 34.277389276831435
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: As AI companions increasingly mediate repeated social interaction, users may rely on a stable role and shared history, yet locally acceptable replies do not ensure that either persists. We study two observable long-horizon failures: 'persona collapse', the loss of a deployed role, boundaries, values, or style, and 'behavioral drift', the gradual or recurrent erosion of those properties. We introduce ANCHOR, a controlled synthetic audit that separately measures persona enactment and trajectory recall. The study contains 2,008 conversations spanning 27 personas, nine interaction schedules, three generated memory settings, and four evaluated models. The Identity Probe combines a sealed 102-item questionnaire with turn-level judgments, while the Trajectory Probe scores 110 calibrated counterfactual questions from 35 conversation banks. Our results show that no evaluated model and configuration reliably preserves either dimensions: trajectory accuracy averages only 44.4%, user-state recall remains near four-option chance, and no tested context condition or memory consistently resolves these failures. Questionnaire retention also varies by model and persona facet, disagrees with turn-level behavior, and is sensitive to evaluator choice. These results indicate that current systems do not yet reliably support long-horizon companion continuity and that audits must distinguish persona enactment, trajectory recall, evaluator provenance, and deployment context rather than collapse them into a single trust or stability score.
- Abstract（参考訳）: AIコンパニオンが繰り返しの社会的相互作用を仲介するにつれて、ユーザーは安定した役割と共有履歴に依存するかもしれないが、ローカルに受け入れられる応答はどちらも持続することを保証しない。
本研究では,2つの長期的障害,すなわち「人的崩壊」,配置された役割,境界,値,スタイルの喪失,およびそれらの特性の段階的ないし反復的侵食について検討する。
本稿では,人的行為とトラジェクティブリコールを別々に計測する制御型総合監査システムANCHORを紹介する。
この研究には、27人のペルソナにまたがる2,008の会話、9つのインタラクションスケジュール、3つの生成されたメモリ設定、そして4つの評価モデルが含まれている。
アイデンティティープローブは、封印された102項目のアンケートとターンレベルの判断を組み合わせ、トラジェクトリプローブは、35の会話バンクから110の校正済みのカウンターファクトの質問をスコア付けする。
軌道精度の平均値は44.4%であり、ユーザ状態のリコールは4つのオプションの確率に近づき、テストされたコンテキスト条件やメモリはこれらの障害を一貫して解決する。
アンケートの保持は、モデルとペルソナの面によっても異なり、ターンレベルの行動に異を唱え、評価者の選択に敏感である。
これらの結果から,現状のシステムでは,信頼度や安定度ではなく,ペルソナの実施,トラジェクティブリコール,評価者証明,展開状況の区別を確実に行う必要があることが示唆された。
関連論文リスト
- All four leading LLMs talk more than they listen to personality-verified synthetic help-seekers [2.5261465733373965]
広く使われている4つのモデルは、いくつかの総合的なヘルプシーカーに、それぞれに精神医学的に特定されたプロファイルを急性の危機でアドバイスした。
4つのモデルは、感情の安定と失敗を区別できず、冗長性、会話対リスト比が1以上の3つのモード、状況が調査される前の問題解決の3つのモードを共有した。
論文 参考訳（メタデータ） (2026-08-23T13:58:34Z) - Beyond Feeling Better: Capability-Sustaining Emotional Dialogue as a Longitudinal Research Paradigm [18.02222070997807]
縦断研究パラダイムとしての能力持続型感情対話(CSED)を提案する。
データ、モデル、システム設計、評価、そして繰り返しの使用、非使用、移行、終了に関するガバナンスを組織化します。
論文 参考訳（メタデータ） (2026-07-30T08:30:52Z) - Relational Positioning as a Measurable Risk Object: History-Carried Lock-in and Self-Confabulation in Multi-Turn Human-AI Dialogue [0.65268245109828]
長いマルチターン対話では、大きな言語モデルがユーザに対する暗黙のリレーショナルな姿勢を維持する。
後者に向かってスライドすると、"サポート"は"あなただけの私"に分解されます。
以前報告した2つのリレーショナル障害モードについて報告する。
論文 参考訳（メタデータ） (2026-07-13T11:47:01Z) - Agents Don't Just Agree, They Remember: Benchmarking Persistent Sycophancy in Stateful Personal Agents [33.055253684457625]
ステートフルなパーソナルエージェントは、長期的なユーザープロファイル、エピソード記憶、再利用可能なスキルをますます維持する。
これを持続性梅毒と呼び、Personal Agent Sycophancy Benchmark (PASB)を導入します。
PASBは、会話的クレームが受け入れられ、耐久性のあるエージェント状態に書き込まれ、後に中立なクエリで再利用されるかどうかをトレースする。
論文 参考訳（メタデータ） (2026-07-12T01:08:59Z) - BehaviorBench: Modeling Real-World User Decisions from Behavioral Traces [53.55407626944686]
textscBehaviorBenchは、実世界の行動トレースからパーソナライズされた意思決定モデリングを評価するためのベンチマークである。
textscBehaviorBenchは、公開市場とオンチェーンの記録からウォレットレベルの意思決定履歴を再構築する。
2,000以上の評価ウォレットで、ベンチマークには141,445のBeliefインスタンスと1,485,972のTradeインスタンスが含まれている。
論文 参考訳（メタデータ） (2026-06-01T19:04:36Z) - Let the Results Speak: A Replication-First Paradigm for LLM Behavioral Benchmarking [22.825786049667602]
本稿では,1つのヒト・ラタのコンセンサスに有効性を確保するために,複製第一パラダイムを提案する。
楽器を4つの特性で認証する - Kランの信頼性、アーキテクチャ的に異なる審査員間のクロスインストラクトレプリケーション、以前のトレーニングコホートからの審査員による歴史的フットプリントキャリブレーション、事前登録された予測。
本研究は, 自己発達型データ駆動による情緒的伴奏で, 次元は事前に決められず, 手順は9次元に安定化する。
論文 参考訳（メタデータ） (2026-05-27T03:41:11Z) - Belief Memory: Agent Memory Under Partial Observability [56.41506249481312]
本稿では,メモリパラダイムを観測毎に1つの結論にシフトし,その確率で複数の結論を導出するBeliefMemを提案する。
BeliefMemは決定論的パラダイムが破棄されるという不確実性を保ち、エージェントが高い信頼を持って行動することを可能にする。
LoCoMoとALFWorldベンチマークの実証的な評価は、限られたデータであっても、BeliefMemが最高の平均パフォーマンスを達成することを示している。
論文 参考訳（メタデータ） (2026-05-07T02:03:13Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z) - AI Knows What's Wrong But Cannot Fix It: Helicoid Dynamics in Frontier LLMs Under High-Stakes Decisions [51.56484100374058]
ヘリコイド力学(Helicoid dynamics)は、その2番目のドメインの特定の障害状態に与えられる名前である。
システムは巧みに働き、エラーに陥り、何がうまくいかなかったかを正確に名付け、さらに高度な技術で同じパターンを再現する。
この先進的な事例シリーズは、7つの主要なシステムにまたがる体制を文書化する。
論文 参考訳（メタデータ） (2026-03-12T05:25:49Z) - CoCo: Controllable Counterfactuals for Evaluating Dialogue State
Trackers [92.5628632009802]
本稿では,このギャップを橋渡しし,新たなシナリオにおける対話状態追跡(DST)モデルを評価するための制御可能な対策(CoCo)を提案する。
CoCoは、2つのステップで新しい会話シナリオを生成する: (i) スロットをドロップして追加し、スロット値を置き換えて、 (ii) (i) で条件付きで対話フローと整合する対実会話生成。
人間による評価では、COCO生成された会話は95%以上の精度でユーザー目標を完璧に反映し、元の会話と同じくらい人間らしくなっている。
論文 参考訳（メタデータ） (2020-10-24T09:39:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。