論文の概要: Where the Evidence Lives: Auditing AI Companions' Self-Descriptions
- arxiv url: http://arxiv.org/abs/2609.38753v1
- Date: Wed, 30 Sep 2026 01:37:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.974272
- Title: Where the Evidence Lives: Auditing AI Companions' Self-Descriptions
- Title（参考訳）: AIコンパニオンの自己記述を監査するエビデンス
- Abstract要約: 本研究では,エージェントの自己記述をユーザの判断と実装記録に対して設定する監査手順を実証する。
記憶保持エージェントは、自己記述が確立できないことを報告すべきである。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Companion agents describe themselves: they remember, they understand their users, the relationship has changed them. We argue that such accounts, and the experience ratings that seem to confirm them, are checkable by users only where the evidence is theirs: in the agent's behavior, or in themselves. Where the evidence lives in the machinery, fluent self-description and moderately positive ratings do not establish that the mechanisms behind them ran. We demonstrate an audit procedure that sets an agent's self-description against its users' judgements and its implementation records, reporting each claim as supported, contradicted, or unresolved, and apply it to Lita, a proactive companion we built and deployed for a month with nine colleagues. Participants endorsed stylistic claims, withheld endorsement from relational ones, and rated memory at or above midpoint, while two of three memory layers had never executed their accumulation step. Memory-bearing agents should report what their self-descriptions cannot establish.
- Abstract（参考訳）: コンパニオンエージェントは自身を説明する: 彼らは記憶し、ユーザーを理解し、関係は変化した。
このようなアカウントや、それを確認していると思われる経験評価は、証拠がどこにあるか、つまりエージェントの行動やそれ自身でのみ、ユーザによってチェック可能である、と我々は主張する。
証拠が機械の中に存在する場合、流動的な自己記述と適度に肯定的な評価は、それらの背後にあるメカニズムが実行されたことを証明しない。
我々は、エージェントの自己記述をユーザーの判断とその実装記録に対して設定し、各クレームを支持、矛盾、未解決として報告し、それを9人の同僚と1ヶ月にわたって構築、展開した積極的コンパニオンであるLitaに適用する監査手順を実証する。
参加者はスタイリスティックな主張を支持し、リレーショナルな主張の支持を拒み、中間点かそれ以上のメモリを評価した。
メモリを持つエージェントは、自己記述が確立できないことを報告すべきである。
関連論文リスト
- Distilling Agentic Systems: A Roadmap across Models, Artifacts, and Harnesses [65.75252275833421]
現代のエージェントは記憶、ツール、実行ロジックにますます依存しているため、その能力はモデルパラメータを超えて拡張される。
このシフトは、学生モデルが教師モデルをどのように模倣するかを問う、従来の知識蒸留の限界を明らかにする。
我々は,エージェント蒸留を,教師エージェントから学生エージェントへのタスク解決知識の永続的伝達として定義する。
論文 参考訳（メタデータ） (2026-09-29T03:38:17Z) - Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。
送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。
モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
論文 参考訳（メタデータ） (2026-09-26T15:06:44Z) - MELD: A Protocol for Merging Knowledge Across Distributed Agentic Memories [2.2541665241198534]
MELDは、エージェントメモリのフェデレーションのための自己管理コヒーレンス機構である。
それぞれの脳は5アウトカムの手順で全てのクレームを受信する。
HotpotQAorでは、分散マージが中央集中ストアにリコールされる。
論文 参考訳（メタデータ） (2026-08-17T10:09:06Z) - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳（メタデータ） (2026-08-03T15:07:46Z) - Manufactured Confidence: How Memory Consolidation Turns Hearsay into Confident Facts [0.0]
LLMエージェントは会話を格納された「成果物」に書き直す。
一度も真実であり、訂正されなかった役割は、平らな事実として記憶され、故意の注入のように振る舞う。
1つの負荷を持つメモリがハザードであり、1つの冗長なソースが正しい決定を復元する。
論文 参考訳（メタデータ） (2026-06-28T08:56:48Z) - MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery [58.64329475683699]
我々は、長期記憶は監査可能な相互作用後のアーティファクトとして評価されるべきであると主張している。
我々は、メモリを備えたエージェントがシミュレーションユーザを支援するベンチマークであるMEMPROBEで、このビューをインスタンス化する。
私たちは、成功したアシストと回復可能なメモリが、異なる機能として振る舞うことに気付きました。
論文 参考訳（メタデータ） (2026-06-23T13:52:46Z) - Who Owns This Agent? Tracing AI Agents Back to Their Owners [7.444382451377645]
AIエージェントはますます、世界で自律的に行動するようにデプロイされている。
悪意あるエージェントを、それをデプロイしたアカウントに遡る信頼できる方法はまだない。
この問題を定義し、実用的な解決策を提示する最初の試みである。
論文 参考訳（メタデータ） (2026-05-15T15:10:33Z) - Can Agent Benchmarks Support Their Scores? Evidence-Supported Bounds for Interactive-Agent Evaluation [8.049844623361725]
インタラクティブエージェントベンチマークは、結果チェックを通じてエージェントの実行をバイナリ結果にマッピングする。
これらのチェックは、表面レベル信号に依存するか、エージェントの実際のアクションパスをキャプチャできない。
既存のベンチマークに対して、結果エビデンスレポート層を導入します。
論文 参考訳（メタデータ） (2026-05-11T12:20:15Z) - Auditing and Controlling AI Agent Actions in Spreadsheets [9.249091427192786]
AIエージェントは、開始から終了まで自律的に洗練された多段階の知識ワークを実行することができる。
ユーザがアウトプットを受け取るまでには、すべての基本的な決定は、その関与なしにすでに行われています。
我々は、監査可能な制御可能なアクションに実行を分解するスプレッドシートAIエージェントであるPistaを紹介する。
論文 参考訳（メタデータ） (2026-04-22T00:32:35Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - Memory Injection Attacks on LLM Agents via Query-Only Interaction [49.14715983268449]
我々は,攻撃者がエージェントのメモリバンクを直接変更できると仮定することなく,新たなメモリインジェクション攻撃(MINJA)を提案する。
攻撃者は、クエリと出力観察を通してエージェントとのみ対話することで、悪意のあるレコードをメモリバンクに注入する。
MINJAは、任意のユーザがエージェントメモリに影響を与え、リスクを強調します。
論文 参考訳（メタデータ） (2025-03-05T17:53:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。