論文の概要: What LLM Agents See and What Users Say
- arxiv url: http://arxiv.org/abs/2611.17639v1
- Date: Fri, 13 Nov 2026 01:16:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.287321
- Title: What LLM Agents See and What Users Say
- Title(参考訳): LLMエージェントが見ているものとユーザが言うもの
- Abstract要約: エージェントは、行為の背後にある各クレームが、ユーザによって保持されたり、応答されたり、あるいはその行為が取り消されうる間に開示された場合にのみ、行動することができる。
単純なバウンダリは、ルックアップが2つのレコードから1つのレコードを区別できない場合、任意のエージェントが1つのレコードと2つのレコードを尋ねることなく行動することを示している。
- 参考スコア(独自算出の注目度): 9.350149402730327
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Before an LLM agent cancels a reservation or deletes a folder for a user, what stops it from acting on a false assumption: what its tools show, or what the user says? In this work, we study this gap with presupposition theory from linguistics: an agent may act only if each claim behind the act (e.g., one reservation fits the name) is seen to hold, answered by the user, or disclosed while the act can be undone. A simple bound shows that when lookups cannot tell one record from two, any agent acts without asking first as often with two records as with one. We then vary whether a search lists, counts, or omits a second match, and whether the user states a claim that a record refutes (e.g., "It is empty"). Under a role-only prompt, a count of a second record leaves most of 36 earlier agents acting on the one they see, whereas listing both stops most. When the user says a record such as a folder is empty, however, a count of its one item stops agents about as often as a listing, and stating the claim mostly cuts acting when it is false. The newest Claude and GPT models always open a counted second record, then never act. When we add a same-name, same-zip customer to a retail benchmark, a lookup returning that customer first led to wrong-account writes in about a quarter of conversations, and one that checks a street the user knows kept completion near the one-customer level. Safe writes therefore need lookups that list or check competing records, and evaluations that vary what tools show.
- Abstract(参考訳): LLMエージェントが予約をキャンセルしたり、ユーザ用のフォルダを削除する前に、そのツールが何を示すのか、ユーザが何を言っているのか、という誤った仮定で行動することを止めるのは何でしょうか?
エージェントは、行為の背後にある各主張(例えば、1つの予約が名前に合う)が保持されるか、ユーザによって応答されるか、あるいはその行為が取り消され得るときにのみ行動することができる。
単純なバウンダリは、ルックアップが2つのレコードから1つのレコードを区別できない場合、任意のエージェントが1つのレコードと2つのレコードを尋ねることなく行動することを示している。
すると、検索リスト、カウント、または省略する2番目のマッチ、ユーザがレコードが反証するクレーム(例:「空である」)を宣言するかどうかが変わる。
ロールオンリーのプロンプトでは、第2のレコードのカウントは、36人のエージェントのほとんどが、彼らが見たエージェントに作用するが、両方のリストが一番止まる。
しかし、フォルダなどのレコードが空であると言うと、その1つの項目のカウントは、リストと同じくらいの頻度でエージェントを停止させ、そのクレームは、ほとんどが偽の場合に動作を遮断する。
最新のClaudeとGPTのモデルは常にカウントされた第2の記録を開いている。
小売のベンチマークに同じ名前の同じzipの顧客を追加すると、その顧客を最初に返したルックアップが、約4分の1の会話で不正アカウントの書き込みを引き起こし、ユーザが知っている通りが1人の顧客レベル近くで完了したことをチェックします。
したがって、Safe書き込みには競合するレコードをリストアップまたはチェックするルックアップと、ツールが示すものが異なる評価が必要である。
関連論文リスト
- Least-Privilege Auditing of Agent Tool Calls with Intent Graphs and Reasoning-Guided Escalation [0.0]
本稿では,ユーザの目的から実行可能な意図グラフを導出する実行時監査を提案する。
現在のエージェントはベースラインアタックが成功しなかったため、エンドツーエンドのバリデーションは引き続きオープンである。
論文 参考訳(メタデータ) (2026-11-08T11:05:45Z) - Thinking-in-Bets at Test Time Reduces Sycophantic Revisions in LLM Agents [9.127884945730019]
シンキング・イン・ベッツ(Thinking-in-Bets)とは、エージェントがメインクレームの短いプライベートな記録を書き込む、トレーニング不要の方法である。
問題が発生した場合、エージェントはこのクレームチェックリストを参照して、検証作業はそのまま維持する。
論文 参考訳(メタデータ) (2026-10-26T00:35:07Z) - Disclosure Begets Disclosure: A Self-Reinforcing Privacy Loop in LLM Agents with Persistent Memory [46.53065886778032]
コンサルトメモリは、ユーザが何を言うかを変えるため、メモリが何を公開するのかを尋ねる。
4つのサポートモデル全体では、メモリは応答品質を上げるだけでなく、経験的なリークも引き起こす。
属性を記述したり前提にしたりしないようエージェントに指示すると、ほとんどの品質を保ちながら、メモリレベルのリークが発生します。
論文 参考訳(メタデータ) (2026-10-20T14:52:57Z) - Whose Credential Is It? How Owner Attribution in Agent MemoryShapes Cross-User Account Misuse [21.59758425713419]
共有された長期記憶は、エージェントが不注意に他のユーザの認証情報を検索することを可能にする。
このような露光がいつ実際に害をもたらすかは定かではない。
3つのイベントを分離する3段階の監査を導入する。
論文 参考訳(メタデータ) (2026-10-19T02:53:51Z) - RunningTab: Direct Workspace Interaction with Environment-Side Tabs [64.78155698304482]
RunTabは環境サイドタブと直接のワークスペースインタラクションを提供するフレームワークである。
ランニングTabは、標準のDWIとベースラインを一貫して上回り、モデルに記録を保持する。
論文 参考訳(メタデータ) (2026-10-07T17:16:56Z) - Where Accountability Lives: Mapping Human Responsibility to Workflow Artifacts in Agentic Software Development [0.0]
コーディングエージェントの作者、プルリクエストのオープン、プロダクションリポジトリ内のプッシュコード。
アーティファクトを残すワークフローイベント、エージェントによるコーディングツール4つ、および7つのプロバイダによるポリシー文書18つについて、それぞれについて読んでいます。
あるプロバイダは、タスクを割り当てた開発者が結果のプルリクエストを承認することを禁じる。別のプロバイダは、設定されたリスクしきい値以下でプルリクエストを承認し、レビューを無効にできるエージェントを文書化する。
我々は、強制的、助言的、欠落した検証の通常の3方向の区別をグリッドに置き換え、メカニズムがチェックを誰が実行したかで補完するかどうかを区別する。
論文 参考訳(メタデータ) (2026-08-16T11:11:04Z) - Fetch-then-Explore: Decoupling Selection from Extraction over a Persistent Workspace for Search Agents [60.97609995940902]
検索エージェントに対して textbfFetch-then-Explore を提案する。
ページ選択とエビデンス抽出を分離し、選択したものを保持する。
これは、すべてのバックボーンでBrowseCompの精度を導き、一般的にWideSearchのベースラインと一致するか、超える。
論文 参考訳(メタデータ) (2026-08-03T11:58:21Z) - Turning Interaction History into Execution State: A Runtime Layer for Long-Horizon Coding Agents [48.967927222079965]
Ledgerは、エージェントの完了したインタラクションを明示的な実行状態に蒸留するランタイム層である。
Ledgerはこの状態をオンライン実行台帳に保持し、各ステップの2つのバウンダリに適用される。
500のSWE-bench検証インスタンス全体で、LedgerはPass@1を56.2%から64.2%に、GPT-5 miniを75.8%から81.0%に、MiniMax M2.5を81.0%に引き上げている。
論文 参考訳(メタデータ) (2026-08-01T18:25:00Z) - Ask Now, Use Later: Benchmarking the Proactivity Gap in Long-Lived LLM Agents [18.132295539880896]
LLMエージェントは、現在の要求だけでなく、セッション間でユーザーの好みに作用することで、その価値を得る。
しかし、今日のエージェントは、ユーザーがボランティアしているものを保ちますが、何があっても構わないのかを尋ねることはめったにありません。
ユーザーがより多くの問題をエージェントに委譲するにつれ、このギャップの影響は増大する。
ATRBenchは、各ユーザの好みを隠れた土台真理として固定することで測定できる。
論文 参考訳(メタデータ) (2026-05-27T08:00:58Z) - Memory Injection Attacks on LLM Agents via Query-Only Interaction [49.14715983268449]
我々は,攻撃者がエージェントのメモリバンクを直接変更できると仮定することなく,新たなメモリインジェクション攻撃(MINJA)を提案する。
攻撃者は、クエリと出力観察を通してエージェントとのみ対話することで、悪意のあるレコードをメモリバンクに注入する。
MINJAは、任意のユーザがエージェントメモリに影響を与え、リスクを強調します。
論文 参考訳(メタデータ) (2025-03-05T17:53:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。