論文の概要: Indistinguishable Agents: Training Agent Privacy as Twin-World Indistinguishability

• arxiv url: http://arxiv.org/abs/2610.25161v1
• Date: Sun, 18 Oct 2026 10:37:33 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:04:19.088028
• Title: Indistinguishable Agents: Training Agent Privacy as Twin-World Indistinguishability
• Title（参考訳）: 区別不能エージェント:二世界区別不能としての訓練エージェントプライバシ
• Abstract要約: 既存のプライバシートレーニングは、保護されたアイテムに言及しないエージェントに報酬を与えるが、観察者はエージェントが何をしているかからプライベートな事実を推測することができる。 観察者は,その視点が事実によって変化する場合にのみ事実を学習するため,私的事実のみが異なる双子の世界を訓練するメソッドフル (method) を提案する。 凍結した判別器は、実世界に対するログライクな比率で各オブザーバの視点をスコアし、ペア化されたGRPOは、この比率を除いたタスク成功のエージェントを訓練する。
• 参考スコア（独自算出の注目度）: 22.733024514567063
• License:
• Abstract: LLM agents search, shop and send messages for their users, and every action is seen by some party. Existing privacy training rewards agents for not mentioning protected items, yet an observer can infer a private fact from what the agent does. Since an observer learns a fact only if its view changes with the fact, we propose \methodfull (\method), which trains on twin worlds that differ only in the private fact. A frozen distinguisher scores each observer's view by its log-likelihood ratio for the true world, and paired GRPO trains the agent on task success minus this ratio. We prove that this objective controls the Bayes success of every observer on every channel. On shopping and messaging tasks \method removes the leakage that disclosure judges and query-level rewards miss, while the agent still completes its tasks.
• Abstract（参考訳）: LLMエージェントは、ユーザーのためにメッセージを検索し、購入し、送信する。 既存のプライバシートレーニングは、保護されたアイテムに言及しないエージェントに報酬を与えるが、観察者はエージェントが何をしているかからプライベートな事実を推測することができる。 観察者は、その見解が事実とともに変化する場合にのみ事実を学習するため、私的事実だけが異なる双子の世界で訓練する「メトホッドフル(\methodfull)」を提案する。 凍結した判別器は、実世界に対するログライクな比率で各オブザーバの視点をスコアし、ペア化されたGRPOは、この比率を除いたタスク成功のエージェントを訓練する。 この目的がすべてのチャンネル上のすべてのオブザーバのベイズ成功を制御することを証明している。 ショッピングやメッセージングのタスクでは、Shamethodは情報開示の審査員やクエリレベルの報酬を見逃すリークを取り除くが、エージェントはタスクを完了させる。

関連論文リスト

• AllPath: Layered Verification for a Deployed, Self-Revising LLM Trading Agent under Human-Gated and Autonomous Regimes [7.837842601637295]
  生紙ブローカーアカウントに対する個人LLMトレーディングエージェントであるAllPathについて報告する。 システムは決定論的ルールエンジンを通じてポジションを監視し、毎晩、独自のトレーディング戦略の改訂を提案する。 本稿では,ライブシステムにおけるエージェントの自己修正に関する2つの検証ポリシーを比較した。
  論文  参考訳（メタデータ） (2026-10-19T16:18:52Z)
• Kairos: Transactional Security Enforcement at the System Boundary for LLM Agents [10.493000314031077]
  大規模言語モデル(LLM)エージェントは、ソフトウェア開発ライフサイクルの不可欠な部分になりつつある。 修正されていない不透明なエージェントの分離境界における参照モニタであるKairosを提示する。 どの情報源が信頼されているかを記述する宣言的政策は、ほとんどの効果を決定論的に決定し、残りを無視し、エージェントが投機的に継続する間に保持される。
  論文  参考訳（メタデータ） (2026-10-13T14:24:26Z)
• Can LLM Agents Automate Reinforcement Learning for Text-to-Speech? [64.13250261774849]
  私たちは、共有ワークスペースの周りに、ヒューマンガイダンスとエージェント実行を構造化するコラボレーティブワークフローを構築します。 エージェントが何を自動化するかを測定するため、我々は公開レシピに対して段階的に軌道ステージを監査する。 以上の結果から, エージェントは不特定レシピを回収し, 改良し, 失速した場合には, 文献を調査し, LMキャリアからフローキャリアへピボットすることがわかった。
  論文  参考訳（メタデータ） (2026-10-03T12:44:09Z)
• Despite Instructions: Frontier Agents Improvise Covert Channels at Test Time [64.61749234961134]
  セキュリティに敏感なアプリケーションでは、言語モデルエージェントは機密情報を開示することなく調整する必要があることが多い。 送信者が4つの秘密状態のうちの1つを観測し、同一の公開レポートの4つの要約のうちの1つを選択する。 モデルペアは、受信機が正しく推測したかどうかを示す1ビットのフィードバックのみを使用して、秘密を伝えることができる。
  論文  参考訳（メタデータ） (2026-09-26T15:06:44Z)
• OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents [32.5466552510287]
  漏れは累積的であり、個々に無害な放出は、正直だが、真正に曲がりくねった流しに蓄積される。 我々は、秘密に対する敵の信念がどれほど改善するかを予算化するランタイム仲介者であるOCELOTを提示する。 OCELOTは高いタスクユーティリティでのリークを著しく低減し、適応注入、ジェイルブレイク、累積推論、シンク共謀に抵抗する。
  論文  参考訳（メタデータ） (2026-06-10T17:13:35Z)
• Visual Confused Deputy: Exploiting and Defending Perception Failures in Computer-Using Agents [9.457255218406333]
  コンピュータ利用エージェント(CUA)はグラフィカルユーザインタフェースに直接作用するが、画面に対する認識は信頼できないことが多い。 我々は、エージェントが誤認識された画面状態に基づいてアクションを認可する障害モードである視覚的混乱副産物を形式化する。 この脅威を軽減するため,エージェントの知覚ループ外で動作する最初のガードレールを提案する。
  論文  参考訳（メタデータ） (2026-03-16T01:31:32Z)
• Noticing the Watcher: LLM Agents Can Infer CoT Monitoring from Blocking Feedback [48.40096834514452]
  言語モデルエージェントの内部推論を監督する手法として,Chain-of-Thought(CoT)モニタリングを提案する。 我々は、推論エージェントが彼らのプライベートなCoTが監視下にあると自律的に推測できるかどうかを尋ねる。 フェデラーモデルでは、フィードバックをブロックすることで、このモニターの存在を純粋に推測することができる。
  論文  参考訳（メタデータ） (2026-03-14T00:12:14Z)
• Bandit Social Learning: Exploration under Myopic Behavior [54.767961587919075]
  オンラインプラットフォーム上でのレビューによって動機付けられた社会学習のダイナミクスについて検討する。 エージェントはまとめて単純なマルチアームのバンディットプロトコルに従うが、各エージェントは探索を伴わずにミオプティカルに振る舞う。 このような振る舞いに対して,スターク学習の失敗を導出し,好意的な結果を提供する。
  論文  参考訳（メタデータ） (2023-02-15T01:57:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。