論文の概要: Blindfold: Keeping the Audit Coin Secret from LLM Agents
- arxiv url: http://arxiv.org/abs/2610.37055v1
- Date: Tue, 27 Oct 2026 11:24:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.575552
- Title: Blindfold: Keeping the Audit Coin Secret from LLM Agents
- Title（参考訳）: LLMエージェントからAudit Coinの秘密を守るBlindfold
- Abstract要約: 監査ベースの認証は、ランダムな分数$varepsilon$のアクションを監査することで、LLMエージェントの違反率を制限する。
コインは、アクションコミットの前にエージェントの見解に干渉してはならない。
- 参考スコア（独自算出の注目度）: 2.723303520492902
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Audit-based certification bounds the violation rate of an LLM agent by auditing a random fraction $\varepsilon$ of actions and reweighting the audited labels; its validity is meant to rest only on the defender's audit coin. We show that it also rests on a confidentiality property: the coin must not interfere with the agent's view before the action commits, at a time the agent chooses. We call this pre-commit noninterference (PNI) and measure its violation by $D_{\mathrm{A}}$, the total-variation distance between the agent's views under the two coin values. PNI is necessary and sufficient for an unbiased certificate against adaptive agents, the worst-case bias is $(1-\varepsilon)D_{\mathrm{A}}$, and no procedure that sees only audited labels can pay less. Leakage composes across steps, a resource shared across episodes opens a channel of computable size, and raising the audit rate cannot restore validity. On a monitor we built, a silent audit changes no output but adds latency that tool timestamps expose, and the agent can enlarge it. A real LLM agent follows an injection that names a visible audit notice (generic, tool, and timing clauses have no effect); over that channel the plain certificate fails on measured labels and, by a post-hoc analysis, in a live run on a pre-registered schedule, while a silent audit restores it. A fresh coin per audited call closes the timing channel; padding only narrows it.
- Abstract（参考訳）: 監査ベースの認証は、ランダムな分数$\varepsilon$のアクションを監査し、監査されたラベルを再重み付けすることで、LCMエージェントの違反率を制限している。
コインは、エージェントが選択した時点で、アクションコミットの前にエージェントの見解に干渉してはならない。
我々は、このプレコミット非干渉(PNI)と呼び、その違反を$D_{\mathrm{A}}$で測定する。
PNIは適応エージェントに対するバイアスのない証明書には十分で十分であり、最悪の場合のバイアスは$(1-\varepsilon)D_{\mathrm{A}}$であり、監査されたラベルだけが支払うことができる手順は存在しない。
リークはステップ間で構成され、エピソード間で共有されるリソースは計算可能なサイズのチャネルを開き、監査率を上げることは妥当性を回復できない。
私たちが構築したモニターでは、サイレント監査は出力を変更することなく、ツールのタイムスタンプが公開するレイテンシを追加します。
実際のLCMエージェントは、可視性監査通知(ジェネリック、ツール、タイミング節には効果がない)を名付けるインジェクションに従い、そのチャネルでは、測定されたラベルにプレーン証明書がフェールし、ポストホック分析によって、登録済みのスケジュールでライブ実行され、サイレント監査がそれを復元する。
監査されたコール毎に新しいコインがタイミングチャネルを閉じる。
関連論文リスト
- When Can You Trust an Agent's Own Verifier? Stress-Testing Counterfactual Rationale Verification Under Search Pressure and Oracle Access [2.548904650574671]
エージェントがそれに対して最適化したら、検証者が信頼性を保つかどうかを問う。
私たちの貢献は新しい検証ではなく、ストレステストの方法です。
テストはRationale Consistency Score(RCS)という独自の検証装置に適用する。
我々は報告基準を提案し、検証を$$で監査し、これらのプローブを信頼する前に検証する。
論文 参考訳（メタデータ） (2026-10-16T00:41:30Z) - CascadeLedger: Counterfactual Auditing of Information and Resource Integrity in LLM Cascades [15.518914594472045]
CascadeLedgerは、予算のかかった言語モデルカスケードのための対実的な実行監査フレームワークである。
コール・バイ・リードのセマンティクスを強制し、サービスに読み取りをバインドし、IDをキャッシュし、可用性を記録し、コンポーネント単位の予算移行を行う。
論文 参考訳（メタデータ） (2026-10-14T10:24:28Z) - Before They Can Solve: Predicting Post-Training Coding-Agent Performance from Base Models [87.94969284553706]
エンド・ツー・エンドのpass@$K$は、成功した振る舞いがベースモデルのディストリビューションにすでに現れるかどうかをテストする。
コールドスタートからハーネスを駆動するために、ベースチェックポイントを必要としない3つのスクリーンを構築します。
3つの画面はいずれも、ポストトレーニング後のSWE-bench Verified pass@$1$と密接に一致して、コホートをランク付けする。
論文 参考訳（メタデータ） (2026-10-07T17:37:19Z) - Can LLM Agents Automate Reinforcement Learning for Text-to-Speech? [64.13250261774849]
私たちは、共有ワークスペースの周りに、ヒューマンガイダンスとエージェント実行を構造化するコラボレーティブワークフローを構築します。
エージェントが何を自動化するかを測定するため、我々は公開レシピに対して段階的に軌道ステージを監査する。
以上の結果から, エージェントは不特定レシピを回収し, 改良し, 失速した場合には, 文献を調査し, LMキャリアからフローキャリアへピボットすることがわかった。
論文 参考訳（メタデータ） (2026-10-03T12:44:09Z) - One Human, $N$ Agents: Audit-Budget Allocation for LLM Agent Fleets under Miscalibrated, Correlated Confidence [41.99844472131922]
一人の人間が1ラウンド当たり$N$ LLMエージェントを予算$B ll N$監査で監査しなければならない。
我々はこれを、2段階のガウス的コーパスに対する予算付きノイズ検査としてモデル化し、信頼度の高い監査がランダムである場合の誤校正しきい値($*$過去)を特定する。
論文 参考訳（メタデータ） (2026-07-30T14:52:36Z) - PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。
既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。
LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
論文 参考訳（メタデータ） (2026-05-29T04:55:12Z) - Auditing Privacy in Multi-Tenant RAG under Account Collusion [1.253312107729806]
マルチテナント検索拡張生成サービスは、ログ単位の差分プライバシーを操作リーク境界として宣伝する。
我々は、同一インデックスのマルチアカウント共謀をプライバシ境界障害とみなす。
修正されていないRAGデプロイメントに対して動作する最初の監査プロトコルを設計する。
論文 参考訳（メタデータ） (2026-05-19T13:41:59Z) - Who Audits the Auditor? Tamper-Proof Fraud Detection with Blockchain-Anchored Explainable ML [3.556355987197792]
本稿では,ML予測とワークフロー実行の両方を,不変なブロックチェーン台帳にアンロックする不正検出システムを提案する。
ブロックチェーンを受動的ストレージとして使用するのではなく、スマートコントラクトを通じて承認プロセス全体を強制し、すべてのトランザクション、予測、説明がアトミックに記録され、遡及的に修正できないことを保証します。
論文 参考訳（メタデータ） (2026-04-23T22:00:45Z) - Correction and Corruption: A Two-Rate View of Error Flow in LLM Protocols [51.56484100374058]
そこで本研究では,単一プロトコルステップを正確なマッチングタスクで監査するためのペアアウトカム計測インタフェースを提案する。
各インスタンスについて、インターフェースはベースラインの正当性ビットと後ステップの正当性ビットを記録する。
これらのレートは精度の変化を予測し、種、混合物、パイプライン間でテスト可能な再利用可能な経験的インターフェースを定義する。
論文 参考訳（メタデータ） (2026-04-20T13:25:40Z) - IMMACULATE: A Practical LLM Auditing Framework via Verifiable Computation [49.796717294455796]
経済的なモチベーションのある逸脱を検出するための実践的な監査フレームワークIMMACULATEを提案する。
IMMACULATEは、検証可能な計算を用いて少数のリクエストを選択的に監査し、暗号オーバーヘッドを償却しながら強力な検出保証を達成する。
論文 参考訳（メタデータ） (2026-02-26T07:21:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。