論文の概要: Limits of Statistical Assurance for Embodied and Agentic AI under Adaptive Adversaries

• arxiv url: http://arxiv.org/abs/2610.18948v1
• Date: Tue, 13 Oct 2026 15:49:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.732313
• Title: Limits of Statistical Assurance for Embodied and Agentic AI under Adaptive Adversaries
• Title（参考訳）: 適応的敵対者における身体的・エージェント的AIの統計的保証の限界
• Abstract要約: 我々は、観察不可能な認証まで完全な観察法に適合し、その後の介入アクセスを維持する敵を特徴づける。 認証の切り替えは、メモリレス、イベントの増加する介入の下で、固定された可能性比テストに完全に最適です。 ライブミキシング監視は、割り当てられたタスクの機会に対して、違反を12.00から3.81に減らす。
• 参考スコア（独自算出の注目度）: 1.3389879375561682
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Finite safety assessments cannot exclude an adversary that preserves unattacked behavior until certification and activates afterward. We characterize this limitation for embodied and tool-use AI. An adversary that matches the complete observation law until observable, irrevocable certification and retains intervention access afterward attains $v\mathbb{E}[(n-S_0)_+]$ expected post-certification events over $n$ trials, where $v$ is the active event probability and $S_0$ the unattacked certification time. The result covers adaptive and privately randomized evaluators. Switching at certification is exactly optimal for a fixed likelihood-ratio test under memoryless, event-increasing interventions without a binding intervention budget. A positive clean-certification requirement forces linear worst-case expected excess when intervention raises event rates over an authorized deployment horizon, even if certification is deferred to the deadline. In simulated RoCo collaboration, switching yields commanded-separation violations in 34 of 36 post-certification episodes. Preregistered randomized AgentDojo trials estimate 1.98 additional security violations per four-task continuation (95% interval [1.67, 2.29]). An adversarial language-model controller infers hidden certification from noisy evaluation receipts and times intervention accordingly. With permanent revocation, a mixture likelihood-ratio monitor bounds cumulative excess above a prespecified reference rate at square-root order, up to logarithmic factors, on every sample path. A single fixed alternative can permit linear expected excess under stationary attacks. Against a controller observing the monitor's rule and statistic, live mixture monitoring reduces violations from 12.00 to 3.81 per 24 assigned task opportunities. Revocation also reduces tasks executed.
• Abstract（参考訳）: 最終安全評価は、未攻撃の行動を認証するまで保持し、その後に発動する敵を除外することはできない。 我々は、この制限を具体的および道具的AIに特徴付けている。 オブザーバブルで無効な認証が保たれるまで、完全な観察法と一致し、その後、介入アクセスを保持した相手は、$v\mathbb{E}[(n-S_0)_+]$、$n$トライアルよりも期待された証明後のイベントを達成できる。 その結果は適応的およびプライベートなランダム化評価器をカバーする。 認証の切り替えは、バインディングの介入予算なしで、メモリレスでイベントの増加する介入の下で、固定された可能性比テストに完全に最適です。 肯定的なクリーン化要件は、たとえ認証が期限まで延期されたとしても、介入が承認されたデプロイメント地平線上でイベントレートを上昇させた場合、線形最悪のケースの過剰を強制する。 シミュレーションされたRoCoのコラボレーションでは、36エピソードのうち34エピソードで強制分離違反を切り替えた。 事前登録されたランダム化されたAgentDojoの試験では、4タスク継続毎に1.98の追加セキュリティ違反(95%間隔 [1.67, 2.29])が見積もられている。 逆言語モデルコントローラは、ノイズ評価レシートと時間介入とから隠れた認証を推論する。 永久的取り消しにより、混合確率比モニターは、各サンプルパス上の対数係数まで、平方根オーダーで予め規定された基準レートを超える累積超過を束縛する。 1つの固定された代替手段は、定常攻撃下での線形予測過剰を許容することができる。 モニターの規則と統計を観察するコントローラに対して、ライブミキシング監視は、割り当てられたタスクの機会に対して、違反を12.00から3.81に減らす。 再起動によって実行されるタスクも削減される。

関連論文リスト

• RESCUE: Is This Alarm Worth Acting On? Counterfactual Evaluation of VLA Runtime Monitors [16.942398830192133]
  RESCUEは、モニターのアラームが有用な介入を可能にするかどうかを評価するための反ファクトのフレームワークである。 LIBERO-Spatial および LIBERO-Plus を128,340 個の反実枝を用いて OpenVLA-OFT と $_0.5$ で評価した。
  論文  参考訳（メタデータ） (2026-10-09T12:38:35Z)
• Verification Pulses and the Cost of Escaping Wrong Consensus [2.731113456484581]
  外的検証は、誤ったコンセンサスの盆地に自衛集団を残しながら、個々のアウトプットを補正することができる。 固定された検証予算のタイミングと対処が非同期バイナリレジスタの回復に与える影響について検討する。
  論文  参考訳（メタデータ） (2026-09-24T03:29:27Z)
• Certified Task-Conditioned Active Observability [4.870012761464388]
  タスク条件付きアクティブオブザーバビリティの複雑性を形式化する。 タスク予測同値性は、一意に最小限の商 $mathcalH/!sim_$ を誘導する。
  論文  参考訳（メタデータ） (2026-09-22T02:23:38Z)
• Available Guardrails: Certifying Selective Prediction across ML Systems [40.57629016626049]
  安全, 粒度, サービストラフィックのトレードオフを明らかにする動的プログラムを開発する。 1つの計画上の候補分割を分割し、その中の1つを選択すると、このギャップの一部が回復することを示す。 相補的妥当性保存レバーは、報告ユニット間で家庭的にエラー予算を割り当て、追加のカバレッジを回復する。
  論文  参考訳（メタデータ） (2026-09-18T17:36:52Z)
• Selection-Aware Stress Testing for Interactive Agents [40.135301960368906]
  SASSTは、発見タスクの事前実行機能からタスクの重み付けを学習し、別個の確認タスクで同じペア比較を評価する。 プロトコルはサポートと安定性をチェックし、計画されたすべてのクレームにジョイントバウンドを使用し、クレームを返さない。
  論文  参考訳（メタデータ） (2026-08-31T14:58:04Z)
• $Z^2$-ACT: End-to-End Verifiable Agentic Intent Control for Open 6G RAN [43.15181031994434]
  本稿では,ゼロ知識監査制御とゼロ信頼検証エージェントインテントアーキテクチャを提案する。 実大規模言語モデルは、オペレータの意図をIntent Contractsに変換するために、非リアルタイムパスで使用される。 その結果、動作フィルタリングと攻撃レジリエンスを適度なレイテンシとシグナリングコストで改善したことが示唆された。
  論文  参考訳（メタデータ） (2026-08-21T12:44:03Z)
• AV-AIVAT: 74x Cheaper Agent Evaluation with Certified Anytime-Valid Stopping in Imperfect-Information Games [36.78901435452895]
  アクションインフォームド・バリューアセスメント・ツール(AIVAT)は条件付き平均ゼロ補正によって不完全情報ゲームの分散を低減する。 AIVATと継続的に監視される信頼性シーケンス(CS)を、任意の有意なAIVATに組み合わせる。
  論文  参考訳（メタデータ） (2026-08-06T17:57:11Z)
• CheckVLA: Execution-Time Verification with Action-Conditioned World Model for Long-Horizon Mobile Manipulation [15.532709298240215]
  視覚言語アクション(VLA)ポリシーは、オープンループアクションチャンクを通じて長距離移動操作を実行する。 本稿では、個別に訓練されたフリーズされた行動条件付き世界モデルを用いて実行を検証するCheckVLAを提案する。 RoboCasa365では、一般的なトレーニングレシピと一致した呼び出し予算の下で、CheckVLAの平均成功率は36.1%であり、定期的なリプランでは27.6%である。
  論文  参考訳（メタデータ） (2026-07-29T11:31:33Z)
• Affordance Agent Harness: Verification-Gated Skill Orchestration [45.231685718099264]
  Affordance groundingは、オープンワールドのシーンでエージェントがどこでどのように対話すべきかを特定する必要がある。 本稿では,エビデンスストアとコストコントロールを備えたクローズドループランタイムであるAffordance Agent Harnessを提案する。
  論文  参考訳（メタデータ） (2026-05-01T13:45:16Z)
• Audit the Whisper: Detecting Steganographic Collusion in Multi-Agent LLMs [0.0]
  Audit the Whisperは、理論、ベンチマーク設計、検出、検証にまたがるカンファレンスグレードの研究成果物である。 i) パラフレーズ, レート制限, 役割置換などの介入が, ペアリングしたKullback-Leibler診断によって定量的なペナルティの操作を課すことを示すチャネル容量分析を行った。 我々は、匿名化された再生スクリプト、匿名化されたマニフェスト、ドキュメントをリリースし、外部監査官がすべての図を再現し、二重盲検要件を満たし、最小限の努力でフレームワークを拡張します。
  論文  参考訳（メタデータ） (2025-10-05T17:51:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。