論文の概要: Interventional Causal Circuits for Safe Robot Action Testing and Failure Recovery

• arxiv url: http://arxiv.org/abs/2607.14826v1
• Date: Thu, 16 Jul 2026 10:41:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:33.079396
• Title: Interventional Causal Circuits for Safe Robot Action Testing and Failure Recovery
• Title（参考訳）: 安全ロボット動作試験と故障復旧のためのインターベンショナル因果回路
• Abstract要約: 運動パラメータの形式的テストは計算に費用がかかり、コストはアクション空間の次元に悪影響を及ぼす。 本稿では,JPT(Joint Probability Tree)とMarginal-Deterministic Variable Tree(Marginal-Deterministic Variable Tree)から派生した因果回路を結合した閉ループフレームワークを提案する。 このフレームワークは、ロボットが動作を開始する前に全ての介入クエリのトラクタビリティを検証し、サポート外候補を自動的に検出し、修正から除外する。
• 参考スコア（独自算出の注目度）: 4.492262382019958
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safe physical AI for robot actions are required not only likely to succeed but tested to be safe before execution. In practice, however, formal testing of motion parameters is computationally expensive, and the cost scales poorly with the dimensionality of the action space. When a proposed action is rejected by a tester, the naive response is to resample blindly until a passing candidate is found. This is wasteful, uninformative, and offers no convergence. We argue that rejection should instead trigger causal diagnosis: a principled identification of which action parameter caused the failure and what corrective value maximises the probability of passing testing under the interventional probability distribution. We propose a closed-loop framework that couples a Joint Probability Tree (JPT) with a Causal Circuit derived from a Marginal-Deterministic Variable Tree, enabling exact polytime computation without retraining, or additional data collection. The framework validates tractability of all interventional queries before the robot begins operating, and out-of-support candidates are detected and excluded from correction automatically. We perform experiments in a ROS2 simulation environment, and the framework demonstrates complementary roles across quality of distribution: under a high-quality JPT, the Causal Circuit reduces failed attempts by 10.3% and under a degraded JPT, it reduces total failed attempts by 37%. Every rejected plan produces a structured, interpretable causal report naming the primary cause variable, its observed value, and the recommended corrective region, supporting operator oversight and autonomous recovery without a separately trained failure model.
• Abstract（参考訳）: ロボットアクションのための安全な物理的なAIは、成功するだけでなく、実行前に安全であることをテストする必要がある。 しかし、実際には、運動パラメータの形式的テストは計算に高価であり、コストはアクション空間の次元性に劣る。 提案されたアクションがテスタによって拒否されると、ナイーブ応答は合格候補が見つかるまで盲目的に再サンプリングされる。 これは無駄であり、非形式的であり、収束を提供しない。 我々は、拒絶は因果診断を引き起こすべきであり、どのアクションパラメータが障害を引き起こし、どの修正値が介入確率分布の下でテストに合格する確率を最大化するかを原則的に同定する。 本稿では,JPT(Joint Probability Tree)とMarginal-Deterministic Variable Tree(Marginal-Deterministic Variable Tree)から派生した因果回路を結合したクローズドループフレームワークを提案する。 このフレームワークは、ロボットが動作を開始する前に全ての介入クエリのトラクタビリティを検証し、サポート外候補を自動的に検出し、修正から除外する。 我々はROS2シミュレーション環境で実験を行い、高品質のJPTでは、Causal Circuitは失敗を10.3%減らし、劣化したJPTでは総失敗を37%減らした。 拒否されたすべての計画は、個別に訓練された障害モデルなしで、主要な原因変数、その観測値、推奨された修正領域を命名する構造化された解釈可能な因果レポートを生成し、オペレータの監視と自律的な回復を支援する。

関連論文リスト

• Calibrated Predictive Safety for Heterogeneous Robots: An Action-Conditioned JEPA Framework with Model-Based Safety Shields [2.299706695317804]
  本研究では,アクション条件付き統合埋め込み予測アーキテクチャの世界モデルが,実行前,タスクの進行と,候補となるアクションチャンクの物理的リスクを予測できるかどうかを検討する。 本稿では,(1) 提案者がK個の候補を生成,(2) 動作条件のJEPAが各候補を凍結エンコーダの遅延空間で前方にロールアウトし,(3) リスクと進捗の基点が各ロールアウトと報告の不確実性,(4) 決定論的な単体安全シールドフィルタが許容できない候補を処理し,(5) フォールバックラダーが空の許容セットのケースを処理している,という,回帰水平決定パイプラインを提案する。
  論文  参考訳（メタデータ） (2026-08-18T08:24:08Z)
• Can AI Agents Simulate A/B Test Outcomes? A Validation Framework for Agentic Experimentation [1.4180331276028662]
  A/Bテストは、テクノロジ業界における新機能の標準であり続けている。 AIエージェントは、行動プロファイルと介入のコンテキスト記述に基づいて、--- 実際のトラフィックをコミットする前に、候補者の処置を精査するのに十分な結果をシミュレートできますか? 我々は,この問題をEmphSimulated Randomized Controlled Trial (S-RCT) として定式化し,エージェント近似誤差をサブサンプリング誤差から分離する2層誤差分解を導出する。
  論文  参考訳（メタデータ） (2026-08-03T14:58:06Z)
• Causal Agent Replay: Counterfactual Attribution for LLM-Agent Failures [0.0]
  Causal Agent Replay (CAR) は、エージェントが構造的因果モデルとして実行されることをモデル化する。 ステップにダブルオペレーションを適用し、同じポリシーの下で軌道を再実行します。 CARはオープンソースで、ホストまたはフリーのローカルモデルで動作する。
  論文  参考訳（メタデータ） (2026-06-06T17:44:23Z)
• VerifyMAS: Hypothesis Verification for Failure Attribution in LLM Multi-Agent Systems [79.51005192758262]
  大規模言語モデル駆動型マルチエージェントシステムは複雑なタスクで優れている。 しかし、信頼性の低いエージェントは、システムレベルの信頼性にとって重要なボトルネックである。 本稿では,エージェント故障の帰属に関する仮説検証フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-17T14:09:35Z)
• Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
  本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。 我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。 VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
  論文  参考訳（メタデータ） (2026-04-03T15:19:46Z)
• Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
  我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。 内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-03-13T20:44:15Z)
• Machine Learning for Stress Testing: Uncertainty Decomposition in Causal Panel Prediction [2.289837306672451]
  規制ストレステストでは、仮説的なマクロ経済シナリオの下で信用損失を予測する必要がある。 パネルにおけるポリシーパスの反ファクト推論のためのフレームワークを提案する。 実失業データを用いたシミュレーションおよび半合成実験により,すべての結果を検証した。
  論文  参考訳（メタデータ） (2026-03-08T03:22:38Z)
• Right for the Wrong Reasons: Epistemic Regret Minimization for Causal Rung Collapse in LLMs [0.0]
  我々は,「間違った理由のために正しい」機械学習システムが,分散シフトの下で崩壊するショートカットによって高い性能を達成することを示す。 結果に基づく学習が正しい答えを補強すると、エージェントは欠陥のある推論に定着する。 本稿では,タスク成功とは無関係に因果推論における誤りをペナルティ化する信念修正の目的であるてんかんレグレト最小化(ERM)を提案する。
  論文  参考訳（メタデータ） (2026-02-12T07:48:21Z)
• LEC: Linear Expectation Constraints for False-Discovery Control in Selective Prediction and Routing Systems [95.35293543918762]
  大規模言語モデル(LLM)はしばしば信頼できない答えを生成するが、不確実性のある手法は誤った予測と完全に区別することができない。 我々は、この問題を、偽発見率(FDR)制御のレンズを通して解決し、全ての許容された予測のうち、エラーの割合が目標のリスクレベルを超えないことを保証する。 本稿では,線形期待制約を強制することで,選択予測を制約付き決定問題として再解釈するLECを提案する。
  論文  参考訳（メタデータ） (2025-12-01T11:27:09Z)
• Discovering Causal Relationships using Proxy Variables under Unmeasured Confounding [42.70985072862832]
  観測研究における変数ペア間の因果関係の推測は極めて重要であるが,困難である。 我々は,不測の共同設立者の下で因果仮説をテストするために,離散的かつ連続的な設定を両立する一般的な非パラメトリックアプローチを開発する。 Intensive Care Data and World Values Surveyの広範囲なシミュレーションと実世界データによるアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2025-10-20T05:13:12Z)
• Abduct, Act, Predict: Scaffolding Causal Inference for Automated Failure Attribution in Multi-Agent Systems [20.846301581161978]
  マルチエージェントシステムにおける障害帰属は、批判的だが未解決の課題である。 現在の手法では、これを長い会話ログ上のパターン認識タスクとして扱う。 A2P Scaffoldingは、パターン認識から構造化因果推論タスクへの障害帰属を変換する。
  論文  参考訳（メタデータ） (2025-09-12T16:51:15Z)
• COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
  COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。 COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。 リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
  論文  参考訳（メタデータ） (2025-06-25T07:04:49Z)
• Will My Robot Achieve My Goals? Predicting the Probability that an MDP Policy Reaches a User-Specified Behavior Target [56.99669411766284]
  自律的なシステムがタスクを実行する場合、ユーザの目標を達成する確率のキャリブレーションされた見積もりを維持する必要がある。 本稿では,ユーザの目標が目標間隔として指定される設定について検討する。 我々は、共形予測を反転させて確率推定を計算する。
  論文  参考訳（メタデータ） (2022-11-29T18:41:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。