論文の概要: SafeLoop: Risk-Aware Rollback for Vision-Language-Action Manipulation

• arxiv url: http://arxiv.org/abs/2609.26313v1
• Date: Tue, 22 Sep 2026 12:22:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.357623
• Title: SafeLoop: Risk-Aware Rollback for Vision-Language-Action Manipulation
• Title（参考訳）: SafeLoop:ビジョンランゲージアクション操作のためのリスク対応ロールバック
• Abstract要約: VLAモデルにハザード予測とロールバックベースのリカバリを加えた非侵襲的な外部ラッパーであるSafeLoopを導入する。 軽量コントローラは、予測されるリスクに基づいて、3つのアクションのうちの1つを選択する。 SafeLoopは、代替手法よりも全体的な安全性とリスクのトレードオフを強く達成し、タスクの成功とベース・ポリティクスのコントロール率を維持しながら、ハザードケースを約70%削減する。
• 参考スコア（独自算出の注目度）: 15.20164361237998
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent vision-language-action (VLA) models are promising for general-purpose manipulation, but long-horizon execution remains fragile. Small state-estimation or control errors can lead to irreversible failures (e.g., collisions and object drops). Avoiding these risks requires a proactive safety mechanism capable of anticipating hazards. In this paper, we introduce SafeLoop, a non-invasive external wrapper that adds hazard prediction and rollback-based recovery to a VLA model without changing its parameters. SafeLoop trains a risk predictor from vision and proprioception to output four values: the probability and time-to-hazard for body collisions and for object failures. A lightweight controller then chooses one of three actions based on the predicted risk: continue execution (noop), save a safety checkpoint (record), or retreat in joint space (rollback). Rollback moves the robot back to a recent safe waypoint and queries the base policy again, which may yield an alternative continuation. Across 24 LIBERO tasks (16 random seeds each) and three real-robot tasks (25 rollouts each), SafeLoop achieves a stronger overall safety-success trade-off than alternative methods, reducing hazard cases by roughly 70% while preserving task success and the base-policy control rate. Project code is available at https://github.com/Loule0-0/SafeLoop/tree/release/safeloop.
• Abstract（参考訳）: 近年の視覚-言語-アクション(VLA)モデルは汎用的な操作に期待されているが、長距離実行は脆弱である。 小さな状態推定や制御エラーは、不可逆的な障害(衝突やオブジェクトドロップなど)を引き起こす可能性がある。 これらのリスクを避けるには、危険を予知できる積極的な安全メカニズムが必要である。 本稿では,危険予測とロールバックに基づくリカバリをパラメータを変更することなくVLAモデルに付加する,非侵襲的な外部ラッパーであるSafeLoopを紹介する。 SafeLoopは、視覚と受容からリスク予測器をトレーニングして、4つの値を出力する。 ライトウェイトコントローラは、予測されたリスクに基づいて3つのアクションのうちの1つを選択する:実行を継続(ノープ)、安全チェックポイントを保存(記録)、共同スペースを後退(ロールバック)する。 Rollbackはロボットを最近の安全なルートポイントに戻し、ベースポリシーを再度クエリする。 24個のLIBEROタスク(16個のランダムシード)と3つの実ロボットタスク(それぞれ25個のロールアウト)にまたがって、SafeLoopは代替手法よりも全体的な安全性とリスクのトレードオフを強く達成し、タスクの成功とベース・ポリティクスの制御率を維持しながら、ハザードケースを約70%削減する。 プロジェクトのコードはhttps://github.com/Loule0-0/SafeLoop/tree/release/safeloopで公開されている。

関連論文リスト

• AURA-Eval: Evaluation Framework for Acting Under Risk Awareness in LLM Agent Trajectories [12.694014584212695]
  ツール・ユース・トラジェクトリにおける制御強化と行動のきめ細かい診断を組み合わせたフレームワークであるAURA-Evalを紹介する。 157個のトラジェクトリを用いて1,249個の評価項目を生成し,20個のフロンティアモデルとオープンウェイトモデルを評価する。 以上の結果から, LLM エージェントは安全経路が存在しない場合, より安全でない行動に陥ることが示唆された。
  論文  参考訳（メタデータ） (2026-09-06T18:58:56Z)
• Reassembling Distributed Risk: Trajectory-Conditioned Action Generation for Multi-Turn Agent Safety [12.022506016268112]
  マルチターン分解攻撃では、有害な目的を個別にもっともらしい要求とツールコールに分散することができる。 本稿では,軌跡レベルのセキュリティ証拠に対して行動生成を条件とした世代防衛である分散リスク(ReDiR)を提案する。 我々はReDiRを3つのモデルファミリーと8つのホールドアウトツールドメインにまたがる2つのエージェントセーフティベンチマークで評価した。
  論文  参考訳（メタデータ） (2026-08-26T12:28:35Z)
• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• VLESA: Vision-Language Embodied Safety Agent for Human Activity Monitoring [60.53395558502203]
  Vision-Language Embodied Safety Agent (VLESA)は、自我中心のビデオから人間の活動を監視する。 VLESAは、コンテキストに応じて同一のアクションが安全または危険である意図に依存した安全性に対処する。 目標を共同で推測し,映像から将来の行動を予測するための意図-行動予測エージェントを提案する。
  論文  参考訳（メタデータ） (2026-06-02T17:42:17Z)
• Action-Conditioned Risk Gating for Safety-Critical Control under Partial Observability [79.08785366532287]
  部分観測可能性下でのリスク感応制御のための軽量なリスクゲート強化学習近似を提案する。 安全クリティカルな部分観測可能な2つの領域 – 自動グルコース調節と安全制約ナビゲーション – でアプローチを評価した。
  論文  参考訳（メタデータ） (2026-05-14T01:23:09Z)
• CoFreeVLA: Collision-Free Dual-Arm Manipulation via Vision-Language-Action Model and Risk Estimation [7.957404667299983]
  CoFreeVLAは、短地平線自己衝突リスク推定器を備えたエンドツーエンドビジョン言語アクション(VLA)を強化している。 この推定装置は危険な命令をゲートし、リスク誘導調整によって安全な状態に回復し、より安全なロールアウトのための政策改善を形作る。 PiPERロボットアームの5つのバイマニュアルタスクにおいて、CoFreeVLAは自己照合を減らし、RTTやAPEXと比較して成功率を向上させる。
  論文  参考訳（メタデータ） (2026-01-29T13:40:46Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
  LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。 既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。 我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
  論文  参考訳（メタデータ） (2025-10-10T18:42:32Z)
• SafeVLA: Towards Safety Alignment of Vision-Language-Action Model via Constrained Learning [30.037309138373754]
  視覚言語アクションモデル(VLA)は、汎用的なロボットポリシーとしての可能性を示している。 これらのモデルは、環境、ロボット自身、人間への危害のリスクを含む、現実世界の展開中に極端な安全上の課題を生じさせる。 我々は、ISA(Integrated safety approach)を探求し、安全要件を体系的にモデル化し、多様な安全でない振る舞いを積極的に引き出すことによって、この問題に対処する。
  論文  参考訳（メタデータ） (2025-03-05T13:16:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。