論文の概要: Successful but Unsafe: An Analytical Benchmark for Revealing Collisions in Vision-and-Language Navigation

• arxiv url: http://arxiv.org/abs/2610.14682v1
• Date: Sat, 10 Oct 2026 07:53:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 12:19:40.765519
• Title: Successful but Unsafe: An Analytical Benchmark for Revealing Collisions in Vision-and-Language Navigation
• Title（参考訳）: 成功したが安全でない:ビジョンとランゲージのナビゲーションにおける衝突を発見するための分析ベンチマーク
• Abstract要約: VLN-Safeは2つの相補的評価条件の下で衝突安全性を解析するためのベンチマークである。 緊急衝突を予測するための信号を解析し、政策由来の信号よりも深度幾何学と最近の移動史の方が有益であることを示す。 我々は,リスクの高い前方行動に拒否権を行使し,脱出操作を実行し,元の方針に制御を返す,訓練不要の衝突ガードを導入する。
• 参考スコア（独自算出の注目度）: 5.374365455736693
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-and-language navigation (VLN) agents are typically evaluated by whether they reach a target and how efficiently they follow an instructed route, yet these metrics provide little information about collision behavior. Moreover, continuous VLN evaluation commonly uses a sliding regime, where an agent can slide along obstacles after a collision, potentially masking the effect of unsafe actions on navigation performance. We introduce VLN-Safe, a benchmark for analyzing collision safety under two complementary evaluation regimes: sliding, reflecting common VLN evaluation practice, and blocking, where collision-inducing actions prevent forward motion and more directly expose their consequences. Across six published agents on R2R-CE, 38.5-56.8% of successful episodes contain contact under sliding, while switching to blocking decreases success rate by 11.7-36.1 percentage points. We further analyze signals for anticipating imminent collisions and find that depth geometry and recent movement history are more informative than policy-derived signals, while safe alternatives near the policy's preferred action are rarely available. Motivated by these findings, we introduce a training-free collision guard that vetoes risky forward actions, executes an escape maneuver, and returns control to the original policy. Under blocking, the guard reduces collision steps by 62-98% and improves success rate by 6.9-29.3 percentage points across five recurrent, topological, and vision-language-action agents. Under sliding, it leaves success rate unchanged while raising the share of collision-free successes by 4.1-12.4 points. These results reveal a substantial gap between task success and collision-safe navigation and show that lightweight collision-aware intervention can improve both safety and navigation performance.
• Abstract（参考訳）: ビジョン・アンド・ランゲージ・ナビゲーション(VLN)エージェントは通常、ターゲットに到達するか、指示された経路をどれだけ効率的に従うかによって評価されるが、これらの指標は衝突行動に関する情報をほとんど提供しない。 さらに、連続的なVLN評価では、衝突後の障害物に沿ってエージェントが滑り、安全でない動作がナビゲーション性能に与える影響を隠蔽するスライディング方式が一般的である。 VLN-Safeは2つの相補的な評価条件下で衝突安全性を解析するためのベンチマークであり, 衝突誘発作用により前方運動が防止され, 結果がより直接に露呈されるような, すべり, 一般的なVLN評価プラクティスの反映, ブロッキングである。 R2R-CEの6つのエージェントのうち38.5-56.8%はスライディング中の接触を含んでおり、ブロックへの切り替えは成功率を11.7-36.1ポイント減少させる。 我々はまた、緊急衝突を予測するための信号を分析し、奥行き幾何学と最近の移動史が政策からの信号よりも有益であるのに対して、政策の望ましい行動に近い安全な代替手段はめったに利用できないことを発見した。 これらの知見に触発されて、我々はリスクの高い前方行動に拒否権を行使し、脱出操作を実行し、元の方針に制御を返す、訓練不要の衝突ガードを導入した。 遮断下では、ガードは衝突ステップを62-98%減らし、成功率を6.9-29.3ポイント改善する。 スライディング中は、衝突のない成功のシェアを4.1-12.4ポイント引き上げながら、成功率を変わらないままにしている。 これらの結果から,タスク成功と衝突回避ナビゲーションの間には大きなギャップがあり,衝突認識による軽量介入が安全と航行性能の両方を改善することが示唆された。

関連論文リスト

• ReSI: Recursive Safety Improvement toward Resistant and Resilient AI [79.72081502522337]
  再帰的自己改善(Recursive self-improvement)、つまり、AIシステムが自身の能力を改善することへの参加は、理論的な見通しから実践へと移行し始めている。 本稿では,この手法を自動研究によって実装するフレームワークであるReSIを紹介する。 各ラウンドにおいて、ReSIは、現在のターゲットモデルの脆弱性を特定し、トレーニングレシピを開発し、最大の安全性向上でアップデートを促進するために、さまざまな赤チーム方式を適用している。
  論文  参考訳（メタデータ） (2026-10-08T16:17:21Z)
• Credit-Guided Policy Improvement for Test-time Adaptive Vision-Language Navigation [53.30116823667751]
  視覚言語ナビゲーションのためのテスト時適応(TTA-VLN)により、事前訓練されたポリシーは、目に見えない環境にオンラインで適応できる。 分散シフトは、局所的な行動選好を歪め、オフコース決定につながる可能性がある。 我々は,行動誘発観察遷移から署名付き参照関連決定クレジットを回収する信用誘導政策改善(CGPI)を提案する。
  論文  参考訳（メタデータ） (2026-09-29T13:46:11Z)
• RefineDrive: Reliable Failure-Guided Learning for Vision-Language-Action Driving [16.68571039427634]
  自動運転のためのビジョンランゲージ・アクション(VLA)モデルは、専門家によるデモンストレーションの成功に大きく依存している。 これらの失敗から学ぶことは、信頼性の低い診断、不一致の修正ターゲット、粗い報酬によって妨げられる。 本稿では、自己生成障害から学習する、障害誘導後トレーニングフレームワークRefineDriveを提案する。
  論文  参考訳（メタデータ） (2026-09-28T13:01:25Z)
• Vision--Language Signals in Constrained RL: Safety Gains Without Anticipation [0.0]
  VLM-Safe-RLは凍ったCLIP信号をPPO-Lagrangianに統合するフレームワークである。 フォーミュラ1-L2分析では、CLIP信号が衝突を予想する証拠は見つからない。
  論文  参考訳（メタデータ） (2026-09-28T00:07:53Z)
• StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [80.39644823192113]
  StepGuardは、完了したエージェントの軌跡を監査し、実行前にツールアクションをチェックするステップレベルのガードモデルである。 StepGuardは、GPT-5.4に匹敵するパフォーマンスで、オープンウェイトガードモデルの中で最高の平均精度を達成した。 AgentDojoとAgentDynのエージェントを保護するために使用される場合、StepGuardは平均攻撃成功率を77.3%削減する。
  論文  参考訳（メタデータ） (2026-08-25T16:17:27Z)
• Neuro-Symbolic Safety Guidance for Vision-Language-Action Models via Constrained Flow Matching [11.335076684744628]
  既存の安全対策は、ロボットの次の動作による衝突を防ぐだけである。 本稿では,フローマッチングに基づくVLAのニューラルネットワークによる安全誘導機構を提案する。 本手法は, 衝突回避率82.8%, タスク成功率81.6%, それぞれ6.3%, 19.8%向上した。
  論文  参考訳（メタデータ） (2026-07-01T18:41:33Z)
• SafeAlign-VLA: A Negative-Enhanced Safe Alignment Framework for Risk-Aware Autonomous Driving [5.963051368087439]
  VLA(Vision-Language-Action)モデルは、その強力な推論能力のために有望である。 我々は,教師付き学習と強化学習に否定データを組み込んだ,ネガティブに強化された安全なアライメントフレームワークであるSafeAlign-VLAを提案する。 NAVSIMとDeepAccidentの実験は提案されたフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-05-19T08:26:43Z)
• On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
  既存の安全アライメント信号は、主に応答レベルまたは政治外である。 FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。 FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
  論文  参考訳（メタデータ） (2026-05-12T09:56:28Z)
• Active Test-time Vision-Language Navigation [60.69722522420299]
  ATENAは、不確実なナビゲーション結果に対するエピソードフィードバックを通じて、実用的な人間とロボットのインタラクションを可能にする、テスト時のアクティブな学習フレームワークである。 特にATENAは、成功エピソードにおける確実性を高め、失敗エピソードにおいてそれを減らすことを学び、不確実性の校正を改善している。 さらに,自信ある予測に基づいて,エージェントがナビゲーション結果を評価することができる自己学習戦略を提案する。
  論文  参考訳（メタデータ） (2025-06-07T02:24:44Z)
• Improving Collision-Free Success Rate For Object Goal Visual Navigation Via Two-Stage Training With Collision Prediction [0.0]
  衝突のない成功は、航法モデルが対象物に向かって衝突のない経路を見つける能力を評価するために導入された。 既存の航法モデルの衝突のない成功率を改善するために,衝突予測を伴う2段階の訓練手法を提案する。
  論文  参考訳（メタデータ） (2025-02-19T07:33:10Z)
• iPLAN: Intent-Aware Planning in Heterogeneous Traffic via Distributed Multi-Agent Reinforcement Learning [57.24340061741223]
  本稿では,高密度および不均一な交通シナリオにおける軌跡や意図を予測できる分散マルチエージェント強化学習(MARL)アルゴリズムを提案する。 インテント対応プランニングのアプローチであるiPLANにより、エージェントは近くのドライバーの意図をローカルな観察からのみ推測できる。
  論文  参考訳（メタデータ） (2023-06-09T20:12:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。