論文の概要: Benchmarking Obstacle-Conditioned Safety in Household Robot Navigation

• arxiv url: http://arxiv.org/abs/2610.34674v1
• Date: Mon, 26 Oct 2026 01:06:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.661601
• Title: Benchmarking Obstacle-Conditioned Safety in Household Robot Navigation
• Title（参考訳）: 家庭用ロボットナビゲーションにおける障害物条件の安全性のベンチマーク
• Abstract要約: セマンティック・セーフティの区別が連続動作に反映されるかどうかを検証するためにOSMA-Benchを導入する。 EmphSemantic Sensitivity Index (SSI) も提案する。
• 参考スコア（独自算出の注目度）: 16.62582639012363
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safe household navigation requires robots to regulate clearance and speed according to what an obstacle is and how close it is, without unnecessary conservatism. Yet existing evaluations do not test whether semantic safety distinctions are reflected in continuous motion. To that end, we introduce OSMA-Bench, an Obstacle-Conditioned Safe Motion Adaptation Benchmark built on spatially matched scenario sets that differ only in obstacle type. We also propose the \emph{Semantic Sensitivity Index} (SSI), which measures whether clearance and distance-dependent speed and smoothness follow the caution ordering of obstacles. Evaluating VLM-based and vision-language-action (VLA) policies on the benchmark, we find that neither consistently adapts its motion to obstacle safety, even with explicit safety prompts. Our analysis shows that the policies can correctly distinguish obstacles by safety relevance but fail to reflect this distinction in the motion parameters or actions they produce. For VLM-based policies, which recognize the obstacle and then generate a navigation program, adding an explicit parameter-inference step between these two stages improves adaptation. These findings expose a gap in \emph{semantic-to-motion grounding}, highlighting the need to translate semantic caution into appropriately safe motion.
• Abstract（参考訳）: 安全な家庭のナビゲーションには、障害物やその近さに応じて、不要な保守性なしに、クリアランスとスピードを調節する必要がある。 しかし、既存の評価では、セマンティック・セーフティの区別が連続運動に反映されているかどうかを検証していない。 そこで我々は,障害物タイプのみが異なる空間的に一致したシナリオセット上に構築された,Obstacle-Conditioned Safe Motion Adaptation BenchmarkであるOSMA-Benchを紹介する。 また, 障害物の警告順序に従って, クリアランスと距離依存速度, 滑らかさを計測する「emph{Semantic Sensitivity Index} (SSI)」を提案する。 VLMをベースとしたVLA(Vision-Language-action)ポリシーをベンチマークで評価したところ、明確な安全策を伴っても、その動作を障害物安全に一貫して適応させることは不可能であることが判明した。 分析の結果、安全関連性によって障害を正しく区別できるが、それらが生み出す動作パラメータや行動において、この区別を反映できないことが判明した。 障害を認識してナビゲーションプログラムを生成するVLMベースのポリシーでは、これらの2つのステージの間に明確なパラメータ推論ステップを追加することにより、適応性が向上する。 これらの結果は,意味的注意を適切な安全な動作に翻訳する必要性を浮き彫りにした。

関連論文リスト

• Hamilton-Jacobi Reachability-Based Safe Reinforcement Learning for Emergency Collision Avoidance [13.82721066487409]
  本稿では,ハミルトン・ヤコビ到達可能性に基づく運動安全セットによってガイドされる安全な強化学習フレームワークを提案する。 提案手法は,目標達成率の向上,回避操作の円滑化,基準法よりも大きな統一安全マージンの維持を実現している。
  論文  参考訳（メタデータ） (2026-06-13T13:57:30Z)
• Your Model Already Knows: Attention-Guided Safety Filter for Vision-Language-Action Models [25.34659221262947]
  VLA(Vision-Language-Action)モデルでは、さまざまなロボット操作タスクにおいて、エンドツーエンドのパフォーマンスが著しく向上している。 既存の安全フィルタは、障害物とその位置を特定するために視覚言語モデル(VLM)をクエリすることで、この問題を回避している。 VLAモデル内の少数の注意点が、ポリシーがアプローチしようとする対象を確実に位置づけすることを発見した。
  論文  参考訳（メタデータ） (2026-06-08T17:11:16Z)
• VLESA: Vision-Language Embodied Safety Agent for Human Activity Monitoring [60.53395558502203]
  Vision-Language Embodied Safety Agent (VLESA)は、自我中心のビデオから人間の活動を監視する。 VLESAは、コンテキストに応じて同一のアクションが安全または危険である意図に依存した安全性に対処する。 目標を共同で推測し,映像から将来の行動を予測するための意図-行動予測エージェントを提案する。
  論文  参考訳（メタデータ） (2026-06-02T17:42:17Z)
• DriveSafe: A Framework for Risk Detection and Safety Suggestions in Driving Scenarios [16.773557958751827]
  DriveSafeは、リスクを意識したシーン理解のためのフレームワークである。 明示的な言語ベースのシーン表現にリスクアセスメントを条件付けることで、DriveSafeは大幅に向上する。
  論文  参考訳（メタデータ） (2026-05-16T09:07:14Z)
• HazardArena: Evaluating Semantic Safety in Vision-Language-Action Models [87.35765363039638]
  本研究では,視覚・言語・アクションモデルのセマンティック安全性を評価するためのベンチマークであるHazardArenaを紹介する。 安全シナリオに特化してトレーニングされたVLAモデルは、対応する安全でないシナリオで評価された場合、安全に動作しないことが多い。 本研究では,セマンティック属性や視覚言語判断を用いた行動実行を制約する,トレーニングフリーの安全オプション層を提案する。
  論文  参考訳（メタデータ） (2026-04-14T08:32:02Z)
• SAVeS: Steering Safety Judgments in Vision-Language Models via Semantic Cues [50.928203120795786]
  本研究では,視覚言語モデルにおけるマルチモーダル安全性の挙動を,単純な意味的手がかりによって評価できるかどうかを考察する。 シーン内容を変更することなく、テキスト、視覚、認知の介入を制御できるセマンティック・ステアリング・フレームワークを導入する。
  論文  参考訳（メタデータ） (2026-03-19T16:18:00Z)
• Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
  我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。 安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。 複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
  論文  参考訳（メタデータ） (2025-08-17T23:46:36Z)
• SCANS: Mitigating the Exaggerated Safety for LLMs via Safety-Conscious Activation Steering [56.92068213969036]
  悪意のある命令から脅威を守るために、LLM(Large Language Models)には安全アライメントが不可欠である。 近年の研究では、過大な安全性の問題により、安全性に配慮したLCMは、良質な問い合わせを拒否する傾向にあることが明らかになっている。 過大な安全性の懸念を和らげるために,SCANS法を提案する。
  論文  参考訳（メタデータ） (2024-08-21T10:01:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。