論文の概要: Risk-Aware Semantic Grounding for Trustworthy LLM-Based Robot Planning

• arxiv url: http://arxiv.org/abs/2609.37554v1
• Date: Tue, 29 Sep 2026 13:30:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.558346
• Title: Risk-Aware Semantic Grounding for Trustworthy LLM-Based Robot Planning
• Title（参考訳）: 信頼できるLDM型ロボット計画のためのリスク対応セマンティックグラウンド
• Abstract要約: 大型言語モデル (LLM) はロボットナビゲーションの高レベルプランナーとしてますます使われている。 彼らのアウトプットは、指示があいまいである場合、環境によってサポートされない場合、あるいは意味的に矛盾する場合、信頼性が低下する可能性がある。 本稿では,LLMに基づくロボット計画のためのリスク対応セマンティックグラウンドティングフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly used as high-level planners in robot navigation, but their outputs may become unreliable when instructions are ambiguous, unsupported by the environment, or semantically inconsistent. This paper presents a Risk-Aware Semantic Grounding framework for trustworthy LLM-based robot planning. Unlike existing LLM-based planners that primarily optimize plan generation, we formulate semantic grounding reliability as a multi-dimensional risk estimation problem. The proposed architecture explicitly models grounding uncertainty through ambiguity, hallucination and semantic-conflict risks before planning occurs, enabling the system to decide whether to execute the instruction, request clarification, or reject it. To evaluate the approach, we introduce TRUST-NAV, a benchmark containing both standard navigation tasks and risk-inducing instruction scenarios. Experimental results show that while conventional LLM planners achieve strong performance on valid navigation tasks, the proposed framework substantially improves ambiguity detection and semantic conflict rejection. These findings suggest that trustworthy robot planning should be evaluated not only by task completion, but also by the ability to recognize when execution should not occur.
• Abstract（参考訳）: 大規模言語モデル (LLM) はロボットナビゲーションにおける高レベルプランナーとしての利用が増えているが、指示があいまいである場合や、環境によってサポートされていない場合、あるいは意味的に矛盾する場合、その出力は信頼性に欠ける可能性がある。 本稿では,LLMに基づくロボット計画のためのリスク対応セマンティックグラウンドティングフレームワークを提案する。 計画生成を最適化する既存のLCMベースのプランナとは異なり、多次元リスク推定問題としてセマンティックグラウンドの信頼性を定式化する。 提案したアーキテクチャは、計画前における曖昧さ、幻覚、セマンティック・コンフリクトのリスクを通じて不確実性の基盤を明示的にモデル化し、命令の実行、明確化の要求、拒否をシステムが決定できるようにする。 提案手法を評価するために,標準ナビゲーションタスクとリスク誘導命令シナリオの両方を含むベンチマークであるTRUST-NAVを導入する。 実験結果から,従来のLLMプランナは有効なナビゲーションタスクにおいて高い性能を発揮するが,提案手法は曖昧さの検出と意味的衝突の拒否を大幅に改善することが示された。 これらの結果は,タスク完了だけでなく,実行すべきでないことを認識する能力によって,信頼できるロボット計画を評価するべきであることを示唆している。

関連論文リスト

• Towards Reliable LLM-based Robot Planning via Combined Uncertainty Estimation [68.106428321492]
  大規模言語モデル (LLM) は高度な推論能力を示し、ロボットが自然言語の命令を理解し、適切な接地で高レベルな計画を生成することができる。 LLMの幻覚は重大な課題であり、しばしば過度に信頼され、不一致または安全でない計画に繋がる。 本研究は, 信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性・信頼性評価を別々に評価するものである。
  論文  参考訳（メタデータ） (2025-10-09T10:26:58Z)
• PredictaBoard: Benchmarking LLM Score Predictability [50.47497036981544]
  大きな言語モデル(LLM)は予測不能に失敗することが多い。 これは、安全なデプロイメントを保証する上で、大きな課題となる。 PredictaBoardは,新しいベンチマークフレームワークである。
  論文  参考訳（メタデータ） (2025-02-20T10:52:38Z)
• Unveiling the Misuse Potential of Base Large Language Models via In-Context Learning [61.2224355547598]
  大規模言語モデル(LLM)のオープンソース化は、アプリケーション開発、イノベーション、科学的進歩を加速させる。 我々の調査は、この信念に対する重大な監視を露呈している。 我々の研究は、慎重に設計されたデモを配置することにより、ベースLSMが悪意のある命令を効果的に解釈し実行できることを実証する。
  論文  参考訳（メタデータ） (2024-04-16T13:22:54Z)
• Introspective Planning: Aligning Robots' Uncertainty with Inherent Task Ambiguity [0.659529078336196]
  大規模言語モデル(LLM)は高度な推論能力を示し、ロボットが自然言語の指示を理解し、高レベルの行動を戦略的に計画することを可能にする。 LLMの幻覚は、ロボットがユーザー目標と不一致の計画を実行したり、クリティカルなシナリオでは安全でないりする可能性がある。 本稿では,LLMの不確かさとタスク固有のあいまいさを一致させる系統的手法であるイントロスペクティブプランニングを提案する。
  論文  参考訳（メタデータ） (2024-02-09T16:40:59Z)
• Robots That Ask For Help: Uncertainty Alignment for Large Language Model Planners [85.03486419424647]
  KnowNoは、大きな言語モデルの不確実性を測定し、調整するためのフレームワークである。 KnowNoは、タスク完了に関する統計的保証を提供する共形予測理論に基づいている。
  論文  参考訳（メタデータ） (2023-07-04T21:25:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。