論文の概要: ConceptTree: Bringing Semantic Transparency to Black-Box Decision Making for Robotic Manipulation

• arxiv url: http://arxiv.org/abs/2607.17861v1
• Date: Mon, 20 Jul 2026 12:02:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.61029
• Title: ConceptTree: Bringing Semantic Transparency to Black-Box Decision Making for Robotic Manipulation
• Title（参考訳）: ConceptTree: ロボットマニピュレーションのためのブラックボックス決定にセマンティック透明性をもたらす
• Abstract要約: ConceptTreeは、人間の解釈可能な概念の推論として、ハイレベルな操作スキルの選択を再構成するフレームワークである。 複雑化を伴う実世界のロボット操作タスクの集合に対するアプローチを評価する。
• 参考スコア（独自算出の注目度）: 19.876384055954865
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Establishing interpretable decision-making processes in long-horizon robotic manipulation is critical for enabling reliable human oversight and intervention. However, existing approaches to robotic manipulation largely treat skill selection as opaque mappings from observations to actions, offering limited transparency into how decisions are formed. In this work, we propose ConceptTree, a framework that reframes high-level manipulation skill selection as reasoning over human-interpretable concepts, representing high-level policies as a sequence of concept-level predicates over visual observations. Rather than relying on implicit latent representations, our method learns a normalized concept space grounded in visual inputs, over which a decision tree is trained to predict high-level skills. This formulation yields a transparent decision process that is both traceable and intervenable, enabling direct inspection and modification of policy behavior. We evaluate our approach on a set of real-world robotic manipulation tasks with increasing complexity. Experimental results show that ConceptTree consistently outperforms existing concept-based baselines, particularly in complex, long-horizon scenarios. Furthermore, we provide qualitative case studies showing that our model supports fine-grained intervention by modifying individual concepts, enabling targeted correction of decision errors without retraining.
• Abstract（参考訳）: 長期のロボット操作における解釈可能な意思決定プロセスを確立することは、信頼性の高い人間の監視と介入を可能にするために重要である。 しかし、ロボット操作への既存のアプローチは、主に、観察から行動への不透明なマッピングとしてスキル選択を扱い、意思決定の仕方に関して限られた透明性を提供する。 本研究では,人間の解釈可能な概念に対する推論として,高レベルの操作スキル選択を再構成するフレームワークであるConceptTreeを提案する。 本手法は,暗黙の潜在表現に頼るのではなく,視覚入力に基づく正規化された概念空間を学習し,その上で意思決定木を訓練して高度なスキルを予測する。 この定式化は、追跡可能かつ介入可能な透明な決定プロセスをもたらし、政策行動の直接検査と修正を可能にする。 複雑化を伴う実世界のロボット操作タスクの集合に対するアプローチを評価する。 実験結果から、ConceptTreeは既存のコンセプトベースベースライン、特に複雑なロングホライゾンシナリオにおいて、一貫してパフォーマンスが向上していることが示された。 さらに,本モデルが個々の概念の修正によってきめ細かな介入を支援することを示す定性ケーススタディを提示し,再トレーニングを伴わない意思決定誤りの修正を可能にする。

関連論文リスト

• Are Concept Bottleneck Models Effective as Decision-Support Systems? [48.16053753967562]
  概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、人間の理解可能な概念を入力から検出し、それらを使用して予測を生成する、解釈可能なニューラルネットワークである。 本稿では,モデルの概念に対する概念に基づく説明とユーザ介入が,人間-AIチームのパフォーマンスにどのように影響するかを評価する。 以上の結果から,CBMは非解釈型AIサポートによる人的パフォーマンスとパフォーマンスの両方に対して,人間-AIチームの精度を向上できることが示された。
  論文  参考訳（メタデータ） (2026-08-26T09:42:44Z)
• Selecting Decision-Relevant Concepts in Reinforcement Learning [11.811571265392294]
  解釈可能な概念に基づくポリシーのトレーニングでは、エージェントがシーケンシャルな決定を行う際に、手動でヒューマン理解可能な概念を選択する必要がある。 この選択にはドメインの専門知識が必要で、時間と費用がかかり、候補数に乏しく、パフォーマンス保証は提供されない。 逐次的意思決定における原理的自動概念選択のための最初のアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-04-06T16:12:42Z)
• Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。 CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
  論文  参考訳（メタデータ） (2026-03-05T19:37:49Z)
• Towards more holistic interpretability: A lightweight disentangled Concept Bottleneck Model [5.700536552863068]
  概念ボトルネックモデル(CBM)は、人間の理解可能な概念を中間表現として予測することにより、解釈可能性を高める。 本稿では,視覚的特徴を意味論的に意味のある構成要素に自動的に分類する軽量なDECBMを提案する。 3つの多様なデータセットの実験により、LCDBMはより高い概念とクラス精度を達成し、解釈可能性と分類性能の両方において従来のCBMよりも優れていたことが示されている。
  論文  参考訳（メタデータ） (2025-10-17T15:59:30Z)
• Interpretable Reward Modeling with Active Concept Bottlenecks [54.00085739303773]
  本稿では,解釈可能な嗜好学習を可能にする報酬モデリングフレームワークであるConcept Bottleneck Reward Models (CB-RM)を紹介する。 不透明報酬関数に依存する標準的なRLHF法とは異なり、CB-RMは報酬予測を人間の解釈可能な概念に分解する。 我々は,最も情報性の高い概念ラベルを動的に取得する能動的学習戦略を定式化する。
  論文  参考訳（メタデータ） (2025-07-07T06:26:04Z)
• Interpretable Concept-Based Memory Reasoning [12.562474638728194]
  コンセプトベースのメモリリゾナー(CMR)は、人間に理解でき、検証可能なタスク予測プロセスを提供するために設計された新しいCBMである。 CMRは、最先端のCBMに対する精度-解釈可能性のトレードオフを向上し、基礎的な真実と整合した論理規則を発見し、規則の介入を可能にし、事前デプロイ検証を可能にする。
  論文  参考訳（メタデータ） (2024-07-22T10:32:48Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• Understanding the (Extra-)Ordinary: Validating Deep Model Decisions with Prototypical Concept-based Explanations [13.60538902487872]
  本稿では, 実例的(地域的)かつクラス的(グローバル的)な意思決定戦略をプロトタイプを通じて伝達する, ポストホックなコンセプトベースXAIフレームワークを提案する。 我々は,3つのデータセットにまたがるアウト・オブ・ディストリビューション・サンプル,突発的なモデル行動,データ品質問題同定におけるアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2023-11-28T10:53:26Z)
• Explaining by Imitating: Understanding Decisions by Interpretable Policy Learning [72.80902932543474]
  観察されたデータから人間の行動を理解することは、意思決定における透明性と説明責任にとって重要である。 意思決定者の方針をモデル化することが困難である医療などの現実的な設定を考えてみましょう。 本稿では, 設計による透明性の向上, 部分観測可能性の確保, 完全にオフラインで動作可能なデータ駆動型意思決定行動の表現を提案する。
  論文  参考訳（メタデータ） (2023-10-28T13:06:14Z)
• Explainable fetal ultrasound quality assessment with progressive concept bottleneck models [6.734637459963132]
  胎児超音波品質評価のための総合的,説明可能な方法を提案する。 タスクに「可読性の概念」を導入し、シーケンシャルな専門家による意思決定プロセスを模倣する。 実験により、我々のモデルは、社内データセット上で同等のコンセプトフリーモデルより優れていることが示された。
  論文  参考訳（メタデータ） (2022-11-19T09:31:19Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。