論文の概要: Topology-Aware State Abstraction with Tangle Cores for Markov Decision Processes
- arxiv url: http://arxiv.org/abs/2606.00427v1
- Date: Fri, 29 May 2026 23:29:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:28.399267
- Title: Topology-Aware State Abstraction with Tangle Cores for Markov Decision Processes
- Title(参考訳): マルコフ決定過程のための三角形コアを用いた位相対応状態抽象化
- Abstract要約: 強化学習における状態抽象化は通常、報酬と遷移の類似性に基づいて状態の分割として定式化される。
これは、ナビゲーション、グラフ、階層的な決定問題において共通の構造パターンを除外する:ドア、ハブ、ボトルネックといったインターフェース状態は、自然に複数の領域にまたがる。
経験的遷移グラフのグラフトライアングルに基づいて,エンファングルコアの抽象化を導入する。
- 参考スコア(独自算出の注目度): 6.908972852063454
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: State abstraction in reinforcement learning is usually formulated as a partition of states based on reward and transition similarity. This excludes a common structural pattern in navigation, graph, and hierarchical decision problems: interface states such as doors, hubs, and bottlenecks naturally participate in more than one region. We introduce \emph{tangle-core abstraction}, an overlapping state-abstraction framework based on graph tangles of empirical transition graphs. The method constructs abstract states from consistently oriented low-order separations and represents shared interfaces through a membership kernel rather than a hard partition. We give value-preservation guarantees for the induced overlapping abstract MDP under an explicit action-consistency condition, identify an interior-homogeneity/boundary-leakage error decomposition, and prove a quantitative interface-overlap result showing when hard partitions incur an avoidable boundary error. Empirically, tangle-core abstractions achieve favorable compression--return tradeoffs against reward-aware, learned, topological-map, and graph-partitioning baselines across bottlenecked tabular domains, procedurally generated mazes, and MiniGrid representations. We also identify a clear failure regime in which transition topology is uninformative, where tangles predictably offer little benefit. These results position graph tangles as an effective topology-aware abstraction prior for decision problems with shared interface structure.
- Abstract(参考訳): 強化学習における状態抽象化は通常、報酬と遷移の類似性に基づいて状態の分割として定式化される。
これは、ナビゲーション、グラフ、階層的な決定問題において共通の構造パターンを除外する:ドア、ハブ、ボトルネックといったインターフェース状態は、自然に複数の領域にまたがる。
経験的遷移グラフのグラフトライアングルに基づく重なり合う状態抽出フレームワークである 'emph{tangle-core abstract} を導入する。
この方法は、一貫した配向の低次分離から抽象状態を構築し、ハードパーティションではなくメンバシップカーネルを介して共有インターフェースを表現する。
本研究では,明示的な動作整合性条件下での抽象的MDPの重畳による値保存を保証するとともに,内部均一性/境界遅延の分解を同定し,ハードパーティションが回避可能な境界誤差を発生させた場合の定量的なインターフェースオーバーラップ結果を示す。
経験的に、トライアングルコアの抽象化は、報酬認識、学習、トポロジカルマップ、グラフ分割ベースライン、手続き的に生成された迷路、MiniGrid表現に対して、良好な圧縮を実現する。
また、トランジショントポロジが非形式的であり、トライアングルが予測可能な利益をほとんど与えない明確な障害体制も特定します。
これらの結果は、共有インターフェース構造を用いた決定問題に先立って、グラフトライアングルを効果的なトポロジ認識抽象化として位置づける。
関連論文リスト
- SemFlowRAG: Directed Semantic Flow from Abstraction to Evidence for Complex Reasoning [15.817479351881062]
SemFlowRAGは、フラットな検索空間をコーパス適応的な勾配セマンティックグラフに再構成するフレームワークである。
エンティティのセマンティックな抽象性を、関連するパスの埋め込み分散によって定量化することにより、静的な非方向エッジを有向的なセマンティック制約に変換する。
本研究では,SemFlowRAGがブラックホールの確率問題を効果的に軽減し,検索性能と下流推論性能の両方において既存のベースラインを上回っていることを示す。
論文 参考訳(メタデータ) (2026-06-26T08:40:08Z) - Performance-Driven Environment Abstraction with Multi-Timescale Learning [14.594941665205148]
大規模なマルコフ決定プロセスにおける意思決定のための性能駆動型環境抽象化について検討する。
状態空間を集約した制御近似として抽象化をモデル化する。
固定パーティションでは、値関数近似誤差とアクション共有による損失を分離する性能保証を確立する。
論文 参考訳(メタデータ) (2026-06-16T00:19:23Z) - Adaptive state-action abstractions via rate-distortion [52.25810164390199]
強化学習は、複雑なタスクの単純なバージョンを構築するための複数のテクニックを提供する。
本稿では,抽象化自体によって引き起こされる誤りに匹敵する学習エラーが生じたら,抽象化を洗練させるという原理を提案する。
論文 参考訳(メタデータ) (2026-06-04T13:10:18Z) - OcclusionFormer: Arranging Z-Order for Layout-Grounded Image Generation [49.49933361280724]
OcclusionFormerは、インスタンスを分離することで、Zオーダーの優先順位を明示的にモデル化する新しいフレームワークです。
また、個別のインスタンスを明示的に監視し、セマンティックな一貫性を高めるクエリアライメント損失を導入します。
提案手法は,重なり合う領域の曖昧さを効果的に低減し,正しい閉塞依存性を強制し,構造的整合性を保ち,様々な場面で精度の高い向上をもたらす。
論文 参考訳(メタデータ) (2026-05-20T16:10:44Z) - Grouping Nodes With Known Value Differences: A Lossless UCT-based Abstraction Algorithm [64.43268969806098]
モンテカルロ木探索(MCTS)の中核的な課題は、状態-作用ペアをグループ化することで改善できるサンプル効率である。
我々は、値等価状態または状態-作用ペアをグループ化し、代わりに異なる値を持つグループ状態と状態-作用ペアをグループ化するパラダイムを破る。
我々はこの抽象化フレームワークをKVDA(Known Value difference Abstractions)と呼び、即時報酬の分析によって価値の差を推測する。
論文 参考訳(メタデータ) (2025-10-29T11:03:44Z) - Causal Abstractions, Categorically Unified [9.341830361844337]
異なる抽象レベルで同じシステムを表す因果関係モデルを関連付けるための分類的枠組みを提案する。
我々のアプローチは、これまで考慮されていた因果的抽象化を統一し、一般化する。
本稿では,回路解析やスパースオートエンコーダなどの機械的解釈可能性からの手法をフレームワークに適合させる方法について論じる。
論文 参考訳(メタデータ) (2025-10-06T17:09:30Z) - Causal Abstraction Inference under Lossy Representations [53.18851962820361]
我々は、既存の定義を一般化して損失表現に適合させる、投影抽象化と呼ばれる新しいタイプの抽象化を導入する。
低レベルモデルから投影された抽象化を構築する方法と、それと等価な観察的、介入的、および反ファクト的因果クエリを低レベルから高レベルに翻訳する方法を示す。
論文 参考訳(メタデータ) (2025-09-25T21:20:42Z) - Aligning Graphical and Functional Causal Abstractions [0.0]
因果抽象化により、異なるレベルの粒度の因果モデルを関連付けることができる。
因果的抽象化のための2つの方法が文献で一般的である: (i) 構造レベルでモデルを関連付けるクラスタDAGや(ii) 変数と範囲の間のマップによるモデルを関連付ける$alpha$-abstractionsのような機能的抽象化。
論文 参考訳(メタデータ) (2024-12-22T16:11:25Z) - Transitivity Recovering Decompositions: Interpretable and Robust
Fine-Grained Relationships [69.04014445666142]
Transitivity Recovering Decompositions (TRD) は、抽象的な創発的関係の解釈可能な等価性を識別するグラフ空間探索アルゴリズムである。
TRDは明らかにノイズの多い見方に対して堅牢であり、実証的な証拠もこの発見を支持している。
論文 参考訳(メタデータ) (2023-10-24T16:48:56Z) - Self-Learning with Rectification Strategy for Human Parsing [73.06197841003048]
擬似ラベルの2つの典型的な誤りを補正する訓練可能なグラフ推論法を提案する。
再構成された特徴は、人体のトポロジー構造を表現する能力が強い。
本手法は、教師付き人間の解析作業において、他の最先端手法よりも優れている。
論文 参考訳(メタデータ) (2020-04-17T03:51:30Z) - Structured Prediction with Partial Labelling through the Infimum Loss [85.4940853372503]
弱い監督の目標は、収集コストの安いラベル付け形式のみを使用してモデルを学習できるようにすることである。
これは、各データポイントに対して、実際のものを含むラベルのセットとして、監督がキャストされる不完全なアノテーションの一種です。
本稿では、構造化された予測と、部分的なラベリングを扱うための無限損失の概念に基づく統一的なフレームワークを提供する。
論文 参考訳(メタデータ) (2020-03-02T13:59:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。