論文の概要: Hyperbolic Inverse Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2610.42104v1
- Date: Fri, 30 Oct 2026 17:46:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.858765
- Title: Hyperbolic Inverse Reinforcement Learning
- Title(参考訳): 双曲的逆強化学習
- Abstract要約: 逆強化学習(IRL)は、観察行動に基づく報酬関数の推測を試みる。
ハイパーボリック逆強化学習(Hyperbolic IRL)を紹介する。
本稿では,ハイパボリック報酬のパラメータ化により,IRLの予測精度と解釈可能性の両方を向上できることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Inverse reinforcement learning (IRL) seeks to infer the reward function underlying observed behavior, but its predictive accuracy and interpretability depend on how that reward is computed from the underlying features. While prior IRL reward functions have been implemented through a variety of techniques including linear weights, neural networks, or other function approximators, none make assumptions about the geometry of the underlying feature space. Inspired by geometric organization observed in neural circuits, we introduce Hyperbolic inverse reinforcement learning (Hyperbolic IRL), which parameterizes reward as a function of Hyperbolic distance between the feature vector and a learned parameter vector, as well as its Euclidean distance variant. We tested our methods against a range of linear and nonlinear IRL baselines under both deterministic and stochastic policies. Our Hyperbolic approach achieved comparable performance to state-of-the-art models on established benchmarks and excelled in the low data limit and across dense environments. Applied to human navigation among multiple exhibits in a museum room, Hyperbolic IRL reveals reward structure that depends not only on individual exhibit-distance features, but also on non-separable conjunctions between them. Together, these results demonstrate that a Hyperbolic reward parameterization can improve both the predictive accuracy and interpretability of IRL, providing a framework for studying how non-separable, conjunctive structure can begin to explain behavior.
- Abstract(参考訳): 逆強化学習(IRL)は、観察行動に基づく報酬関数の推測を試みるが、その予測精度と解釈性は、その報酬が基礎となる特徴からどのように計算されるかに依存する。
以前のIRL報酬関数は線形重み付け、ニューラルネットワーク、その他の関数近似器など様々な手法で実装されているが、基礎となる特徴空間の幾何学について仮定する者はいない。
ニューラルネットワークで観測される幾何構造にヒントを得て,特徴ベクトルと学習パラメータベクトルとの間の双曲距離の関数として報酬をパラメータ化するハイパーボリック逆強化学習(Hyperbolic inverse reinforcement learning, Hyperbolic IRL)と,そのユークリッド距離の変種を導入する。
我々は, 線形および非線形IRLベースラインに対して, 決定的および確率的ポリシの両方の下で本手法を検証した。
我々のHyperbolicアプローチは、確立されたベンチマーク上での最先端モデルに匹敵する性能を達成し、低データ限界と高密度環境における優れた性能を実現しました。
博物館の複数の展示物の間で人間のナビゲーションに応用されたハイパーボリックIRLは、個々の展示距離の特徴だけでなく、それらの間の非分離的な結合にも依存する報酬構造を明らかにする。
これらの結果から,ハイパボリック報酬のパラメータ化はIRLの予測精度と解釈可能性の両方を改善することが示され,非分離的共役構造が振る舞いを説明するための枠組みを提供する。
関連論文リスト
- HYDRA: Hyperbolic Dynamic Representation Architecture for Kolmogorov-Arnold Networks [12.7022879056666]
パラメータ効率のよいkanの拡張である textbfHYperbolic textbfDynamic textbfRepresentation textbfArchitecture (HYDRA) を導入する。
HYDRAはベクトル値の入力を有界双曲型潜在空間にマッピングし、接空間でkanスタイルの更新を行い、関数変換を共有するために低ランクのプロトタイプブロックを使用する。
8つのベンチマークデータセットに対する実験は、HYDRAが一貫して競争力や優れた予測性能を達成することを示した。
論文 参考訳(メタデータ) (2026-08-12T15:48:36Z) - Efficient Inference for Inverse Reinforcement Learning and Dynamic Discrete Choice Models [35.877107409163784]
逆強化学習(IRL)と動的離散選択(DDC)モデルは、観察された振る舞いを合理化する報酬関数を回復することにより、シーケンシャルな意思決定を説明する。
本研究では,広義の報酬依存関数に対して統計的に効率的な推論を行う半パラメトリックな逆強化学習フレームワークを開発した。
論文 参考訳(メタデータ) (2025-12-30T18:41:05Z) - Projective Kolmogorov Arnold Neural Networks (P-KANs): Entropy-Driven Functional Space Discovery for Interpretable Machine Learning [0.0]
Kolmogorov-Arnold Networks (KAN) は学習可能な非線形性をノードからエッジに移動させる。
現在のkanは、高次元スプラインパラメータ空間の冗長性に起因する基本的な非効率性に悩まされている。
本稿では,エッジ関数発見を導く新しいトレーニングフレームワークであるProjective Kolmogorov-Arnold Networks (P-KANs)を紹介する。
論文 参考訳(メタデータ) (2025-09-24T12:15:37Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳(メタデータ) (2023-06-01T15:18:55Z) - Hyperbolic Contrastive Learning [12.170564544949308]
本稿では,双曲空間における意味的関係を学習するための新しいコントラスト学習フレームワークを提案する。
提案手法は, 自己教師付き事前学習, 教師付き分類, ベースライン法よりも頑健な精度において, より良い結果が得られることを示す。
論文 参考訳(メタデータ) (2023-02-02T20:47:45Z) - Offline Reinforcement Learning with Differentiable Function
Approximation is Provably Efficient [65.08966446962845]
歴史的データを用いて意思決定戦略を最適化することを目的としたオフライン強化学習は、現実の応用に広く適用されている。
微分関数クラス近似(DFA)を用いたオフライン強化学習の検討から一歩踏み出した。
最も重要なことは、悲観的な適合Q-ラーニングアルゴリズムを解析することにより、オフライン微分関数近似が有効であることを示すことである。
論文 参考訳(メタデータ) (2022-10-03T07:59:42Z) - Functional Space Analysis of Local GAN Convergence [26.985600125290908]
一般機能空間における対向訓練の局所的ダイナミクスについて検討する。
偏微分方程式の系としてどのように表現できるかを示す。
我々の視点では、GANの安定化によく使われる実践的なトリックについて、いくつかの洞察が得られている。
論文 参考訳(メタデータ) (2021-02-08T18:59:46Z) - Hyperbolic Neural Networks++ [66.16106727715061]
ニューラルネットワークの基本成分を1つの双曲幾何モデル、すなわちポアンカーの球モデルで一般化する。
実験により, 従来の双曲成分と比較してパラメータ効率が優れ, ユークリッド成分よりも安定性と性能が優れていた。
論文 参考訳(メタデータ) (2020-06-15T08:23:20Z) - Can Temporal-Difference and Q-Learning Learn Representation? A Mean-Field Theory [110.99247009159726]
時間差とQ-ラーニングは、ニューラルネットワークのような表現力のある非線形関数近似器によって強化される深層強化学習において重要な役割を担っている。
特に時間差学習は、関数近似器が特徴表現において線形であるときに収束する。
論文 参考訳(メタデータ) (2020-06-08T17:25:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。