論文の概要: Discrete Markov Bridge

• arxiv url: http://arxiv.org/abs/2505.19752v1
• Date: Mon, 26 May 2025 09:32:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:43.329788
• Title: Discrete Markov Bridge
• Title（参考訳）: 離散マルコフ橋
• Authors: Hengli Li, Yuxuan Wang, Song-Chun Zhu, Ying Nian Wu, Zilong Zheng,
• Abstract要約: 離散マルコフブリッジと呼ばれる離散表現学習に特化して設計された新しいフレームワークを提案する。 私たちのアプローチは、Matrix LearningとScore Learningの2つの重要なコンポーネントの上に構築されています。
• 参考スコア（独自算出の注目度）: 93.64996843697278
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Discrete diffusion has recently emerged as a promising paradigm in discrete data modeling. However, existing methods typically rely on a fixed rate transition matrix during training, which not only limits the expressiveness of latent representations, a fundamental strength of variational methods, but also constrains the overall design space. To address these limitations, we propose Discrete Markov Bridge, a novel framework specifically designed for discrete representation learning. Our approach is built upon two key components: Matrix Learning and Score Learning. We conduct a rigorous theoretical analysis, establishing formal performance guarantees for Matrix Learning and proving the convergence of the overall framework. Furthermore, we analyze the space complexity of our method, addressing practical constraints identified in prior studies. Extensive empirical evaluations validate the effectiveness of the proposed Discrete Markov Bridge, which achieves an Evidence Lower Bound (ELBO) of 1.38 on the Text8 dataset, outperforming established baselines. Moreover, the proposed model demonstrates competitive performance on the CIFAR-10 dataset, achieving results comparable to those obtained by image-specific generation approaches.
• Abstract（参考訳）: 離散拡散は、離散データモデリングにおいて有望なパラダイムとして最近登場した。 しかし、既存の手法は訓練中に固定レート遷移行列に頼り、潜在表現の表現性を制限するだけでなく、変分法の基本的強みも制限する。 これらの制約に対処するため,離散表現学習に特化して設計された新しいフレームワークである離散マルコフブリッジを提案する。 私たちのアプローチは、Matrix LearningとScore Learningの2つの重要なコンポーネントの上に構築されています。 我々は厳密な理論的分析を行い、マトリックス学習の正式な性能保証を確立し、フレームワーク全体の収束を証明する。 さらに,本手法の空間的複雑さを解析し,先行研究における現実的な制約に対処する。 提案した離散マルコフ橋は,Text8データセット上で1.38のエビデンス下界(ELBO)を達成し,確立されたベースラインを上回っている。 さらに,提案モデルでは,CIFAR-10データセット上での競合性能を示し,画像固有の生成手法で得られた結果に匹敵する結果が得られる。

関連論文リスト

• A Survey of Low-shot Vision-Language Model Adaptation via Representer Theorem [38.84662767814454]
  限られた訓練データの条件下で対処する主な課題は、パラメータ効率のよい方法で事前訓練された視覚言語モデルを微調整する方法である。 本稿では,既存の手法を統合化し,それらの性質を同定し,詳細な比較を支援するための統一的な計算フレームワークを提案する。 実演として、カーネルヒルベルト空間(RKHS)における表現子間のクラス間相関をモデル化し、既存の手法を拡張した。
  論文  参考訳（メタデータ） (2024-10-15T15:22:30Z)
• Preference-Based Multi-Agent Reinforcement Learning: Data Coverage and Algorithmic Techniques [65.55451717632317]
  PbMARL(Preference-based Multi-Agent Reinforcement Learning)について検討する。 一般ゲームにおける嗜好のみのオフラインデータセットからナッシュ平衡を同定する。 以上の結果から,PbMARLの多面的アプローチが示唆された。
  論文  参考訳（メタデータ） (2024-09-01T13:14:41Z)
• Bayesian Exploration of Pre-trained Models for Low-shot Image Classification [14.211305168954594]
  本研究はガウス過程に基づくシンプルで効果的な確率的モデルアンサンブルフレームワークを提案する。 平均関数をCLIPとカーネル関数で指定することで,事前知識の統合を実現する。 提案手法は,予測性能に関する競争アンサンブルベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2024-03-30T10:25:28Z)
• Synergistic eigenanalysis of covariance and Hessian matrices for enhanced binary classification [72.77513633290056]
  本稿では, 学習モデルを用いて評価したヘッセン行列をトレーニングセットで評価した共分散行列の固有解析と, 深層学習モデルで評価したヘッセン行列を組み合わせた新しい手法を提案する。 本手法は複雑なパターンと関係を抽出し,分類性能を向上する。
  論文  参考訳（メタデータ） (2024-02-14T16:10:42Z)
• Understanding and Constructing Latent Modality Structures in Multi-modal Representation Learning [53.68371566336254]
  優れたパフォーマンスの鍵は、完全なモダリティアライメントではなく、有意義な潜在モダリティ構造にある、と我々は主張する。 具体的には,1)モダリティ内正規化のための深い特徴分離損失,2)モダリティ間正規化のためのブラウン橋損失,3)モダリティ内正規化およびモダリティ間正規化のための幾何学的整合損失を設計する。
  論文  参考訳（メタデータ） (2023-03-10T14:38:49Z)
• Let us Build Bridges: Understanding and Extending Diffusion Generative Models [19.517597928769042]
  拡散に基づく生成モデルは、最近、有望な結果を得たが、多くのオープンな疑問を提起している。 この研究は、理論的な理解を深めるために、全体的なフレームワークを再検討しようと試みている。 1)拡散生成モデルを学習するための最初の理論的誤り解析,2)異なる離散および制約された領域からのデータを学ぶための単純で統一的なアプローチを提案する。
  論文  参考訳（メタデータ） (2022-08-31T08:58:10Z)
• Making Linear MDPs Practical via Contrastive Representation Learning [101.75885788118131]
  マルコフ決定過程(MDP)における次元性の呪いに、低ランク表現を利用することで対処することが一般的である。 本稿では,効率的な表現学習を可能にしつつ,正規化を自動的に保証する線形MDPの代替的定義について考察する。 いくつかのベンチマークにおいて、既存の最先端モデルベースおよびモデルフリーアルゴリズムよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-07-14T18:18:02Z)
• Efficient Performance Bounds for Primal-Dual Reinforcement Learning from Demonstrations [1.0609815608017066]
  本稿では,コスト関数の不明な大規模マルコフ決定プロセスについて考察し,限られた専門家による実証から政策を学習する問題に対処する。 既存の逆強化学習法には強力な理論的保証があるが、計算上は高価である。 ラグランジアン双対性を利用して理論と実践のギャップを埋める新しい双線型サドルポイントフレームワークを導入する。
  論文  参考訳（メタデータ） (2021-12-28T05:47:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。