論文の概要: Graph-based Approximate Message Passing Iterations

• arxiv url: http://arxiv.org/abs/2109.11905v1
• Date: Fri, 24 Sep 2021 11:56:59 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-27 13:59:49.516900
• Title: Graph-based Approximate Message Passing Iterations
• Title（参考訳）: グラフに基づく近似メッセージパッシングイテレーション
• Authors: C\'edric Gerbelot and Rapha\"el Berthier
• Abstract要約: 近似メッセージパッシング(AMP)アルゴリズムは高次元統計的推論の重要な要素となっている。 AMPインスタンスは、向き付けられたグラフによって汎用的にインデックス化可能であることを示す。 これにより、これらの反復を統一的に解釈することができ、それらが解決する問題とは独立して、それらを任意に構成することが可能になる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Approximate-message passing (AMP) algorithms have become an important element of high-dimensional statistical inference, mostly due to their adaptability and concentration properties, the state evolution (SE) equations. This is demonstrated by the growing number of new iterations proposed for increasingly complex problems, ranging from multi-layer inference to low-rank matrix estimation with elaborate priors. In this paper, we address the following questions: is there a structure underlying all AMP iterations that unifies them in a common framework? Can we use such a structure to give a modular proof of state evolution equations, adaptable to new AMP iterations without reproducing each time the full argument ? We propose an answer to both questions, showing that AMP instances can be generically indexed by an oriented graph. This enables to give a unified interpretation of these iterations, independent from the problem they solve, and a way of composing them arbitrarily. We then show that all AMP iterations indexed by such a graph admit rigorous SE equations, extending the reach of previous proofs, and proving a number of recent heuristic derivations of those equations. Our proof naturally includes non-separable functions and we show how existing refinements, such as spatial coupling or matrix-valued variables, can be combined with our framework.
• Abstract（参考訳）: 近似メッセージパッシング(AMP)アルゴリズムは、その適応性と濃度特性、状態進化(SE)方程式により、高次元統計的推論の重要な要素となっている。 これは、多層推論から精巧な事前計算による低ランク行列推定まで、ますます複雑な問題に対して提案される新しい反復数の増加によって実証される。 本稿では、次のような疑問に対処する: 共通のフレームワークでそれらを統一するAMPイテレーションの基盤となる構造は存在するか? そのような構造を使って状態進化方程式のモジュラーな証明を与え、完全な引数を再現せずに新しいAMP反復に適応できるだろうか? 両質問に対する回答を提案し、AMPインスタンスを汎用的なグラフでインデックス化可能であることを示す。 これにより、彼らが解決する問題とは無関係に、これらのイテレーションを統一的に解釈し、それらを任意に構成する方法を与えることができる。 このようなグラフによってインデックスづけされた全てのamp反復は、厳密なse方程式を認め、以前の証明の範囲を広げ、これらの方程式の最近の多くのヒューリスティック導出を証明する。 我々の証明は自然に非分離関数を含み、空間的結合や行列値変数といった既存の改良が我々のフレームワークとどのように組み合わせられるかを示す。

関連論文リスト

• Graph-Dictionary Signal Model for Sparse Representations of Multivariate Data [49.77103348208835]
  グラフの有限集合がラプラシアンの重み付き和を通してデータ分布の関係を特徴付けるグラフ辞書信号モデルを定義する。 本稿では,観測データからグラフ辞書表現を推論するフレームワークを提案する。 我々は,脳活動データに基づく運動画像復号作業におけるグラフ辞書表現を利用して,従来の手法よりも想像的な動きをよりよく分類する。
  論文  参考訳（メタデータ） (2024-11-08T17:40:43Z)
• Unveiling the Statistical Foundations of Chain-of-Thought Prompting Methods [59.779795063072655]
  CoT(Chain-of-Thought)の促進とその変種は、多段階推論問題を解決する効果的な方法として人気を集めている。 統計的推定の観点からCoTのプロンプトを解析し,その複雑さを包括的に評価する。
  論文  参考訳（メタデータ） (2024-08-25T04:07:18Z)
• Approximate Message Passing for the Matrix Tensor Product Model [8.206394018475708]
  本稿では,行列テンソル積モデルに対する近似メッセージパッシング(AMP)アルゴリズムの提案と解析を行う。 非可分関数に対する収束定理に基づいて、非可分関数に対する状態発展を証明する。 我々は、この状態進化結果を利用して、関心の信号の回復に必要な十分な条件を提供する。
  論文  参考訳（メタデータ） (2023-06-27T16:03:56Z)
• DIFFormer: Scalable (Graph) Transformers Induced by Energy Constrained Diffusion [66.21290235237808]
  本稿では,データセットからのインスタンスのバッチを進化状態にエンコードするエネルギー制約拡散モデルを提案する。 任意のインスタンス対間の対拡散強度に対する閉形式最適推定を示唆する厳密な理論を提供する。 各種タスクにおいて優れた性能を有する汎用エンコーダバックボーンとして,本モデルの適用性を示す実験を行った。
  論文  参考訳（メタデータ） (2023-01-23T15:18:54Z)
• Mutual Exclusivity Training and Primitive Augmentation to Induce Compositionality [84.94877848357896]
  最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。 本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。 広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
  論文  参考訳（メタデータ） (2022-11-28T17:36:41Z)
• A Non-Asymptotic Framework for Approximate Message Passing in Spiked Models [24.786030482013437]
  近似メッセージパッシング(AMP)は高次元統計問題を解くための効果的な反復パラダイムとして現れる。 それまでのAMP理論は、反復の数が$obig(fraclog nloglog nbig)$を超えると、AMP力学を予測できなかった。 本稿では,スパイク行列推定におけるAMP理解のための非漸近的枠組みを開発する。
  論文  参考訳（メタデータ） (2022-08-05T17:59:06Z)
• Sufficient Statistic Memory Approximate Message Passing [5.708490209087275]
  AMP型アルゴリズムの重要な特徴は、それらの力学が状態進化によって正しく記述できることである。 本稿では,十分な統計条件下でのメモリAMP(MAMP)を提案する。
  論文  参考訳（メタデータ） (2022-06-23T13:06:00Z)
• Estimation in Rotationally Invariant Generalized Linear Models via Approximate Message Passing [21.871513580418604]
  本稿では,信号推定のための近接メッセージパッシング(AMP)アルゴリズムの新たなファミリーを提案する。 我々は、状態進化再帰を通じて高次元の限界におけるそれらの性能を厳格に特徴づける。
  論文  参考訳（メタデータ） (2021-12-08T15:20:04Z)
• multiPRover: Generating Multiple Proofs for Improved Interpretability in Rule Reasoning [73.09791959325204]
  我々は、自然言語の事実と規則の形で明示的な知識を推論することを目的としている言語形式推論の一種に焦点を当てる。 PRoverという名前の最近の研究は、質問に答え、答えを説明する証明グラフを生成することによって、そのような推論を行う。 本研究では,自然言語規則ベースの推論のために複数の証明グラフを生成するという,新たな課題に対処する。
  論文  参考訳（メタデータ） (2021-06-02T17:58:35Z)
• Removing Bias in Multi-modal Classifiers: Regularization by Maximizing Functional Entropies [88.0813215220342]
  いくつかのモダリティは、他のものよりも分類結果に容易に寄与することができる。 機能的エントロピーと機能的フィッシャー情報とを結合した対数ソボレフの不等式に基づく手法を開発した。 VQA-CPv2 と SocialIQ の2つの挑戦的マルチモーダルデータセットに対して,より均一にモダリティを活用しながら,最先端の結果を得る。
  論文  参考訳（メタデータ） (2020-10-21T07:40:33Z)
• Rigorous State Evolution Analysis for Approximate Message Passing with Side Information [15.90775344965397]
  サイド情報をAMP-SI(Adroximate Message Passing with Side Information)に組み込んだ新しいフレームワークが導入された。 信号とSIペアの間に統計的依存関係がある場合、AMP-SIに対して厳密な性能保証を提供する。 AMP-SI平均二乗誤差を精度良く予測できることを示す。
  論文  参考訳（メタデータ） (2020-03-25T16:11:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。