論文の概要: Moment-Based Inference for Regression with Latent Dirichlet Covariates

• arxiv url: http://arxiv.org/abs/2605.30718v1
• Date: Fri, 29 May 2026 01:24:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 20:56:50.324408
• Title: Moment-Based Inference for Regression with Latent Dirichlet Covariates
• Title（参考訳）: 遅発性Dirichlet Covariatesの回帰に対するモーメントベース推論
• Abstract要約: 有限 LDA モデルを用いて文書レベルのトピック共有を推定する方法を示す。 また、補正が未知の総ディリクレ濃度に依存することを示す。 我々は、$kge3$のトピックと一般的な有限プローブ条件の下では、$_0$は可換性によって識別されることを示す。
• 参考スコア（独自算出の注目度）: 5.882065571122133
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Topic models are often used as dimension-reduction tools before regression, with estimated document-level topic shares treated as observed covariates. This plug-in workflow creates two inferential difficulties: valid inference requires a regular first-stage-to-second-stage expansion that propagates topic-estimation uncertainty, and, at fixed document length, a document's topic mixture cannot be consistently recovered from its own words even when the population topic matrix is known. Corrected spectral moment methods for latent Dirichlet allocation (LDA) offer a starting point: when the total Dirichlet concentration is known, low-order word moments can be corrected to yield operators diagonal in the latent topic basis. We extend this to downstream regression. Under a finite LDA model with response residuals orthogonal to the low-order token moments used for identification, response-weighted word moments admit the same correction, and the resulting supervised operator identifies the regression coefficient $β$ directly, without estimating document-level topic shares. The main obstacle is that the correction depends on the unknown total concentration $α_0$. We show that, for $k\ge3$ topics and under a generic finite-probe condition, $α_0$ is identified by commutativity: at the true value a family of corrected word-moment operators commute, whereas away from it they generically do not. This yields a feasible estimator and lets uncertainty in $\hatα_0$ propagate into inference for $β$. The estimator is asymptotically linear as the number of documents grows with fixed document length, with sandwich standard errors from document-level moment contributions. Simulations show near-nominal coverage where plug-in topic-share regressions can undercover, and an application to top economics journals illustrates contrast inference for latent topic effects.
• Abstract（参考訳）: トピックモデルは、しばしば回帰の前に次元還元ツールとして使われ、推定文書レベルのトピック共有は観察された共変量として扱われる。 有効な推論には、トピック推定の不確実性を伝播する通常の第1段階から第2段階の展開が必要である。 遅延ディリクレ割当(LDA)の補正スペクトルモーメント法は、全ディリクレ濃度が分かっている場合、低次ワードモーメントを補正し、潜在トピックベースでオペレーターを対角にすることができる。 これを下流のレグレッションに拡張します。 応答残差が識別に使用される低次トークンモーメントに直交する有限LDAモデルの下では、応答重み付き単語モーメントは同じ補正を認め、結果の教師付き演算子は文書レベルのトピック共有を推定することなく、直接その回帰係数を$β$と同定する。 主な障害は、補正が未知の総濃度$α_0$に依存することである。 我々は、$k\ge3$トピックと一般的な有限プローブ条件の下では、$α_0$は可換性によって識別されることを示す。 これにより実現可能な推定器が得られ、$\hatα_0$の不確実性が$β$の推論に伝播する。 文書の数は一定文書の長さで増加し、サンドイッチの標準誤差は文書レベルのモーメントコントリビューションから生じる。 シミュレーションでは、プラグインのトピック共有レグレッションが覆い隠せるような、ほぼノミナルなカバレッジを示し、トップエコノミクス誌への応用は、潜在トピック効果のコントラスト推論を示している。

関連論文リスト

• Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
  不変学習は、構造が統計的に識別可能であっても失敗することがある。 ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。 合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
  論文  参考訳（メタデータ） (2026-06-11T05:49:43Z)
• Tail allocation for conformal prediction intervals [1.0163716169047106]
  本研究では,報告された予測セットが単一区間でなければならない場合の回帰の分割等式予測について,目標限界範囲が1-$である場合,名目上の誤発見レベルが$$である場合について検討する。 この報告制約の下では、自然条件対象は、等尾区間やおそらく非連結な高確率集合ではなく、条件質量が少なくとも1-$の最も短い区間である。 このシングルインターバルをローテールアロケーションによってパラメータ化し、名目上の誤発見が2つのエンドポイント間でどのように分割されるかを決定する。
  論文  参考訳（メタデータ） (2026-04-28T04:14:27Z)
• A novel hybrid approach for positive-valued DAG learning [60.917028769172795]
  正値データから有向非巡回グラフ(DAG)を学習するためのHybrid Moment-Ratio Scoring (H-MRS)アルゴリズムを提案する。 H-MRSは、モーメント比推定のためのログスケールリッジ回帰と、生のスケールモーメント比に基づくグレディオーダー処理を統合する。 合成対数線形データの実験は、競合精度とリコールを示す。
  論文  参考訳（メタデータ） (2026-04-10T04:04:26Z)
• Tight Convergence Rates for Online Distributed Linear Estimation with Adversarial Measurements [66.94250413799232]
  分散パラメータ-サーバ-ワーカー設定における乱数ベクトル$X$の推定について検討する。 主な課題は、敵の計測と非同期である。 その結果, 分散線形推定におけるロバスト性, 識別性, 統計的効率の統一的有限時間評価が得られた。
  論文  参考訳（メタデータ） (2026-04-07T11:45:55Z)
• Word-Anchored Temporal Forgery Localization [6.691985085293349]
  候補偽造提案を導出するために,単語アンコール時間的偽造位置推定(WAFL)を提案する。 まず、時間的偽造の本質を分析し、最小の有意義な偽造単位、単語トークンを識別し、データ前処理を音声の自然な言語境界と整合させる。 偽造検出に固有の極端なクラス不均衡を克服するために,アーティファクト中心非対称損失(ACA)を設計する。
  論文  参考訳（メタデータ） (2026-03-06T12:33:28Z)
• Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
  モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。 累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。 主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
  論文  参考訳（メタデータ） (2026-02-10T21:08:53Z)
• In-Context Learning Is Provably Bayesian Inference: A Generalization Theory for Meta-Learning [51.56484100374058]
  本稿では,ICLリスクをベイズギャップとポストリアバリアンスの2つのコンポーネントに分割する基本的リスク分解を導入する。 一様アテンション変換器の場合、このギャップの非漸近上界を導出し、事前学習プロンプトの数への依存を明確にする。 後方変動は本質的なタスクの不確実性を表すモデルに依存しないリスクである。
  論文  参考訳（メタデータ） (2025-10-13T03:42:31Z)
• Generalisation and benign over-fitting for linear regression onto random functional covariates [4.344644788142548]
  リッジレス最小二乗回帰法とリッジレス最小二乗回帰法の理論的予測性能について検討した。 我々は、$p$が$n$に対して急速に成長する体制における収束率を導出する。
  論文  参考訳（メタデータ） (2025-08-19T15:01:20Z)
• Efficient and Sharp Off-Policy Evaluation in Robust Markov Decision Processes [44.974100402600165]
  意思決定プロセス(MDP)に対する最良パラメトリックかつ最悪の摂動の評価について検討する。 我々は、元のMDPからの遷移観測を用いて、それらが同一または異なるポリシーの下で生成されるかのどちらかを判断する。 我々の推定器はウォルドの信頼区間を用いた統計的推測も行う。
  論文  参考訳（メタデータ） (2024-03-29T18:11:49Z)
• Bias and Extrapolation in Markovian Linear Stochastic Approximation with Constant Stepsizes [9.689344942945652]
  定常的なステップサイズとマルコフデータを持つ線形近似(LSA)を考える。 この極限のバイアスベクトルは、ステップサイズに関して無限級数展開を持つことを示す。 リチャードソン・ロームバーグ外挿法と$mge 2$ stepsizes を用いてバイアスを低減できることが示される。
  論文  参考訳（メタデータ） (2022-10-03T14:11:03Z)
• Towards Data-Algorithm Dependent Generalization: a Case Study on Overparameterized Linear Regression [19.047997113063147]
  本稿では,データ依存学習軌跡全体の一般化挙動を考察したデータ-アルゴリズム整合性の概念を提案する。 我々は、データ依存軌道解析を行い、そのような環境での互換性に十分な条件を導出する。
  論文  参考訳（メタデータ） (2022-02-12T12:42:36Z)
• Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
  帰納バイアスは 経験的に過剰フィットを防げる中心的存在です この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。 我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
  論文  参考訳（メタデータ） (2021-03-23T17:15:53Z)
• Super fast rates in structured prediction [88.99819200562784]
  連続的な問題が連続的な値を予測しているときに、離散的な問題が本質的に離散的なアウトプットを予測しているという事実を活用する方法を示す。 まず、近接する隣人に基づく予測器について説明し、二項分類で知られている確率を、構造的予測の枠組み内の任意の離散問題に一般化する。 次に、カーネルリッジの回帰について検討し、問題の硬さを特徴付けるパラメータによって、n-1/4$の既知のレートを任意に高速化する。
  論文  参考訳（メタデータ） (2021-02-01T10:50:04Z)
• Double Trouble in Double Descent : Bias and Variance(s) in the Lazy Regime [32.65347128465841]
  深層ニューラルネットワークは、トレーニングデータを完璧に補間しながら、素晴らしいパフォーマンスを達成することができる。 バイアス分散トレードオフのU曲線ではなく、テストエラーはしばしば「二重降下」に従う。 我々は、ニューラルネットワークのいわゆる遅延学習システムにおいて、この現象の定量的理論を開発する。
  論文  参考訳（メタデータ） (2020-03-02T17:39:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。