論文の概要: ALINE: Joint Amortization for Bayesian Inference and Active Data Acquisition

• arxiv url: http://arxiv.org/abs/2506.07259v1
• Date: Sun, 08 Jun 2025 19:15:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-10 16:33:10.738086
• Title: ALINE: Joint Amortization for Bayesian Inference and Active Data Acquisition
• Title（参考訳）: ALINE:ベイズ推論とアクティブデータ取得のための共同補正
• Authors: Daolang Huang, Xinyi Wen, Ayush Bharti, Samuel Kaski, Luigi Acerbi,
• Abstract要約: ALINE(Amortized Active Learning and Inference Engine)は、ベイズ推論とアクティブデータ取得のための統合されたフレームワークである。 ALINEは、インフォメーションポイントの効率的な選択とともに、インスタントと正確な推論の両方を提供する。
• 参考スコア（独自算出の注目度）: 21.747318210534896
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many critical applications, from autonomous scientific discovery to personalized medicine, demand systems that can both strategically acquire the most informative data and instantaneously perform inference based upon it. While amortized methods for Bayesian inference and experimental design offer part of the solution, neither approach is optimal in the most general and challenging task, where new data needs to be collected for instant inference. To tackle this issue, we introduce the Amortized Active Learning and Inference Engine (ALINE), a unified framework for amortized Bayesian inference and active data acquisition. ALINE leverages a transformer architecture trained via reinforcement learning with a reward based on self-estimated information gain provided by its own integrated inference component. This allows it to strategically query informative data points while simultaneously refining its predictions. Moreover, ALINE can selectively direct its querying strategy towards specific subsets of model parameters or designated predictive tasks, optimizing for posterior estimation, data prediction, or a mixture thereof. Empirical results on regression-based active learning, classical Bayesian experimental design benchmarks, and a psychometric model with selectively targeted parameters demonstrate that ALINE delivers both instant and accurate inference along with efficient selection of informative points.
• Abstract（参考訳）: 自律的な科学的発見からパーソナライズド医療まで、多くの重要な応用は、戦略的に最も情報性の高いデータを取得し、それに基づいて即座に推論を行うことのできるシステムを要求する。 ベイズ推論と実験設計のための償却手法はソリューションの一部を提供するが、どちらの手法も最も一般的で困難なタスクでは最適ではなく、即時推論のために新しいデータを収集する必要がある。 この問題に対処するため,ベイズ推論とアクティブデータ取得のための統合フレームワークであるALINE(Amortized Active Learning and Inference Engine)を紹介した。 ALINEは、強化学習を通じて訓練されたトランスフォーマーアーキテクチャを活用し、独自の統合推論コンポーネントによって提供される自己推定情報ゲインに基づいて報酬を与える。 これにより、情報的データポイントを戦略的にクエリし、同時に予測を精査することが可能になる。 さらに、ALINEは、クエリ戦略をモデルパラメータの特定のサブセットや指定された予測タスクに選択的に向け、後続推定、データ予測、またはそれらの混合を最適化することができる。 回帰に基づくアクティブラーニング、古典的ベイズの実験的設計ベンチマーク、および選択的に対象とするパラメータを持つ心理測定モデルに関する実証的な結果は、ALINEが情報的ポイントの効率的な選択とともに、即時かつ正確な推論を提供することを示す。

関連論文リスト

• CHASe: Client Heterogeneity-Aware Data Selection for Effective Federated Active Learning [22.38403602956309]
  フェデレートアクティブラーニング(FAL)に特化して設計されたCHASe (Client Heterogeneity-Aware Data Selection)を提案する。 CHASeは、トレーニング中の意思決定の境界を揺らぎながら、高い疫学変化(EV)を持つラベルのないサンプルを特定することに重点を置いている。 実験により、CHASeは、さまざまなデータセット、モデル複雑度、異種フェデレーション設定にまたがって検証される、有効性と効率の観点から、確立されたさまざまなベースラインを超えることが示されている。
  論文  参考訳（メタデータ） (2025-04-24T11:28:00Z)
• Epistemic Uncertainty-aware Recommendation Systems via Bayesian Deep Ensemble Learning [2.3310092106321365]
  より堅牢で信頼性の高い予測を生成するために,アンサンブルに基づくスーパーモデルを提案する。 また,ユーザとアイテムの埋め込みに対して,解釈可能な非線形マッチング手法を導入する。
  論文  参考訳（メタデータ） (2025-04-14T23:04:35Z)
• Propensity-driven Uncertainty Learning for Sample Exploration in Source-Free Active Domain Adaptation [19.620523416385346]
  ソースフリーアクティブドメイン適応(SFADA)は、ソースデータにアクセスせずに、トレーニング済みのモデルを新しいドメインに適応するという課題に対処する。 このシナリオは、データプライバシ、ストレージ制限、ラベル付けコストが重要な懸念事項である現実世界のアプリケーションに特に関係している。 Propensity-driven Uncertainty Learning (ProULearn) フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-01-23T10:05:25Z)
• "FRAME: Forward Recursive Adaptive Model Extraction-A Technique for Advance Feature Selection" [0.0]
  本研究では,新しいハイブリッド手法であるフォワード再帰適応モデル抽出手法(FRAME)を提案する。 FRAMEは、フォワード選択と再帰的特徴除去を組み合わせて、さまざまなデータセットにおける機能選択を強化する。 その結果、FRAMEは下流の機械学習評価指標に基づいて、常に優れた予測性能を提供することが示された。
  論文  参考訳（メタデータ） (2025-01-21T08:34:10Z)
• LEASE: Offline Preference-based Reinforcement Learning with High Sample Efficiency [11.295036269748731]
  本稿では、ラベルなしの嗜好データを生成するために、高サンプル効率(LEASE)アルゴリズムを用いたoffLine prEference-bAsed RLを提案する。 事前学習した報奨モデルがラベルのないデータに対して誤ったラベルを生成する可能性があることを考慮し、報奨モデルの性能を確保するための不確実性を考慮したメカニズムを設計する。
  論文  参考訳（メタデータ） (2024-12-30T15:10:57Z)
• Self-Augmented Preference Optimization: Off-Policy Paradigms for Language Model Alignment [104.18002641195442]
  既存のペアデータを必要としない、効果的でスケーラブルなトレーニングパラダイムである自己拡張型優先度最適化(SAPO)を導入する。 負の反応を自律的に生成するセルフプレイの概念に基づいて、我々はさらに、データ探索とエクスプロイトを強化するために、非政治的な学習パイプラインを組み込む。
  論文  参考訳（メタデータ） (2024-05-31T14:21:04Z)
• Federated Learning with Projected Trajectory Regularization [65.6266768678291]
  フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。 連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。 本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-22T02:12:08Z)
• Query-Dependent Prompt Evaluation and Optimization with Offline Inverse RL [62.824464372594576]
  ゼロショットプロンプト最適化により,Large Language Models (LLM) の算術的推論能力を向上させることを目的とする。 このような最適化では、以前見過ごされたクエリ依存の目的を特定します。 本稿では、オフライン逆強化学習を利用して、実演データから洞察を引き出すPrompt-OIRLを紹介する。
  論文  参考訳（メタデータ） (2023-09-13T01:12:52Z)
• Unified Instance and Knowledge Alignment Pretraining for Aspect-based Sentiment Analysis [96.53859361560505]
  Aspect-based Sentiment Analysis (ABSA) は、ある側面に対する感情の極性を決定することを目的としている。 事前トレーニングと下流ABSAデータセットの間には、常に深刻なドメインシフトが存在する。 我々は,バニラ・プレトレイン・ファインチューンパイプラインにアライメント事前訓練フレームワークを導入する。
  論文  参考訳（メタデータ） (2021-10-26T04:03:45Z)
• Provably Efficient Causal Reinforcement Learning with Confounded Observational Data [135.64775986546505]
  オフラインで収集されたデータセット(観測データ)を組み込んで、オンライン環境でのサンプル効率を改善する方法について検討する。 提案手法は,観測データを効率よく組み込んだ,分解された楽観的値反復 (DOVI) アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-22T14:49:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。