論文の概要: Bidirectional Information Flow (BIF) -- A Sample Efficient Hierarchical Gaussian Process for Bayesian Optimization

• arxiv url: http://arxiv.org/abs/2505.11294v1
• Date: Fri, 16 May 2025 14:26:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-19 14:36:15.268098
• Title: Bidirectional Information Flow (BIF) -- A Sample Efficient Hierarchical Gaussian Process for Bayesian Optimization
• Title（参考訳）: Bidirectional Information Flow (BIF) -- ベイズ最適化のための効率的な階層型ガウス過程のサンプル
• Authors: Juan D. Guerra, Thomas Garbay, Guillaume Lajoie, Marco Bonizzato,
• Abstract要約: Bidirectional Information Flow (BIF)は、オンライントレーニングのための効率的なH-GPフレームワークである。 BIFは、オンライントレーニングのためのH-GPにおいて、親モデルと子モデル間の双方向情報交換を確立する。
• 参考スコア（独自算出の注目度）: 7.605373121126082
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Hierarchical Gaussian Process (H-GP) models divide problems into different subtasks, allowing for different models to address each part, making them well-suited for problems with inherent hierarchical structure. However, typical H-GP models do not fully take advantage of this structure, only sending information up or down the hierarchy. This one-way coupling limits sample efficiency and slows convergence. We propose Bidirectional Information Flow (BIF), an efficient H-GP framework that establishes bidirectional information exchange between parent and child models in H-GPs for online training. BIF retains the modular structure of hierarchical models - the parent combines subtask knowledge from children GPs - while introducing top-down feedback to continually refine children models during online learning. This mutual exchange improves sample efficiency, enables robust training, and allows modular reuse of learned subtask models. BIF outperforms conventional H-GP Bayesian Optimization methods, achieving up to 85% and 5x higher $R^2$ scores for the parent and children respectively, on synthetic and real-world neurostimulation optimization tasks.
• Abstract（参考訳）: 階層ガウス過程(H-GP)モデルは、問題を異なるサブタスクに分割し、異なるモデルが各部分に対処できるようにし、固有の階層構造を持つ問題に適している。 しかし、典型的なH-GPモデルは、階層の上下に情報を送るだけで、この構造を完全に活用するわけではない。 この片方向結合は試料効率を制限し、収束を遅くする。 オンライン学習のためのH-GPにおいて,親モデルと子モデル間の双方向情報交換を確立する,効率的なH-GPフレームワークである双方向情報フロー(BIF)を提案する。 BIFは階層モデルのモジュラ構造を保持しており、親は子どものGPからのサブタスク知識を組み合わせ、オンライン学習中に子供たちのモデルを継続的に洗練するためにトップダウンフィードバックを導入している。 この相互交換はサンプル効率を改善し、堅牢なトレーニングを可能にし、学習したサブタスクモデルのモジュラー再利用を可能にする。 BIFは従来のH-GPベイズ最適化法よりも優れており、親と子それぞれに対して最大85%と5倍高いR^2$スコアを合成的および実世界の神経刺激最適化タスクで達成する。

関連論文リスト

• FedAvgen: Metadata for Model Aggregation In Communication Systems [3.6957462300442736]
  デバイスプロファイルにおける存在多様性から生じる課題について検討する。 このアプローチは、フェデレートラーニング(federated learning)として知られ、本質的には、グローバルモデルを得るために平均された候補クライアントモデルを選択するために、異なるテクニックを使用している。 次に,FedAvg(Federated Averaging)とFedSGD(Federated Gradient Descent)という2つの広く採用されているフェデレーション学習アルゴリズムと比較した。
  論文  参考訳（メタデータ） (2025-04-28T13:11:32Z)
• Instruction-Guided Autoregressive Neural Network Parameter Generation [49.800239140036496]
  本稿では,多種多様なタスクやアーキテクチャにまたがるパラメータ合成を統一する自動回帰フレームワークIGPGを提案する。 ニューラルネットワーク重みのトークンを自動回帰的に生成することにより、IGPGは層間コヒーレンスを確保し、モデルとデータセット間の効率的な適応を可能にする。 複数のデータセットの実験により、IGPGは様々な事前訓練されたモデルを単一の柔軟な生成フレームワークに統合することを示した。
  論文  参考訳（メタデータ） (2025-04-02T05:50:19Z)
• Bayesian Optimization via Continual Variational Last Layer Training [16.095427911235646]
  我々は,これらのモデルのトレーニングとGPの正確な条件付けを結びつけるために,変分ベイズ最後の層(VBLL)を構築した。 我々は、この接続を利用して、条件付けと最適化をインターリーブする効率的なオンライントレーニングアルゴリズムを開発する。 以上の結果から,VBLLネットワークは複雑な入力相関を持つタスクにおいてGPやBNNアーキテクチャを著しく上回っていることが示唆された。
  論文  参考訳（メタデータ） (2024-12-12T17:21:50Z)
• Adaptive Guidance for Local Training in Heterogeneous Federated Learning [23.92461217732838]
  Heterogeneous Federated Learning (HtFL) におけるモデルの不均一性 本稿では,FedL2Gを提案する。 FedL2Gは、最先端の7つの手法を著しく上回っている。
  論文  参考訳（メタデータ） (2024-10-09T02:31:49Z)
• PMT: Progressive Mean Teacher via Exploring Temporal Consistency for Semi-Supervised Medical Image Segmentation [51.509573838103854]
  医用画像セグメンテーションのための半教師付き学習フレームワークであるプログレッシブ平均教師(PMT)を提案する。 我々のPMTは、トレーニングプロセスにおいて、堅牢で多様な特徴を学習することで、高忠実な擬似ラベルを生成する。 CT と MRI の異なる2つのデータセットに対する実験結果から,本手法が最先端の医用画像分割法より優れていることが示された。
  論文  参考訳（メタデータ） (2024-09-08T15:02:25Z)
• AMT: All-Pairs Multi-Field Transforms for Efficient Frame Interpolation [80.33846577924363]
  ビデオフレームギスブのための新しいネットワークアーキテクチャであるAMT(All-Pairs Multi-Field Transforms)を提案する。 まず、すべての画素に対して双方向のボリュームを構築し、予測された両側フローを用いて相関関係を検索する。 第2に、入力フレーム上で逆向きのワープを行うために、一対の更新された粗い流れから細粒度の流れ場の複数のグループを導出する。
  論文  参考訳（メタデータ） (2023-04-19T16:18:47Z)
• Interactive Segmentation as Gaussian Process Classification [58.44673380545409]
  クリックベースのインタラクティブセグメンテーション(IS)は、ユーザインタラクション下で対象オブジェクトを抽出することを目的としている。 現在のディープラーニング(DL)ベースの手法のほとんどは、主にセマンティックセグメンテーションの一般的なパイプラインに従っている。 本稿では,各画像上でガウス過程(GP)に基づく画素単位のバイナリ分類モデルとしてISタスクを定式化することを提案する。
  論文  参考訳（メタデータ） (2023-02-28T14:01:01Z)
• CascadER: Cross-Modal Cascading for Knowledge Graph Link Prediction [22.96768147978534]
  本稿では,効率を向上しつつ,完全アンサンブルのランキング精度を維持するための階層型ランキングアーキテクチャCascaderを提案する。 CascadER は LM を用いて、より効率的な KGE の出力を再現し、KGE の精度向上を最大化しつつ、LM を最小限に呼び出すための適応的なサブセット選択方式に依存している。 実験により, モデル間の多様性と個々のモデルの信頼性信号の保存がカスケーダの有効性を説明するのに有効であることがわかった。
  論文  参考訳（メタデータ） (2022-05-16T22:55:45Z)
• AutoBERT-Zero: Evolving BERT Backbone from Scratch [94.89102524181986]
  そこで本稿では,提案するハイブリッドバックボーンアーキテクチャを自動検索するOP-NASアルゴリズムを提案する。 提案するOP-NASの効率を向上させるために,探索アルゴリズムと候補モデルの評価を最適化する。 実験の結果、検索されたアーキテクチャ(AutoBERT-Zero)は、様々な下流タスクにおいてBERTとそのバリエーションの異なるモデル容量を著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-07-15T16:46:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。