論文の概要: BoGraph: Structured Bayesian Optimization From Logs for Systems with
High-dimensional Parameter Space
- arxiv url: http://arxiv.org/abs/2112.08774v1
- Date: Thu, 16 Dec 2021 10:37:40 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-17 23:34:42.114583
- Title: BoGraph: Structured Bayesian Optimization From Logs for Systems with
High-dimensional Parameter Space
- Title（参考訳）: bograph:高次元パラメータ空間システムのためのログからの構造化ベイズ最適化
- Authors: Sami Alabed, Eiko Yoneki
- Abstract要約: システム構造をログから学習するフレームワークであるBoAnonを提案する。
BoAnonは、専門家がパフォーマンスモデルやコンポーネント依存性としてシステムの知識をエンコードできるAPIを提供する。
我々は,BoAnonをハードウェアアーキテクチャ探索問題を通じて評価し,デフォルトアーキテクチャよりも5～7ドル x-factorsの改善からエネルギー遅延目標の改善を実現した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Current auto-tuning frameworks struggle with tuning computer systems
configurations due to their large parameter space, complex interdependencies,
and high evaluation cost. Utilizing probabilistic models, Structured Bayesian
Optimization (SBO) has recently overcome these difficulties. SBO decomposes the
parameter space by utilizing contextual information provided by system experts
leading to fast convergence. However, the complexity of building probabilistic
models has hindered its wider adoption. We propose BoAnon, a SBO framework that
learns the system structure from its logs. BoAnon provides an API enabling
experts to encode knowledge of the system as performance models or components
dependency. BoAnon takes in the learned structure and transforms it into a
probabilistic graph model. Then it applies the expert-provided knowledge to the
graph to further contextualize the system behavior. BoAnon probabilistic graph
allows the optimizer to find efficient configurations faster than other
methods. We evaluate BoAnon via a hardware architecture search problem,
achieving an improvement in energy-latency objectives ranging from $5-7$
x-factors improvement over the default architecture. With its novel contextual
structure learning pipeline, BoAnon makes using SBO accessible for a wide range
of other computer systems such as databases and stream processors.
- Abstract（参考訳）: 現在の自動チューニングフレームワークは、大きなパラメータ空間、複雑な相互依存性、高い評価コストのために、コンピュータシステム構成のチューニングに苦労している。
確率モデルを用いることで、Structured Bayesian Optimization (SBO)はこれらの困難を克服した。
sboは、高速収束につながるシステム専門家が提供するコンテキスト情報を利用することで、パラメータ空間を分解する。
しかし、確率モデルの構築の複雑さは、その普及を妨げている。
本稿では,システム構造をログから学習するSBOフレームワークBoAnonを提案する。
BoAnonは、専門家がパフォーマンスモデルやコンポーネント依存性としてシステムの知識をエンコードできるAPIを提供する。
BoAnonは学習した構造を取り込み、確率グラフモデルに変換する。
そして、専門家が提供する知識をグラフに適用して、システムの振る舞いをさらにコンテキスト化します。
BoAnon確率グラフは、最適化者が他の方法よりも高速に効率的な構成を見つけることを可能にする。
我々はboanonをハードウェアアーキテクチャ探索問題を通じて評価し,既定のアーキテクチャよりも5～7ドルのx-factors改善からエネルギー遅延目標の改善を実現した。
新たなコンテキスト構造学習パイプラインにより、BoAnonはSBOをデータベースやストリームプロセッサなど、さまざまなコンピュータシステムで利用できるようにした。
関連論文リスト
- Task-Oriented Real-time Visual Inference for IoVT Systems: A Co-design Framework of Neural Networks and Edge Deployment [61.20689382879937]
タスク指向エッジコンピューティングは、データ分析をエッジにシフトすることで、この問題に対処する。
既存の手法は、高いモデル性能と低いリソース消費のバランスをとるのに苦労している。
ニューラルネットワークアーキテクチャを最適化する新しい協調設計フレームワークを提案する。
論文 参考訳（メタデータ） (2024-10-29T19:02:54Z) - Unveiling the Backbone-Optimizer Coupling Bias in Visual Representation Learning [54.956037293979506]
本論文は、視覚バックボーンと視覚バックボーンの相互作用と、その相互依存現象であるtextittextbfbackbonetextbfoptimizer textbfcoupling textbfbias (BOCB) について述べる。
我々は、VGGやResNetのような標準CNNがSGDファミリとの顕著な共存を示すのに対し、ViTsやConvNeXtといった最近のアーキテクチャは適応学習率と密接な結合性を持っていることを観察する。
論文 参考訳（メタデータ） (2024-10-08T21:14:23Z) - (PASS) Visual Prompt Locates Good Structure Sparsity through a Recurrent HyperNetwork [60.889175951038496]
大規模ニューラルネットワークは、視覚や言語処理など、さまざまな領域で顕著なパフォーマンスを示している。
構造的刈り込みの鍵となる問題のひとつは、チャネルの意義を見積もる方法である。
我々は,新しいアルゴリズムフレームワーク,すなわち textttPASS を提案する。
視覚的プロンプトとネットワーク重み統計の両方を入力とし、繰り返し的に層ワイドチャネル間隔を出力するように調整されたハイパーネットワークである。
論文 参考訳（メタデータ） (2024-07-24T16:47:45Z) - Neural Architecture Search using Particle Swarm and Ant Colony
Optimization [0.0]
本稿では,OpenNASのSwarm Intelligence (SI)コンポーネントを用いたCNNのトレーニングと最適化に焦点を当てる。
画像の分類において,OpenNAS(Neural Architecture Search)のオープンソースツールを統合するシステムを開発した。
論文 参考訳（メタデータ） (2024-03-06T15:23:26Z) - Reinforced In-Context Black-Box Optimization [64.25546325063272]
RIBBOは、オフラインデータからエンドツーエンドでBBOアルゴリズムを強化学習する手法である。
RIBBOは、複数の動作アルゴリズムとタスクによって生成される最適化履歴を学習するために、表現的なシーケンスモデルを使用している。
提案手法の中心となるのは,テキストレグレット・ツー・ゴートークンによる最適化履歴の増大である。
論文 参考訳（メタデータ） (2024-02-27T11:32:14Z) - BOIS: Bayesian Optimization of Interconnected Systems [0.0]
BOにおける複合関数の効率的な利用を可能にする新しいパラダイムを提案する。
この単純なアプローチ(BOISと呼ぶ)が構造的知識の活用を可能にしていることを示す。
以上の結果から,BOISが性能向上を実現し,複合関数の統計を正確に把握できることが示唆された。
論文 参考訳（メタデータ） (2023-11-19T06:44:13Z) - Neuromorphic Bayesian Optimization in Lava [0.0]
オープンソースのLava Software Frameworkへのコントリビューションとして、Lava Bayesian Optimization (LavaBO)を紹介します。
LavaBOは、異種できめ細かな並列なインメモリニューロモルフィックコンピューティングアーキテクチャと互換性のあるBOシステムを開発するための最初のステップである。
バックプロパゲーションや進化学習を通じて、最先端のスパイクニューラルネットワークを訓練するといった複数の問題に対して、LavaBOシステムのアルゴリズム性能を評価する。
論文 参考訳（メタデータ） (2023-05-18T15:54:23Z) - Shapley-NAS: Discovering Operation Contribution for Neural Architecture
Search [96.20505710087392]
ニューラルアーキテクチャ探索のための演算寄与度(Shapley-NAS)を評価するためのShapley値に基づく手法を提案する。
提案手法は,光探索コストに比例して最先端の手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2022-06-20T14:41:49Z) - Probabilistic Case-based Reasoning for Open-World Knowledge Graph
Completion [59.549664231655726]
ケースベース推論(CBR)システムは,与えられた問題に類似した事例を検索することで,新たな問題を解決する。
本稿では,知識ベース(KB)の推論において,そのようなシステムが実現可能であることを示す。
提案手法は,KB内の類似エンティティからの推論パスを収集することにより,エンティティの属性を予測する。
論文 参考訳（メタデータ） (2020-10-07T17:48:12Z) - Interpretable Neural Architecture Search via Bayesian Optimisation with
Weisfeiler-Lehman Kernels [17.945881805452288]
現在のニューラルアーキテクチャサーチ(NAS)戦略は、単一の優れたアーキテクチャを見つけることに集中している。
そこで我々は,Weisfeiler-Lehmanグラフカーネルとガウス過程サロゲートを組み合わせたNASに対するベイズ最適化手法を提案する。
提案手法は,有用なネットワーク特徴とそれに伴うネットワーク性能への影響を発見することによって,解釈可能性を実現する。
論文 参考訳（メタデータ） (2020-06-13T04:10:34Z) - Intelligent and Reconfigurable Architecture for KL Divergence Based
Online Machine Learning Algorithm [0.0]
オンライン機械学習(OML)アルゴリズムは、トレーニングフェーズを一切必要とせず、未知の環境に直接デプロイすることができる。
オンライン機械学習(OML)アルゴリズムは、トレーニングフェーズを一切必要とせず、未知の環境に直接デプロイすることができる。
論文 参考訳（メタデータ） (2020-02-18T16:39:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。