論文の概要: Hierarchical Modeling and Architecture Optimization: Review and Unified Framework
- arxiv url: http://arxiv.org/abs/2506.22621v1
- Date: Fri, 27 Jun 2025 20:38:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-01 21:27:53.488267
- Title: Hierarchical Modeling and Architecture Optimization: Review and Unified Framework
- Title（参考訳）: 階層モデリングとアーキテクチャ最適化: レビューと統一フレームワーク
- Authors: Paul Saves, Edward Hallé-Hannan, Jasper Bussemaker, Youssef Diouane, Nathalie Bartoli,
- Abstract要約: 本稿では、構造化された入力空間に関する文献をレビューし、既存のアプローチを一般化する統一的なフレームワークを提案する。
変数は、その値が他の命令された変数の存在を支配すればメタとして記述され、条件付きおよび階層構造をモデル化できる。
- 参考スコア（独自算出の注目度）: 0.6291443816903801
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Simulation-based problems involving mixed-variable inputs frequently feature domains that are hierarchical, conditional, heterogeneous, or tree-structured. These characteristics pose challenges for data representation, modeling, and optimization. This paper reviews extensive literature on these structured input spaces and proposes a unified framework that generalizes existing approaches. In this framework, input variables may be continuous, integer, or categorical. A variable is described as meta if its value governs the presence of other decreed variables, enabling the modeling of conditional and hierarchical structures. We further introduce the concept of partially-decreed variables, whose activation depends on contextual conditions. To capture these inter-variable hierarchical relationships, we introduce design space graphs, combining principles from feature modeling and graph theory. This allows the definition of general hierarchical domains suitable for describing complex system architectures. The framework supports the use of surrogate models over such domains and integrates hierarchical kernels and distances for efficient modeling and optimization. The proposed methods are implemented in the open-source Surrogate Modeling Toolbox (SMT 2.0), and their capabilities are demonstrated through applications in Bayesian optimization for complex system design, including a case study in green aircraft architecture.
- Abstract（参考訳）: 混合変数入力に関わるシミュレーションベースの問題は、階層的、条件的、不均一、木構造的な領域をしばしば特徴付ける。
これらの特徴はデータ表現、モデリング、最適化に課題をもたらす。
本稿では、これらの構造された入力空間に関する広範な文献をレビューし、既存のアプローチを一般化する統一的なフレームワークを提案する。
このフレームワークでは、入力変数は連続的、整数的、カテゴリー的である。
変数は、その値が他の命令された変数の存在を支配すればメタとして記述され、条件付きおよび階層構造をモデル化できる。
さらに,アクティベーションが文脈条件に依存する部分退化変数の概念を導入する。
これらの変数間の階層関係を捉えるために,特徴モデリングとグラフ理論の原理を組み合わせた設計空間グラフを導入する。
これにより、複雑なシステムアーキテクチャを記述するのに適した一般的な階層的ドメインの定義が可能になる。
このフレームワークはそのようなドメイン上の代理モデルの使用をサポートし、効率的なモデリングと最適化のために階層的なカーネルと距離を統合する。
提案手法はオープンソースのSurrogate Modeling Toolbox (SMT 2.0) に実装され, 複雑なシステム設計に対するベイズ最適化の応用を通じて, グリーン航空機アーキテクチャのケーススタディを含むその能力を実証した。
関連論文リスト
- A unified framework on the universal approximation of transformer-type architectures [16.762119652883204]
変換器型アーキテクチャの普遍近似特性(UAP)について検討する。
我々の研究は、トークンの識別性をUAPの基本的な要件として認識している。
各種の注意機構を持つ変圧器のUAPを証明し,本フレームワークの適用性を示す。
論文 参考訳（メタデータ） (2025-06-30T06:50:39Z) - Structural Similarity-Inspired Unfolding for Lightweight Image Super-Resolution [88.20464308588889]
効率的な画像SRのための構造類似インスパイアド・アンフォールディング(SSIU)法を提案する。
この方法は、構造的類似性に制約されたSR最適化関数の展開によって設計される。
我々のモデルは現在の最先端モデルより優れており、パラメータ数が低く、メモリ消費が減少している。
論文 参考訳（メタデータ） (2025-06-13T14:29:40Z) - Persistent Topological Features in Large Language Models [0.6597195879147556]
トポロジカルな特徴である$p$次元の穴が層全体に持続し、進化していくかを測定するトポロジカル記述子を導入する。
このことは、プロンプトがどのように再配置され、それらの相対的な位置が表現空間で変化するかという統計的視点を与える。
ショーケースアプリケーションとして、レイヤプルーニングの基準を確立するためにzigzag Persistenceを使用し、最先端の手法に匹敵する結果を得る。
論文 参考訳（メタデータ） (2024-10-14T19:46:23Z) - Algebraic Positional Encodings [7.0975366862235445]
本稿では,トランスフォーマー型モデルに対して,既存のアドホックなアプローチの欠点に対処する新たな位置符号化方式を提案する。
我々は,本手法の実用性を示す一連の実験を行った。
結果は、現在の最先端に匹敵するパフォーマンスを示唆している。
論文 参考訳（メタデータ） (2023-12-26T13:17:25Z) - Neural Constraint Satisfaction: Hierarchical Abstraction for
Combinatorial Generalization in Object Rearrangement [75.9289887536165]
基礎となるエンティティを明らかにするための階層的抽象化手法を提案する。
本研究では,エージェントのモデルにおける実体の状態の介入と,環境中の物体に作用する状態の対応関係を学習する方法を示す。
この対応を利用して、オブジェクトの異なる数や構成に一般化する制御法を開発する。
論文 参考訳（メタデータ） (2023-03-20T18:19:36Z) - Slimmable Domain Adaptation [112.19652651687402]
重み付けモデルバンクを用いて、ドメイン間の一般化を改善するためのシンプルなフレームワーク、Slimmable Domain Adaptationを導入する。
私たちのフレームワークは、他の競合するアプローチを、複数のベンチマークにおいて非常に大きなマージンで上回ります。
論文 参考訳（メタデータ） (2022-06-14T06:28:04Z) - Embedded-model flows: Combining the inductive biases of model-free deep
learning and explicit probabilistic modeling [8.405013085269976]
ドメイン固有の帰納バイアスを埋め込んだ構造層を用いた汎用変換を交互に行う組込みモデルフローを提案する。
EMFは,多モード性,階層的結合性,連続性などの望ましい特性を誘導するのに有効であることを示す。
実験では、この手法が一般的な構造的推論問題において最先端の手法より優れていることを示す。
論文 参考訳（メタデータ） (2021-10-12T14:12:16Z) - Redefining Neural Architecture Search of Heterogeneous Multi-Network
Models by Characterizing Variation Operators and Model Components [71.03032589756434]
複素領域における異なる変動演算子の効果について検討する。
モデルの複雑さと性能に影響を及ぼす変化演算子と、それを構成する異なる部分の質を推定する様々な指標に依存するモデルの両方を特徴付ける。
論文 参考訳（メタデータ） (2021-06-16T17:12:26Z) - Polynomial Networks in Deep Classifiers [55.90321402256631]
我々は深層ニューラルネットワークの研究を統一的な枠組みで行った。
私たちのフレームワークは、各モデルの誘導バイアスに関する洞察を提供します。
提案モデルの有効性を,標準画像および音声分類ベンチマークで評価した。
論文 参考訳（メタデータ） (2021-04-16T06:41:20Z) - S2RMs: Spatially Structured Recurrent Modules [105.0377129434636]
モジュール構造とテンポラル構造の両方を同時に活用できる動的構造を利用するための一歩を踏み出します。
我々のモデルは利用可能なビューの数に対して堅牢であり、追加のトレーニングなしで新しいタスクに一般化できる。
論文 参考訳（メタデータ） (2020-07-13T17:44:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。