論文の概要: More Than A Shortcut: A Hyperbolic Approach To Early-Exit Networks
- arxiv url: http://arxiv.org/abs/2511.00641v1
- Date: Sat, 01 Nov 2025 17:43:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-05 16:37:26.874144
- Title: More Than A Shortcut: A Hyperbolic Approach To Early-Exit Networks
- Title(参考訳): ショートカット以上のもの: アーリーエグジットネットワークへの双曲的アプローチ
- Authors: Swapnil Bhosale, Cosmin Frateanu, Camilla Clark, Arnoldas Jasonas, Chris Mitchell, Xiatian Zhu, Vamsi Krishna Ithapu, Giacomo Ferroni, Cagdas Bilen, Sanjeel Parekh,
- Abstract要約: HypEEは、ハイパーボリックな空間でEE表現を学ぶ新しいフレームワークです。
我々はHypEEが標準のEuclidean EEベースラインを大幅に上回っていることを示す。
学習された幾何学はまた、不確実性の原則的な尺度を提供し、新しいトリガー機構を可能にする。
- 参考スコア(独自算出の注目度): 42.45014573840505
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deploying accurate event detection on resource-constrained devices is challenged by the trade-off between performance and computational cost. While Early-Exit (EE) networks offer a solution through adaptive computation, they often fail to enforce a coherent hierarchical structure, limiting the reliability of their early predictions. To address this, we propose Hyperbolic Early-Exit networks (HypEE), a novel framework that learns EE representations in the hyperbolic space. Our core contribution is a hierarchical training objective with a novel entailment loss, which enforces a partial-ordering constraint to ensure that deeper network layers geometrically refine the representations of shallower ones. Experiments on multiple audio event detection tasks and backbone architectures show that HypEE significantly outperforms standard Euclidean EE baselines, especially at the earliest, most computationally-critical exits. The learned geometry also provides a principled measure of uncertainty, enabling a novel triggering mechanism that makes the overall system both more efficient and more accurate than a conventional EE and standard backbone models without early-exits.
- Abstract(参考訳): リソース制約のあるデバイスに正確なイベント検出をデプロイすることは、パフォーマンスと計算コストのトレードオフによって困難である。
Early-Exit (EE) ネットワークは適応計算によるソリューションを提供するが、初期の予測の信頼性を制限し、一貫性のある階層構造を強制しないことが多い。
そこで我々は,ハイパーボリック空間におけるEE表現を学習する新しいフレームワークであるHyperbolic Early-Exit Network (HypEE)を提案する。
我々のコアコントリビューションは、階層的なトレーニング目標であり、より深いネットワーク層がより浅い層を幾何学的に洗練するように、部分的に順序付けられた制約を強制する。
複数のオーディオイベント検出タスクとバックボーンアーキテクチャの実験は、HypEEが標準のEuclidean EEベースライン、特に最初期の、最も計算上重要なエグジットを著しく上回っていることを示している。
学習された幾何学は、また、原則化された不確実性の尺度を提供し、従来のEEや標準のバックボーンモデルよりも、より効率的かつ正確なシステム全体のトリガー機構を可能にする。
関連論文リスト
- Knowledge-Informed Neural Network for Complex-Valued SAR Image Recognition [51.03674130115878]
本稿では,新しい「圧縮集約圧縮」アーキテクチャ上に構築された軽量なフレームワークであるKnowledge-Informed Neural Network(KINN)を紹介する。
KINNはパラメータ効率の認識における最先端を確立し、データスカースとアウト・オブ・ディストリビューションのシナリオにおいて例外的な一般化を提供する。
論文 参考訳(メタデータ) (2025-10-23T07:12:26Z) - U-PINet: End-to-End Hierarchical Physics-Informed Learning With Sparse Graph Coupling for 3D EM Scattering Modeling [28.64166932076228]
電磁波散乱モデリングは、レーダーリモートセンシングに不可欠である。
従来の数値解法は精度が高いが、スケーラビリティの問題と計算コストに悩まされている。
これらの制約を克服するために,U字型物理情報ネットワーク (U-PINet) を提案する。
論文 参考訳(メタデータ) (2025-08-05T12:20:42Z) - Network Sparsity Unlocks the Scaling Potential of Deep Reinforcement Learning [57.3885832382455]
静的ネットワークの疎結合を単独で導入することで,最先端アーキテクチャの高密度化を超えて,さらなるスケーリング可能性を実現することができることを示す。
解析の結果,高密度DRLネットワークをネーティブにスケールアップするのとは対照的に,疎ネットワークは高いパラメータ効率とネットワーク表現性を両立させることがわかった。
論文 参考訳(メタデータ) (2025-06-20T17:54:24Z) - The Larger the Merrier? Efficient Large AI Model Inference in Wireless Edge Networks [56.37880529653111]
大規模計算モデル(LAIM)サービスの需要は、従来のクラウドベースの推論から、低レイテンシでプライバシ保護のアプリケーションのためのエッジベースの推論へのパラダイムシフトを推進している。
本稿では,事前学習したLAIMをデバイス上のサブモデルとサーバ上のサブモデルに分割して配置するLAIM推論方式について検討する。
論文 参考訳(メタデータ) (2025-05-14T08:18:55Z) - Federated Learning for Collaborative Inference Systems: The Case of Early Exit Networks [10.172776427016437]
協調推論システム(CIS)は、より小さなデバイスが推論タスクの一部をより有能なデバイスにオフロードできるようにすることによって、このパフォーマンストレードオフに対処する。
我々のフレームワークは厳密な理論的保証を提供するだけでなく、CISの最先端(SOTA)トレーニングアルゴリズムを超越している。
論文 参考訳(メタデータ) (2024-05-07T12:07:06Z) - Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。
本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。
本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
論文 参考訳(メタデータ) (2023-03-16T21:06:13Z) - Resource-Constrained Edge AI with Early Exit Prediction [5.060405696893342]
デバイスエッジコ推論システムにおいて,デバイス上での計算オーバーヘッドを低減するための早期出口予測機構を提案する。
具体的には,Exit Predictorと呼ばれる低複雑さモジュールを設計し,初期出口の計算をバイパスする「ハード」なサンプルを導出する。
通信帯域の変動を考慮すると、レイテンシを考慮したエッジ推論の早期終了予測機構を拡張する。
論文 参考訳(メタデータ) (2022-06-15T03:14:21Z) - Multilayer Perceptron Based Stress Evolution Analysis under DC Current
Stressing for Multi-segment Wires [8.115870370527324]
エレクトロマイグレーション(EM)は、超大規模統合(VLSI)システムの信頼性解析における主要な関心事の一つである。
従来の手法はしばしば十分に正確ではないため、特に高度な技術ノードにおいて、望ましくない過設計につながる。
本稿では,多層パーセプトロン(MLP)を用いて,空核形成フェーズにおける相互接続木間の応力変化を計算する手法を提案する。
論文 参考訳(メタデータ) (2022-05-17T07:38:20Z) - Phase Retrieval using Expectation Consistent Signal Recovery Algorithm
based on Hypernetwork [73.94896986868146]
位相検索は現代の計算イメージングシステムにおいて重要な要素である。
近年のディープラーニングの進歩は、堅牢で高速なPRの新たな可能性を開いた。
我々は、既存の制限を克服するために、深層展開のための新しいフレームワークを開発する。
論文 参考訳(メタデータ) (2021-01-12T08:36:23Z) - HAPI: Hardware-Aware Progressive Inference [18.214367595727037]
畳み込みニューラルネットワーク(CNN)は最近、AIタスクの多様性における最先端技術となっている。
その人気にもかかわらず、CNN推論は依然として高い計算コストがかかる。
本研究は,ハイパフォーマンス・アーリーエグジット・ネットワークを創出するための新しい手法であるHAPIを提案する。
論文 参考訳(メタデータ) (2020-08-10T09:55:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。