論文の概要: Accuracy and Robustness of Model Cascades Under Data Perturbations
- arxiv url: http://arxiv.org/abs/2608.17711v2
- Date: Wed, 19 Aug 2026 07:38:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 13:35:39.314748
- Title: Accuracy and Robustness of Model Cascades Under Data Perturbations
- Title(参考訳): データ摂動下におけるモデルカスケードの精度とロバスト性
- Abstract要約: 予測カスケードは、高い予測性能を維持しながら、人工知能(AI)モデルのエネルギー消費を著しく削減する。
画像分類のための信頼に基づくカスケードフレームワークについて検討し,その劣化が信頼に基づく遅延行動に与える影響について検討した。
- 参考スコア(独自算出の注目度): 2.1920579994942164
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Prediction cascades significantly reduce energy consumption of Artificial Intelligence (AI) models while maintaining high predictive performance. The idea is that easy inputs are routed through a lightweight small model, and difficult uncertain cases are deferred to a larger model. While this design can improve computational efficiency on clean data, its effectiveness depends on the reliability of confidence-based routing. Input degradations, such as static corruptions and sequential perturbations, can shift model confidence and routing decisions. In this paper, we study confidence-based cascade frameworks for image classification and investigate how such degradations affect their confidence-based deferral behavior. We select a model cascade at the pareto-optimum of accuracy, routing quality, and energy consumption that achieves competitive predictive performance with an up to 10-fold decrease in CO$_2$ emissions. We study the behavior of that model cascade under input corruptions and analyze how the cascade's routing decisions change when the input distribution shifts. Our analysis identifies three failure modes. Static corruptions either (1) break the routing signal while the large model remains useful, or (2) degrade both models so deferral no longer recovers accuracy. Sequential perturbations reveal a third mode: predictions stabilize but deferral suppresses, yielding stable but unreliable predictions. These findings demonstrate that energy efficient model cascades require evaluation beyond clean accuracy, with explicit attention to routing reliability under distribution shift.
- Abstract(参考訳): 予測カスケードは、高い予測性能を維持しながら、人工知能(AI)モデルのエネルギー消費を著しく削減する。
簡単な入力は軽量の小さなモデルを通してルーティングされ、難しい不確実なケースはより大きなモデルに遅延される。
この設計はクリーンデータの計算効率を向上させることができるが、信頼性に基づくルーティングの信頼性に依存している。
静的な汚職やシーケンシャルな摂動といった入力の劣化は、モデルの信頼性とルーティングの決定を変える可能性がある。
本稿では,画像分類のための信頼に基づくカスケードフレームワークについて検討し,その劣化が信頼に基づく推論行動に与える影響について検討する。
我々は,CO$2$の排出量を最大10倍まで減少させ,競争予測性能を達成するため,精度,ルーティング品質,エネルギー消費のパーエト最適モデルカスケードを選択する。
入力汚職下でのモデルカスケードの挙動について検討し,入力分布が変化したときのカスケードの経路決定がどう変化するかを分析する。
私たちの分析では3つの障害モードを特定します。
静的な破損は、(1)大きなモデルが有用である間にルーティング信号を壊すか、(2)遅延がもはや精度を回復しないように両方のモデルを劣化させるかのいずれかである。
逐次摂動は第3のモードを示す: 予測は安定だが、遅延は抑制され、安定だが信頼できない予測をもたらす。
これらの結果から,エネルギー効率のよいモデルカスケードは,配電系統の信頼性に明確な注意を払って,クリーンな精度以上の評価を必要とすることが示唆された。
関連論文リスト
- Calibration-Aware Uncertainty Cascades for Efficient Heterogeneous Model Collaboration [18.045450334322545]
不均一なモデルコラボレーションは、予測性能と推論コストのバランスをとるために、異なるモデルの相補的な強みを活用することを目指している。
既存のアプローチでは、ルーティング決定を固定されたタスクとモデルプールに結びつける訓練されたルータや、しきい値が不均一なモデル間で一貫性のあるセマンティクスを欠いている生の自信のカスケードに頼っているのが一般的である。
本稿では,各モデルの信頼性を独立に校正し,検証データを用いてデプロイメントポリシを選択する,シンプルなポストホックフレームワークであるCAUCを提案する。
論文 参考訳(メタデータ) (2026-09-10T12:14:54Z) - Balancing Accuracy and Efficiency: Adaptive Dynamics Orchestration for Model Predictive Control [8.262724319342945]
高忠実度力学モデルは、軌道のロールアウト中に複雑な車両とテランの相互作用を正確に予測できるが、計算コストは相当である。
軽量モデルは高速な更新と高密度サンプリングを可能にするが、安全クリティカルな条件下で誤った予測を発生させる可能性がある。
本稿では,現在のナビゲーションコンテキストに対して最適な動的モデルを動的に選択するフレームワークであるAdaptive Dynamics Orchestration (ADO)を提案する。
論文 参考訳(メタデータ) (2026-05-22T19:05:25Z) - Fortress: A Case Study in Stabilizing Search Recommendations via Temporal Data Augmentation and Feature Pruning [2.6494136490021387]
Fortressは、時間の経過とともに一貫性のない予測スコアに寄与する特徴を特定し、誇張する。
Fortressを,大規模なアプリマーケットプレースにおけるクエリ・ツー・アプリ関連モデルで検証する。
論文 参考訳(メタデータ) (2026-05-14T18:13:05Z) - Dropout Robustness and Cognitive Profiling of Transformer Models via Stochastic Inference [0.0]
トランスフォーマーベースの言語モデルは推論のために広くデプロイされているが、推論時間の下でのそれらの振る舞いは未探索のままである。
本研究は,サンプルあたり100フォワードパスのMC Dropoutを用いて,19の変圧器モデル間でのドロップアウト誘起変動を解析する。
論文 参考訳(メタデータ) (2026-03-18T15:04:26Z) - Attribution-Guided Model Rectification of Unreliable Neural Network Behaviors [60.06461883533697]
我々は、ランクワンモデル編集を活用して、帰属誘導モデル修正フレームワークを確立する。
まず、既存のモデル編集と整合性の設定を区別し、信頼性の低い振る舞いを補正する定式化を行う。
そこで本研究では, 帰属誘導層ローカライゼーション手法を提案する。
論文 参考訳(メタデータ) (2026-03-08T01:06:07Z) - Which Layer Causes Distribution Deviation? Entropy-Guided Adaptive Pruning for Diffusion and Flow Models [77.55829017952728]
EntPrunerは、拡散およびフローモデルのためのエントロピー誘導自動プログレッシブプルーニングフレームワークである。
DiTモデルとSiTモデルの実験はEntPrunerの有効性を示し、最大2.22$times$推論スピードアップを達成する。
論文 参考訳(メタデータ) (2025-11-26T07:20:48Z) - ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
ResADは正規化された残留軌道モデリングフレームワークである。
学習タスクを再編成し、慣性参照からの残留偏差を予測する。
NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
論文 参考訳(メタデータ) (2025-10-09T17:59:36Z) - Robustness Benchmark of Road User Trajectory Prediction Models for
Automated Driving [0.0]
車両内のモデル展開中に観測される機能不全をシミュレートする摂動に対して、機械学習モデルをベンチマークする。
同様の摂動を持つモデルのトレーニングは、パフォーマンスの劣化を効果的に低減し、エラーは+87.5%まで増加する。
効果的な緩和戦略であるにもかかわらず、トレーニング中の摂動によるデータ拡張は、予期せぬ摂動に対する堅牢性を保証するものではない、と我々は主張する。
論文 参考訳(メタデータ) (2023-04-04T15:47:42Z) - Reliability-Aware Prediction via Uncertainty Learning for Person Image
Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。
データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文 参考訳(メタデータ) (2022-10-24T17:53:20Z) - Robustness and Accuracy Could Be Reconcilable by (Proper) Definition [109.62614226793833]
強靭性と精度のトレードオフは、敵文学において広く研究されている。
局所的不変性の帰納的バイアスを課す不適切に定義された頑健な誤差に由来する可能性がある。
定義上、SCOREは、最悪のケースの不確実性に対処しながら、堅牢性と正確性の間の和解を促進する。
論文 参考訳(メタデータ) (2022-02-21T10:36:09Z) - Triple Wins: Boosting Accuracy, Robustness and Efficiency Together by
Enabling Input-Adaptive Inference [119.19779637025444]
深層ネットワークは、(クリーンな自然画像の場合)正確さと(敵対的な摂動画像の場合)頑健さの相違に直面することを最近提案された。
本稿では,入力適応推論に関連するマルチエグジットネットワークについて検討し,モデル精度,ロバスト性,効率の最適化において「スイートポイント」を達成する上での強い期待を示す。
論文 参考訳(メタデータ) (2020-02-24T00:40:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。