論文の概要: FlexiFlow: Bandit-based Model Switching in ML Workflows
- arxiv url: http://arxiv.org/abs/2610.07286v1
- Date: Mon, 05 Oct 2026 19:20:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.616266
- Title: FlexiFlow: Bandit-based Model Switching in ML Workflows
- Title(参考訳): FlexiFlow: MLワークフローにおけるバンドベースのモデルスイッチング
- Abstract要約: 本稿では,データフローシステムであるFlexiFlowについて述べる。
提案手法は実世界の複雑なMLランタイムに対して有効でスケール可能であることを示す。
- 参考スコア(独自算出の注目度): 3.571049418205552
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Model optimizations help improve inference performance and accuracy of ML workflows. However, relying on a single model to perform inference across all data batches often fails to maximize accuracy and thus overall performance. In many cases, alternate models could perform better on specific subsets of data where a primary model underperforms. Our experiments with real ML workflows indeed show that switching models improves workflow accuracy by up to 23%. Yet, current systems lack the ability to adaptively switch between models based on performance, forcing users to manually test models in sequence. We present FlexiFlow, a dataflow system that dynamically switches between alternate models when the current model exhibits low accuracy. FlexiFlow learns to rank models using a novel multi-armed bandit approach that accounts for model runtimes, probability of passing user-defined assertions, and the computational structure of the ML workflow. We show that the standard Thompson sampling approach is insufficient for switching models in ML workflows. In contrast, our proposed approaches are effective and scales to complex real-world ML workflows. Experiments show that switching models at runtime while reusing intermediate results provides higher accuracy, but also 48% efficiency gain compared to sequential workflow runs.
- Abstract(参考訳): モデル最適化は、MLワークフローの推論性能と精度を改善するのに役立つ。
しかしながら、すべてのデータバッチにわたって推論を実行するために単一のモデルに頼ると、正確さを最大化し、全体的なパフォーマンスを損なうことが少なくない。
多くの場合、プライマリモデルが貧弱なデータの特定のサブセットで、代替モデルの性能が向上する可能性がある。
実際のMLワークフローを用いた実験では、スイッチングモデルによってワークフローの精度が最大23%向上することが示された。
しかし、現在のシステムは、パフォーマンスに基づいてモデルを適応的に切り替える能力に欠けており、ユーザーは手動でモデルをシークエンスでテストせざるを得ない。
本稿では,データフローシステムであるFlexiFlowについて述べる。
FlexiFlowは、モデルランタイム、ユーザ定義アサーションを渡す確率、MLワークフローの計算構造を考慮に入れた、新しいマルチアームバンディットアプローチを使用して、モデルをランク付けすることを学ぶ。
MLワークフローのモデル変更には標準のトンプソンサンプリング手法が不十分であることを示す。
対照的に、提案手法は実世界の複雑なMLワークフローに効果的でスケールできる。
実験では、中間結果を再利用しながら実行時にモデルを切り替えることで精度が向上するが、シーケンシャルなワークフローの実行に比べて効率が48%向上することが示されている。
関連論文リスト
- SoFlow: Solution Flow Models for One-Step Generative Modeling [10.054000663262618]
Flow Models (SoFlow)は、一段階生成をスクラッチから行うためのフレームワークである。
フローマッチングの損失により、トレーニング中に推定速度場を提供できる。
我々のモデルは、ImageNet 256x256データセット上のMeanFlowモデルよりも優れたFID-50Kスコアを達成する。
論文 参考訳(メタデータ) (2025-12-17T18:10:17Z) - A Multi-Criteria Automated MLOps Pipeline for Cost-Effective Cloud-Based Classifier Retraining in Response to Data Distribution Shifts [0.0]
機械学習(ML)モデルの性能は、基礎となるデータ分布が時間とともに変化すると劣化することが多い。
MLOps(ML Operations)はしばしば手動であり、人間はモデルの再訓練と再デプロイのプロセスをトリガーする。
本稿では,データ分散の大幅な変化に応じて,ニューラルネットワークの再トレーニングに対処する自動MLOpsパイプラインを提案する。
論文 参考訳(メタデータ) (2025-12-12T13:22:14Z) - Model Utility Law: Evaluating LLMs beyond Performance through Mechanism Interpretable Metric [99.56567010306807]
大規模言語モデル(LLM)は、学術、産業、そして日々のアプリケーションに欠かせないものになっている。
大規模言語モデル (LLM) 時代における評価の課題の1つは一般化問題である。
従来の性能スコアを補完するメカニズムの解釈可能性向上指標であるモデル利用指数(MUI)を提案する。
論文 参考訳(メタデータ) (2025-04-10T04:09:47Z) - PaddingFlow: Improving Normalizing Flows with Padding-Dimensional Noise [4.762593660623934]
パディングフロー(PaddingFlow)は,パディング次元雑音による正規化フローを改善する新しいデクエント化法である。
非条件密度推定の主ベンチマークで本手法の有効性を検証した。
この結果から,PaddingFlowはすべての実験において優れた性能を発揮できることがわかった。
論文 参考訳(メタデータ) (2024-03-13T03:28:39Z) - Guided Flows for Generative Modeling and Decision Making [55.42634941614435]
その結果,ガイドフローは条件付き画像生成やゼロショット音声合成におけるサンプル品質を著しく向上させることがわかった。
特に、我々は、拡散モデルと比較して、オフライン強化学習設定axスピードアップにおいて、まず、計画生成にフローモデルを適用する。
論文 参考訳(メタデータ) (2023-11-22T15:07:59Z) - AdaMerging: Adaptive Model Merging for Multi-Task Learning [68.75885518081357]
本稿では,Adaptive Model Merging (AdaMerging)と呼ばれる革新的な手法を紹介する。
本来のトレーニングデータに頼ることなく、タスクレベルでも階層的にも、モデルマージの係数を自律的に学習することを目指している。
AdaMergingは、現在の最先端のタスク演算のマージ方式と比較すると、パフォーマンスが11%向上している。
論文 参考訳(メタデータ) (2023-10-04T04:26:33Z) - End-to-End Weak Supervision [15.125993628007972]
下流モデルを直接学習するためのエンドツーエンドアプローチを提案する。
下流テストセットにおけるエンドモデル性能の観点から,先行作業よりも性能が向上したことを示す。
論文 参考訳(メタデータ) (2021-07-05T19:10:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。