論文の概要: Measurement-Driven Sub-Network Selection for On-Premise Retrieval-Augmented Factory Agents
- arxiv url: http://arxiv.org/abs/2609.02760v1
- Date: Wed, 02 Sep 2026 16:00:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.46119
- Title: Measurement-Driven Sub-Network Selection for On-Premise Retrieval-Augmented Factory Agents
- Title(参考訳): オンプレミス検索用ファクトリエージェントのための測定駆動サブネットワーク選択
- Abstract要約: 構造的圧縮と検索接地適応の後に、モデルサイズはもはや適応された回答品質の信頼できる予測器ではないことを示す。
サンドイッチスタイルのインプレース蒸留で訓練された重量共有スーパーネットワークは、この選択を安価に維持する。
- 参考スコア(独自算出の注目度): 36.94429692322632
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: On-premise assistants can give factory workers conversational access to machine documentation, but models capable of the task rarely fit shop-floor hardware. We show that after structural compression and retrieval-grounded adaptation, model size is no longer a reliable predictor of adapted answer quality: general capability falls almost linearly with parameter count, while judged retrieval-augmented answer quality does not. We therefore treat deployment as a post-adaptation selection problem, committing one sub-network per device on judged answer quality and measured on-device throughput under a configurable general-capability floor and memory budget; rules that optimize size, speed, or quality alone each give up capability or throughput. A weight-shared supernetwork trained with sandwich-style in-place distillation keeps this selection inexpensive. In a manufacturing-manual case study, extraction costs 13.7 percent of the unpruned model's judged quality and retrieval-grounded distillation returns it to within 4.6 percent, recovering two thirds of the loss, and the same assistant runs across three heterogeneous edge tiers at 1.3 to 5 watts standby.
- Abstract(参考訳): オンプレミスのアシスタントは、工場労働者に機械文書への対話的アクセスを与えるが、その作業が可能なモデルは、ショップフロアのハードウェアに適合することは滅多にない。
構造的圧縮と検索地上適応の後に、モデルサイズはもはや適応された回答品質の信頼性の高い予測子ではないことを示す。
したがって、我々は、配置を適応後の選択問題として扱い、判定された回答品質に1台のサブネットワークをコミットし、設定可能な汎用能力フロアとメモリ予算の下でデバイス上のスループットを測定します。
サンドイッチスタイルのインプレース蒸留で訓練された重量共有スーパーネットワークは、この選択を安価に維持する。
手作業によるケーススタディでは、未処理モデルの判断された品質の13.7%の抽出コストと、回収された蒸留液は4.6%以内に回復し、損失の3分の2を回復し、同じアシスタントが3つの異種エッジ層を1.3から5ワットの待機で走行する。
関連論文リスト
- Capacity Confounds and Coverage Guarantees in Adaptive Sub-model Federated Learning [5.586191108738563]
サブモデルフェデレーション学習により、リソース制約のあるクライアントは、グローバルモデルの幅制限されたバージョンをトレーニングできるが、既存のメソッドはデバイスリソース単独でキャパシティを割り当てる。
適応型キャパシティアロケーションフレームワークであるHAS-FLをテストケースとして使用して、このステップが可能かどうかを問う。
論文 参考訳(メタデータ) (2026-08-07T12:26:03Z) - Analyzing Quality-Latency-Resource Trade-offs in a Technical Documentation RAG Assistant Using LoRA Adaptation [0.0]
発電機のローランド適応(LoRA)を用いた検索拡張世代(RAG)システムにおける品質-遅延-リソーストレードオフについて検討する。
公式文書上で5,144の質問応答ペアのベンチマークを構築し、それを固定されたハイブリッド検索パイプライン(BGE-M3高密度、BGE-M3ネイティブ、Reciprocal Rank Fusion、クロスエンコーダ更新)と組み合わせる。
論文 参考訳(メタデータ) (2026-05-27T09:37:55Z) - Unsolvability Ceiling in Multi-LLM Routing: An Empirical Study of Evaluation Artifacts [0.07812854697536452]
6つのベンチマークで206,000のクエリモデルペアを持つマルチ層LSMルーティングについて大規模に検討する。
報告された未解決性のかなりの部分は, 評価成果物に起因していることが示されている。
論文 参考訳(メタデータ) (2026-05-08T07:49:24Z) - Not Every Subject Should Stay: Machine Unlearning for Noisy Engagement Recognition [53.005382593686356]
エンゲージメント認識データセットは典型的には主観的インデクシングであり、しばしば騒々しく主観的な監督を含んでいる。
本研究では、この設定を、エンゲージメント認識のためのポストホック衛生機構として、主観レベルマシンアンラーニングを通して研究する。
論文 参考訳(メタデータ) (2026-05-06T10:03:06Z) - Post-Training Probability Manifold Correction via Structured SVD Pruning and Self-Referential Distillation [0.0]
Sparse Knowledge Distillation (SparseKD) は、構造化SVDプルーニングと自己参照知識蒸留を組み合わせることでトランスフォーマーモデルを圧縮する手法である。
SparseKDは、外部のスーパー教師、アーキテクチャの変更、カスタム推論カーネルを必要としないため、既存のインフラで即座にデプロイできる。
論文 参考訳(メタデータ) (2026-01-30T22:42:02Z) - Continual Action Quality Assessment via Adaptive Manifold-Aligned Graph Regularization [53.82400605816587]
アクション品質アセスメント(AQA)は、ビデオにおける人間の行動を定量化し、スポーツスコアリング、リハビリテーション、スキル評価の応用を支援する。
大きな課題は、現実世界のシナリオにおける品質分布の非定常的な性質にある。
本稿では,進化する分布を扱うための連続学習機能を備えた連続AQA(Continuous AQA)を紹介する。
論文 参考訳(メタデータ) (2025-10-08T10:09:47Z) - IPR: Intelligent Prompt Routing with User-Controlled Quality-Cost Trade-offs [19.658944117970137]
textbfIngent textbfPrompt textbfRouting frameworkは、予測応答品質とユーザ指定許容レベルに基づいて最適なモデルを動的に選択する。
IPRは43.9%のコスト削減を実現し、クロード家の最強モデルに匹敵する品質を維持している。
論文 参考訳(メタデータ) (2025-09-08T01:46:27Z) - Task-Circuit Quantization: Leveraging Knowledge Localization and Interpretability for Compression [55.323397702682506]
後トレーニング量子化(PTQ)は、コストのかかる再トレーニングなしに全精度重みを低ビット重みにマッピングすることで、モデルのメモリフットプリントを削減する。
我々は,自動回路発見に並列性を持つ新しい混合精度PTQ手法であるTask-Circuit Quantization (TaCQ)を開発した。
論文 参考訳(メタデータ) (2025-04-10T02:19:03Z) - Hybrid LLM: Cost-Efficient and Quality-Aware Query Routing [53.748685766139715]
大規模言語モデル(LLM)は、ほとんどのNLPタスクで優れていますが、そのサイズのため、デプロイに高価なクラウドサーバも必要です。
コスト削減と品質維持のために,それぞれの強みを組み合わせたハイブリッド推論手法を提案する。
実験では、反応の品質が低下することなく、最大40%大きなモデルへの呼び出しを削減できます。
論文 参考訳(メタデータ) (2024-04-22T23:06:42Z) - Consolidator: Mergeable Adapter with Grouped Connections for Visual
Adaptation [53.835365470800916]
視覚変換器の知識を効率よく効果的に伝達する方法を示す。
調整可能なパラメータの小さなセットを追加して,事前学習モデルを変更するコンソリケータを提案する。
我々のコンソリエータは、0.35%のパラメータで完全な微調整よりも最大7.56の精度で到達できる。
論文 参考訳(メタデータ) (2023-04-30T23:59:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。