論文の概要: Dynamic Influence-Weighted Distillation for Single-IMU Activity Recognition
- arxiv url: http://arxiv.org/abs/2608.24904v1
- Date: Fri, 17 Jul 2026 16:27:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.336561
- Title: Dynamic Influence-Weighted Distillation for Single-IMU Activity Recognition
- Title(参考訳): シングルIMUアクティビティ認識のための動的影響重み付き蒸留
- Abstract要約: 複数の身体位置にある慣性センサーは、活動認識を改善することができるが、推論時にすべてのセンサーを必要とすると、配置の負担が増大する。
トレーニング中に利用可能な4つの同期IMUが、適応と推論時に右腕IMUのみを使用する学生を改善できるかどうかを検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Inertial sensors at multiple body locations can improve activity recognition, but requiring every sensor at inference increases the deployment burden. We study whether four synchronized IMUs available during training can improve a student that uses only the right-arm IMU during fitting and inference. A frozen four-IMU teacher provides logit and feature targets. Fixed-weight knowledge distillation applies each target with the same strength to every fitting sample, although the student may not benefit equally from them. We introduce dynamic influence weighting (DIW), which tests a one-step candidate update on separate fold-internal training participants. DIW then assigns separate sample-wise gates to the logit and feature losses. On WEAR, we evaluate 19 labels and 68,298 complete windows from 22 participants using subject-disjoint five-fold cross-validation. Pooled out-of-fold macro-F1 is 0.561820 for Supervised and 0.571623 for Fixed-weight KD. DIW reaches 0.638451, gains of 7.66 and 6.68 percentage points, respectively. It exceeds Supervised for 18 of 19 labels and 21 of 22 held-out participants. All three routes retain the same 80,915-parameter right-arm student at inference. Under this protocol, DIW converts training-only multi-position information into a stronger single-IMU model without changing deployed sensing or the student forward graph.
- Abstract(参考訳): 複数の身体位置にある慣性センサーは、活動認識を改善することができるが、推論時にすべてのセンサーを必要とすると、配置の負担が増大する。
トレーニング中に利用可能な4つの同期IMUが、適応と推論時に右腕IMUのみを使用する学生を改善できるかどうかを検討する。
凍結した4-IMUの教師はロジットとフィーチャーターゲットを提供します。
固定重量の知識蒸留は、各適合サンプルに同じ強度の目標を適用するが、学生はそれらから等しく利益を得ることはできない。
動的インフルエンス重み付け(DIW)を導入し,個別の折りたたみ訓練参加者に対して1段階の候補更新を検証した。
次にDIWは、ロジットと機能損失に別々のサンプルワイズゲートを割り当てる。
WEARでは、被験者22名から19のラベルと68,298の完全ウィンドウを、被検者5倍のクロスバリデーションを用いて評価した。
ホールドアウトオブフォールドマクロF1はスーパービジョンが0.561820、固定ウェイトKDが0.571623である。
DIWは0.638451に達し、それぞれ7.66ポイントと6.68ポイントを獲得した。
19レーベル中18レーベルで監督され、22人中21人が参加している。
3つのルートは同じ80,915パラメートルの右腕の学生を推論時に保持している。
このプロトコルの下で、DIWは、トレーニング専用のマルチポジション情報を、デプロイされたセンシングや学生のフォワードグラフを変更することなく、より強力なシングルIMUモデルに変換する。
関連論文リスト
- Lightning Weave: Improving the Accuracy-Efficiency Frontier of Reasoning Models through Capability Composition [23.269235615604245]
私たちは、1人の学生で独立して学習した能力を抽出し構成するポストトレーニングフレームワークであるLightning Weaveを紹介します。
Qwen3.5-4Bでは、HMMT 2025の精度を59.2%から64.0%に引き上げ、10.7%のレスポンストークンを減らし、LiveCodeBench v5の精度を41.7%から54.2%に、9.6%のレスポンストークンを減らした。
論文 参考訳(メタデータ) (2026-09-13T18:05:58Z) - SCOPE-OPSD: Fisher-Conditioned Privileged Subspaces for On-Policy Self-Distillation [22.56867206175605]
SCOPE-OPSDは、特権教師の残余を冷凍ランク64因子に投影する。
OPSDがすでに必要としているフォワードを再利用し、ロールアウトも推論時モジュールも追加しない。
Qwen3-1.7B、4B、8Bの完全な25/50/75/100ステップの軌道は、Structuredは純粋なOPSD以下ではない。
論文 参考訳(メタデータ) (2026-09-11T08:33:52Z) - Simulating Disengaged Students to Evaluate LLM-based Tutors [0.40105987447353786]
Disengagement-Aware Students Simulators (DAS2) は、エンゲージメント、ゲーム、ホイールスピン、オフタスク、ミックスの5つの学習状態のモデルである。
DAS2は、AIチューターがデプロイ前にさまざまな学習者入力状態にどのように反応するかを評価するための事前デプロイフレームワークを提供する。
論文 参考訳(メタデータ) (2026-09-11T01:28:48Z) - On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。
トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
論文 参考訳(メタデータ) (2026-08-31T06:35:07Z) - Distill Skills into Weights, Not Prompts: Abstract Skills as Privileged Signals for On-Policy Self-Distillation [7.296659715681798]
検証可能な報酬を持つ強化学習は、ロールアウトグループが均一に正しいか均一に間違っている場合、グループ相対的な信号を与えない。
SKALD(Skill-Anchored Latent Distillation)は、同一のQwen3-Baseモデルの2つのコンテキストビューを利用する、オンライン自己蒸留フレームワークである。
論文 参考訳(メタデータ) (2026-08-10T16:43:18Z) - WDL-OPD: Weak-Driven On-Policy Distillation via Mixture-Constrained Co-Training [48.290951447286744]
WDL-OPDは2つの訓練可能なポリシーを持つ混合制約付き協調訓練法である。
アンカーポリシはロールアウト毎に生成し、補助ポリシは同じ訪問状態を評価し、それらのトークン分布の幾何学的混合を逆KLで凍結教師にマッチングする。
凍結はPD$2とW2S-OPDと密接に関連するアンカープラスコントラストのプロキシターゲットを回復させるが,ジョイントトレーニングは静的デルタが表現できない分岐レベル自由度を生成する。
論文 参考訳(メタデータ) (2026-08-10T11:22:53Z) - Step-wise Rubric Rewards for LLM Reasoning [72.17879367869503]
RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデルの推論を改善するために広く使われている。
正しい回答の18.2%は間違っているが、肯定的な報酬がある。
6つの数学的推論ベンチマークで、SRaRはRaRの平均精度を3.57ポイント改善した。
論文 参考訳(メタデータ) (2026-05-17T07:08:14Z) - Unchosen Experts Can Contribute Too: Unleashing MoE Models' Power by Self-Contrast [58.98411447739218]
Mixture-of-Experts (MoE) は、計算効率を保ちながら、モデルサイズをスケールするための顕著なアーキテクチャとして登場した。
本研究では,無声専門家を推論中に自己コントラスト的に活用する学習自由戦略である自己コントラスト混合(SCMoE)を提案する。
我々の手法は概念的には単純で計算量も軽量であり、グリージー復号法に比べて最小限の遅延を発生させる。
論文 参考訳(メタデータ) (2024-05-23T12:45:29Z) - G-DetKD: Towards General Distillation Framework for Object Detectors via
Contrastive and Semantic-guided Feature Imitation [49.421099172544196]
そこで本研究では,すべてのピラミッドレベルにまたがる特徴ペア間のソフトマッチングを自動的に行う,意味誘導型特徴模倣手法を提案する。
また,異なる特徴領域間の関係で符号化された情報を効果的に捉えるために,コントラスト蒸留を導入する。
本手法は,(1)フレームワークのコンポーネントを別々に使用した場合に,既存の検出KD技術よりも優れた性能を発揮する。
論文 参考訳(メタデータ) (2021-08-17T07:44:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。