論文の概要: Can Knowledge Transfer Parameters Be Learned? LePoKet for Efficient Robotic Vision

• arxiv url: http://arxiv.org/abs/2609.16637v1
• Date: Tue, 15 Sep 2026 04:57:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 14:56:08.346625
• Title: Can Knowledge Transfer Parameters Be Learned? LePoKet for Efficient Robotic Vision
• Title（参考訳）: 知識伝達パラメータの学習は可能か? : 効率的なロボットビジョンのためのLePoKet
• Abstract要約: 本稿では,知識継承を直接フォワードに組み込む構造伝達フレームワークを提案する。 LePoKetはコンパクトRAFTベースラインをシンテルクリーニングの2.21から1.92 EPE、シンテルファイナルの3.35から3.01、KITTIの7.51から6.39に改善した。 これらの結果は、学習可能な構造的移動が認識および運動知覚タスクを一般化し、効率的なロボットビジョンに有望なアプローチを提供することを示す。
• 参考スコア（独自算出の注目度）: 5.080114904422198
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Efficient perception is central to robotic systems operating under constrained computation, memory, and latency budgets. Knowledge transfer from larger pretrained models offers a practical route to stronger compact perception networks, but existing approaches commonly rely on fixed distillation objectives or manually designed interaction mechanisms. Building on Hereditary Knowledge Transfer (HKT), we propose LePoKet (Learnable Parameter Optimization for Knowledge Transfer), a structural transfer framework that embeds knowledge inheritance directly into the forward computation. LePoKet introduces a block-wise Extract-Transform-Mix interface whose interaction parameters are optimized jointly with the child network through a Learnable Genetic Attention (LGA) operator, without auxiliary distillation losses or temperature scaling. We first characterize the mechanism on CIFAR-10 and CIFAR-100 using ResNet parent-child pairs, obtaining relative error reductions of 24.57% and 25.1%, respectively, over standard child training. We then evaluate LePoKet for dense motion estimation by integrating it into a compact RAFT-based optical-flow model trained only on FlyingChairs and FlyingThings3D. LePoKet improves the compact RAFT baseline from 2.21 to 1.92 EPE on Sintel Clean, from 3.35 to 3.01 on Sintel Final, and from 7.51 to 6.39 on KITTI. A direct comparison with HKT further shows that LePoKet improves CIFAR-10 accuracy from 92.40% to 93.40% while achieving the best Sintel Final and KITTI errors among the evaluated compact transfer variants, with comparable performance on Sintel Clean. These results demonstrate that learnable structural transfer generalizes across recognition and motion perception tasks and provides a promising approach for efficient robotic vision.
• Abstract（参考訳）: 効率的な知覚は、制約のある計算、メモリ、遅延予算の下で動作しているロボットシステムの中心である。 より大きな事前訓練されたモデルからの知識伝達は、より強力なコンパクトな知覚ネットワークへの実践的な経路を提供するが、既存のアプローチは一般に、固定された蒸留目標や手動で設計された相互作用機構に依存している。 遺伝的知識伝達(HKT)に基づいて,知識継承を直接フォワード計算に組み込む構造的伝達フレームワークであるLePoKet(Learnable Parameter Optimization for Knowledge Transfer)を提案する。 LePoKetは、補助的な蒸留損失や温度スケーリングを伴わずに、Learable Genetic Attention (LGA)オペレータを介して、子ネットワークと相互作用パラメータを協調的に最適化したブロックワイドなExtract-Transform-Mixインターフェースを導入している。 まず, ResNet の親子ペアを用いた CIFAR-10 と CIFAR-100 のメカニズムを特徴付ける。 次に、LuPoKetをFlyingChairsとFlyingThings3Dのみで訓練されたRAFTベースの光フローモデルに統合することにより、高密度動作推定のためのLePoKetの評価を行う。 LePoKetはコンパクトRAFTベースラインをシンテルクリーニングの2.21から1.92 EPE、シンテルファイナルの3.35から3.01、KITTIの7.51から6.39に改善した。 HKTと直接比較したところ、LePoKetはCIFAR-10の精度を92.40%から93.40%に改善し、評価されたコンパクトトランスファーの変種の中で最高のSintelファイナルとKITTIエラーを達成した。 これらの結果は、学習可能な構造的移動が認識および運動知覚タスクを一般化し、効率的なロボットビジョンに有望なアプローチを提供することを示す。

関連論文リスト

• Towards Compact Unified Multimodal Tracking: Synergizing Knowledge Distillation with Structural Pruning [80.73561460934809]
  多モード物体追跡は 相補的なセンサーデータを活用することで 目覚ましい堅牢性を達成した 我々は予測ヘッドを重要ではあるが、しばしば見過ごされる効率ボトルネックとみなしている。 デコーダアーキテクチャを戦略的に合理化することで、リアルタイム推論の可能性を解き放ちます。
  論文  参考訳（メタデータ） (2026-08-02T20:41:33Z)
• Design and Validation of a Lightweight 1D CNN for Affective Touch Classification in Soft Plush Companions [59.49967357689445]
  ソフトなセンサー付きコンパニオンは、社会的支援技術のための物理的に安全で感情的に直感的なインターフェースを提供する。 本研究では,ソフト・インタラクティブ・コンパニオンにおける感情的触覚認識のためのディープラーニングモデルの開発と検証を目的とした,オープンソースで拡張されたリアルタイムフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-16T10:20:05Z)
• Harnessing Lightweight Transformer with Contextual Synergic Enhancement for Efficient 3D Medical Image Segmentation [59.711744386226194]
  モデル効率を実現するための軽量トランスであるLight-UNETRを提案する。 Light-UNETRは軽量次元減少(LIDR)モジュールを備えており、空間次元とチャネル次元を減少させる。 また,変換器のデータ効率向上を目的としたCSE学習戦略も導入した。
  論文  参考訳（メタデータ） (2026-03-24T16:24:19Z)
• Step 3.5 Flash: Open Frontier-Level Intelligence with 11B Active Parameters [169.7981969517903]
  Step 3.5 Flashは、フロンティアレベルのエージェントインテリジェンスと計算効率を橋渡しする。 エージェントを構築する上で最も重要なもの、すなわち、シャープな推論と高速で信頼性の高い実行に重点を置いています。
  論文  参考訳（メタデータ） (2026-02-11T07:53:51Z)
• Every Step Evolves: Scaling Reinforcement Learning for Trillion-Scale Thinking Model [100.86587937568832]
  Ring-1Tは、数兆のパラメータを持つ最初のオープンソースの最先端の思考モデルである。 総パラメータは1兆で、1トークンあたり約500億を活性化する。
  論文  参考訳（メタデータ） (2025-10-21T17:46:14Z)
• Model compression using knowledge distillation with integrated gradients [0.0]
  統合勾配(IG)を用いた知識蒸留の高度化手法を提案する。 提案手法では,IGマップを学習中の入力画像にオーバーレイし,教師モデルの意思決定プロセスに関するより深い洞察を学生モデルに提供する。 本手法はトレーニング前にIGマップを事前計算し,実行時コストを1回の事前処理ステップに変換する。
  論文  参考訳（メタデータ） (2025-06-17T12:00:23Z)
• Efficient Leaf Disease Classification and Segmentation using Midpoint Normalization Technique and Attention Mechanism [0.0]
  画像前処理のための2段階変換手法であるミドルポイント正規化(MPN)を導入する。 分類パイプラインは、例外的なクラスバランスを維持しながら、93%の精度を達成する。 セグメンテーションタスクでは,MPNを付加した入力を用いて,U-Netアーキテクチャ内の同一の注意ブロックをシームレスに統合する。
  論文  参考訳（メタデータ） (2025-05-27T15:14:04Z)
• Knowledge Distillation: Enhancing Neural Network Compression with Integrated Gradients [0.0]
  本稿では,知識蒸留(KD)と統合勾配(IG)を併用した機械学習フレームワークを提案する。 本稿では,教師モデルから事前計算されたIGマップを訓練画像上にオーバーレイして,コンパクトな学生モデルを重要な特徴表現へ導く,新たなデータ拡張戦略を提案する。 CIFAR-10の実験は,本手法の有効性を実証している: MobileNet-V2 教師の4.1倍圧縮した学生モデルでは,標準の 91.4% と従来の KD アプローチを上回り,分類精度92.5% を達成し,推論遅延を 140 ms から 13 ms-a 10fold に低減した。
  論文  参考訳（メタデータ） (2025-03-17T10:07:50Z)
• CARE Transformer: Mobile-Friendly Linear Visual Transformer via Decoupled Dual Interaction [77.8576094863446]
  本稿では,新しいdetextbfCoupled dutextbfAl-interactive lineatextbfR atttextbfEntion (CARE) 機構を提案する。 まず,非対称な特徴分離戦略を提案し,非対称的に学習プロセスを局所帰納バイアスと長距離依存に分解する。 分離学習方式を採用し,特徴間の相補性を完全に活用することにより,高い効率性と精度を両立させることができる。
  論文  参考訳（メタデータ） (2024-11-25T07:56:13Z)
• Advancing Compressed Video Action Recognition through Progressive Knowledge Distillation [6.738409533239947]
  圧縮ビデオアクション認識は、圧縮されたビデオ、すなわちモーションベクトル、残差、フレーム内の様々なモードを活用することで、ビデオサンプルを分類する。 本稿では,PKD(Progressive Knowledge Distillation)を提案する。PKD(Progressive Knowledge Distillation)は,動きベクトルネットワークから始まる知識を蒸留し,残差を除去し,最後にフレーム内ネットワークを逐次改善し,IC精度を向上する手法である。 実験では,PKDを用いたICのトレーニングの有効性を実証し,ICの精度を最大5.87%,11.42%向上させた。
  論文  参考訳（メタデータ） (2024-07-02T23:30:01Z)
• LOT: Layer-wise Orthogonal Training on Improving $\ell_2$ Certified Robustness [14.206377940235091]
  近年の研究では、リプシッツ制約によるディープニューラルネットワーク(DNN)のトレーニングは、対向的ロバスト性や安定性などのモデル特性を高めることができることが示されている。 本研究では,1-Lipschitz畳み込み層を効果的に学習するための層ワイド直交訓練法(LOT)を提案する。 LOTは、決定論的l2証明されたロバスト性に関して、ベースラインを著しく上回り、より深いニューラルネットワークにスケールすることを示す。
  論文  参考訳（メタデータ） (2022-10-20T22:31:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。