論文の概要: Benchmarking Federated Learning and Knowledge Distillation for Point Cloud Classification

• arxiv url: http://arxiv.org/abs/2607.01272v1
• Date: Tue, 30 Jun 2026 20:12:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.51769
• Title: Benchmarking Federated Learning and Knowledge Distillation for Point Cloud Classification
• Title（参考訳）: ポイントクラウド分類のためのフェデレーション学習と知識蒸留のベンチマーク
• Authors: Aizierjiang Aiersilan,
• Abstract要約: 本稿では,3次元点雲分類のための連成学習(FL)と知識蒸留(KD)を併用して評価する。 13のFLアルゴリズムと10のKD目標(130対のクロスプロダクト)を504のトレーニング実行に当てはめ、ModelNet40と臨床クラニオシノスタシスデータセットで評価されている。
• 参考スコア（独自算出の注目度）: 5.584060970507507
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deploying 3D point cloud analysis in privacy-sensitive, resource-constrained settings faces two barriers: data cannot be centralized, and models must run on limited edge hardware. We present a multi-seed benchmark jointly evaluating federated learning (FL) and knowledge distillation (KD) for 3D point cloud classification. It spans 13 FL algorithms and 10 KD objectives (a 130-pair cross-product) across 504 training runs, evaluated on ModelNet40 and a clinical craniosynostosis dataset. We report three findings. First, under extreme non-IID label skew, standalone FL degrades sharply: on ModelNet40, the strongest method reaches 76.32% against a 92.26% centralized reference; on clinical data, the best reaches 75.83% against 100%. Second, distillation successfully compresses the teacher into a student 74.51% smaller and roughly twice as fast at inference, often matching or surpassing the teacher. Third, the combined pipeline exposes an evaluation pitfall: when distillation keeps a hard-label cross-entropy term on a labeled proxy split, a collapsed federated teacher (8.50%) paired with Logit-MSE still yields a 92.94% student. This 84.4-point gap reflects the proxy labels rather than the federated model, reusing the very labels whose privacy motivated federation. Objectives without hard labels instead track teacher quality ($r \approx 0.99$) and collapse when the teacher does. We therefore recommend evaluating FL-KD pipelines with label-free distillation so reported accuracy reflects the federated teacher, not the proxy.
• Abstract（参考訳）: プライバシに敏感なリソース制約のある設定に3Dポイントクラウド分析をデプロイすることは、2つの障壁に直面します。 本稿では,3次元点雲分類のための連成学習(FL)と知識蒸留(KD)を併用して評価する。 13のFLアルゴリズムと10のKD目標(130対のクロスプロダクト)を504のトレーニング実行に当てはめ、ModelNet40と臨床クラニオシノスタシスデータセットで評価されている。 我々は3つの発見を報告した。 ModelNet40では、最強の手法は76.32%、92.26%、臨床データでは75.83%、100%である。 第二に、蒸留は、教師を74.51%小さく、推論の約2倍の速さで圧縮し、しばしば教師と一致するか、追い越す。 第3に、複合パイプラインは評価の落とし穴を露呈する: ラベル付きプロキシスプリット上で、蒸留がハードラベルのクロスエントロピー項を保持すると、崩壊した連邦教師(8.50%)がLogit-MSEとペアを組むと、92.94%の学生が得られる。 この84.4ポイントのギャップは、フェデレーションモデルではなくプロキシラベルを反映し、プライバシがフェデレーションを動機付けたラベルを再利用している。 ハードラベルのない目的は、教師の質をトラックする(r \approx 0.99$)。 そこで我々は,FL-KDパイプラインをラベルのない蒸留で評価することを推奨する。

関連論文リスト

• Efficient Visual Pointing for Embodied AI:Agent-Driven Data Synthesis, Cross-Block Attention, and Iterative Correction [55.11480729304395]
  PointArena 2026は77.2%の精度でベンチマークで2位である。 ap proachは3つの障害モードをターゲットにしている。第一に、エージェント駆動のシンセシスは大きなセマンティクスとアンカー相対的な候補プールを構築する。 次に、determinis tic steerable-dataパイプラインは、認証された10,000サンプルのメインセットと、マスク、テンプレート、パス検証を使用するリザーブサンプルを生成する。
  論文  参考訳（メタデータ） (2026-06-29T06:39:03Z)
• Asking Back: Interaction-Layer Antidistillation Watermarks [7.826668598190874]
  既存の防御は教師の出力トークンを操作する。 最近の研究によると、悪意のない攻撃者は、根底にある知識を失うことなく、これらの信号を取り除くことができる。 相互作用層型抗蒸留透かしを提案する。
  論文  参考訳（メタデータ） (2026-05-15T08:28:35Z)
• DeltaPrompts: Escaping the Zero-Delta Trap in Multimodal Distillation [49.98710755440242]
  蒸留により、コンパクトなビジョンランゲージモデル(VLM)が強力な推論能力を得ることができる。 標準チャート/文書推論データセットにおけるプロンプトの最大69%は、事実上ゼロデルタである。 既存のデータセットをシードとして再利用し、学生の障害モードを積極的にターゲットとして、より良いプロンプトを生成するためのステージド合成パイプラインを提案する。
  論文  参考訳（メタデータ） (2026-05-15T02:04:12Z)
• Cognitive-Uncertainty Guided Knowledge Distillation for Accurate Classification of Student Misconceptions [11.509375725817195]
  既存のデータから高価値サンプルをマイニングする2段階の知識蒸留フレームワークを提案する。 フィルタされたサンプルのわずか10.30%で強化トレーニングを行うことで、MAP-Chartingデータセットで0.9585 (+17.8%)のMAP@3を達成する。 4Bパラメータモデルのみを用いて、中学代数学の誤概念ベンチマークのクロストピックテストにおいて84.38%の精度が得られる。
  論文  参考訳（メタデータ） (2026-05-14T12:17:38Z)
• When Perplexity Lies: Generation-Focused Distillation of Hybrid Sequence Models [18.966595547209824]
  我々はGenDistillと組み合わせたハイブリッドKimi Delta Attention (Hybrid-KDA)アーキテクチャを提案する。 ログライクリフに基づく評価は,教師と学生のギャップを過小評価する。
  論文  参考訳（メタデータ） (2026-03-27T16:16:23Z)
• LGD: Label-guided Self-distillation for Object Detection [59.9972914042281]
  我々はLGD(Label-Guided Self-Distillation)と呼ばれる汎用物体検出のための最初の自己蒸留フレームワークを提案する。 本フレームワークは, 学習知識を得るために, スパースラベル-外観符号化, オブジェクト間関係適応, オブジェクト内知識マッピングを含む。 従来の教師ベースのFGFIと比較すると、LGDは予習された教師を必要とせず、本質的な学生学習よりも51%低い訓練コストで性能が向上する。
  論文  参考訳（メタデータ） (2021-09-23T16:55:01Z)
• G-DetKD: Towards General Distillation Framework for Object Detectors via Contrastive and Semantic-guided Feature Imitation [49.421099172544196]
  そこで本研究では,すべてのピラミッドレベルにまたがる特徴ペア間のソフトマッチングを自動的に行う,意味誘導型特徴模倣手法を提案する。 また,異なる特徴領域間の関係で符号化された情報を効果的に捉えるために,コントラスト蒸留を導入する。 本手法は,(1)フレームワークのコンポーネントを別々に使用した場合に,既存の検出KD技術よりも優れた性能を発揮する。
  論文  参考訳（メタデータ） (2021-08-17T07:44:27Z)
• Humble Teachers Teach Better Students for Semi-Supervised Object Detection [7.764145630268344]
  我々のモデルは、VOC12をラベルなしデータとして使用する場合、VOC07 valセットで53.04%、STACより8.4%のCOCOスタイルのAPを実現する。 また、MS-COCOテストデーブで53.8%APに達し、完全に監督されたResNet-152 Cascaded R-CNNよりも3.1%アップしている。
  論文  参考訳（メタデータ） (2021-06-19T09:05:10Z)
• 3DIoUMatch: Leveraging IoU Prediction for Semi-Supervised 3D Object Detection [76.42897462051067]
  3DIoUMatchは屋内および屋外の場面両方に適当3D目的の検出のための新しい半監視された方法です。 教師と教師の相互学習の枠組みを活用し,ラベル付けされていない列車の情報を擬似ラベルの形で伝達する。 本手法は,ScanNetとSUN-RGBDのベンチマークにおける最先端の手法を,全てのラベル比で有意差で継続的に改善する。
  論文  参考訳（メタデータ） (2020-12-08T11:06:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。