論文の概要: Rank-Reliable Teacher-Guided Fitness Approximation for Expensive Evolutionary Optimization: A TinyML Architecture Search Study

• arxiv url: http://arxiv.org/abs/2609.30553v1
• Date: Thu, 24 Sep 2026 21:03:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.139831
• Title: Rank-Reliable Teacher-Guided Fitness Approximation for Expensive Evolutionary Optimization: A TinyML Architecture Search Study
• Title（参考訳）: 高度進化最適化のためのランク信頼型教師ガイド型フィットネス近似:TinyMLアーキテクチャ検索研究
• Abstract要約: Teacher-Guided Learning NSGA-IIは、制約付きTiny Machine Learning(TinyML)ニューラルアーキテクチャサーチのための低忠実度フレームワークである。 我々は,評価分散,スコア集中,ペアワイズインバージョン,期待Kendall-$,ファーストフロント識別,ハイパーアダプティブ摂動の分析を行った。 キーワードスポッティングとバードコール分類では、測定値であるKendall-$$は0.74と0.62であり、対応する予測下限である0.60と0.46を上回っている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Expensive evolutionary search does not always need an exact fitness estimate for every candidate. It often needs a reliable answer to a simpler question: which candidate is better? We address this need through Teacher-Guided Learning NSGA-II (TGL-NSGA-II), a low-fidelity framework for constrained Tiny Machine Learning (TinyML) neural architecture search. A pretrained teacher organizes samples into strata defined jointly by difficulty and class. Each candidate then undergoes KD-Lite, a short and capped knowledge-distillation procedure on a compact training set, before being scored on a separate stratified evaluation set. This teacher-guided score is fused with a Gaussian-process surrogate to select candidates for full evaluation. For a fixed candidate population, we analyse evaluation variance, score concentration, pairwise rank inversion, expected Kendall-$τ$, first-front identification, and hypervolume perturbation. We also derive a variance-aware fusion weight and a capacity-adaptive distillation rule. On keyword spotting and bird-call classification, the measured Kendall-$τ$ values are 0.74 and 0.62, exceeding the corresponding predicted lower bounds of 0.60 and 0.46. Joint stratification reduces proxy-score variance by 41% relative to random evaluation. Selective teacher mismatch, in contrast, increases differential bias and reduces Kendall-$τ$ to 0.41. Under a constrained evaluation budget, TGL-NSGA-II achieves the largest mean hypervolume and smallest generational distance on keyword spotting, records the lowest mean false-positive rate on BirdCLEF, and runs 2.2x faster than full NSGA-II. These guarantees apply to population-level low-fidelity evaluation and do not establish convergence of the complete evolutionary trajectory.
• Abstract（参考訳）: 過剰な進化的探索は、常に全ての候補者の正確な適合度を推定する必要はない。 単純な質問に対して、信頼できる答えが必要な場合が多い。 教師ガイド学習NSGA-II(TGL-NSGA-II)は,制約付きTinyML(TinyML)ニューラルアーキテクチャ探索のための低忠実度フレームワークである。 事前訓練された教師は、サンプルを難易度と授業で共同で定義した階層に整理する。 それぞれの候補はKD-Lite(KD-Lite)という短い、キャップ付きの知識蒸留手順をコンパクトなトレーニングセットで実行し、その後、別の階層化された評価セットで得点する。 この教師誘導スコアは、ガウス過程シュロゲートで融合され、完全な評価のための候補を選択する。 定型個体群では, 評価分散, スコア濃度, ペアランクインバージョン, 期待Kendall-$τ$, ファーストフロント識別, ハイパーボリューム摂動の解析を行った。 また, 分散型核融合重量とキャパシティ適応蒸留則を導出する。 キーワードスポッティングとバードコール分類では、測定値のKendall-$τ$は0.74と0.62であり、対応する予測下限の0.60と0.46を上回っている。 共同成層化は、ランダム評価と比較して、プロキシスコアの分散を41%削減する。 一方、選択的な教師ミスマッチは差分バイアスを増大させ、Kendall-$τ$を0.41に減少させる。 制約付き評価予算の下では、TGL-NSGA-IIはキーワードスポッティングにおける平均超体積と最小世代距離を達成し、BirdCLEF上では最小平均偽陽性率を記録し、完全なNSGA-IIよりも2.2倍速く動作する。 これらの保証は人口レベルの低忠実度評価に適用され、完全な進化軌道の収束を確立しない。

関連論文リスト

• Online Supervised Dimension Reduction with Random Features: Diagnostics and Computational Trade-offs [3.7044133020722954]
  Online Kernel Supervised principal Component Analysis (OKSPCA)は、有限乱数係数座標における中心となるクロスモーメントと、確立された目的に対するAdamスタイルの正則基底更新を組み合わせたものである。 有限乱数係数座標における中心的クロスモーメントと、確立された目的に対するAdamスタイルの正規直交基底更新を組み合わせたOKSPCAについて、これらの区別について検討する。
  論文  参考訳（メタデータ） (2026-09-17T14:19:29Z)
• EGGROLL, Unrolled: Understanding and Improving Low-Rank Evolution Strategies at Scale [9.562123195246393]
  EGGROLL は高密度ガウス重摂動を低ランクガウス積に置き換えることで LLM の進化戦略を実践する。 有限人口推定器の誤差を解析する。 退避推定器であるLOO-ROLLは、EGGROLLの2つのアンチセティック評価を1方向に置き換えつつ、有限ランクの個体群を保存する。
  論文  参考訳（メタデータ） (2026-09-10T01:58:02Z)
• Prediction-Only Distillation in Linear and Logistic Regression [61.07540493350384]
  自己蒸留は典型的には、学生が教師の元々のトレーニングインプットで再訓練されるときに研究される。 我々は、新しいX予測混合方式により、この予測のみの方式でSDを研究する。 二項ロジスティック回帰では、予測混合は教師と純蒸留の両方より優れていることを示す。
  論文  参考訳（メタデータ） (2026-07-16T20:45:56Z)
• Deterministic Decisions for High-Stakes AI. A Zero-Egress Pipeline with the Deployability of RAG and the Accuracy of Machine Learning [0.0]
  インターベンションバイアス(英語: Intervention bias)は、大規模言語モデル教育アドバイザリーエージェントの以前には確立されていなかった障害モードである。 教師付き政策学習は、このバイアスを排除していることを示す。 LLM-as-judge score is blind to intervention bias, rewarding fluent over-prescription rather than decision quality。
  論文  参考訳（メタデータ） (2026-06-28T08:58:17Z)
• Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
  自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。 任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。 本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
  論文  参考訳（メタデータ） (2026-02-19T17:21:15Z)
• Learning Structural Hardness for Combinatorial Auctions: Instance-Dependent Algorithm Selection via Graph Neural Networks [0.0]
  オークションにおける勝者決定問題はNPハードである。 既存の方法では、どのインスタンスが高速なグリーディを倒すかを確実に予測することはできません。 近年の証拠は、グラフニューラルネットワーク(GNN)が、よく調整された古典的手法を上回ることは滅多にないことを示している。
  論文  参考訳（メタデータ） (2026-02-16T14:26:25Z)
• Partial and Asymmetric Contrastive Learning for Out-of-Distribution Detection in Long-Tailed Recognition [80.07843757970923]
  既存のOOD検出手法は,トレーニングセットが長距離分布している場合,大幅な性能劣化に悩まされていることを示す。 本稿では,部分的および非対称的な教師付きコントラスト学習(PASCL)を提案する。 我々の手法は従来の最先端の手法を1.29%$, $1.45%$, $0.69%$異常検出偽陽性率(FPR)と$3.24%$, 4,.06%$, 7,89%$in-distributionで上回ります。
  論文  参考訳（メタデータ） (2022-07-04T01:53:07Z)
• Improvement of Classification in One-Stage Detector [3.1083395673891108]
  RetinaNetは分類タスクのためのFocal Lossを提案し、1段検出器を大幅に改善した。 我々はRetinaNetの予測を解析し、分類と局所化のミスアライメントが主な要因であることを示す。 本稿では,この問題に対するオブジェクト信頼タスクを提案し,その特徴を分類タスクと共有する。
  論文  参考訳（メタデータ） (2020-11-20T15:56:44Z)
• Sharp Statistical Guarantees for Adversarially Robust Gaussian Classification [54.22421582955454]
  逆向きに頑健な分類の過剰リスクに対する最適ミニマックス保証の最初の結果を提供する。 結果はAdvSNR(Adversarial Signal-to-Noise Ratio)の項で述べられており、これは標準的な線形分類と逆数設定との類似の考え方を一般化している。
  論文  参考訳（メタデータ） (2020-06-29T21:06:52Z)
• Distilling Object Detectors with Task Adaptive Regularization [97.52935611385179]
  現在の最先端のオブジェクト検出器は高い計算コストを犠牲にしており、ローエンドデバイスへのデプロイが困難である。 より大規模な教師モデルから知識を伝達することで、より小さな学生ネットワークを訓練することを目的とした知識蒸留は、モデル小型化のための有望な解決策の1つである。
  論文  参考訳（メタデータ） (2020-06-23T15:58:22Z)
• Generalized Focal Loss: Learning Qualified and Distributed Bounding Boxes for Dense Object Detection [85.53263670166304]
  一段検出器は基本的に、物体検出を密度の高い分類と位置化として定式化する。 1段検出器の最近の傾向は、局所化の質を推定するために個別の予測分岐を導入することである。 本稿では, 上記の3つの基本要素, 品質推定, 分類, ローカライゼーションについて述べる。
  論文  参考訳（メタデータ） (2020-06-08T07:24:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。