論文の概要: When does fusing hand-crafted knowledge with learned representations pay? A cost-normalized benchmark of stacking, substitution, and interference

• arxiv url: http://arxiv.org/abs/2608.21098v1
• Date: Fri, 21 Aug 2026 13:44:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.557109
• Title: When does fusing hand-crafted knowledge with learned representations pay? A cost-normalized benchmark of stacking, substitution, and interference
• Title（参考訳）: 学習表現で手作り知識を融合させるのはいつか? 積み重ね、置換、干渉のコスト正規化ベンチマーク
• Abstract要約: データ駆動学習による事前知識の融合は、データが不足している場合に魅力的だが、それが役に立つ、冗長な、あるいは有害な場合には、制御されたアカウントが言うことはない。 我々は、データ駆動型代替(SimCLR、SimSiam、DINO、ImageNet転送、拡張、学習教師)に対して、トレーニング期間中に$sim$2%のオーバーヘッドでのみ注入されたGaborターゲットのピン留めされたバンクである固定手作りの知識ソースをベンチマークした。 測定したトレーニング時間の組み合わせ全体において、3つの結果が再帰する(決定レベル融合が異なる)。
• 参考スコア（独自算出の注目度）: 26.45899223541571
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Fusing prior knowledge with data-driven learning is attractive where data is scarce, yet no controlled account says when it helps, is redundant, or harms. We benchmark one fixed hand-crafted knowledge source, a pinned bank of Gabor targets injected only during training at $\sim$2\% overhead, against data-driven alternatives (SimCLR, SimSiam, DINO, ImageNet transfer, augmentation, learned teachers) under one frozen recipe with fixed subsets: 13 datasets, 9 backbones, 150 to 1.28M images, 32--224\,px, 2.5M--86M parameters ($\computeCells$ classification configurations over $\computeRuns$ runs, plus segmentation and detection transplants). Across the training-time combinations we measure, three outcomes recur (decision-level fusion differs). Different-\emph{currency} sources can stack: the prior composes with DeiT augmentation on attention backbones and is worth $+26$ points to ViT-B/16 at $224$\,px, $+6.7$ at twice that budget. Same-currency sources substitute: against effective self-supervised pretraining, the combination never usefully exceeds the better single source. Fusing at full strength into an already-informed initialization interferes in proportion to what it carries: ImageNet transfer, $-15$ to $-17$ points, removed by a weaker auxiliary weight. Frozen-feature diagnostics measured on each source alone separate these outcomes retrospectively but do not predict them: a rule built on them calls one of nine unseen pairs. At a practitioner's own label budget, the frozen-feature gain predicts the end-to-end gain to within $0.17$ points across 30 cells and seven datasets; the underlying decomposition, $Δ= G + \readout(\mathrm{base})$, holds in sign on $\auditRate\%$ of testable cells and is called an unseen backbone family's feature gain in advance. The project page is https://amughrabi.github.io/MomentAux.
• Abstract（参考訳）: データ駆動学習による事前の知識の融合は、データが不足している場合に魅力的だが、それが役に立つ、冗長である、あるいは害がある場合には、制御されたアカウントが言うことはない。 13のデータセット、9のバックボーン、150から128Mのイメージ、32--224\,px, 2.5M--86Mのパラメータ($\computeCells$ run, plus segmentation and detections)。 トレーニング時間の組み合わせ全体では、3つの結果が再帰する(決定レベル融合が異なる)。 different-\emph{currency} sources can stack: the prior composes with DeiT augmentation on attention backbones and is $26$ worth $+26$ to ViT-B/16 at $224$\,px, $6.7$ at the double budget。 効果的な自己監督型事前訓練に対して、この組み合わせはより良い単一ソースを超えることは決してない。 ImageNet transfer, $-15$ to $-17$ points, removed by a weaker assistant weight。 各ソースで測定された凍結状態の診断は、これらの結果を振り返って区別するが、予測しない。 実践者自身のラベル予算では、凍結状態のゲインは30のセルと7つのデータセットで、エンドツーエンドのゲインを0.17ドル以内に予測する。 プロジェクトページはhttps://amughrabi.github.io/MomentAux.com。

関連論文リスト

• Teach it to stop, not just to click [0.0]
  修復された政策の成功率は上流の足場に支配されていることを示す。 通常のk-seedレポートのためのライブラリ(cua_reliability)をリリースする。
  論文  参考訳（メタデータ） (2026-07-19T08:46:06Z)
• A Spectral Phase Diagram for Binary Few-Shot Classification: Intrinsic Dimensionality, Geometric Saturation, and Representational Diagnosis [0.0]
  飽和指数 $S(K) = operatornameerank(widehat_W(K)) / K$ は、プールされたクラス内サンプルの有効ランクとショットカウントとの比を測る。 インデックスはサポート機能だけで$O(d3)$ timeで計算可能で、テストラベルやトレーニングされた分類子を必要としない。
  論文  参考訳（メタデータ） (2026-06-12T16:46:24Z)
• Scaling Laws for Agent Harnesses via Effective Feedback Compute [53.68149869349268]
  emphEffective Feedback Compute (EFC)は、情報的、有効、非冗長な場合にのみフィードバックを信用し、その後の決定のために保持するトレースレベルのスケーリング座標である。 EFCベースの座標は、生の計算ベースラインよりも失敗率を常に予測する。
  論文  参考訳（メタデータ） (2026-05-28T09:45:47Z)
• Reducing cross-sample prediction churn in scientific machine learning [0.155963096715749]
  クロスサンプル予測は、科学的-MLベンチマークレポートでは、パラメータ側とデータ側メソッドが実際に異なるメトリックで区別できないため、予測性能と並行してカラムに値する。
  論文  参考訳（メタデータ） (2026-05-13T17:50:57Z)
• The Growing Pains of Frontier Models: When Leaderboards Stop Separating and What to Measure Next [0.0]
  リーダーボードは独立した軸上でフロンティアモデルをランク付けするが、機能強化やリリース間のトレードオフは明らかにしない。 我々はSWEベンチとGPQAダイアモンドスコアを集団結合傾向とリリース毎残差に分解する。 我々は,3段階のプレイブック(位置,診断,回転),ラベルごとの測定・優先度表,そして7つの偽造予測を提供する。
  論文  参考訳（メタデータ） (2026-05-13T03:19:38Z)
• What Do EEG Foundation Models Capture from Human Brain Signals? [64.48249643001402]
  現代の脳波基礎モデルは、自己教師付き事前訓練を通じて生信号から直接学習する。 我々は3つのサブクエストに分解する: モデルが何を学習するか、モデルを何に使用するのか、そしてどのように説明できるのか。 3つの基礎モデル(CSBrain, CBraMod, LaBraM),5つの臨床タスク(MDD, Stress, ISRUC-Sleep, TUSL, Siena)と6ファミリー63機能レキシコンを含む。
  論文  参考訳（メタデータ） (2026-05-12T01:57:53Z)
• Hardware Validation of DAGI via a Modular "Ridge" Signature and High-Order Synergistic Information [0.0]
  IBM Quantumハードウェア上でのDAGI(Directed Acyclic Graph Information)フレームワーク。 理想的な出力分布が低次元モジュラー多様体(リッジ)に制約される小さな制御された実験 キーリカバリはチャンスを超えた:ショット毎の精度0.1689(チャンス0.125,95% Wilson CI[0.1610, 0.1772]) これらの結果は、DAGIが非自明でハードウェアに耐性のある情報構造を検出し、定量化するという主張を支持する。
  論文  参考訳（メタデータ） (2026-04-16T14:16:59Z)
• Multiple-play Stochastic Bandits with Prioritized Arm Capacity Sharing [52.124267908936396]
  このモデルは、$M$armと$K$playで構成されている。 各アームには複数の能力があり、各ユニットの能力は報酬関数に関連付けられている。 複数のプレーがアームキャパシティを競う場合、アームキャパシティは第1の優先重みで割り当てられる。
  論文  参考訳（メタデータ） (2025-12-25T11:19:09Z)
• Improved Algorithm for Adversarial Linear Mixture MDPs with Bandit Feedback and Unknown Transition [71.33787410075577]
  線形関数近似,未知遷移,および逆損失を用いた強化学習について検討した。 我々は高い確率で$widetildeO(dsqrtHS3K + sqrtHSAK)$ regretを実現する新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-03-07T15:03:50Z)
• Self-Directed Linear Classification [50.659479930171585]
  オンライン分類では、学習者は、誤りの総数を最小限に抑えるために、オンラインでラベルを予測することを目的としている。 そこで本研究では,予測順序の選択能力について検討し,最低次学習とランダム次学習の分離を初めて確立する。
  論文  参考訳（メタデータ） (2023-08-06T15:38:44Z)
• Blessing of Class Diversity in Pre-training [54.335530406959435]
  事前学習タスクのクラスが十分に多種多様である場合、事前学習は下流タスクのサンプル効率を大幅に向上させることができることを示す。 我々の証明は、合成関数クラスに対するベクトル形式ラデマッハ複雑性連鎖則と修正自己調和条件に依存している。
  論文  参考訳（メタデータ） (2022-09-07T20:10:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。