論文の概要: BDNet: Fast-slow thinking is all you need

• arxiv url: http://arxiv.org/abs/2610.41485v1
• Date: Fri, 30 Oct 2026 09:41:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.672992
• Title: BDNet: Fast-slow thinking is all you need
• Title（参考訳）: BDNet: 高速スロー思考は必要なだけ
• Abstract要約: 高速な画像特徴と遅い統計参照を中心に構築された階層的な画像分類バックボーンであるBDNetを提案する。 クリーンな分類、8つの制御されたアブレーション、ガウスノイズ、コントラスト、明るさの摂動に関するImageNet-1K研究を組織する。
• 参考スコア（独自算出の注目度）: 5.7253343304946895
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present BDNet, a hierarchical image-classification backbone built around fast image features and slow statistical references. Its baseline deformation operator (BDO) transforms the deviation of a feature from a stage-specific reference through a low-rank projection and a learned channel scale. Rather than computing pairwise token similarity, the branch operates directly on baseline-relative residuals with complexity linear in the token count. Each of four reference buffers accumulates detached stage statistics during training and remains frozen at inference. A four-stage pyramid with depths $(2,2,6,2)$ and widths $(96,192,384,768)$ yields a 20.70M-parameter classifier at $224\times224$ resolution. We organize an ImageNet-1K study around clean classification, eight controlled ablations, and Gaussian-noise, contrast, and brightness perturbations. The central hypothesis is that a slow reference can improve the robustness of a compact representation while retaining a simple tensor implementation. We distinguish this training-time statistical mechanism from input-dependent attention and make its linear inference behavior explicit.
• Abstract（参考訳）: 高速な画像特徴と遅い統計参照を中心に構築された階層的な画像分類バックボーンであるBDNetを提案する。 そのベースライン変形演算子(BDO)は、低ランク投影と学習チャネルスケールを通じて、ステージ固有の参照から特徴の偏差を変換する。 ペアワイズトークンの類似性を計算するのではなく、分岐はトークン数において複雑性が線形なベースライン相対残差を直接操作する。 4つの参照バッファはそれぞれ、トレーニング中に切り離されたステージ統計を蓄積し、推論時に凍結する。 深さが2,2,6,2)$で幅が(96,192,384,768)$の4段ピラミッドは、224\times224$の20.70Mパラメータ分類器を出力する。 クリーンな分類、8つの制御されたアブレーション、ガウスノイズ、コントラスト、明るさの摂動に関するImageNet-1K研究を組織する。 中心的な仮説は、遅い参照は単純なテンソル実装を維持しながらコンパクト表現の堅牢性を向上させることができるというものである。 我々は、この学習時間統計機構を入力依存の注意と区別し、その線形推論挙動を明示する。

関連論文リスト

• Compute Has Shape: Self-Morphing the Internal Computation of Frozen LLMs [66.81922093956588]
  テストタイムのスケーリングは、さらなる計算によって大きな言語モデルを改善する。 既存のアプローチは、トレーニング中にリカレントアーキテクチャや並列アーキテクチャを主に修正する。 計算形状を入力依存推論時間決定とするSelfMorphを導入する。
  論文  参考訳（メタデータ） (2026-10-28T07:19:28Z)
• The Residual Stream's Effective Depth [10.776510686549338]
  $Deff$は、トランスフォーマーの階層的残留ストリームを離散時間プロセスとして扱う診断である。 16のデフォルト値のうち15は$F_L$以下である。 OLMo-2の初期に確立され、5Tトークンを介して安定するが、Pythia-1.4Bは異なる減少軌道を辿る。
  論文  参考訳（メタデータ） (2026-09-25T10:36:43Z)
• ActMap: Single-Pass Uncertainty Quantification from Generation-Time Activation Maps [1.7403133838762448]
  ActMapは、生成時の隠れ状態軌跡を固定された12時間s32times128$の時間統計チャネルに圧縮する表現である。 小型ビジョン変換器としてインスタンス化された軽量分類器は、各マップから推定された正当性確率をミリ秒単位で読み取る。
  論文  参考訳（メタデータ） (2026-09-10T13:04:24Z)
• Representation Entanglement for Generation: Training Diffusion Transformers Is Much Easier Than You Think [63.25744258438214]
  REPAとその変種は、事前訓練されたモデルから外部の視覚表現を取り入れることで、拡散モデルのトレーニング課題を効果的に軽減する。 偏見推論過程全体において欠落している外部アライメントは、識別的表現の可能性を完全に活用するに足らないと我々は主張する。 本稿では,事前学習した基礎モデルから,低レベル画像ラテントを1つの高レベルクラストークンで絡み合わせるRepresentation Entanglement for Generation (REG)を提案する。
  論文  参考訳（メタデータ） (2025-07-02T08:29:18Z)
• vCache: Verified Semantic Prompt Caching [95.16654660556975]
  本稿では,ユーザ定義エラー率保証を備えた最初の検証済みセマンティックキャッシュであるvCacheを提案する。 オンライン学習アルゴリズムを使用して、キャッシュされたプロンプト毎に最適な閾値を推定し、追加のトレーニングなしで信頼性の高いキャッシュ応答を可能にする。 我々の実験によると、vCacheは特定のエラー境界を一貫して満たし、最先端の静的な閾値と微調整された埋め込みベースラインより優れています。
  論文  参考訳（メタデータ） (2025-02-06T04:16:20Z)
• Fast constrained sampling in pre-trained diffusion models [80.99262780028015]
  任意の制約下で高速で高品質な生成を可能にするアルゴリズムを提案する。 我々の手法は、最先端のトレーニングフリー推論手法に匹敵するか、超越した結果をもたらす。
  論文  参考訳（メタデータ） (2024-10-24T14:52:38Z)
• Breaking the Memory Barrier: Near Infinite Batch Size Scaling for Contrastive Loss [59.835032408496545]
  本稿では, コントラスト損失計算を任意の小ブロックに分割するタイルベースの戦略を提案する。 分散システムの階層構造を活用するためのマルチレベルタイリング戦略も導入する。 SOTAメモリ効率のソリューションと比較すると、同等の速度を維持しながら、メモリの2桁の削減を実現している。
  論文  参考訳（メタデータ） (2024-10-22T17:59:30Z)
• Large-Margin Representation Learning for Texture Classification [67.94823375350433]
  本稿では,テクスチャ分類のための小さなデータセット上で教師付きモデルをトレーニングするために,畳み込み層(CL)と大規模計量学習を組み合わせた新しいアプローチを提案する。 テクスチャと病理画像データセットの実験結果から,提案手法は同等のCNNと比較して計算コストが低く,収束が早く,競争精度が向上することが示された。
  論文  参考訳（メタデータ） (2022-06-17T04:07:45Z)
• Barlow Twins: Self-Supervised Learning via Redundancy Reduction [31.077182488826963]
  SSL(Self-supervised Learning)は、大規模なコンピュータビジョンベンチマークの監督メソッドによるギャップを急速に閉じています。 2つの同一ネットワークの出力間の相互相関行列を測定することにより,崩壊を自然に回避する目的関数を提案する。 これにより、歪んだサンプルの表現ベクトルは類似し、これらのベクトルの成分間の冗長性が最小化される。
  論文  参考訳（メタデータ） (2021-03-04T18:55:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。