論文の概要: Phase-Aware Wavelet-Based-Scattering Encoder-Decoder for Dense Predictions
- arxiv url: http://arxiv.org/abs/2605.24621v1
- Date: Sat, 23 May 2026 15:12:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 19:50:18.277686
- Title: Phase-Aware Wavelet-Based-Scattering Encoder-Decoder for Dense Predictions
- Title(参考訳): 位相対応ウェーブレットベース散乱エンコーダデコーダ
- Authors: Ghassen Marrakchi, Basarab Matei,
- Abstract要約: 位相対応散乱デコーダは、世界平均で失われた空間構造を復元する。
位相情報は、ピクセルレベルの予測における散乱の安定性表現性トレードオフを補完する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scattering transforms achieve Lipschitz stability and translation invariance, but dense prediction tasks require preserving spatial structure lost in global averaging. We propose Phase-Aware Scattering Encoder-Decoder, which restores this information by explicitly preserving phase in skip connections. On image denoising (BSD68), breaking translation invariance improves PSNR by $+2.17$~dB; phase preservation adds $+1.03$~dB. A novel spatial shuffling ablation ($-1.26$~dB penalty) demonstrates phase encodes location-dependent structure. We conduct a preliminary extensibility study on a second dense prediction task (ISIC skin lesion segmentation), with full cross-validation as ongoing work. This work advances principled wavelet-deep learning integration, showing how phase information complements scattering's stability-expressiveness trade-off in pixel-level prediction.
- Abstract(参考訳): 散乱変換はリプシッツの安定性と変換不変性を達成するが、密度の高い予測タスクは、地球平均で失われる空間構造を保存する必要がある。
本研究では,スキップ接続における位相を明示的に保存することで,この情報を復元する位相対応散乱エンコーダを提案する。
Image Denoising (BSD68)では、破壊翻訳の不変性はPSNRを$2.17$~dBで改善し、位相保存には$+1.03$~dBが加えられる。
新しい空間シャッフルアブレーション(1.26$~dBペナルティ)は、位置依存構造をコードする位相を示す。
本研究は,第2の高密度皮膚病変のセグメンテーション(ISIC)に関する予備的拡張性試験を行い,全クロスバリデーションを進行中の作業として実施する。
この研究はウェーブレット-ディープ学習統合の原理を推し進め、位相情報が画素レベルの予測において散乱の安定性-表現性トレードオフを補完することを示す。
関連論文リスト
- Bandit Convex Optimization with Gradient Prediction Adaptivity [56.816177049016794]
本研究では, 楽観的な勾配予測が, 最悪の後悔の保証を予測順応的に改善できるかどうかを考察する。
鍵となるアイデアは、分散が勾配ノルムではなく予測誤差でスケールする、新しい分散還元勾配推定器である。
我々は、$(sqrtmathbbE[S_T])$としてスケールする情報理論の下限を確立し、最も達成可能な予測適応的後悔の基本的な特徴を提供する。
論文 参考訳(メタデータ) (2026-05-21T08:57:38Z) - Scaling Attention via Feature Sparsity [50.64995497733461]
超長期のコンテキストにトランスフォーマーをスケールすることは、自己注意のコスト$O(n2 d)$コストによってボトルネックとなる。
本稿では,高次元表現性を維持するために,クエリとキーを$k$sparseコードとして表現するスパース特徴注意法を提案する。
GPT-2とQwen3の事前トレーニングで、SFAは密度の高いベースラインにマッチし、最高2.5タイムのスピードを向上し、FLOPとKVキャッシュを50%近く削減した。
論文 参考訳(メタデータ) (2026-03-17T08:41:50Z) - Robust and Efficient Zeroth-Order LLM Fine-Tuning via Adaptive Bayesian Subspace Optimizer [4.6561758107970395]
ゼロオーダー (ZO) 最適化による微調整大型言語モデル (LLM) は,関数評価による勾配の近似によりメモリ削減を行う。
適応型textbfBayesian textbfSubspace textbfZeroth-Order textbfOptimizer について紹介する。
論文 参考訳(メタデータ) (2026-01-04T09:35:11Z) - Phase-space entropy at acquisition reflects downstream learnability [54.4100065023873]
楽器分解位相空間に基づく取得レベルスカラー$S_mathcal B$を提案する。
本稿では, (S_mathcal B) が周期サンプリングの位相空間コヒーレンスを正確に同定できることを理論的に示す。
$|S_mathcal B|$は一貫してサンプリングジオメトリをランク付けし、トレーニングなしで下流での再構築/認識の困難を予測します。
論文 参考訳(メタデータ) (2025-12-22T10:03:51Z) - SPRINT: Stochastic Performative Prediction With Variance Reduction [18.735898645810405]
Performative Prediction(PP)は、機械学習(ML)モデルのためのアルゴリズムフレームワークで、モデルのデプロイメントがトレーニングされたデータの分散に影響を与える。
本稿では,SSPS実験による性能予測という新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-09-22T00:56:17Z) - Understanding Warmup-Stable-Decay Learning Rates: A River Valley Loss Landscape Perspective [66.80315289020487]
Warmup-Stable-Decay (WSD) スケジュールは、一定の学習率を使用して、所定の計算予算なしで無限に継続できるイテレーションのメインブランチを生成する。
プレトレーニング損失は,河底に川がある深い谷に類似した河谷景観を呈することを示す。
この理論にインスパイアされたWSD-Sは、従来のチェックポイントの崩壊フェーズを再利用し、メインブランチを1つだけ保持するWSDの変種である。
論文 参考訳(メタデータ) (2024-10-07T16:49:39Z) - Phase Transitions for the Information Bottleneck in Representation
Learning [14.381429281068565]
Information Bottleneck(IB)では、圧縮と予測項の相対的な強度をチューニングする場合、この2つの用語はどのように振る舞うか、データセットと学習された表現との関係はどのようなものか?
IB損失ランドスケープの質的変化としてIB位相遷移の定義を導入し,その遷移が新しいクラス学習の開始に対応することを示す。
IB相転移の実用的な条件を提供する式を導出し、パラメータ化モデルのフィッシャー情報行列と接続する。
論文 参考訳(メタデータ) (2020-01-07T03:55:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。