論文の概要: AdaKerNet: Neural Kernel Decoding for Task-Adaptive Prediction with Multimodal Large Models

• arxiv url: http://arxiv.org/abs/2609.36368v1
• Date: Mon, 28 Sep 2026 22:59:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.049254
• Title: AdaKerNet: Neural Kernel Decoding for Task-Adaptive Prediction with Multimodal Large Models
• Title（参考訳）: AdaKerNet:マルチモーダル大モデルを用いたタスク適応予測のためのニューラルカーネルデコーディング
• Abstract要約: 本稿では,新しいタスク適応型ニューラルカーネルデコーダであるAdaKerNetを紹介する。 AdaKerNetは、基盤となるMLLMのパラメータに完全に依存していない。 様々な利用可能なモダリティから得られる(凍った)豊かな表現にのみ依存する。
• 参考スコア（独自算出の注目度）: 8.273107269602736
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large foundation models have been introduced with the promise of efficient adaptation to downstream tasks. Yet, under limited supervision, MLLMs, an important class of large foundation models, remain challenging to adapt to various downstream tasks. Adaptation typically relies either on MLLM parameter fine-tuning or on training neural-based decoders. Both approaches struggle under limited supervision, while fine-tuning additionally requires access to model parameters, which is often unavailable for closed-source models. We introduce AdaKerNet, a novel learnable task-adaptive neural kernel decoder. AdaKerNet is fully agnostic to the parameters of the underlying MLLM and operates solely on its (frozen) rich representations obtained from the diverse available modalities. AdaKerNet relies on (i) a set of learnable, Lipschitz-controlled multimodal features derived from these MLLM representations; (ii) a reference kernel that provides a soft structural prior on those features; and (iii) a lightweight nonlinear neural predictor that adaptively deforms that structure. Learning the kernel representation and the neural predictor jointly within a unified optimization framework allows AdaKerNet to capture features and geometric relationships relevant to the downstream task. Numerical tests across four MLLMs: BLIP-2, LLaVA-1.5, Qwen2.5-VL, and Gemini Embedding 2, and multimodal inputs spanning text, audio, images, and tabular measurements demonstrate significant and consistent improvements over direct MLP, attention-, autoencoder- and kernel-based decoders, across a range of scarce-label budgets, with average error reduction of up to 41% across baselines. These results establish AdaKerNet as an effective approach for prediction from frozen multimodal representations in the scarce label regime. Additional structural ablations highlight the complementary contributions of AdaKerNet's components.
• Abstract（参考訳）: 下流タスクへの効率的な適応を約束して、大規模な基礎モデルが導入された。 しかし、限られた監督の下では、大規模な基盤モデルの重要クラスであるMLLMは、様々な下流業務に適応することが困難である。 適応は一般的にMLLMパラメータの微調整か、神経ベースのデコーダのトレーニングに依存する。 どちらのアプローチも限られた監督の下では苦労するが、微調整にはモデルパラメータへのアクセスも必要であり、クローズドソースモデルでは利用できないことが多い。 本稿では,新しいタスク適応型ニューラルカーネルデコーダであるAdaKerNetを紹介する。 AdaKerNetは、基盤となるMLLMのパラメータに完全に依存せず、利用可能な様々なモダリティから得られる(凍結した)リッチな表現のみで動作する。 AdaKerNetは依存している i) これらのMLLM表現から導かれる学習可能なリプシッツ制御マルチモーダル特徴の集合。 (ii)これらの特徴に先立ってソフトな構造を提供する参照カーネル、及び 三)その構造を適応的に変形させる軽量非線形神経予測器。 統一最適化フレームワーク内でカーネル表現と神経予測器を共同で学習することで、AdaKerNetは下流タスクに関連する特徴や幾何学的関係をキャプチャできる。 BLIP-2、LLaVA-1.5、Qwen2.5-VL、Gemini Embedding 2の4つのMLLMの数値実験と、テキスト、オーディオ、画像、および表計算を対象とするマルチモーダルな入力は、直接MLP、アテンション、オートエンコーダ、カーネルベースのデコーダよりも大幅に、一貫した改善を示し、平均エラーはベースラインで41%まで減少する。 これらの結果から,AdaKerNetは,希少ラベルシステムにおける凍結マルチモーダル表現からの予測に有効な手法として確立された。 さらなる構造的な改善は、AdaKerNetのコンポーネントの補完的な貢献を強調している。

関連論文リスト

• MSNet and LS-Net: Scalable Multi-Scale Multi-Representation Networks for Time Series Classification [0.6780086370528623]
  時系列分類(TSC)のパフォーマンスは、アーキテクチャ設計だけでなく、入力表現の多様性にも依存する。 構造化多表現入力を体系的に統合するスケーラブルなマルチスケール畳み込みフレームワークを提案する。 我々は、ロバスト性とキャリブレーションに最適化された階層型マルチスケール畳み込みネットワークであるMSNetと、効率を意識したデプロイメント用に設計された軽量なLS-Netの2つのアーキテクチャを紹介する。
  論文  参考訳（メタデータ） (2026-03-14T11:51:01Z)
• Deep Hierarchical Learning with Nested Subspace Networks [53.71337604556311]
  大規模ニューラルネットワークのためのNested Subspace Networks (NSN)を提案する。 NSNは、単一のモデルを連続した計算予算の範囲で動的かつきめ細かな調整を可能にする。 我々は,NSNを訓練済みのLLMに外科的に適用し,スムーズで予測可能な計算性能フロンティアを解き放つことができることを示した。
  論文  参考訳（メタデータ） (2025-09-22T15:13:14Z)
• R-Sparse: Rank-Aware Activation Sparsity for Efficient LLM Inference [77.47238561728459]
  R-スパース(R-Sparse)は、高度なLCMにおいて高い疎度を達成できる訓練不要なアクティベーション・スパシティ・アプローチである。 10種類のタスクにわたるLlama-2/3およびMistralモデルの実験は、R-Sparseが50%のモデルレベルの間隔で同等のパフォーマンスを達成することを示した。
  論文  参考訳（メタデータ） (2025-04-28T03:30:32Z)
• ALWNN Empowered Automatic Modulation Classification: Conquering Complexity and Scarce Sample Conditions [24.59462798452397]
  本稿では、適応軽量ウェーブレットニューラルネットワーク(ALWNN)とマルチショットフレームワーク(MALWNN)に基づく自動変調分類モデルを提案する。 ALWNNモデルは適応ウェーブレットニューラルネットワークと深度分離可能な畳み込みを統合することで、モデルパラメータの数と計算複雑性を低減する。 MALWNNの実験では、他のアルゴリズムと比較して、数ショットの学習シナリオでは優れたパフォーマンスを示している。
  論文  参考訳（メタデータ） (2025-03-24T06:14:33Z)
• Probabilistic MIMO U-Net: Efficient and Accurate Uncertainty Estimation for Pixel-wise Regression [1.4528189330418977]
  機械学習における不確実性推定は、予測モデルの信頼性と解釈可能性を高めるための最重要課題である。 画素ワイド回帰タスクに対するMIMO(Multiple-Input Multiple-Output)フレームワークの適応について述べる。
  論文  参考訳（メタデータ） (2023-08-14T22:08:28Z)
• DeGMix: Efficient Multi-Task Dense Prediction with Deformable and Gating Mixer [129.61363098633782]
  変形およびゲーティングミキサー(DeGMix)を用いた効率的なマルチタスク密度予測法を提案する。 提案したDeGMixはGFLOPを少なくし、現在のTransformerベースの競合モデルとCNNベースの競合モデルを大幅に上回っている。
  論文  参考訳（メタデータ） (2023-08-10T17:37:49Z)
• Bayesian Neural Network Language Modeling for Speech Recognition [59.681758762712754]
  長期記憶リカレントニューラルネットワーク(LSTM-RNN)とトランスフォーマーで表される最先端のニューラルネットワーク言語モデル(NNLM)は非常に複雑になりつつある。 本稿では,LSTM-RNN と Transformer LM の基盤となる不確実性を考慮するために,ベイズ学習フレームワークの全体構造を提案する。
  論文  参考訳（メタデータ） (2022-08-28T17:50:19Z)
• MoEfication: Conditional Computation of Transformer Models for Efficient Inference [66.56994436947441]
  トランスフォーマーベースの事前学習言語モデルは、パラメータ容量が大きいため、ほとんどのNLPタスクにおいて優れた性能を実現することができるが、計算コストも大きい。 スパースアクティベーション現象に基づく条件計算により,大規模モデル推論を高速化する。 そこで本研究では,モデルサイズが等しいMoE(Mix-of-experts)バージョン,すなわちMoEficationに変換することを提案する。
  論文  参考訳（メタデータ） (2021-10-05T02:14:38Z)
• NL-CNN: A Resources-Constrained Deep Learning Model based on Nonlinear Convolution [0.0]
  NL-CNNと略される新しい畳み込みニューラルネットワークモデルが提案され、非線型畳み込みは畳み込み+非線形性層のカスケードでエミュレートされる。 いくつかの広く知られているデータセットのパフォーマンス評価が提供され、いくつかの関連する特徴を示している。
  論文  参考訳（メタデータ） (2021-01-30T13:38:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。