Fugu-MT 論文翻訳(概要): Parameter-Efficient Adapter Tuning for Tabular-Image Multimodal Learning

論文の概要: Parameter-Efficient Adapter Tuning for Tabular-Image Multimodal Learning

arxiv url: http://arxiv.org/abs/2606.11682v1
Date: Wed, 10 Jun 2026 05:52:12 GMT
ステータス: 翻訳完了
システム内更新日: 2026-06-11 16:42:38.314839
Title: Parameter-Efficient Adapter Tuning for Tabular-Image Multimodal Learning
Title（参考訳）: マルチモーダル学習のためのパラメータ効率の良い適応型チューニング
Authors: Jiaqi Luo,
Abstract要約: TI-Adapterは、効率的なマルチモーダル適応のためのモダリティ固有のアダプタベースの微調整フレームワークである。実験によると、TI-Adapterは完全な微調整よりも、競争力や予測性能が優れている。
参考スコア（独自算出の注目度）: 0.40611352512781873
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Tabular-image multimodal learning aims to improve predictive modeling by jointly using structured tabular attributes and visual data. Although pretrained encoders provide strong modality-specific representations, full fine-tuning can be computationally expensive, while keeping encoders frozen may limit task-specific adaptation. We propose the Tabular-Image Adapter (TI-Adapter), a modality-specific adapter-based fine-tuning framework for efficient multimodal adaptation. TI-Adapter freezes the pretrained tabular encoder and learns an adapter after the extracted tabular embedding, while adapting the image branch with embedding-level and bottleneck-level adapters instead of full fine-tuning. Experiments on 20 tabular-image datasets show that TI-Adapter achieves competitive or better predictive performance than full fine-tuning while using substantially fewer trainable parameters. Ablation studies further demonstrate the importance of adapter placement for balancing performance and practical efficiency.
Abstract（参考訳）: Tabular-image Multimodal Learningは,構造化表属性と視覚データとを併用して予測モデルを改善することを目的としている。事前訓練されたエンコーダは、強いモダリティ固有の表現を提供するが、完全な微調整は計算コストがかかるが、エンコーダの凍結はタスク固有の適応を制限する可能性がある。マルチモーダル適応を効率的に行うためのモダリティ固有のアダプタベースの微調整フレームワークであるTabular-Image Adapter (TI-Adapter)を提案する。 TI-Adapterは事前学習した表層エンコーダを凍結し、抽出した表層埋め込み後のアダプタを学習する。 20のグラフイメージデータセットの実験では、TI-Adapterは、トレーニング可能なパラメータをかなり少なく使用しながら、完全な微調整よりも、競争力や予測性能が向上している。アブレーション研究は、性能と実用効率のバランスをとるためのアダプタ配置の重要性をさらに示している。

関連論文リスト

iConFormer: Dynamic Parameter-Efficient Tuning with Input-Conditioned Adaptation [15.97351561456467]
本稿では,iConFormerと呼ばれる新しいPEFT手法,入出力トランスフォーマーを提案する。インスタンスレベルの特徴変換を可能にする動的アダプタに,入出力ネットワーク(iCoN)を導入する。具体的に言うと、iCoNは各機能に対してチャネルワイドな畳み込みカーネルを生成し、それを適応畳み込みプロセスを使って変換し、下流タスクに適したタスク固有できめ細かな詳細を効果的にキャプチャする。
論文参考訳（メタデータ） (2024-09-04T16:06:23Z)
Dynamic Tuning Towards Parameter and Inference Efficiency for ViT Adaptation [67.13876021157887]
動的チューニング(DyT)は、ViT適応のためのパラメータと推論効率を改善するための新しいアプローチである。 DyTは既存のPEFT法に比べて性能が優れており、VTAB-1KベンチマークではFLOPの71%しか呼び出されていない。
論文参考訳（メタデータ） (2024-03-18T14:05:52Z)
MoSA: Mixture of Sparse Adapters for Visual Efficient Tuning [20.68925288222065]
スパースアダプタの混合(英: Mixture of Sparse Adapters, MoSA)は、新しいアダプタチューニング法である。 MoSAは、余分な計算ストレージオーバーヘッドを伴わずに、標準よりも大幅にパフォーマンスが向上する。 MoSAは、他のAdapter Tuningメソッド、および他のベースラインを大きなマージンで一貫して上回っている。
論文参考訳（メタデータ） (2023-12-05T17:50:55Z)
MerA: Merging Pretrained Adapters For Few-Shot Learning [71.44422347502409]
モデル融合により,事前学習したアダプタを単一モデルに効率的に組み込むことができるtextbftextttMerging Pretrained Adapters (MerA)を提案する。 2つのPLMの実験では、MerAはシングルアダプタとAdapterFusionの両方と比較して大幅に改善されている。
論文参考訳（メタデータ） (2023-08-30T12:10:17Z)
Adaptable Adapters [74.65986170056945]
最先端のNLPモデルには1億から1兆のパラメータが含まれる。適応アダプタは異なる層と異なる入力データに対して異なるアクティベーション関数を含む。適応型アダプタは,標準アダプタアーキテクチャを用いてオンパー性能を実現する。
論文参考訳（メタデータ） (2022-05-03T14:59:27Z)
AdapterBias: Parameter-efficient Token-dependent Representation Shift for Adapters in NLP Tasks [55.705355299065474]
数百万のパラメータを持つトランスフォーマーベースの事前学習モデルは、大きなストレージを必要とする。近年のアプローチでは、アダプタをトレーニングすることでこの欠点に対処しているが、それでも比較的多くのパラメータを必要とする。本研究では,驚くほどシンプルで効果的なアダプタアーキテクチャであるAdapterBiasを提案する。
論文参考訳（メタデータ） (2022-04-30T16:49:41Z)
Plug-In Inversion: Model-Agnostic Inversion for Vision with Data Augmentations [61.95114821573875]
単純な拡張セットに依存し、過剰なハイパーパラメータチューニングを必要としないPlug-In Inversionを導入する。 ImageNetデータセットでトレーニングされたビジョントランスフォーマー(ViT)とマルチ層パーセプトロン(MLP)を反転させることにより,我々のアプローチの実用性を説明する。
論文参考訳（メタデータ） (2022-01-31T02:12:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。