論文の概要: Test-Time Instance-Specific Parameter Composition: A New Paradigm for Adaptive Generative Modeling

• arxiv url: http://arxiv.org/abs/2603.27665v1
• Date: Sun, 29 Mar 2026 12:31:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.062308
• Title: Test-Time Instance-Specific Parameter Composition: A New Paradigm for Adaptive Generative Modeling
• Title（参考訳）: テスト時間インスタンス特異パラメータ構成:適応生成モデルのための新しいパラダイム
• Authors: Minh-Tuan Tran, Xuan-May Le, Quan Hung Tran, Mehrtash Harandi, Dinh Phung, Trung Le,
• Abstract要約: Composerは、テスト時間インスタンス固有のパラメータ合成に基づく適応生成モデリングのための新しいパラダイムである。 入力対応パラメータ合成を活用することで、Composerは各入力に動的に適応する生成モデルを設計するための新しいパラダイムを確立する。
• 参考スコア（独自算出の注目度）: 38.42229422362911
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing generative models, such as diffusion and auto-regressive networks, are inherently static, relying on a fixed set of pretrained parameters to handle all inputs. In contrast, humans flexibly adapt their internal generative representations to each perceptual or imaginative context. Inspired by this capability, we introduce Composer, a new paradigm for adaptive generative modeling based on test-time instance-specific parameter composition. Composer generates input-conditioned parameter adaptations at inference time, which are injected into the pretrained model's weights, enabling per-input specialization without fine-tuning or retraining. Adaptation occurs once prior to multi-step generation, yielding higher-quality, context-aware outputs with minimal computational and memory overhead. Experiments show that Composer substantially improves performance across diverse generative models and use cases, including lightweight/quantized models and test-time scaling. By leveraging input-aware parameter composition, Composer establishes a new paradigm for designing generative models that dynamically adapt to each input, moving beyond static parameterization.
• Abstract（参考訳）: 拡散や自己回帰ネットワークのような既存の生成モデルは本質的に静的であり、全ての入力を処理するために予め訓練されたパラメータの固定セットに依存している。 対照的に、人間は内的生成表現を知覚的または想像的文脈に柔軟に適応させる。 この能力に触発されたComposerは、テスト時間インスタンス固有のパラメータ合成に基づく適応生成モデリングのための新しいパラダイムである。 Composerは、入力条件パラメータ適応を推論時に生成し、事前訓練されたモデルの重みに注入することで、微調整や再訓練をすることなく、インプット毎の特殊化を可能にする。 適応はマルチステップ生成の前に一度発生し、計算とメモリのオーバーヘッドを最小限に抑えた高品質でコンテキスト対応の出力が得られる。 実験によると、Composerは、軽量/量子化モデルやテスト時間スケーリングなど、さまざまな生成モデルやユースケースでパフォーマンスを大幅に改善する。 入力対応パラメータ合成を活用することで、Composerは、静的パラメータ化を超えて、各入力に動的に適応する生成モデルを設計するための新しいパラダイムを確立する。

関連論文リスト

• HY-WU (Part I): An Extensible Functional Neural Memory Framework and An Instantiation in Text-Guided Image Editing [0.0]
  メモリファースト適応フレームワークHY-WU(Weight Unleashing)を提案する。 適応圧力を1つの共有パラメータポイントの上書きから逸脱させる。 HY-WUは神経モジュールとして機能的(操作レベル)メモリを実装している。
  論文  参考訳（メタデータ） (2026-03-07T14:40:05Z)
• Continual Adaptation: Environment-Conditional Parameter Generation for Object Detection in Dynamic Scenarios [54.58186816693791]
  環境は時間と空間によって常に変化し、クローズドセットの仮定に基づいて訓練された物体検出器にとって重要な課題となる。 そこで本研究では,微調整過程をパラメータ生成に変換する機構を提案する。 特に,2経路LoRAベースのドメイン認識アダプタを最初に設計し,特徴をドメイン不変およびドメイン固有コンポーネントに分解する。
  論文  参考訳（メタデータ） (2025-06-30T17:14:12Z)
• Optimize Incompatible Parameters through Compatibility-aware Knowledge Integration [104.52015641099828]
  既存の研究は、そのようなパラメータを除去したり、複数の異なる事前訓練されたモデルの出力をマージすることに長けている。 本稿では,Deep AssessmentとDeep SplicingからなるCompatibility-Aware Knowledge Integration (CKI)を提案する。 統合モデルは推論やさらなる微調整に直接使用することができる。
  論文  参考訳（メタデータ） (2025-01-10T01:42:43Z)
• Superposition in Transformers: A Novel Way of Building Mixture of Experts [0.0]
  破滅的な忘れは、大きな言語モデルを新しいタスクやドメインに適用する際の大きな課題である。 ベースモデルの隠れ表現を重畳するためにオートエンコーダを利用する新しいアーキテクチャである Superposition in Transformers を導入する。
  論文  参考訳（メタデータ） (2024-12-31T16:28:23Z)
• Parameter Competition Balancing for Model Merging [13.66727853299506]
  PCB-Mergingは、効果的なモデルマージのために各パラメータの係数を調整する訓練不要の手法である。 PCB-Mergingは、複数のモダリティ、ドメイン、モデルサイズ、タスク数、微調整フォーム、および大きな言語モデルにわたる大幅なパフォーマンス向上を実現している。
  論文  参考訳（メタデータ） (2024-10-03T11:17:58Z)
• Majority Kernels: An Approach to Leverage Big Model Dynamics for Efficient Small Model Training [32.154166415680066]
  蒸留、圧縮、量子化といった手法は、高性能な大きなモデルを利用してより小さな性能のモデルを誘導するのに役立つ。 本稿では、単一トレーニングランが同時に、より大きなパフォーマンスモデルをトレーニングし、より小さなデプロイメントモデルを導出できるという仮説を考察する。
  論文  参考訳（メタデータ） (2024-02-07T17:07:41Z)
• Exploring and Evaluating Personalized Models for Code Generation [9.25440316608194]
  パーソナライズのための変換器モデルの微調整を評価する。 i) すべてのモデルパラメータをチューニングできるカスタム微調整。 コード生成のためのこれらの微調整戦略を比較し、様々なデプロイメントシナリオにおいて、それぞれの潜在的な一般化とコスト効果について議論する。
  論文  参考訳（メタデータ） (2022-08-29T23:28:46Z)
• HyperImpute: Generalized Iterative Imputation with Automatic Model Selection [77.86861638371926]
  カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。 既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
  論文  参考訳（メタデータ） (2022-06-15T19:10:35Z)
• Re-parameterizing Your Optimizers rather than Architectures [119.08740698936633]
  本稿では,モデル固有の事前知識を構造学に取り入れ,汎用モデル(簡易モデル)の学習に使用する新しいパラダイムを提案する。 実装として,モデル固有のハイパーパラメータの集合に従って勾配を変更することによって,事前知識を付加する手法を提案する。 Reprでトレーニングされた単純なモデルに対しては、VGGスタイルのプレーンモデルに注目し、ReprでトレーニングされたそのようなシンプルなモデルがRep-VGGと呼ばれ、最近のよく設計されたモデルと同等に動作することを示す。
  論文  参考訳（メタデータ） (2022-05-30T16:55:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。