論文の概要: Context is All You Need

• arxiv url: http://arxiv.org/abs/2604.04364v1
• Date: Mon, 06 Apr 2026 02:24:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:19.065898
• Title: Context is All You Need
• Title（参考訳）: コンテキストは必要なだけ
• Authors: Jean Erik Delanois, Shruti Joshi, Ryan Golden, Teresa Nick, Maxim Bazhenov,
• Abstract要約: 文脈適応のためのシンプルで直感的なCONTXT(Contextual augmentatiOn for Neural feaTure X Transforms)を紹介する。 Neural feaTure X Transforms は、単純な加法的および乗法的特徴変換を用いて内部表現を変調する。
• 参考スコア（独自算出の注目度）: 3.7958188251061333
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Artificial Neural Networks (ANNs) are increasingly deployed across diverse real-world settings, where they must operate under data distributions that differ from those seen during training. This challenge is central to Domain Generalization (DG), which trains models to generalize to unseen domains without target data, and Test-Time Adaptation (TTA), which improves robustness by adapting to unlabeled test data at deployment. Existing approaches to address these challenges are often complex, resource-intensive, and difficult to scale. We introduce CONTXT (Contextual augmentatiOn for Neural feaTure X Transforms), a simple and intuitive method for contextual adaptation. CONTXT modulates internal representations using simple additive and multiplicative feature transforms. Within a TTA setting, it yields consistent gains across discriminative tasks (e.g., ANN/CNN classification) and generative models (e.g., LLMs). The method is lightweight, easy to integrate, and incurs minimal overhead, enabling robust performance under domain shift without added complexity. More broadly, CONTXT provides a compact way to steer information flow and neural processing without retraining.
• Abstract（参考訳）: 人工知能(Artificial Neural Networks, ANN)は、さまざまな現実世界環境に展開され、トレーニング中に見られるものと異なるデータ分散の下で運用されなければならない。 この課題はドメイン一般化(DG)の中心であり、ターゲットデータなしで未確認のドメインに一般化するようモデルを訓練し、テスト時間適応(TTA)はデプロイ時にラベルのないテストデータに適応することで堅牢性を改善する。 これらの課題に対処する既存のアプローチは、多くの場合、複雑でリソース集約的で、スケールが難しい。 文脈適応のためのシンプルで直感的なCONTXT(Contextual augmentatiOn for Neural feaTure X Transforms)を紹介する。 CONTXTは単純な加法的および乗法的特徴変換を用いて内部表現を変調する。 TTA設定内では、識別的タスク(例えば、ANN/CNN分類)と生成モデル(例えば、LLM)で一貫した利得が得られる。 メソッドは軽量で、統合が容易で、最小限のオーバーヘッドを発生させ、複雑さを増すことなくドメインシフト下で堅牢なパフォーマンスを実現する。 より広範に、ConTXTは、情報フローとニューラル処理を再トレーニングすることなく、よりコンパクトな手段を提供する。

関連論文リスト

• GLAD: Generalizable Tuning for Vision-Language Models [41.071911050087586]
  GLAD (Generalizable LoRA tuning with RegulArized GraDient) という,よりシンプルで汎用的なフレームワークを提案する。 我々は,LoRAを適用するだけで,現在の最先端のプロンプトベースの手法に匹敵するダウンストリームタスクのパフォーマンスが得られることを示す。
  論文  参考訳（メタデータ） (2025-07-17T12:58:15Z)
• START: A Generalized State Space Model with Saliency-Driven Token-Aware Transformation [27.301312891532277]
  ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインから学習することで、モデルが対象ドメインを見えないように一般化できるようにすることを目的としている。 本稿では,最新技術(SOTA)のパフォーマンスを達成し,CNNやViTと競合する代替手段を提供するSTARTを提案する。 我々のSTARTは、SSMの入力依存行列内の有意なトークンのドメイン固有の特徴を選択的に摂動し、抑制することができるため、異なるドメイン間の差異を効果的に低減できる。
  論文  参考訳（メタデータ） (2024-10-21T13:50:32Z)
• Optimizing Non-Autoregressive Transformers with Contrastive Learning [74.46714706658517]
  非自己回帰変換器(NAT)は、逐次順序ではなく全ての単語を同時に予測することにより、自動回帰変換器(AT)の推論遅延を低減する。 本稿では,データ分布ではなく,モデル分布からのサンプリングによるモダリティ学習の容易化を提案する。
  論文  参考訳（メタデータ） (2023-05-23T04:20:13Z)
• Surface EMG-Based Inter-Session/Inter-Subject Gesture Recognition by Leveraging Lightweight All-ConvNet and Transfer Learning [17.535392299244066]
  低解像度の瞬時HD-sEMG画像を用いたジェスチャー認識は、より流動的で自然な筋肉-コンピュータインターフェースを開発するための新たな道を開く。 セッション間とオブジェクト間シナリオ間のデータのばらつきは、大きな課題を示します。 既存のアプローチでは、非常に大きく複雑なConvNetまたは2SRNNベースのドメイン適応手法を使用して、これらのセッション間およびオブジェクト間データのばらつきに起因する分散シフトを近似した。 我々は、軽量なAll-ConvNetとTransfer Learning(TL)を利用した、セッション間およびオブジェクト間ジェスチャー認識の強化のための軽量All-ConvNet+TLモデルを提案する。
  論文  参考訳（メタデータ） (2023-05-13T21:47:55Z)
• Powerful and Extensible WFST Framework for RNN-Transducer Losses [71.56212119508551]
  本稿では,RNN-Transducer (RNN-T) の損失に対する修正の簡易化を目的として,WFST (Weighted Finite-State Transducer) に基づくフレームワークを提案する。 既存のRNN-Tのユースケース関連コードは、拡張とデバッグが難しい。 WFSTを利用したRNN-T実装として、"Compose-Transducer"と"Grid-Transducer"の2つを紹介する。
  論文  参考訳（メタデータ） (2023-03-18T10:36:33Z)
• Improving the Sample-Complexity of Deep Classification Networks with Invariant Integration [77.99182201815763]
  変換によるクラス内分散に関する事前知識を活用することは、ディープニューラルネットワークのサンプル複雑性を改善するための強力な方法である。 そこで本研究では,アプリケーションの複雑な問題に対処するために,プルーニング法に基づく新しい単項選択アルゴリズムを提案する。 本稿では,Rotated-MNIST,SVHN,CIFAR-10データセットにおけるサンプルの複雑さの改善について述べる。
  論文  参考訳（メタデータ） (2022-02-08T16:16:11Z)
• Deep invariant networks with differentiable augmentation layers [87.22033101185201]
  データ拡張ポリシーの学習方法は、保持データを必要とし、二段階最適化の問題に基づいている。 我々のアプローチは、現代の自動データ拡張技術よりも訓練が簡単で高速であることを示す。
  論文  参考訳（メタデータ） (2022-02-04T14:12:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。