論文の概要: Signed Dual Attention: Capturing Signed Dependencies in Time Series Forecasting

• arxiv url: http://arxiv.org/abs/2606.04833v1
• Date: Wed, 03 Jun 2026 13:02:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-04 20:44:18.767801
• Title: Signed Dual Attention: Capturing Signed Dependencies in Time Series Forecasting
• Title（参考訳）: 署名されたデュアルアテンション:時系列予測における署名された依存関係をキャプチャする
• Authors: Balthazar Courvoisier, Tristan Cazenave,
• Abstract要約: 標準的な注意機構は、ホモフレンドリな相互作用を暗黙的に仮定し、時系列のような正と負の依存関係を持つデータをモデル化する能力を制限する。 本研究では, 付加パラメータを伴わずに, 正と負の両方の相関パターンをキャプチャする新しいアテンション形式であるSigned Dual Attentionを紹介する。
• 参考スコア（独自算出の注目度）: 2.5788559173418357
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Initially developed for natural language processing, Transformer architectures and attention mechanisms are now central to a wide range of deep learning models, including applications in time series forecasting. A standard attention mechanism, however, implicitly assumes homophilic interactions, limiting its ability to model data with positive and negative dependencies, such as time series. In this work, we introduce the Signed Dual Attention, a novel attention formulation that captures both positive and negative relational patterns without additional parameters. By leveraging a dual message-passing scheme inspired by correlation structures, Signed Dual Attention propagates both supportive and contrastive information within a single shared block, effectively achieving the expressiveness of two head attention without additional parameters. This module can be seamlessly integrated into existing architectures and can yield performance gains in certain situations, requiring signed relational modeling. This approach opens a pathway toward more expressive and parameter-efficient transformers.
• Abstract（参考訳）: 当初自然言語処理のために開発されたTransformerアーキテクチャとアテンションメカニズムは、時系列予測などの幅広いディープラーニングモデルの中心となっている。 しかし、標準的な注意機構は、ホモフレンドリな相互作用を暗黙的に仮定し、時系列のような正および負の依存関係を持つデータをモデル化する能力を制限する。 本研究では, 付加パラメータを伴わずに, 正と負の両方の相関パターンをキャプチャする新しいアテンション形式であるSigned Dual Attentionを紹介する。 相関構造にインスパイアされたデュアルメッセージパッシング方式を利用することで、符号付きデュアルアテンションは単一の共有ブロック内の支持情報とコントラスト情報の両方を伝搬し、追加パラメータなしで2つのヘッドアテンションの表現性を効果的に達成する。 このモジュールは、既存のアーキテクチャにシームレスに統合することができ、署名付きリレーショナルモデリングを必要とする特定の状況でパフォーマンス向上をもたらすことができる。 このアプローチは、より表現的でパラメータ効率の良い変換器への経路を開く。

関連論文リスト

• TokenFormer: Unify the Multi-Field and Sequential Recommendation Worlds [17.505701673051405]
  TokenFormerは、以下のイノベーションを取り入れた統合されたレコメンデーションアーキテクチャである。 まず,ボトムフルト・トップ・スライディング(BFTS:Bottom-Full-Top-Sliding)アテンションスキームを導入する。 第2に,非線形相互作用表現(NLIR)を導入し,一方の非線形乗算変換を隠れ状態に適用する。
  論文  参考訳（メタデータ） (2026-04-15T11:25:46Z)
• FSDAM: Few-Shot Driving Attention Modeling via Vision-Language Coupling [5.609178055761294]
  本稿では,100の注釈付き例で共同注意予測とキャプション生成を実現するフレームワークであるFSDAMを提案する。 FSDAMは、注意予測における競合性能を達成し、コヒーレントでコンテキストを考慮した説明を生成する。 本研究は,効果的な注意条件付き生成が限定的な監督によって達成可能であることを示し,説明可能な運転注意システムの実用的展開の可能性を示した。
  論文  参考訳（メタデータ） (2025-11-16T17:50:30Z)
• JointDiff: Bridging Continuous and Discrete in Multi-Agent Trajectory Generation [75.58351043849385]
  生成モデルは、しばしば連続したデータと離散的なイベントを別々のプロセスとして扱う。 このギャップを埋めるために、連続時間データと同期離散イベントを同時に生成してこれらの2つのプロセス間の相互作用を設計した新しい拡散フレームワークであるJointDiffを導入する。 JointDiffは最先端のパフォーマンスを実現し、インタラクティブシステムのための現実的で制御可能なモデルを構築するために、ジョイントモデリングが不可欠であることを実証している。
  論文  参考訳（メタデータ） (2025-09-26T16:04:00Z)
• Semantic Item Graph Enhancement for Multimodal Recommendation [49.66272783945571]
  マルチモーダルレコメンデーションシステムは、商品のマルチモーダル情報を活用することで、パフォーマンスの向上に注目が集まっている。 先行する手法は、しばしばモダリティ固有のアイテム・イテム意味グラフを生のモダリティの特徴から構築する。 これらのセマンティックグラフは、アイテム間の協調信号のモデリングが不十分ななど、セマンティックな欠陥に悩まされている。
  論文  参考訳（メタデータ） (2025-08-08T09:20:50Z)
• Mitigating Attention Hacking in Preference-Based Reward Modeling via Interaction Distillation [62.14692332209628]
  インタラクション蒸留(Interaction Distillation)は、注意レベル最適化によるより適切な嗜好モデリングのための新しいトレーニングフレームワークである。 最先端のRM最適化法と比較して、より安定で一般化可能な報酬信号を提供する。
  論文  参考訳（メタデータ） (2025-08-04T17:06:23Z)
• Dual Conditional Diffusion Models for Sequential Recommendation [63.82152785755723]
  シーケンスレコメンデーションのための二重条件拡散モデル(DCRec)を提案する。 DCRecは2つの条件を前と逆の拡散プロセスに埋め込むことで暗黙的および明示的な情報を統合する。 これによってモデルは、明示的なユーザ-イテムインタラクションを活用してレコメンデーションプロセスをガイドしながら、価値あるシーケンシャルおよびコンテキスト情報を保持することができる。
  論文  参考訳（メタデータ） (2024-10-29T11:51:06Z)
• Local Consensus Enhanced Siamese Network with Reciprocal Loss for Two-view Correspondence Learning [35.5851523517487]
  2視点対応学習は通常、一致の信頼性と相対的なポーズを共同で予測するエンドツーエンドネットワークを確立する。 本稿では,既存のモデルの特徴を増強するローカル・フィーチャー・コンセンサス (LFC) プラグイン・ブロックを提案する。 我々は既存のモデルを相互予測の監督を生かした相互損失を伴うシームズネットワークに拡張する。
  論文  参考訳（メタデータ） (2023-08-06T22:20:09Z)
• Generative Flows with Invertible Attentions [135.23766216657745]
  生成フローモデルに対する2種類の非可逆的注意機構を導入する。 フロー特徴写像の2分割毎に注意重みと入力表現を学習するために,分割に基づく注意機構を利用する。 提案手法は, トラクタブルジャコビアン行列を用いた非可逆アテンションモジュールをフローベースモデルの任意の位置にシームレスに統合する。
  論文  参考訳（メタデータ） (2021-06-07T20:43:04Z)
• Online Multiple Object Tracking with Cross-Task Synergy [120.70085565030628]
  位置予測と埋め込み結合の相乗効果を考慮した新しい統一モデルを提案する。 この2つのタスクは、時間認識対象の注意と注意の注意、およびアイデンティティ認識メモリ集約モデルによってリンクされる。
  論文  参考訳（メタデータ） (2021-04-01T10:19:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。