論文の概要: Learning an Ensemble Token from Task-driven Priors in Facial Analysis

• arxiv url: http://arxiv.org/abs/2507.01290v1
• Date: Wed, 02 Jul 2025 02:07:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-03 14:22:59.980934
• Title: Learning an Ensemble Token from Task-driven Priors in Facial Analysis
• Title（参考訳）: 顔分析におけるタスク駆動型先行学習からのアンサンブルトークンの学習
• Authors: Sunyong Seo, Semin Kim, Jongha Lee,
• Abstract要約: 本稿では,アンサンブルトークンを学習するための新しい手法であるET-Fuserを紹介する。 本稿では,自己認識機構内でアンサンブルトークンを生成する,頑健な事前統一学習手法を提案する。 以上の結果から,特徴表現に統計的に有意な改善が見られた。
• 参考スコア（独自算出の注目度）: 1.4228349888743608
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Facial analysis exhibits task-specific feature variations. While Convolutional Neural Networks (CNNs) have enabled the fine-grained representation of spatial information, Vision Transformers (ViTs) have facilitated the representation of semantic information at the patch level. Although the generalization of conventional methodologies has advanced visual interpretability, there remains paucity of research that preserves the unified feature representation on single task learning during the training process. In this work, we introduce ET-Fuser, a novel methodology for learning ensemble token by leveraging attention mechanisms based on task priors derived from pre-trained models for facial analysis. Specifically, we propose a robust prior unification learning method that generates a ensemble token within a self-attention mechanism, which shares the mutual information along the pre-trained encoders. This ensemble token approach offers high efficiency with negligible computational cost. Our results show improvements across a variety of facial analysis, with statistically significant enhancements observed in the feature representations.
• Abstract（参考訳）: 顔分析はタスク固有の特徴のバリエーションを示す。 畳み込みニューラルネットワーク(CNN)は空間情報のきめ細かい表現を可能にする一方で、視覚変換器(ViT)はパッチレベルでの意味情報の表現を容易にする。 従来の手法の一般化には先進的な視覚的解釈性があるが、訓練過程における単一課題学習における特徴表現の統一を保った研究の質は保たれている。 本研究では,事前に訓練された顔分析モデルから抽出したタスク先行に基づく注意機構を活用することで,アンサンブルトークンを学習するための新しい手法であるET-Fuserを紹介する。 具体的には,自己保持機構内でアンサンブルトークンを生成する頑健な事前統一学習手法を提案する。 このアンサンブルトークンアプローチは、無視可能な計算コストで高い効率を提供する。 以上の結果から,特徴表現に統計的に有意な改善が見られた。

関連論文リスト

• "Principal Components" Enable A New Language of Images [79.45806370905775]
  証明可能なPCAのような構造を潜在トークン空間に組み込む新しい視覚トークン化フレームワークを導入する。 提案手法は、最先端の再構築性能を実現し、人間の視覚システムとの整合性を向上する。
  論文  参考訳（メタデータ） (2025-03-11T17:59:41Z)
• Transition Network Analysis: A Novel Framework for Modeling, Visualizing, and Identifying the Temporal Patterns of Learners and Learning Processes [0.43981305860983705]
  本稿では,新しい学習分析手法であるTransition Network Analysis(TNA)を提案する。 TNAはプロセスマイニングと確率グラフ表現を統合し、学習プロセスデータ内の遷移パターンをモデル化、視覚化、識別する。 今後の方向性には、-inter alia -- 推定方法の拡張、信頼性評価、縦断的なTNAの構築などが含まれる。
  論文  参考訳（メタデータ） (2024-11-23T07:54:15Z)
• Neural Clustering based Visual Representation Learning [61.72646814537163]
  クラスタリングは、機械学習とデータ分析における最も古典的なアプローチの1つである。 本稿では,特徴抽出をデータから代表者を選択するプロセスとみなすクラスタリング(FEC)による特徴抽出を提案する。 FECは、個々のクラスタにピクセルをグループ化して抽象的な代表を配置し、現在の代表とピクセルの深い特徴を更新する。
  論文  参考訳（メタデータ） (2024-03-26T06:04:50Z)
• Emotic Masked Autoencoder with Attention Fusion for Facial Expression Recognition [1.4374467687356276]
  本稿では,MAE-Face self-supervised learning (SSL) 法と多視点融合注意機構を組み合わせた表現分類手法を提案する。 我々は、重要な顔の特徴を強調表示して、そのような機能がモデルのガイドとして機能するかどうかを判断することを目的とした、実装が容易でトレーニングなしのフレームワークを提案する。 Aff-wild2データセットにおけるモデル性能の改善により,本手法の有効性が検証された。
  論文  参考訳（メタデータ） (2024-03-19T16:21:47Z)
• What Makes Pre-Trained Visual Representations Successful for Robust Manipulation? [57.92924256181857]
  照明やシーンテクスチャの微妙な変化の下では,操作や制御作業のために設計された視覚表現が必ずしも一般化されないことがわかった。 創発的セグメンテーション能力は,ViTモデルにおける分布外一般化の強い予測因子であることがわかった。
  論文  参考訳（メタデータ） (2023-11-03T18:09:08Z)
• A Quantitative Approach to Predicting Representational Learning and Performance in Neural Networks [5.544128024203989]
  ニューラルネットワークの主な特性は、タスクを解決するために入力情報の表現と操作を学ぶ方法である。 本稿では,学習した表現を分析し,予測するための擬似カーネルツールを提案する。
  論文  参考訳（メタデータ） (2023-07-14T18:39:04Z)
• Multivariate Business Process Representation Learning utilizing Gramian Angular Fields and Convolutional Neural Networks [0.0]
  データの意味のある表現を学習することは、機械学習の重要な側面である。 予測的プロセス分析では、プロセスインスタンスのすべての説明的特性を利用できるようにすることが不可欠である。 本稿では,ビジネスプロセスインスタンスの表現学習のための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2021-06-15T10:21:14Z)
• Variational Structured Attention Networks for Deep Visual Representation Learning [49.80498066480928]
  空間的注意マップとチャネル的注意の両方を原則的に共同学習するための統合的深層フレームワークを提案する。 具体的には,確率的表現学習フレームワークに注目度の推定と相互作用を統合する。 ニューラルネットワーク内で推論ルールを実装し,確率パラメータとcnnフロントエンドパラメータのエンドツーエンド学習を可能にする。
  論文  参考訳（メタデータ） (2021-03-05T07:37:24Z)
• Heterogeneous Contrastive Learning: Encoding Spatial Information for Compact Visual Representations [183.03278932562438]
  本稿では,エンコーディング段階に空間情報を加えることで,対照的な目的と強いデータ拡張操作の間の学習の不整合を緩和する効果的な手法を提案する。 提案手法は,視覚表現の効率を向上し,自己指導型視覚表現学習の今後の研究を刺激する鍵となるメッセージを提供する。
  論文  参考訳（メタデータ） (2020-11-19T16:26:25Z)
• A Trainable Optimal Transport Embedding for Feature Aggregation and its Relationship to Attention [96.77554122595578]
  固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。 我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
  論文  参考訳（メタデータ） (2020-06-22T08:35:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。