論文の概要: SCALAR: Self-Calibrating Adaptive Latent Attention Representation Learning
- arxiv url: http://arxiv.org/abs/2510.16474v1
- Date: Sat, 18 Oct 2025 12:41:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 00:56:39.010345
- Title: SCALAR: Self-Calibrating Adaptive Latent Attention Representation Learning
- Title(参考訳): SCALAR: 自己校正型適応潜在意図表現学習
- Authors: Farwa Abbas, Hussain Ahmad, Claudia Szabo,
- Abstract要約: 複雑な特徴相互作用を持つ高次元ヘテロジニアスデータは、従来の予測モデリングアプローチに重大な課題をもたらす。
本アーキテクチャでは,異なる特徴群を個別に処理するアダプティブカーネルベースのアテンション機構を導入している。
実験結果は、さまざまなデータセットにわたる最先端の手法と比較して、パフォーマンス指標が大幅に改善されたことを示している。
- 参考スコア(独自算出の注目度): 2.152549977410309
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: High-dimensional, heterogeneous data with complex feature interactions pose significant challenges for traditional predictive modeling approaches. While Projection to Latent Structures (PLS) remains a popular technique, it struggles to model complex non-linear relationships, especially in multivariate systems with high-dimensional correlation structures. This challenge is further compounded by simultaneous interactions across multiple scales, where local processing fails to capture crossgroup dependencies. Additionally, static feature weighting limits adaptability to contextual variations, as it ignores sample-specific relevance. To address these limitations, we propose a novel method that enhances predictive performance through novel architectural innovations. Our architecture introduces an adaptive kernel-based attention mechanism that processes distinct feature groups separately before integration, enabling capture of local patterns while preserving global relationships. Experimental results show substantial improvements in performance metrics, compared to the state-of-the-art methods across diverse datasets.
- Abstract(参考訳): 複雑な特徴相互作用を持つ高次元ヘテロジニアスデータは、従来の予測モデリングアプローチに重大な課題をもたらす。
Projection to Latent Structures (PLS) は依然として一般的な手法であるが、特に高次元相関構造を持つ多変量系において複雑な非線形関係のモデル化に苦慮している。
この課題は、複数のスケールにわたる同時インタラクションによってさらに複雑化され、ローカル処理がグループ間の依存関係のキャプチャに失敗する。
さらに、静的な特徴重み付けは、サンプル固有の関連性を無視するため、コンテキストのバリエーションへの適応性を制限する。
これらの制約に対処するため,新しいアーキテクチャの革新を通じて予測性能を向上させる手法を提案する。
我々のアーキテクチャでは,異なる特徴群を個別に処理し,グローバルな関係を保ちながら局所的なパターンを捕捉するアダプティブカーネルベースのアテンション機構を導入している。
実験結果は、さまざまなデータセットにわたる最先端の手法と比較して、パフォーマンス指標が大幅に改善されたことを示している。
関連論文リスト
- High-Fidelity Scientific Simulation Surrogates via Adaptive Implicit Neural Representations [51.90920900332569]
入射神経表現(INR)は空間的に構造化されたデータをモデリングするためのコンパクトで連続的なフレームワークを提供する。
近年のアプローチでは、剛性幾何学的構造に沿った付加的な特徴を導入することでこの問題に対処している。
機能適応型INR(FA-INR)を提案する。
論文 参考訳(メタデータ) (2025-06-07T16:45:17Z) - Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。
本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。
残る技術的課題や倫理的考察も分析する。
論文 参考訳(メタデータ) (2025-06-05T05:42:27Z) - A Unified Framework for Variable Selection in Model-Based Clustering with Missing Not at Random [6.19101012807196]
本稿では,これらの課題を同時に解決するための統合フレームワークを提案する。
提案手法では,データ駆動型ペナルティ行列をクラスタリングに組み込んで,より柔軟な変数選択を実現する。
一定の規則性の下で、提案するフレームワークは、欠落したデータが存在する場合でも、クラスタリングの一貫性と一貫性の両方を達成することを実証する。
論文 参考訳(メタデータ) (2025-05-25T11:08:43Z) - Intrinsic Tensor Field Propagation in Large Language Models: A Novel Approach to Contextual Information Flow [0.0]
内在的場伝播は、様々な言語構造にわたる文脈的保持、依存性の解決、推論を改善する。
オープンソーストランスフォーマーベースのモデルで行った実験では、様々な言語構造にわたる文脈保持、依存関係の解決、推論において測定可能な改善が提供されている。
論文 参考訳(メタデータ) (2025-01-31T08:32:32Z) - Regularized Neural Ensemblers [55.15643209328513]
本研究では,正規化ニューラルネットワークをアンサンブル手法として活用することを検討する。
低多様性のアンサンブルを学習するリスクを動機として,ランダムにベースモデル予測をドロップすることで,アンサンブルモデルの正規化を提案する。
このアプローチはアンサンブル内の多様性の低い境界を提供し、過度な適合を減らし、一般化能力を向上させる。
論文 参考訳(メタデータ) (2024-10-06T15:25:39Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳(メタデータ) (2024-07-24T12:00:30Z) - Semantic Correspondence with Transformers [68.37049687360705]
本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。
初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。
提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
論文 参考訳(メタデータ) (2021-06-04T14:39:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。