論文の概要: Pretraining Reusable Inference Across Views with Synthetic Task Priors
- arxiv url: http://arxiv.org/abs/2608.19115v1
- Date: Wed, 19 Aug 2026 17:10:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.466521
- Title: Pretraining Reusable Inference Across Views with Synthetic Task Priors
- Title(参考訳): 合成タスク優先度を用いた再使用可能な推論の事前学習
- Abstract要約: 現代の事前訓練されたエンコーダは、不均一なビューからの表現を再利用しやすくするが、ビューユーティリティを決定し、エビデンスを組み合わせる手順は、下流の各タスクにまだ残されている。
提案するSIMPLEは,クエリラベルを小さなラベル付きサポートセットに条件付けすることで,クエリラベルを予測するマルチコンテキスト学習システムである。
マルチビューおよびマルチオミクスベンチマークの実験は、SIMPLEの凍結版が推論バックボーンを更新することなく競合性能を達成することを示した。
- 参考スコア(独自算出の注目度): 21.47966082652401
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern pretrained encoders make representations from heterogeneous views increasingly reusable, but the procedure that determines view utility and combines evidence is still relearned for each downstream task. Consequently, knowledge about view relevance, complementarity, reliability, and missingness is repeatedly discarded rather than transferred across tasks. We therefore reformulate multi-view learning as learning a reusable, task-conditioned inference procedure rather than a fixed fusion function. Based on this perspective, we propose SIMPLE, a prior-fitted multi-view in-context learner that predicts query labels by conditioning on a small labeled support set. Since existing real-world datasets cover only a limited range of view configurations and task structures, we construct a controllable synthetic task prior in embedding space. It generates diverse support-query episodes with varying class structures, shared and view-specific factors, representation geometries, cross-view dependencies, reliability levels, missingness patterns, and distribution shifts. A hierarchical inference architecture then performs reasoning within views, across views, and across support and query samples. Experiments on multi-view and multi-omics benchmarks demonstrate that the frozen variant of SIMPLE achieves competitive performance without updating the inference backbone, while lightweight adapter calibration attains leading performance on most evaluated datasets. Together, the results under frozen, one-shot, and missing-view settings support the central hypothesis that multi-view reasoning itself can be pretrained and reused, while lightweight adapter calibration provides task-specific alignment when needed.
- Abstract(参考訳): 現代の事前訓練されたエンコーダは、不均一なビューからの表現を再利用しやすくするが、ビューユーティリティを決定し、エビデンスを組み合わせる手順は、下流の各タスクにまだ残されている。
その結果、タスク間で伝達されるのではなく、ビューの関連性、相補性、信頼性、欠如に関する知識が繰り返し破棄される。
そこで我々は,固定融合関数ではなく,再利用可能なタスク条件推論手順の学習として多視点学習を再構成する。
この観点から,小文字付きサポートセットを条件付けしてクエリラベルを予測する,事前適合型マルチコンテキスト学習システムSIMPLEを提案する。
既存の実世界のデータセットは、限られた範囲のビュー構成とタスク構造しかカバーしていないため、埋め込み空間に先立って制御可能な合成タスクを構築する。
さまざまなクラス構造、共有およびビュー固有の要素、表現ジオメトリ、クロスビュー依存関係、信頼性レベル、欠落パターン、分散シフトを備えた、さまざまなサポートクエリのエピソードを生成する。
階層的推論アーキテクチャは、ビュー内、ビュー内、およびサポートとクエリサンプル間の推論を実行する。
マルチビューおよびマルチオミクスベンチマークの実験では、SIMPLEの凍結版は、推論バックボーンを更新せずに競合性能を達成し、軽量なアダプタキャリブレーションは、ほとんどの評価されたデータセットで主要なパフォーマンスを達成する。
凍結、ワンショット、欠落したビュー設定による結果は、マルチビュー推論自体を事前訓練し再利用できるという中心的な仮説を支持し、軽量なアダプタキャリブレーションは必要に応じてタスク固有のアライメントを提供する。
関連論文リスト
- DocRetriever: A Plug-and-Play Framework for Multimodal Document Retrieval with Comprehensive Benchmark [48.84943754804533]
マルチモーダル文書には、テーブル、フィギュア、レイアウトなど、さまざまな要素が含まれている。
現在のアプローチでは、高精度の検索を実現するために、高密度の視覚埋め込みモデルと教師付きリランカを組み合わせるのが一般的である。
本稿では,レイアウトを意識したスパース埋め込み技術による視覚検索を支援するプラグイン・アンド・プレイフレームワークDocRetrieverを提案する。
論文 参考訳(メタデータ) (2026-05-28T14:50:53Z) - Incomplete Multi-View Multi-Label Classification via Shared Codebook and Fused-Teacher Self-Distillation [39.27376279295644]
一貫性のある表現学習のためのより構造化されたメカニズムを導入する。
マルチビュー共有コードブックとクロスビュー再構成を用いて、離散的な一貫した表現を学習する。
さらに,融合型自己蒸留フレームワークについても紹介する。
論文 参考訳(メタデータ) (2026-04-05T16:22:38Z) - Generalisation in Multitask Fitted Q-Iteration and Offline Q-learning [0.0]
本研究では,複数のタスクが動作値関数の低ランク表現を共有する環境で,オフラインマルチタスク強化学習について検討する。
我々は、共有表現とタスク固有値関数を共同で学習する、適合Q-イテレーションのマルチタスク変種を解析する。
本稿は,マルチタスクオフラインQ-ラーニングにおける共有表現の役割を明らかにし,マルチタスク構造が一般化をいかに改善できるかに関する理論的知見を提供する。
論文 参考訳(メタデータ) (2025-12-23T10:20:11Z) - Deep Incomplete Multi-view Clustering with Distribution Dual-Consistency Recovery Guidance [69.58609684008964]
本稿では,distriBution dUal-Consistency Recovery Guidanceを用いた不完全なマルチビュークラスタリング手法であるBURGを提案する。
我々は,各サンプルを別カテゴリとして扱い,欠落したビューの分布空間を予測するために,クロスビュー配信を行う。
信頼性の高いカテゴリ情報の欠如を補うために,隣り合った整合性によって案内されるビュー内アライメントと,プロトタイプ的な整合性によって案内されるクロスビューアライメントを含む二重整合性ガイド付きリカバリ戦略を設計する。
論文 参考訳(メタデータ) (2025-03-14T02:27:45Z) - Leveraging sparse and shared feature activations for disentangled
representation learning [112.22699167017471]
本稿では,教師付きタスクの多種多様な集合から抽出した知識を活用し,共通不整合表現を学習することを提案する。
我々は6つの実世界分布シフトベンチマークと異なるデータモダリティに対するアプローチを検証する。
論文 参考訳(メタデータ) (2023-04-17T01:33:24Z) - Deep Incomplete Multi-view Clustering with Cross-view Partial Sample and
Prototype Alignment [50.82982601256481]
深層不完全なマルチビュークラスタリングのためのクロスビュー部分サンプルとプロトタイプアライメントネットワーク(CPSPAN)を提案する。
従来のコントラストベースの手法とは異なり、インスタンスとインスタンスの対応構築を導くために、ペア観測データアライメントを「プロキシ監視信号」として採用する。
論文 参考訳(メタデータ) (2023-03-28T02:31:57Z) - Learning What Makes a Difference from Counterfactual Examples and
Gradient Supervision [57.14468881854616]
ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。
我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。
このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2020-04-20T02:47:49Z) - Adversarial Continual Learning [99.56738010842301]
本稿では,タスク不変およびタスク特化機能に対する不整合表現を学習するハイブリッド連続学習フレームワークを提案する。
本モデルでは,タスク固有のスキルの忘れを防止するためにアーキテクチャの成長と,共有スキルを維持するための経験的リプレイアプローチを組み合わせる。
論文 参考訳(メタデータ) (2020-03-21T02:08:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。