論文の概要: Multitask-Informed Prior for In-Context Learning on Tabular Data: Application to Steel Property Prediction

• arxiv url: http://arxiv.org/abs/2603.22738v1
• Date: Tue, 24 Mar 2026 03:03:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.26728
• Title: Multitask-Informed Prior for In-Context Learning on Tabular Data: Application to Steel Property Prediction
• Title（参考訳）: タブラルデータを用いたインコンテキスト学習のためのマルチタスクインフォームド事前学習:鋼質特性予測への応用
• Authors: Dimitrios Sinodinos, Bahareh Nikpour, Jack Yi Wei, Sushant Sinha, Xiaoping Ma, Kashif Rehman, Stephen Yue, Narges Armanfard,
• Abstract要約: 本研究では,TabPFNの先行にマルチタスク認識を注入するマルチタスク学習フレームワークを提案する。 本手法は,タスク固有の微調整に比べて予測精度と計算効率を両立させる。
• 参考スコア（独自算出の注目度）: 10.228135528637411
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Accurate prediction of mechanical properties of steel during hot rolling processes, such as Thin Slab Direct Rolling (TSDR), remains challenging due to complex interactions among chemical compositions, processing parameters, and resultant microstructures. Traditional empirical and experimental methodologies, while effective, are often resource-intensive and lack adaptability to varied production conditions. Moreover, most existing approaches do not explicitly leverage the strong correlations among key mechanical properties, missing an opportunity to improve predictive accuracy through multitask learning. To address this, we present a multitask learning framework that injects multitask awareness into the prior of TabPFN--a transformer-based foundation model for in-context learning on tabular data--through novel fine-tuning strategies. Originally designed for single-target regression or classification, we augment TabPFN's prior with two complementary approaches: (i) target averaging, which provides a unified scalar signal compatible with TabPFN's single-target architecture, and (ii) task-specific adapters, which introduce task-specific supervision during fine-tuning. These strategies jointly guide the model toward a multitask-informed prior that captures cross-property relationships among key mechanical metrics. Extensive experiments on an industrial TSDR dataset demonstrate that our multitask adaptations outperform classical machine learning methods and recent state-of-the-art tabular learning models across multiple evaluation metrics. Notably, our approach enhances both predictive accuracy and computational efficiency compared to task-specific fine-tuning, demonstrating that multitask-aware prior adaptation enables foundation models for tabular data to deliver scalable, rapid, and reliable deployment for automated industrial quality control and process optimization in TSDR.
• Abstract（参考訳）: 薄スラブ直接圧延(TSDR)のような熱間圧延過程における鋼の機械的特性の正確な予測は, 化学組成, 加工パラメータ, 結果として生じるミクロ組織との複雑な相互作用により, 依然として困難である。 従来の経験的および実験的な方法論は効果があるが、しばしば資源集約であり、様々な生産条件への適応性に欠ける。 さらに、既存のほとんどのアプローチは、キーとなる機械的特性の強い相関を明示的に活用せず、マルチタスク学習による予測精度の向上の機会を欠いている。 そこで本稿では,TabPFNの先行にマルチタスク認識を注入するマルチタスク学習フレームワークを提案する。 もともとは単一ターゲットの回帰や分類のために設計されたもので、TabPFNの先行を2つの補完的なアプローチで拡張します。 (i)TabPFNの単一ターゲットアーキテクチャと互換性のある統一スカラー信号を提供するターゲット平均化 (II)微調整時にタスク固有の調整を導入するタスク特化アダプタ。 これらの戦略は、主要なメカニカルメトリクス間の相互正当性関係をキャプチャするマルチタスクインフォームド先行に向けて、モデルを共同でガイドする。 産業用TSDRデータセットの大規模な実験により、マルチタスク適応は古典的な機械学習手法や最近の最先端の表層学習モデルよりも優れており、複数の評価指標が提供されている。 特に,本手法は,タスク固有の微調整に比べて予測精度と計算効率の両面で向上し,マルチタスク対応の事前適応により,表データの基盤モデルにより,TSDRにおける産業品質の自動制御およびプロセス最適化のための,スケーラブルで迅速かつ信頼性の高い展開が可能になることを実証した。

関連論文リスト

• Efficient Federated Class-Incremental Learning of Pre-Trained Models via Task-agnostic Low-rank Residual Adaptation [22.454292668849035]
  Fed-TaLoRA(Federated Task-Agnostic Low-rank Residual Adaptation) 我々は,最小限のオーバーヘッドで正確な知識統合を実現するための,新たな残量更新機構を開発した。 我々の方法論的革新は,タスク非依存適応,ポストアグリゲーションモデル校正,LORAモジュールの戦略的配置の3つの主要な戦略に起因している。
  論文  参考訳（メタデータ） (2025-05-18T09:19:13Z)
• Meta-Statistical Learning: Supervised Learning of Statistical Inference [59.463430294611626]
  この研究は、大きな言語モデル(LLM)の成功を駆動するツールと原則が、分散レベルのタスクに取り組むために再利用可能であることを実証している。 本稿では,統計的推論タスクを教師付き学習問題として再構成するマルチインスタンス学習に触発されたメタ統計学習を提案する。
  論文  参考訳（メタデータ） (2025-02-17T18:04:39Z)
• Model Predictive Task Sampling for Efficient and Robust Adaptation [57.414812940406996]
  本稿では,タスク空間と適応リスク分布をブリッジするフレームワークであるモデル予測タスクサンプリング(MPTS)を紹介する。 MPTSは、エピソード最適化プロセスの特徴付けに生成モデルを使用し、後部推論によりタスク固有の適応リスクを予測する。 MPTSはゼロショット、少数ショット、教師付き微調整設定にシームレスに統合される。
  論文  参考訳（メタデータ） (2025-01-19T13:14:53Z)
• Reprogramming Distillation for Medical Foundation Models [37.52464627899668]
  我々はリプログラミング蒸留(RD)と呼ばれる新しいフレームワークを提案する。 RDはファンデーションモデルの本来の機能空間を再プログラミングし、下流のシナリオとより関係があるようにします。 RDは従来のPEFT法やKD法よりも優れた性能を実現している。
  論文  参考訳（メタデータ） (2024-07-09T02:17:51Z)
• Analysing Multi-Task Regression via Random Matrix Theory with Application to Time Series Forecasting [16.640336442849282]
  我々は,マルチタスク最適化問題を正規化手法として定式化し,マルチタスク学習情報を活用することを可能とする。 線形モデルの文脈におけるマルチタスク最適化のための閉形式解を導出する。
  論文  参考訳（メタデータ） (2024-06-14T17:59:25Z)
• When Parameter-efficient Tuning Meets General-purpose Vision-language Models [65.19127815275307]
  PETALは、一意のモード近似技術によって達成される全パラメータの0.5%しか必要とせず、トレーニングプロセスに革命をもたらす。 実験の結果,PETALは現状の手法をほとんどのシナリオで上回るだけでなく,完全な微調整モデルよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2023-12-16T17:13:08Z)
• Task-Distributionally Robust Data-Free Meta-Learning [99.56612787882334]
  Data-Free Meta-Learning (DFML)は、複数の事前学習モデルを活用することで、独自のトレーニングデータを必要とせずに、新しいタスクを効率的に学習することを目的としている。 TDS(Task-Distribution Shift)とTDC(Task-Distribution Corruption)の2つの大きな課題を初めて明らかにした。
  論文  参考訳（メタデータ） (2023-11-23T15:46:54Z)
• TACTiS-2: Better, Faster, Simpler Attentional Copulas for Multivariate Time Series [57.4208255711412]
  パウラ理論に基づいて,最近導入されたトランスフォーマーに基づく注目パウラ(TACTiS)の簡易な目的を提案する。 結果から,実世界の予測タスクにまたがって,このモデルのトレーニング性能が大幅に向上し,最先端のパフォーマンスが達成できることが示唆された。
  論文  参考訳（メタデータ） (2023-10-02T16:45:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。