論文の概要: STEER: Reducing Inference Cost in Relational Foundation Models through Semantically Informed Sampling

• arxiv url: http://arxiv.org/abs/2610.00907v1
• Date: Thu, 01 Oct 2026 01:36:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:23.841941
• Title: STEER: Reducing Inference Cost in Relational Foundation Models through Semantically Informed Sampling
• Title（参考訳）: STEER:意味的インフォームドサンプリングによる関係基礎モデルの推論コスト削減
• Abstract要約: 本稿では,STEERを提案する。STEERは,予測タスクハンドに最も関係のあるテーブルに集中することで,推論コンテキストを縮小するサンプリング手法である。 STEERは、大規模言語モデルに対して、データベーススキーマの外部キーエッジを、与えられたタスクの関連層にランク付けするように促すことにより、関連情報を取得する。 ランキングはスキーマのみを使用するため、タスク毎に1回計算され、その後のすべての予測で再利用され、コストを償却する。
• 参考スコア（独自算出の注目度）: 2.025761610861237
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Relational foundation models (RFMs) are pretrained once on a collection of relational databases and prediction tasks, and then applied zero-shot to previously unseen databases and tasks. To make a prediction for a target row, an RFM samples a neighborhood of rows linked to that row through foreign keys and uses this neighborhood as its inference context. Lowering inference cost is an important goal for any foundation model, and for RFMs this cost grows with the size of the context. The simplest ways to shrink the context is to drop some of the sampled rows, but this ignores the semantics of the database schema, so it is as likely to discard informative rows as uninformative ones. We propose STEER, a sampling approach that shrinks the inference context by concentrating it on the tables most relevant to the prediction task at hand. STEER obtains relevance information by prompting a large language model to rank the foreign-key edges of the database schema into relevance tiers for the given task, and then maps each tier to a probability of following that edge during traversal. Because the ranking uses only the schema, it is computed once per task and reused across all subsequent predictions, amortizing its cost. We evaluate STEER on three state-of-the-art RFMs (RT, RT-J, and Griffin) and show that it reduces inference context size by about 40% on average while maintaining, and in some cases improving, prediction accuracy.
• Abstract（参考訳）: リレーショナル・ファンデーション・モデル(RFM)は、リレーショナル・データベースと予測タスクのコレクションに一度事前トレーニングされ、その後、それまで見つからなかったデータベースとタスクにゼロショットを適用します。 ターゲット行の予測を行うために、RAMは、その行にリンクされた行の近傍を外国キーを介してサンプリングし、その近傍を推論コンテキストとして使用する。 推論コストの低減は、基盤モデルにとって重要な目標であり、RAMでは、コンテキストのサイズに応じてコストが増大します。 コンテキストを縮小する最も単純な方法は、サンプルされた行のいくつかをドロップすることですが、これはデータベーススキーマのセマンティクスを無視します。 本稿では,STEERを提案する。STEERは,手前の予測タスクに最も関係のあるテーブルに集中することで,推論コンテキストを縮小するサンプリング手法である。 STEERは、大規模言語モデルに対して、データベーススキーマの外部キーエッジを、与えられたタスクの関連層にランク付けするように促し、各階層を、トラバース中にそのエッジに従う確率にマッピングすることで、関連情報を取得する。 ランキングはスキーマのみを使用するため、タスク毎に1回計算され、その後のすべての予測で再利用され、コストを償却する。 STEERを3つの最先端RAM(RT, RT-J, Griffin)で評価し, 維持中における推論コンテキストサイズを平均40%削減し, 場合によっては精度を向上し, 予測精度を向上することを示した。

関連論文リスト

• Understanding the Surprising Generalization Properties of Tabular Foundation Models [39.6543292456356]
  驚くほど強い転送は、単一の実際のテーブル上での自己粒度の事前学習から生じる可能性がある。 同じタスク中心の視点が、大規模にコーパスを設計するのに役立ちます。
  論文  参考訳（メタデータ） (2026-08-18T16:11:08Z)
• CRUMB: Efficient Prior Fitted Network Inference via Distributionally Matched Context Batching [1.4211459456330362]
  事前適合型ネットワーク(PFN)は、コンテキスト内学習を行う基盤モデルの有望なクラスである。 CRUMB(Clustered Retrieval using Minimized-MMD)は,テストクエリをクラスタリングする3段階推論ラッパーである。 CRUMBは、最大平均誤差を極端に最小化することにより、各クラスタに対して小さな、分散的に整合したトレーニングサブセットを選択する。
  論文  参考訳（メタデータ） (2026-06-09T22:07:04Z)
• RelPrism: A Multi-Faceted Pre-training Framework with Self-Generated Tasks for Relational Databases [49.47033473074821]
  RDBのための多面的自己教師型学習フレームワークであるRelPrismを提案する。 RDBタスクは、しばしば異なる視点と粒度の多面的な情報を必要とする。 以上の結果から,RelPrismはROC-AUCを4.15%改善し,MAEを10.75%削減した。
  論文  参考訳（メタデータ） (2026-05-22T05:19:58Z)
• TopBench: A Benchmark for Implicit Prediction and Reasoning over Tabular Question Answering [80.93487993878836]
  現実世界のクエリの一般的なクラスは暗黙的に予測され、単に検索するのではなく、歴史的パターンから観測されていない回答を推測する必要がある。 これらのクエリには、潜在意図を認識することと、大規模テーブル上での信頼性の高い予測推論という2つの課題がある。 単点予測から意思決定,処理効果分析,複雑な推論に至るまで,4つのサブタスクにわたる779のサンプルからなるベンチマークであるTopBenchを紹介する。
  論文  参考訳（メタデータ） (2026-04-30T16:22:51Z)
• RDBLearn: Simple In-Context Prediction Over Relational Databases [21.996337463952255]
  簡単なレシピを簡単なレシピでリレーショナルな予測に拡張できることを示す。 本手法は,Scikit-learn-style estimator インタフェースを備えた使いやすいツールキットである textitRDBLearn に実装する。 RelBenchと4DBInferデータセットの広範なコレクションの中で、RDBLearnは私たちが評価した最も優れた基盤モデルアプローチです。
  論文  参考訳（メタデータ） (2026-02-14T09:24:04Z)
• Generalization Can Emerge in Tabular Foundation Models From a Single Table [38.07740881271672]
  簡単な自己教師型事前学習は、単体の実テーブル上で、異種ベンチマーク間で驚くほど強力な転送を実現できることを示す。 次に、ほとんどのTFMが共有する事前学習手順に接続し、データセットから構築できるEmphtaskの数と品質が、下流のパフォーマンスの鍵であることを示します。
  論文  参考訳（メタデータ） (2025-11-12T19:12:40Z)
• Relational Transformer: Toward Zero-Shot Foundation Models for Relational Data [38.656987194921854]
  Transformer (RT) アーキテクチャは、様々なリレーショナルデータベース上で事前トレーニングすることができる。 RTは強いゼロショットを破り、バイナリ分類タスクにおいて、完全に教師されたAUROCの93%を平均化する。
  論文  参考訳（メタデータ） (2025-10-07T18:51:51Z)
• Maximally-Informative Retrieval for State Space Model Generation [59.954191072042526]
  テスト時に特定のクエリに対するモデル不確実性を最小化するために、Retrieval In-Context Optimization (RICO)を導入する。 文書検索に外部に依存した従来の検索強化生成(RAG)とは異なり,本手法はモデルから直接のフィードバックを利用する。 モデル勾配を用いた標準のトップ$kの検索は、最適化手順を近似し、残余損失への接続を提供することを示す。
  論文  参考訳（メタデータ） (2025-06-13T18:08:54Z)
• MediTab: Scaling Medical Tabular Data Predictors via Data Consolidation, Enrichment, and Refinement [44.693325083735424]
  患者の健康リスク予測などの医療応用において,タブラルデータ予測が採用されている。 以前の予測子は、手動でキュレートされた小さなデータセットでトレーニングされることが多い。
  論文  参考訳（メタデータ） (2023-05-20T03:37:09Z)
• A Closer Look at Debiased Temporal Sentence Grounding in Videos: Dataset, Metric, and Approach [53.727460222955266]
  テンポラル・センテンス・グラウンディング・イン・ビデオ(TSGV)は、未編集のビデオに自然言語文を埋め込むことを目的としている。 最近の研究では、現在のベンチマークデータセットには明らかなモーメントアノテーションバイアスがあることが判明している。 偏りのあるデータセットによる膨らませ評価を緩和するため、基礎的リコールスコアを割引する新しい評価基準「dR@n,IoU@m」を導入する。
  論文  参考訳（メタデータ） (2022-03-10T08:58:18Z)
• Meta-Learned Confidence for Few-shot Learning [60.6086305523402]
  数ショットのメトリックベースのアプローチのための一般的なトランスダクティブ推論手法は、最も確実なクエリ例の平均で、各クラスのプロトタイプを更新することである。 本稿では,各クエリの信頼度をメタラーニングして,ラベルのないクエリに最適な重みを割り当てる手法を提案する。 4つのベンチマークデータセットに対してメタ学習の信頼度で、少数ショットの学習モデルを検証した。
  論文  参考訳（メタデータ） (2020-02-27T10:22:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。