論文の概要: Parameter-Free Encoders Remain Viable for RDB Foundation Models

• arxiv url: http://arxiv.org/abs/2607.05476v1
• Date: Mon, 06 Jul 2026 10:25:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-08 21:24:51.27556
• Title: Parameter-Free Encoders Remain Viable for RDB Foundation Models
• Title（参考訳）: RDBファンデーションモデルのためのパラメータフリーエンコーダ
• Abstract要約: ラベルが入力として存在する場合、RDBエンコーダ特性を特に解析する。 より単純なパラメータフリーなエンコーダは、多くの関連するベンチマークタスクに対して高いパフォーマンスを保っていることを実証する。
• 参考スコア（独自算出の注目度）: 17.684284995663795
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Given a relational database (RDB) storing heterogeneous tabular information, how can we predict missing (or future) values in some target column of interest? As the space of potential targets is vast across enterprise settings, it is preferable to avoid learning a new model from scratch each time there is a new prediction task. Frozen foundation models based on RDB-specific encoders provide a viable solution, but ideal design remains an open question. On the one hand, it has recently been argued that certain parameter-free subgraph encoders combined with single-table foundation models can achieve near SOTA performance, with no RDB-specific pre-training required. Meanwhile, other contemporary studies advocate for parameterized encoders pre-trained to exploit observable labels for learning task-specific representations. To address this ambiguity, we analyze RDB encoder properties specifically when labels are present as inputs, proving limitations on the potential efficacy of trainable encoder parameters. As empirical validation, we demonstrate that considerably simpler parameter-free encoders are still capable of strong performance across many relevant benchmarking tasks.
• Abstract（参考訳）: 不均一な表情報を格納するリレーショナルデータベース(RDB)を考えると、ターゲットとするカラムの欠落(あるいは将来)値をどうやって予測できるでしょうか? 潜在的なターゲットの空間はエンタープライズ環境にまたがっているため、新しい予測タスクがあるたびに新しいモデルをスクラッチから学習するのを避けることが望ましい。 RDB固有のエンコーダに基づく凍結基礎モデルは、実行可能なソリューションを提供するが、理想的な設計は未解決のままである。 一方, パラメータフリーなサブグラフエンコーダと単一テーブル基礎モデルを組み合わせることで, RDB 固有の事前学習を必要とせず, SOTA に近い性能が得られることが近年議論されている。 一方、他の現代研究では、タスク固有の表現を学習するために可観測ラベルを利用するために事前訓練されたパラメータ化エンコーダを提唱している。 このあいまいさに対処するために、ラベルが入力として存在するとき、特にRDBエンコーダ特性を分析し、トレーニング可能なエンコーダパラメータの潜在的有効性に関する制限を証明した。 実験的な検証として、パラメータフリーなエンコーダは、多くの関連するベンチマークタスクに対して高い性能を保っていることを示す。

関連論文リスト

• Heuristic-inspired Reasoning Priors Facilitate Data-Efficient Referring Object Detection [53.988759250627425]
  HeROD(Heuristic-inspired ROD)は、明示的で解釈可能な空間的および意味的推論を注入する軽量でモデルに依存しないフレームワークである。 HeRODは、スカーセラベル体制において強い接地ベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-03-25T10:33:22Z)
• Bayesian-guided inverse design of hyperelastic microstructures: Application to stochastic metamaterials [0.34376560669160394]
  本研究の目的は,対象のマクロなストレス応答を実現する構造を同定することである。 各候補設計について、応答は高忠実度オラクルから得られる。 ベイズ誘導型逆設計フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-16T21:09:57Z)
• From Few-Shot to Zero-Shot: Towards Generalist Graph Anomaly Detection [89.52759572485276]
  ARCは、文脈内学習を利用した数発のGAD法であり、推論時にわずかにラベル付き正規サンプルを必要とする。 ARCとARC_zeroは、異常を効果的に検出し、強力な一般化能力を示し、少数ショットおよびゼロショット設定下で効率的に実行する。
  論文  参考訳（メタデータ） (2026-02-21T10:59:00Z)
• No Need to Train Your RDB Foundation Model [21.996337463952255]
  我々は、既存のシングルテーブルICL基盤モデルとシームレスにペアリングできるRDBエンコーダのファミリーを提示する。 実用的な観点から、エンコーダステージを実装するためにスケーラブルなSQLプリミティブを開発し、簡単に使えるオープンソースのRDBファウンデーションモデルを作成します。
  論文  参考訳（メタデータ） (2026-02-14T09:38:57Z)
• RAGGED: Towards Informed Design of Scalable and Stable RAG Systems [51.171355532527365]
  Retrieval-augmented Generation (RAG)は、外部知識を統合することで言語モデルを強化する。 RAGGEDは、RAGシステムを体系的に評価するためのフレームワークである。
  論文  参考訳（メタデータ） (2024-03-14T02:26:31Z)
• Refine, Discriminate and Align: Stealing Encoders via Sample-Wise Prototypes and Multi-Relational Extraction [57.16121098944589]
  RDAは、事前訓練されたエンコーダを盗むために、以前の取り組みで普及した2つの主要な欠陥に対処するために設計された先駆的なアプローチである。 これは、サンプルの様々な視点に対してターゲットエンコーダの表現を統一するサンプルワイドプロトタイプによって達成される。 より強力な有効性を得るために、我々はサロゲートエンコーダを訓練し、ミスマッチした埋め込み-プロトタイプペアを識別するマルチリレーショナル抽出損失を開発する。
  論文  参考訳（メタデータ） (2023-12-01T15:03:29Z)
• AdaNPC: Exploring Non-Parametric Classifier for Test-Time Adaptation [64.9230895853942]
  ドメインの一般化は、ターゲットのドメイン情報を活用することなく、任意に困難にすることができる。 この問題に対処するためにテスト時適応(TTA)手法が提案されている。 本研究では,テスト時間適応(AdaNPC)を行うためにNon-Parametricを採用する。
  論文  参考訳（メタデータ） (2023-04-25T04:23:13Z)
• Discrete Key-Value Bottleneck [95.61236311369821]
  ディープニューラルネットワークは、データストリームがi.d.d.であり、ラベル付きデータが豊富である分類タスクでうまく機能する。 この課題に対処した強力なアプローチの1つは、手軽に利用可能なデータ量に対する大規模なエンコーダの事前トレーニングと、タスク固有のチューニングである。 しかし、新しいタスクを考えると、多くの重みを微調整する必要があるため、エンコーダの重みを更新することは困難であり、その結果、以前のタスクに関する情報を忘れてしまう。 この問題に対処するモデルアーキテクチャを提案し,個別かつ学習可能なキー値符号のペアを含む離散的ボトルネックの上に構築する。
  論文  参考訳（メタデータ） (2022-07-22T17:52:30Z)
• A Comparative Study of Pre-trained Encoders for Low-Resource Named Entity Recognition [10.0731894715001]
  我々は、エンコーダ評価フレームワークを導入し、それを用いて、低リソースNERのタスクにおける最先端の事前訓練された表現の性能を比較する。 我々は、様々な戦略、モデルアーキテクチャ、中間タスクの微調整、コントラスト学習で事前訓練された幅広いエンコーダを分析する。
  論文  参考訳（メタデータ） (2022-04-11T09:48:26Z)
• End-to-End Object Detection with Transformers [88.06357745922716]
  本稿では,オブジェクト検出を直接セット予測問題とみなす新しい手法を提案する。 我々のアプローチは検出パイプラインを合理化し、手作業で設計された多くのコンポーネントの必要性を効果的に除去する。 この新しいフレームワークの主な構成要素は、Detection TRansformerまたはDETRと呼ばれ、セットベースのグローバルな損失である。
  論文  参考訳（メタデータ） (2020-05-26T17:06:38Z)
• Deterministic Decoding for Discrete Data in Variational Autoencoders [5.254093731341154]
  サンプリングの代わりに最上位のトークンを選択するシーケンシャルデータに対して,決定論的デコーダ(DD-VAE)を用いたVAEモデルについて検討する。 分子生成や最適化問題を含む複数のデータセット上でのDD-VAEの性能を示す。
  論文  参考訳（メタデータ） (2020-03-04T16:36:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。