論文の概要: Interpretable by Design Tabular Prediction via In-Context Local Linear Learning

• arxiv url: http://arxiv.org/abs/2610.39506v1
• Date: Thu, 29 Oct 2026 07:06:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.471097
• Title: Interpretable by Design Tabular Prediction via In-Context Local Linear Learning
• Title（参考訳）: インコンテキスト局所線形学習による設計語彙予測の解釈
• Abstract要約: コンテキスト内学習により、基礎モデルはデータセット固有のトレーニングや微調整なしで予測できる。 本稿では,単純な線形予測規則を導出するために表層基礎モデルを用いた解釈可能な設計予測器であるTICL$3$を紹介する。 MAPLEに対する平均サポートF1を4.7ポイント改善し、両方の実データ選択されたユーティリティメトリクスで最高のパフォーマンスを達成する。
• 参考スコア（独自算出の注目度）: 14.386746106315032
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In-context learning (ICL) lets tabular foundation models make predictions without dataset-specific training or fine-tuning. These models achieve strong predictive accuracy, but interpreting how individual features contribute to the prediction remains difficult. In biology, for example, feature contributions can help identify biomarkers or risk genes. Post-hoc interpretability methods assign feature importance scores, but these scores do not indicate what the model actually uses and can lead to explanation errors. We introduce TICL$^3$ (Tabular In-Context Local Linear Learning), an interpretable-by-design predictor that uses a tabular foundation model to guide a simple linear prediction rule. TICL$^3$ first learns a shared linear model to capture dataset-level feature effects. Then, for each query, it retrieves similar training samples using representations from the foundation model and fits a second linear model to the residuals in that neighborhood. The shared model captures broad effects, while the local model corrects errors among similar samples. Their combined coefficients determine each feature contribution to the final query-specific linear score, so the same model makes and explains the prediction. Across 386 classification benchmark-dataset evaluations, TICL$^3$ trails TabICLv2 by 1.1 percentage points and outperforms CatBoost in 266 evaluations. It improves average support F1 over MAPLE by 4.7 points and achieves the best performance on both real-data selected-feature utility metrics.
• Abstract（参考訳）: In-context Learning (ICL)は、データセット固有のトレーニングや微調整なしで、表形式の基礎モデルによる予測を可能にする。 これらのモデルは強い予測精度を達成するが、個々の特徴がどのように予測に寄与するかを解釈することは依然として困難である。 例えば生物学では、特徴的貢献はバイオマーカーやリスク遺伝子を特定するのに役立つ。 ポストホック解釈可能性法は特徴重要度スコアを割り当てるが、これらのスコアはモデルが実際に何を使用しているかを示しておらず、説明ミスにつながる可能性がある。 本稿では,単純な線形予測ルールを導出するために表層基底モデルを用いた解釈可能な設計予測器 TICL$^3$ (Tabular In-Context Local Linear Learning) を導入する。 TICL$^3$はまず、データセットレベルの特徴効果をキャプチャする共有線形モデルを学ぶ。 そして、各クエリに対して、基礎モデルから表現を使用して類似したトレーニングサンプルを取得し、その近傍の残留物に2番目の線形モデルに適合する。 共有モデルは幅広い効果を捉え、局所モデルは類似したサンプル間の誤差を補正する。 これらの組み合わせ係数は、最終クエリ固有の線形スコアに対する各特徴の寄与を決定するため、同じモデルが予測を行い、説明する。 TICL$^3$ trails TabICLv2 by 1.1% pointss CatBoost in 266 evaluations。 MAPLEに対する平均サポートF1を4.7ポイント改善し、両方の実データ選択されたユーティリティメトリクスで最高のパフォーマンスを達成する。

関連論文リスト

• Interpretable AI with Local Distillation [4.2444498670665665]
  高い意思決定は、正確かつ解釈可能なモデルを構築することを要求する。 そこで我々は,ブラックボックスの「教師」が各問合せ点における正規化線形「学生」モデルを案内する局所蒸留を提案する。 17のベンチマークデータセットで、局所蒸留はAI教師の精度とほぼ一致し、各テストポイントで疎線形モデルを生成する。
  論文  参考訳（メタデータ） (2026-08-24T17:43:07Z)
• Supervised learning pays attention [42.97070083645048]
  注意を伴うコンテキスト内学習により、大きなニューラルネットワークは、関連する例に選択的にフォーカスすることで、コンテキスト固有の予測を行うことができる。 予測点ごとにパーソナライズされたモデルを柔軟に適合させる方法を示し,(2)モデルが簡潔さと解釈可能性を維持することを示す。 本手法は,注目度に応じてトレーニングデータを重み付けすることで,各試験観測の局所モデルに適合する。
  論文  参考訳（メタデータ） (2025-12-10T18:43:46Z)
• Does the Model Say What the Data Says? A Simple Heuristic for Model Data Alignment [0.0]
  機械学習モデルが学習したデータ構造と一致しているかを評価するためのフレームワークを提案する。 モデル動作を説明することのみに焦点を当てた既存の解釈可能性メソッドとは異なり、我々のアプローチはデータ自体から直接派生したベースラインを確立する。
  論文  参考訳（メタデータ） (2025-11-26T21:44:55Z)
• Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
  生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。 生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
  論文  参考訳（メタデータ） (2025-10-16T03:37:16Z)
• LimiX: Unleashing Structured-Data Modeling Capability for Generalist Intelligence [61.46575527504109]
  LimiX-16MとLimiX-2Mは、構造化されたデータを変数と欠落に対する共同分布として扱う。 サンプルサイズ,特徴次元,クラス数,カテゴリ間特徴比,欠落度,サンプル-特徴比の広い11種類の大規模構造化データベンチマークを対象としたLimiXモデルの評価を行った。
  論文  参考訳（メタデータ） (2025-09-03T17:39:08Z)
• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• Drift-Resilient TabPFN: In-Context Learning Temporal Distribution Shifts on Tabular Data [39.40116554523575]
  In-Context Learning with a Prior-Data Fitted Network に基づく新しいアプローチである Drift-Resilient TabPFN を提案する。 先行した合成データセットのベイズ推定を近似することを学ぶ。 精度は0.688から0.744に向上し、OC AUCは0.786から0.832に向上し、キャリブレーションも強化された。
  論文  参考訳（メタデータ） (2024-11-15T23:49:23Z)
• On the Foundations of Shortcut Learning [20.53986437152018]
  予測と可用性が形状モデルの特徴的利用とどのように相互作用するかを考察する。 線形モデルは比較的偏りがないが、ReLUやTanhの単位を持つ単一の隠蔽層を導入するとバイアスが生じる。
  論文  参考訳（メタデータ） (2023-10-24T22:54:05Z)
• Project and Probe: Sample-Efficient Domain Adaptation by Interpolating Orthogonal Features [119.22672589020394]
  多様な特徴の集合を学習し,これらの特徴を補間することによって対象分布に適応する,軽量でサンプル効率のよい手法を提案する。 複数の分散シフト設定を持つ4つのデータセットに対する実験により、Pro$2$は、限られたターゲットデータが与えられた場合、パフォーマンスを5～15%向上することが示された。
  論文  参考訳（メタデータ） (2023-02-10T18:58:03Z)
• Towards Open-World Feature Extrapolation: An Inductive Graph Learning Approach [80.8446673089281]
  グラフ表現と学習を伴う新しい学習パラダイムを提案する。 本フレームワークは,1) 下位モデルとしてのバックボーンネットワーク(フィードフォワードニューラルネットなど)が,予測ラベルの入力および出力として機能を取り,2) 上位モデルとしてのグラフニューラルネットワークが,観測データから構築された特徴データグラフをメッセージパッシングすることで,新機能の埋め込みを外挿することを学ぶ。
  論文  参考訳（メタデータ） (2021-10-09T09:02:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。