論文の概要: Support-Set Target Leakage in Relational Foundation Models during In-Context Learning: Impact, Detection, and Mitigation

• arxiv url: http://arxiv.org/abs/2609.36384v1
• Date: Mon, 28 Sep 2026 23:25:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.053321
• Title: Support-Set Target Leakage in Relational Foundation Models during In-Context Learning: Impact, Detection, and Mitigation
• Title（参考訳）: 文脈学習における関係基礎モデルにおける支援目標漏れ:影響・検出・軽減
• Abstract要約: ここでは、ターゲットから派生した(リーカ)列はリレーショナルインコンテキスト推論中にラベル付きサポートセットにのみ存在し、クエリはクリーンのままである。 Integrated Gradients (IG) rank proxies を用いて疑わしい列を除去するため, ICL ヘッドをホールドアウトした RelBench 上の凍結エンコーダの評価を行った。
• 参考スコア（独自算出の注目度）: 32.505127447635864
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Relational in-context learning (ICL) conditions predictions on the labeled support examples and their linked tables, creating a failure mode when the support set contains target-derived features that are unavailable for the query. We formulate this problem as support-set target leakage, distinct from leakage during dataset construction, temporal splitting, or representation learning. Here, the target-derived (leaker) columns are present only in the labeled support set during relational in-context inference, while queries remain clean. We construct 14 synthetic leaker types, corresponding to 20 columns, spanning proxies with different noise levels, coverage, modalities, semantic transparency, and relational distances. We evaluate a frozen relational encoder with an ICL head on held-out RelBench databases and use Integrated Gradients (IG) to rank and remove suspicious columns. Our results show that the effect of support-set leakage varies across tasks and relational distances. Target-table leakers cause the clearest degradation, while one- and two-hop leakers are not consistently used by the model. IG ranks target-table leakers highly across datasets and partially recovers performance in settings where leakage has the largest effect.
• Abstract（参考訳）: リレーショナル・イン・コンテキスト・ラーニング(ICL)は、ラベル付きサポートの例とその関連テーブルに関する条件予測を行い、クエリで利用できないターゲットから派生した機能を含む場合の障害モードを生成する。 我々はこの問題を,データセット構築時のリーク,時間分割,表現学習とは異なる,サポートセットターゲットリークとして定式化する。 ここでは、ターゲットから派生した(リーカ)列はリレーショナルインコンテキスト推論中にラベル付きサポートセットにのみ存在し、クエリはクリーンのままである。 ノイズレベル,カバレッジ,モダリティ,セマンティック透明性,リレーショナル距離の異なるプロキシを対象とする,20列に対応する14種類の合成リーク装置を構築。 我々は,保持状態の RelBench データベース上に ICL ヘッダを持つ凍結型リレーショナルエンコーダを評価し,疑わしい列のランク付けと削除に統合勾配 (IG) を用いる。 以上の結果から,サポートセットリークの影響はタスクやリレーショナル距離によって異なることがわかった。 ターゲットテーブルのリークは、最も明確な劣化を引き起こすが、1つと2つのホップのリークは、モデルによって一貫して使われていない。 IGはデータセット全体にわたってターゲットテーブルリークを高くランク付けし、リークの影響が最も大きい設定で部分的にパフォーマンスを回復する。

関連論文リスト

• Support-Set Target Leakage in Relational Foundation Models during In-Context Learning: Model Dependence and Evaluation Reliability [31.89838384366225]
  In-context- learning (ICL) では、ラベル付きサポート例とリンクされたリレーショナルコンテキストを使用して、新しいクエリのラベルを予測する。 これにより、ターゲットから派生した機能がサポートコンテキストに存在しているが、クエリでは利用できない場合、障害モードが生成される。 本研究では,13のRelBenchタスクと5つのリレーショナルICL構成にまたがって,この設定をサポートセットのターゲットリークとして検討する。
  論文  参考訳（メタデータ） (2026-09-29T00:14:48Z)
• Partition-Aware Unlearning for Removing Spurious Correlations in Large Vision-Language Models [12.293070202366316]
  LVLM(Large Vision-Language Models)は多くのマルチモーダルタスクにおいて高いパフォーマンスを達成する。 それらはしばしば、刺激的なオブジェクト背景の堅牢性を利用しており、結果として、オブジェクト関連の視覚的証拠ではなく、文脈的ショートカットによって引き起こされる予測をもたらす。 我々は,LVLMにおけるスプリラス相関による障害を構築,ベンチマーク,緩和するフレームワークであるPURGEを紹介する。
  論文  参考訳（メタデータ） (2026-08-30T19:42:47Z)
• SEER: A Self-Grounded Evidence Interface for Controlled Spatial Relation Classification [71.9783246097687]
  SEERは、ペアローカライゼーション中の候補関係を隠蔽し、明示的な主観的/対象的役割を持つクエリ固有ビューを構築し、補完的な証拠として完全なイメージとスパースボックス幾何学を保持する。 正確な逆サポートを持つ関係選択プロトコルでは、オプションリファインメントがエンティティロールを交換し、正確に1つの視覚状態が対応する逆関係に従う場合にのみ前方決定を変更する。 変更されていないプロトコルは、3つのモデルにまたがる2,434個のフィルター付きEmbSpatialペア関係質問に対して +4.35 から +11.79 を得る。
  論文  参考訳（メタデータ） (2026-08-04T13:16:15Z)
• Semantically Similar, Logically Distinct: Diagnosing the Semantic-Answerability Gap in Table RAG [19.520645305356066]
  検索されたテーブルは、問い合わせに答える十分な証拠がないかもしれない。 本稿では,RAGにおけるテーブルコンテンツレベルのアンサーバビリティの診断ベンチマークであるTCR-Benchを紹介する。 TCR-Benchでは, 連続解答ギャップが持続的に現れる。 我々は,AAR(Answerability-Aware Re rank)と呼ばれる軽量な2段階パイプラインが,直接クエリテーブル応答性判定を適用すれば,性能を回復できるかどうかを検証した。
  論文  参考訳（メタデータ） (2026-07-20T09:36:10Z)
• Relatron: Automating Relational Machine Learning over Relational Databases [50.94254514286021]
  本稿では, RDL と DFS を共有設計空間に統合し, 多様な RDB タスクを対象としたアーキテクチャ中心の検索を行う。 RDLはDFSを一貫して上回り、高いタスク依存性を持つ。(2)タスク全体において単一のアーキテクチャが支配的であり、タスク認識モデル選択の必要性を強調し、精度は選択アーキテクチャの信頼性の低いガイドである。
  論文  参考訳（メタデータ） (2026-02-26T02:45:22Z)
• CLAA: Cross-Layer Attention Aggregation for Accelerating LLM Prefill [4.440373965918973]
  我々はAnswer-Informed Oracleを紹介します。これは、生成した回答からプロンプトへの注意を計測することで、地道なトークンの重要性を定義します。 このオラクルは、既存のオラクルが層間で高いばらつきを示すことを明らかにしている。ランク付けは特定の層で急激な分解が可能であり、エンドツーエンドのベンチマークでは見えない障害モードである。 我々はこれをCLAA(Cross-Layer Attention Aggregation)として実装し、全KVキャッシュのベースラインと比較して、上界とのギャップを埋め、TTFT(Time-to-First-Token)を最大39%削減する。
  論文  参考訳（メタデータ） (2026-02-17T22:08:16Z)
• Bridging the Semantic Gap for Categorical Data Clustering via Large Language Models [64.58262227709842]
  ARISE(Attention-weighted Representation with Integrated Semantic Embeddings)が紹介される。 正確なクラスタリングのためにカテゴリデータのメトリック空間を補完するセマンティックアウェア表現を構築する。 8つのベンチマークデータセットの実験では、7つの代表的なデータセットよりも一貫した改善が示されている。
  論文  参考訳（メタデータ） (2026-01-03T11:37:46Z)
• Better May Not Be Fairer: A Study on Subgroup Discrepancy in Image Classification [73.87160347728314]
  CIFAR10とCIFAR100のテストセットを各画像の背景色に基づいてサブグループにアノテートすることで、自然背景色が刺激的な特徴としてどのように機能するかを検討する。 全体としての人間レベルの精度は、一貫したサブグループ性能を保証せず、この現象はImageNetで事前訓練されたモデルやデータ拡張後のモデルでも継続している。 実験の結果,FlowAugはCIFAR10/100およびCIFAR10/100-C上で,他のDA法よりも一貫したサブグループ結果が得られることがわかった。
  論文  参考訳（メタデータ） (2022-12-16T18:51:10Z)
• Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
  我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。 入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。 分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
  論文  参考訳（メタデータ） (2021-06-14T05:39:09Z)
• Robust Question Answering Through Sub-part Alignment [53.94003466761305]
  我々はアライメント問題として質問応答をモデル化する。 私たちは、SQuAD v1.1でモデルをトレーニングし、いくつかの逆および外ドメインデータセットでそれをテストします。
  論文  参考訳（メタデータ） (2020-04-30T09:10:57Z)
• SoQal: Selective Oracle Questioning for Consistency Based Active Learning of Cardiac Signals [17.58391771585294]
  臨床設定はしばしば、豊富なラベル付きデータと限られたラベル付きデータによって特徴づけられる。 この負担を軽減する方法の1つは、(a)取得と(b)情報のないインスタンスのアノテーションを含むアクティブラーニング(AL)を通じてである。 BALCはBALDのような最先端の獲得機能より優れており,SoQalはノイズの多いオラクルの存在下でもベースライン法より優れていることを示す。
  論文  参考訳（メタデータ） (2020-04-20T18:20:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。