論文の概要: Support-Set Target Leakage in Relational Foundation Models during In-Context Learning: Model Dependence and Evaluation Reliability
- arxiv url: http://arxiv.org/abs/2609.36417v1
- Date: Tue, 29 Sep 2026 00:14:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.077255
- Title: Support-Set Target Leakage in Relational Foundation Models during In-Context Learning: Model Dependence and Evaluation Reliability
- Title(参考訳): 文脈学習における関係基礎モデルにおける支援目標漏洩:モデル依存と評価信頼性
- Abstract要約: In-context- learning (ICL) では、ラベル付きサポート例とリンクされたリレーショナルコンテキストを使用して、新しいクエリのラベルを予測する。
これにより、ターゲットから派生した機能がサポートコンテキストに存在しているが、クエリでは利用できない場合、障害モードが生成される。
本研究では,13のRelBenchタスクと5つのリレーショナルICL構成にまたがって,この設定をサポートセットのターゲットリークとして検討する。
- 参考スコア(独自算出の注目度): 31.89838384366225
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Relational in-context learning (ICL) uses labeled support examples and their linked relational context to predict labels for new queries. This creates a failure mode when target-derived features are present in the support context but unavailable for the query. We study this setting as support-set target leakage. We construct 20 controlled target-derived features that vary in signal fidelity, representation, semantic transparency, coverage, and zero-, one-, and two-hop relational placement, and evaluate them across 13 RelBench tasks and five relational ICL configurations that vary the ICL head, message-passing depth, pretraining cohort, or relational encoder architecture. We evaluate matched 0-hop, 1-hop, and 2-hop leakage settings, together with a Full leakage condition containing all 20 leaker columns. Within the tested configurations, target-table (0-hop) and Full leakage produce the largest aggregate deviations from clean evaluation, while higher-hop effects are often weaker, consistent with differences in effective exposure associated with temporal reachability, sampling, and aggregation fidelity. Leakage effects are strongly task- and model-dependent and can reverse relative conclusions between model variants even when aggregate changes are small. For leaker detection, we compare an Integrated Gradients (IG)-based screening method with mutual information (MI) and leave-one-column-out (LOCO) on a common Baseline subset. Ranking quality is strongest in the high-impact 0-hop and Full leakage conditions, but detector-based removal does not consistently restore the clean evaluation. A four-task rel-salt case study further shows the same evaluation concern with native-schema leakage candidates from the original relational schema. These results identify the support/query information boundary as an important component of reliable relational ICL evaluation.
- Abstract(参考訳): リレーショナル・イン・コンテキスト・ラーニング(ICL)は、ラベル付きサポートの例とリンクされたリレーショナルコンテキストを使用して、新しいクエリのラベルを予測する。
これにより、ターゲットから派生した機能がサポートコンテキストに存在するが、クエリでは利用できない場合、障害モードが生成される。
この設定を,サポートセットターゲットリークとして検討する。
我々は、信号の忠実度、表現、意味的透明性、カバレッジ、ゼロ、ワンホップ、および2ホップのリレーショナル配置に異なる20の制御対象特徴を構築し、それらを13のRelBenchタスクと5つのリレーショナルICL構成で評価し、ICLヘッド、メッセージパス深さ、プレトレーニングコホート、リレーショナルエンコーダアーキテクチャを変更。
一致した0-ホップ,1-ホップ,2-ホップのリーク設定と,20個のリーク列を含む全リーク条件について検討した。
テストされた構成では、ターゲットテーブル(0ホップ)とフルリークは、クリーンな評価から最大の集合偏差を生じるが、高いホップ効果は、時間的到達性、サンプリング、凝集フィリティに関連する効果的な露光の差に一致して、しばしば弱くなる。
漏れ効果は強いタスク依存とモデル依存であり、集合変化が小さい場合でもモデル変種間の相対的な結論を逆転させることができる。
リーク検知では,統合グラディエント(IG)ベースのスクリーニング手法と相互情報(MI)と共通ベースラインサブセット上でのLOCO(Left-one-column-out)を比較した。
ランク付け品質は、衝撃性の高い0ホップとフルリーク条件で最強であるが、検出器ベースの除去は、クリーンな評価を一貫して回復しない。
さらに,4タスクのLel-Saltケーススタディでは,元のリレーショナルスキーマからのネイティブスキーマリーク候補についても,同様の評価上の懸念が示された。
これらの結果から,サポート/クエリ情報境界は信頼性の高いリレーショナルICL評価の重要な構成要素であることがわかった。
関連論文リスト
- Support-Set Target Leakage in Relational Foundation Models during In-Context Learning: Impact, Detection, and Mitigation [32.505127447635864]
ここでは、ターゲットから派生した(リーカ)列はリレーショナルインコンテキスト推論中にラベル付きサポートセットにのみ存在し、クエリはクリーンのままである。
Integrated Gradients (IG) rank proxies を用いて疑わしい列を除去するため, ICL ヘッドをホールドアウトした RelBench 上の凍結エンコーダの評価を行った。
論文 参考訳(メタデータ) (2026-09-28T23:25:04Z) - Partition-Aware Unlearning for Removing Spurious Correlations in Large Vision-Language Models [12.293070202366316]
LVLM(Large Vision-Language Models)は多くのマルチモーダルタスクにおいて高いパフォーマンスを達成する。
それらはしばしば、刺激的なオブジェクト背景の堅牢性を利用しており、結果として、オブジェクト関連の視覚的証拠ではなく、文脈的ショートカットによって引き起こされる予測をもたらす。
我々は,LVLMにおけるスプリラス相関による障害を構築,ベンチマーク,緩和するフレームワークであるPURGEを紹介する。
論文 参考訳(メタデータ) (2026-08-30T19:42:47Z) - Beyond Independence: Learning Correlated Views for Variational Incomplete Multi-View Clustering [15.204251218204542]
不完全なマルチビュークラスタリング(IMVC)は、部分的に観察されたビューを持つデータから共有クラスタ構造を明らかにすることを目的としている。
本稿では、学習可能なクロスビュー相関構造を導入することにより、この仮定を明示的に超越した変分フレームワークを提案する。
提案手法は多種多様なビュー設定における最先端のアプローチを一貫して上回る。
論文 参考訳(メタデータ) (2026-08-16T14:16:24Z) - Semantic Drift in Bug Resolution: How Behavioral Signals Propagate from Reports to Tests and Patches [18.727291516223115]
Desc2Fixは、バグレポートのセマンティックアライメント、テストのトリガー、開発者による修正を測定するフレームワークである。
GPT-4o と DeepSeek-Chat を用いて,Defects4J と SWT-Bench の2,857 個のレポート・パッチを解析した。
論文 参考訳(メタデータ) (2026-07-20T22:32:23Z) - Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - Concept Regions Matter: Benchmarking CLIP with a New Cluster-Importance Approach [20.898059440239603]
クラスタベースの概念重要度(CCI)は、新しい解釈可能性手法である。
CCIは、忠実度ベンチマークの新たな最先端を定めている。
今回,18種類のCLIPの包括的評価を行った。
論文 参考訳(メタデータ) (2025-11-17T05:01:24Z) - DeLeaker: Dynamic Inference-Time Reweighting For Semantic Leakage Mitigation in Text-to-Image Models [55.30555646945055]
テキスト・ツー・イメージ(T2I)モデルはセマンティック・リークに対して脆弱である。
DeLeakerは、モデルのアテンションマップに直接介入することで、漏洩を緩和する軽量なアプローチである。
SLIMはセマンティックリークに特化した最初のデータセットである。
論文 参考訳(メタデータ) (2025-10-16T17:39:21Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳(メタデータ) (2025-09-25T14:05:55Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - Better May Not Be Fairer: A Study on Subgroup Discrepancy in Image
Classification [73.87160347728314]
CIFAR10とCIFAR100のテストセットを各画像の背景色に基づいてサブグループにアノテートすることで、自然背景色が刺激的な特徴としてどのように機能するかを検討する。
全体としての人間レベルの精度は、一貫したサブグループ性能を保証せず、この現象はImageNetで事前訓練されたモデルやデータ拡張後のモデルでも継続している。
実験の結果,FlowAugはCIFAR10/100およびCIFAR10/100-C上で,他のDA法よりも一貫したサブグループ結果が得られることがわかった。
論文 参考訳(メタデータ) (2022-12-16T18:51:10Z) - Out-of-distribution Generalization via Partial Feature Decorrelation [72.96261704851683]
本稿では,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。
実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
論文 参考訳(メタデータ) (2020-07-30T05:48:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。