論文の概要: Black-Box Knowledge Transfer across Distinct Feature Sets
- arxiv url: http://arxiv.org/abs/2608.12403v1
- Date: Mon, 10 Aug 2026 21:08:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.272134
- Title: Black-Box Knowledge Transfer across Distinct Feature Sets
- Title(参考訳): 特定特徴集合間のブラックボックス知識伝達
- Abstract要約: ブラックボックスから新しい異種入力空間へ予測知識を転送する手法を提案する。
本稿では,豊富なラベルのない特徴対から伝達可能な成分を推定する2段階のニューラルネットワーク手法を提案する。
フレームワークを複数のブラックボックスに拡張し、それぞれ独自の入力空間上に配置し、アグリゲーションが最高の単一ブラックボックスに対する予測を減らせることを示す。
- 参考スコア(独自算出の注目度): 1.2031796234206138
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Pre-trained black-box predictive functions encode knowledge distilled from massive datasets and extensive computation. However, when the available input features differ from those the black box expects, direct use is infeasible. We introduce a method for transferring predictive knowledge from the black box to a new, heterogeneous input space. Our approach decomposes the target regression function into a transferable component, which the black box can inform, and a non-transferable component, which captures information unique to the new space. We propose a two-step neural network procedure, estimating the transferable component from abundant unlabeled feature pairs that bridge the two input spaces and the non-transferable component from limited labels. We derive prediction risk bounds that improve on those of a non-transfer alternative when the non-transferable component is small or smooth, and the procedure adapts to either case. Under additional conditions, the worst-case risk of our estimator is of strictly smaller polynomial order than the minimax risk of estimation from the labeled data alone. We extend the framework to multiple black boxes, each on its own input space, and show that aggregation can reduce prediction error relative to the best single black box. Simulated and real data demonstrate the practical value of the method.
- Abstract(参考訳): トレーニング済みのブラックボックス予測関数は、大量のデータセットから抽出された知識と広範な計算を符号化する。
しかし、利用可能な入力機能がブラックボックスが期待しているものと異なる場合、直接の使用は不可能である。
ブラックボックスから新しい異種入力空間へ予測知識を転送する手法を提案する。
提案手法では,対象の回帰関数を,ブラックボックスが通知できる転送可能なコンポーネントと,新しい空間に固有の情報をキャプチャする非転送可能なコンポーネントに分解する。
本稿では,2つの入力空間を橋渡しする豊富なラベル付き特徴対と,限られたラベルから非参照可能な成分から伝達可能な成分を推定する2段階のニューラルネットワーク手法を提案する。
我々は、非伝達可能成分が小さい場合や滑らかな場合、非移動可能成分よりも優れた予測リスク境界を導出し、その手順はどちらの場合にも適応する。
追加条件下では、推定器の最悪のリスクは、ラベル付きデータのみから推定される最小値のリスクよりも厳密に小さい多項式順序である。
フレームワークを複数のブラックボックスに拡張し、それぞれ独自の入力空間上に配置し、アグリゲーションが最高の単一ブラックボックスと比較して予測誤差を低減できることを示す。
シミュレーションおよび実データは,本手法の実用的価値を示す。
関連論文リスト
- Interleaved Resampling and Refitting: Data and Compute-Efficient Evaluation of Black-Box Predictors [15.386375612838371]
本研究では,2乗損失下での大規模実証的リスク最小化の余剰リスクを評価することの課題について検討する。
トレーニングアルゴリズムへのブラックボックスアクセスのみを仮定し、過剰リスクを推定するための効率的な手順を開発する。
論文 参考訳(メタデータ) (2026-03-15T04:41:20Z) - BlackCATT: Black-box Collusion Aware Traitor Tracing in Federated Learning [51.251962154210474]
フェデレートラーニング: BlackCATT におけるブラックボックストレーサトレースのための一般的なコラシオン耐性埋め込み法を提案する。
実験により,異なるアーキテクチャやデータセットにまたがる提案手法の有効性が確認された。
メインタスクの更新不整合に苦しむモデルに対して,提案したBlackCATT+FRには機能正規化が組み込まれている。
論文 参考訳(メタデータ) (2026-02-12T16:26:57Z) - Doubly Wild Refitting: Model-Free Evaluation of High Dimensional Black-Box Predictions under Convex Losses [15.386375612838371]
一般凸損失関数の下での実証的リスク最小化のための過剰リスク評価の問題について検討する。
我々の貢献は、過大なリスクを計算し、固定設計設定の下で高確率な上限を提供する効率的な調整手順である。
論文 参考訳(メタデータ) (2025-11-24T05:38:47Z) - Multidimensional Uncertainty Quantification via Optimal Transport [87.97146725546502]
相補的なUQ測度をベクトルに積み重ねることで,不確実性定量化(UQ)の多次元的考察を行う。
VecUQ-OTは、個々の測定が失敗しても高い効率を示す。
論文 参考訳(メタデータ) (2025-09-26T14:09:03Z) - Tuning without Peeking: Provable Privacy and Generalization Bounds for LLM Post-Training [49.75298684433045]
BBoxERはトレーニングデータの暗黙的な圧縮を通じて情報ボトルネックを誘導する。
我々は、データ中毒攻撃、および抽出攻撃に対する非空き一般化境界と、差分プライバシーに対する強力な理論的保証を提供する。
論文 参考訳(メタデータ) (2025-07-02T14:29:30Z) - Function Space Diversity for Uncertainty Prediction via Repulsive Last-Layer Ensembles [11.551956337460982]
粒子最適化による関数空間の推測と不確実性推定を改善するための実用的な修正について論じる。
本研究では,粒子予測を多種多様に強制する入力サンプルがモデル性能に有害であることを示す。
トレーニングデータ自体の多様性は不適合につながる可能性があるが、ラベル削除データの拡張や、ラベル付けされていないアウト・オブ・ディストリビューションデータを使用することは、予測の多様性と不確実性の推定を改善することができる。
論文 参考訳(メタデータ) (2024-12-20T10:24:08Z) - Fair Wrapping for Black-box Predictions [105.10203274098862]
予測を修飾するα木として定義したラッパー関数を学習する。
この修正は, アルファツリーの構成, 一般化, 解釈可能性, および修正された予測とオリジナル予測のKLの相違に関して, 魅力的な性質を有することを示す。
論文 参考訳(メタデータ) (2022-01-31T01:02:39Z) - Estimating g-Leakage via Machine Learning [34.102705643128004]
本稿では,ブラックボックスシナリオにおけるシステムの情報漏洩を推定する問題について考察する。
システムの内部は学習者にとって未知であり、分析するには複雑すぎると仮定される。
機械学習(ML)アルゴリズムを用いて,g-vulnerabilityをブラックボックスで推定する手法を提案する。
論文 参考訳(メタデータ) (2020-05-09T09:26:36Z) - Post-hoc explanation of black-box classifiers using confident itemsets [12.323983512532651]
ブラックボックス人工知能(AI)法は予測モデルの構築に広く利用されている。
内部動作や決定ロジックがユーザから隠されているため,そのような方法による決定を信頼することは困難である。
論文 参考訳(メタデータ) (2020-05-05T08:11:24Z) - Towards Discriminability and Diversity: Batch Nuclear-norm Maximization
under Label Insufficient Situations [154.51144248210338]
Batch Nuclear-norm Maximization (BNM) は、学習シナリオのラベルが不十分な場合の学習を促進するために提案されている。
BNMはライバルより優れており、既存のよく知られた手法でうまく機能する。
論文 参考訳(メタデータ) (2020-03-27T05:04:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。