論文の概要: Dynamic Shapley Computation
- arxiv url: http://arxiv.org/abs/2605.20620v1
- Date: Wed, 20 May 2026 02:09:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 19:19:56.437589
- Title: Dynamic Shapley Computation
- Title(参考訳): 動的シェープ計算
- Authors: Xuan Yang, Hsi-Wen Chen, Ming-Syan Chen, Jian Pei,
- Abstract要約: プレイヤー・バイ・タスク行列としてShapley値を表す新しい視点を導入する。
D-Shapは,行列のごく一部だけを変更することで,効率的な更新を可能にする動的アセスメントフレームワークである。
様々なモデルにわたる実験により、D-Shapはミリ秒でタスク更新を行い、プレイヤー更新のコストを最大3桁まで削減した。
- 参考スコア(独自算出の注目度): 32.861851772914996
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Shapley-based data valuation provides a principled way to quantify the contribution of training data, but its high computational cost makes it impractical in dynamic settings where tasks and training players evolve. Existing methods treat Shapley computation as a one-shot process and collapse contributions into aggregated scores, preventing reuse and requiring recomputation under any change. We introduce a new perspective that represents Shapley values as a player-by-task matrix and formulates dynamic valuation as a structured matrix maintenance problem. We exploit the fact that each task depends on a small subset of training players and that similar tasks yield similar valuations, leading to utility locality and coalition locality. Based on these insights, we propose D-Shap, a dynamic valuation framework that enables efficient updates by modifying only a small portion of the matrix: new task valuations are inferred via structure-aware interpolation, while updates induced by new players are confined to affected local matrix blocks. To eliminate the need for pre-specified evaluation tasks, we introduce self-valuation, which constructs the initial matrix directly from training data, supported by scalable subset reuse and coverage-aware anchor selection. Experiments across diverse models show that D-Shap performs task updates in milliseconds and reduces the cost of player updates by up to three orders of magnitude, while achieving valuation quality competitive with full recomputation.
- Abstract(参考訳): シェープベースのデータ評価は、トレーニングデータのコントリビューションを定量化するための原則的な方法を提供するが、その高い計算コストは、タスクやトレーニングプレーヤが進化する動的な環境では実用的ではない。
既存の方法では、Shapley計算をワンショットプロセスとして扱い、コントリビューションを集約されたスコアに分解し、再利用を防止し、任意の変更の下で再計算を必要とする。
そこで我々は,Shapley値をプレイヤー・バイ・タスク行列として表現し,動的評価を構造化行列保守問題として定式化する新しい視点を提案する。
我々は、各タスクがトレーニングプレイヤーの小さなサブセットに依存し、同様のタスクが同様の評価をもたらし、ユーティリティローカリティと連帯ローカリティをもたらすという事実を活用する。
これらの知見に基づき、D-Shapを提案する。D-Shapは、行列のごく一部だけを変更して効率的な更新を可能にする動的アセスメントフレームワークである。新しいタスクアセスメントは構造認識補間によって推論され、新しいプレイヤーによって誘導される更新は影響のあるローカルマトリックスブロックに限定される。
事前指定した評価タスクを不要にするため、スケーラブルなサブセット再利用とカバレッジ対応アンカー選択をサポートするトレーニングデータから初期行列を直接構築する自己評価を導入する。
様々なモデルにわたる実験により、D-Shapはタスク更新をミリ秒で実行し、プレイヤー更新のコストを最大3桁まで削減し、完全な再計算と競合する評価品質を達成する。
関連論文リスト
- Bagging-Based Model Merging for Robust General Text Embeddings [73.51674133699196]
汎用テキスト埋め込みモデルは、幅広いNLPおよび情報検索アプリケーションを支える。
本稿では,データスケジューリングとモデルマージという2つの観点から,テキスト埋め込みのためのマルチタスク学習の体系的研究を行う。
本稿では,Baging ベースの rObust mOdel Merging (BOOM) を提案する。
論文 参考訳(メタデータ) (2026-02-05T15:45:08Z) - Dynamic Context-oriented Decomposition for Task-aware Low-rank Adaptation with Less Forgetting and Faster Convergence [131.41894248194995]
タスク認識方式でアダプタを初期化する新しい手法であるコンテキスト指向分解適応(CorDA)を提案する。
本手法は,タスク認識により,知識保存モード (KPM) と命令レビューモード (IPM) の2つのオプション適応モードを実現する。
論文 参考訳(メタデータ) (2025-06-16T07:55:14Z) - ToReMi: Topic-Aware Data Reweighting for Dynamic Pre-Training Data Selection [28.75333303894706]
ToReMiは、トピックの関連や観察された学習パターンに応じてトレーニングサンプル重量を調整する新しいフレームワークである。
実験の結果,ToReMiの変種は従来の事前学習手法よりも優れた性能が得られることがわかった。
論文 参考訳(メタデータ) (2025-04-01T12:06:42Z) - Dynamic Integration of Task-Specific Adapters for Class Incremental Learning [32.124078616314144]
非典型的なクラス インクリメンタルラーニング (NECIL) では、モデルがスクラッチからリトレーニングしたり、古いタスク インクリメンタルを格納したりすることなく、新しいクラスを継続的に取得できる。
本稿では,タスク特化アダプタ統合(TSAI)とパッチレベルモデルアライメントという,タスク特化アダプタの動的統合(DIA)という新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-23T13:01:33Z) - Distilled Datamodel with Reverse Gradient Matching [74.75248610868685]
オフライントレーニングとオンライン評価段階を含む,データ影響評価のための効率的なフレームワークを提案する。
提案手法は, 直接再学習法と比較して, プロセスの大幅な高速化を図りながら, 同等のモデル行動評価を実現する。
論文 参考訳(メタデータ) (2024-04-22T09:16:14Z) - Exploring Learning Complexity for Efficient Downstream Dataset Pruning [8.990878450631596]
既存のデータセットプルーニングメソッドでは、データセット全体のトレーニングが必要になる。
本稿では、DLC(Distorting-based Learning Complexity)という、単純で、新規で、トレーニング不要な難易度スコアを提案する。
本手法は,より高速に学習できるサンプルを少ないパラメータで学習できるという観察結果に動機付けられている。
論文 参考訳(メタデータ) (2024-02-08T02:29:33Z) - Task-Distributionally Robust Data-Free Meta-Learning [99.56612787882334]
Data-Free Meta-Learning (DFML)は、複数の事前学習モデルを活用することで、独自のトレーニングデータを必要とせずに、新しいタスクを効率的に学習することを目的としている。
TDS(Task-Distribution Shift)とTDC(Task-Distribution Corruption)の2つの大きな課題を初めて明らかにした。
論文 参考訳(メタデータ) (2023-11-23T15:46:54Z) - Consensus-Adaptive RANSAC [104.87576373187426]
本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。
注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
論文 参考訳(メタデータ) (2023-07-26T08:25:46Z) - Adaptive Cross Batch Normalization for Metric Learning [75.91093210956116]
メトリクス学習はコンピュータビジョンの基本的な問題である。
蓄積した埋め込みが最新であることを保証することは、同様に重要であることを示す。
特に、蓄積した埋め込みと現在のトレーニングイテレーションにおける特徴埋め込みとの間の表現的ドリフトを回避する必要がある。
論文 参考訳(メタデータ) (2023-03-30T03:22:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。