論文の概要: On the Fragility of Data Attribution When Learning Is Distributed

• arxiv url: http://arxiv.org/abs/2605.15520v1
• Date: Fri, 15 May 2026 01:34:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-18 21:22:26.141861
• Title: On the Fragility of Data Attribution When Learning Is Distributed
• Title（参考訳）: 学習が分散する際のデータ属性の脆弱性について
• Authors: Xian Gao, Bo Hui, Min-Te Sun, Wei-Shinn Ku,
• Abstract要約: 標準的な分散トレーニングワークフローに参加する1人の参加者が、その測定された属性値を大幅に向上させることができることを示す。 我々の属性ファースト攻撃は、潜在最適化を用いて、非IIDラベルのカバレッジと評価器の感度を利用して、有用性を保った小さな合成バッチを注入する。
• 参考スコア（独自算出の注目度）: 17.472602957780737
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Data attribution has become an important component of pricing, auditing, and governance in machine learning pipelines, yet most attribution methods implicitly assume that attribution values faithfully reflect participants' contributions. We show that this assumption can fail: a single participant in a standard distributed training workflow can substantially inflate its measured attribution value while preserving global utility. Our attribution-first attack uses latent optimization to inject small synthetic batches that preserve utility while exploiting non-IID label coverage and evaluator sensitivities. Across datasets, models, and multiple marginal-utility evaluators, the attack consistently increases the adversary's attribution value and reshapes the relative attribution structure among benign clients without degrading accuracy or triggering geometry-based defenses. These results show that attribution itself forms a new attack surface and motivate the development of attribution-robust and incentive-compatible scoring mechanisms.
• Abstract（参考訳）: データ属性は、機械学習パイプラインにおける価格、監査、ガバナンスの重要なコンポーネントとなっているが、ほとんどの属性メソッドは、属性値が参加者の貢献を忠実に反映していると暗黙的に仮定している。 標準的な分散トレーニングワークフローの参加者は、グローバルなユーティリティを保ちながら、測定された帰属価値を著しく向上させることができる。 我々の属性ファースト攻撃は、潜在最適化を用いて、非IIDラベルのカバレッジと評価器の感度を利用して、有用性を保った小さな合成バッチを注入する。 データセット、モデル、および複数の限界効用評価器全体で、攻撃は敵の属性値を一貫して増加させ、良性クライアント間の相対的な属性構造を、精度を低下させることなく、あるいは幾何学ベースの防御をトリガーする。 これらの結果は、帰属自体が新たな攻撃面を形成し、帰属ロバストおよびインセンティブに適合するスコアリング機構の開発を動機付けていることを示している。

関連論文リスト

• Utilizing and Calibrating Hindsight Process Rewards via Reinforcement with Mutual Information Self-Evaluation [50.696688705287755]
  我々は、強化学習におけるスパース報酬課題を克服するために、相互情報自己評価を提案する。 MISEにより、エージェントは、疎外的信号を補う高密度な内部報酬から自律的に学習することができる。 我々は、後見自己評価報酬を利用することは、政策と代行報酬政策の間のKL分散項と相互情報を組み合わせた目的を最小化することと等価であることを示す。
  論文  参考訳（メタデータ） (2026-04-13T15:18:51Z)
• Private and Robust Contribution Evaluation in Federated Learning [44.1965210509968]
  クロスサイロフェデレーション学習は、複数の組織が生データを共有せずに、協力的に機械学習モデルをトレーニングすることを可能にする。 セキュリティアグリゲーションは、個々の更新を隠すことによってプライバシを保護するが、コントリビューション評価を複雑にする。 安全なアグリゲーションに適合する2つの限界差コントリビューションスコアを導入する。
  論文  参考訳（メタデータ） (2026-02-25T09:27:40Z)
• GShield: Mitigating Poisoning Attacks in Federated Learning [2.6260952524631787]
  Federated Learning (FL) は、最近、機械学習モデルを協調訓練するための革命的なアプローチとして登場した。 データプライバシを保護しながら、分散モデルのトレーニングを可能にするが、その分散特性により、Data Poisoningとして知られる深刻な攻撃に対して、非常に脆弱である。 我々はGShieldと呼ばれる新しい防御機構を提案し、悪質で低品質な更新を検知・緩和する。
  論文  参考訳（メタデータ） (2025-12-22T11:29:28Z)
• Learning More with Less: A Generalizable, Self-Supervised Framework for Privacy-Preserving Capacity Estimation with EV Charging Data [84.37348569981307]
  自己教師付き事前学習に基づく第一種能力推定モデルを提案する。 我々のモデルは一貫して最先端のベースラインを上回っている。
  論文  参考訳（メタデータ） (2025-10-05T08:58:35Z)
• Intersectional Divergence: Measuring Fairness in Regression [21.34290540936501]
  回帰タスクにおける交叉公正度を測定するための新しい手法を提案する。 不均衡な領域の選好を考慮せずに、グループの平均誤差を測るには不十分である。 IDを損失関数、IDLossに適合させる方法を示し、収束保証を満足し、スムーズな性質を持つ。
  論文  参考訳（メタデータ） (2025-05-01T19:43:12Z)
• Fairness-Aware Low-Rank Adaptation Under Demographic Privacy Constraints [4.647881572951815]
  事前訓練された基礎モデルはローランド適応(LoRA)を用いて特定のタスクに適応することができる 既存のフェアネスを意識した微調整手法は、機密属性や予測器への直接アクセスに依存している。 分散方式でトレーニング可能なLoRAベースの微調整手法のセットを紹介する。
  論文  参考訳（メタデータ） (2025-03-07T18:49:57Z)
• GREAT Score: Global Robustness Evaluation of Adversarial Perturbation using Generative Models [60.48306899271866]
  GREATスコア(GREAT Score)と呼ばれる新しいフレームワークを提案する。 我々は,ロバストベンチにおける攻撃ベースモデルと比較し,高い相関性を示し,GREATスコアのコストを大幅に削減した。 GREAT Scoreは、プライバシーに敏感なブラックボックスモデルのリモート監査に使用することができる。
  論文  参考訳（メタデータ） (2023-04-19T14:58:27Z)
• Explicit Tradeoffs between Adversarial and Natural Distributional Robustness [48.44639585732391]
  実際、モデルは信頼性を確保するために両方のタイプの堅牢さを享受する必要があります。 本研究では, 対角線と自然分布の強靭性の間には, 明らかなトレードオフが存在することを示す。
  論文  参考訳（メタデータ） (2022-09-15T19:58:01Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Exploiting Sample Uncertainty for Domain Adaptive Person Re-Identification [137.9939571408506]
  各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。 不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2020-12-16T04:09:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。