論文の概要: Test-Time Collective Action: Proxy-Based Perturbations for Correcting Algorithmic Harms

• arxiv url: http://arxiv.org/abs/2605.27689v1
• Date: Tue, 26 May 2026 21:09:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-28 17:38:55.52156
• Title: Test-Time Collective Action: Proxy-Based Perturbations for Correcting Algorithmic Harms
• Title（参考訳）: テスト時間集合行動:アルゴリズムハームの修正のためのプロキシに基づく摂動
• Authors: Meghana Bhange, Ulrich Aïvodji, Elliot Creager,
• Abstract要約: 特定のサブグループで機械学習システムがパフォーマンスが低い場合、影響を受けるユーザは、プラットフォームレベルの修正に頼ることなく、これらの格差を修正する方法がないのが普通です。 Algorithmic Collective Actionの最近の研究によると、コーディネートされたユーザはアルゴリズムシステムを集合的な目標に向けて操ることができるが、既存のメカニズムでは、プロバイダが集合の修正されたデータを再トレーニングする必要がある。 テスト時間収集行動(TTCA)は,プラットフォームのトレーニングループに参加することなく,サブグループに影響を及ぼす相違を修正できるフレームワークである。
• 参考スコア（独自算出の注目度）: 5.011146543029802
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When machine learning systems under-perform for particular subgroups, affected users typically have no way to correct these disparities without relying on platform-level fixes. Existing approaches to algorithmic fairness rely on provider-centric approaches to correct these failures, leaving users with no external lever when faced with harm. Recent work in Algorithmic Collective Action shows that coordinated users can steer an algorithmic system toward a collective goal, but the existing mechanisms require the provider to retrain on the collective's modified data which users may not have control over. We propose Test-Time Collective Action (TTCA), a framework through which a group of users who share query access to the platform, can correct disparities affecting under-served subgroup without participating in the platform's training loop. We implement this through a proxy-based mechanism where the collective pools query access to a black-box API to extract a proxy of the platform, then optimizes a per-class universal perturbation against the proxy. Each member applies this perturbation to their own inputs at submission time, requiring no cooperation from the platform. We empirically evaluate the mechanism on CIFAR-10, CIFAR-100, and FairFace, showing that modestly-sized collectives close most of the subgroup accuracy gap, transfer across architectures (a small proxy can attack a larger platform), and improve worst-group accuracy, equal-opportunity gap, and disparate impact. A query-budget analysis comparing a per-user black-box attack baseline shows that pooling is cheaper than each subgroup member attacking alone. Test-time collective action thus offers corrective intervention to users when platform-side remediation is unavailable or delayed.
• Abstract（参考訳）: 特定のサブグループで機械学習システムがパフォーマンスが低い場合、影響を受けるユーザは、プラットフォームレベルの修正に頼ることなく、これらの格差を修正する方法がないのが普通です。 アルゴリズムフェアネスに対する既存のアプローチは、これらの障害を修正するためのプロバイダ中心のアプローチに依存しており、障害に直面した時に外部のレバーを持たないユーザを残している。 Algorithmic Collective Actionの最近の研究は、コーディネートされたユーザがアルゴリズムシステムを集合的な目標に向けて操ることができることを示しているが、既存のメカニズムでは、ユーザが制御できない可能性のある、集合の修正データを再トレーニングする必要がある。 本研究では,TTCA(Test-Time Collective Action)を提案する。TTCA(Test-Time Collective Action)は,プラットフォームへのクエリアクセスを共有するユーザ群が,プラットフォームのトレーニングループに参加することなく,サービス下サブグループに影響を与える相違を修正できるフレームワークである。 我々は、プロキシベースのメカニズムにより、集合がブラックボックスAPIへのクエリアクセスをプールし、プラットフォームのプロキシを抽出し、プロキシに対するクラスごとの普遍的摂動を最適化する。 各メンバーは、提出時に自身の入力にこの摂動を適用し、プラットフォームからの協力を必要としない。 CIFAR-10、CIFAR-100、FairFaceのメカニズムを実証的に評価し、中程度の規模の集団がサブグループの精度ギャップの大部分を閉じ、アーキテクチャをまたいで移動し(小さなプロキシがより大きなプラットフォームを攻撃できる)、最悪のグループ精度、均等な機会ギャップ、異なる影響を改善できることを示した。 ユーザ毎のブラックボックス攻撃ベースラインを比較したクエリ予算分析では、プールは攻撃単独のサブグループメンバーよりも安価であることが示された。 テストタイムの集合アクションは、プラットフォーム側の修復が不可能または遅れた場合に、ユーザに修正的介入を提供する。

関連論文リスト

• Breaking $\textit{Winner-Takes-All}$: Cooperative Policy Optimization Improves Diverse LLM Reasoning [53.42577591449649]
  グループ協力政策最適化は、トレーニングパラダイムをロールアウト競争からチーム協力へとシフトさせる。 GCPOは独立したロールアウトスコアをチームレベルのクレジット割り当てに置き換える。 チームへの平均的な限界貢献に従って、各ロールアウトに対して、グループチームの報酬を再分配する。
  論文  参考訳（メタデータ） (2026-05-12T03:20:24Z)
• Project-Probe-Aggregate: Efficient Fine-Tuning for Group Robustness [61.45587642780908]
  画像テキスト基礎モデルのパラメータ効率向上のための3段階のアプローチを提案する。 本手法は, マイノリティ標本同定とロバストトレーニングアルゴリズムの2つの重要な要素を改良する。 我々の理論分析は,PPAが少数群の識別を向上し,バランスの取れたグループエラーを最小限に抑えるためにベイズが最適であることを示している。
  論文  参考訳（メタデータ） (2025-03-12T15:46:12Z)
• Optimal Clustering with Bandit Feedback [57.672609011609886]
  本稿では,バンディットフィードバックを用いたオンラインクラスタリングの問題点について考察する。 これは、NPハード重み付きクラスタリング問題をサブルーチンとして解決する必要性を回避するための、シーケンシャルなテストのための新しい停止規則を含む。 合成および実世界のデータセットの広範なシミュレーションを通して、BOCの性能は下界と一致し、非適応的ベースラインアルゴリズムよりも大幅に優れることを示す。
  論文  参考訳（メタデータ） (2022-02-09T06:05:05Z)
• An Algorithmic Framework for Bias Bounties [11.246046276053898]
  我々は「バイアス報奨金」のためのアルゴリズムフレームワークの提案と分析を行う。 バイアス報奨金(bias bounties)とは、トレーニングされたモデルの改善を提案するために外部参加者が招待されるイベントである。 我々のフレームワークは、参加者が任意のサブグループの改善を提出し、アルゴリズムによって更新されたモデルに組み込むことを可能にする。
  論文  参考訳（メタデータ） (2022-01-25T15:57:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。