論文の概要: Asking the Crowd the Right Question: Bias-Cancelling Weights for Federated Learning
- arxiv url: http://arxiv.org/abs/2610.04671v1
- Date: Sat, 03 Oct 2026 17:37:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-11 17:52:45.631277
- Title: Asking the Crowd the Right Question: Bias-Cancelling Weights for Federated Learning
- Title（参考訳）: 正しい質問を群衆に尋ねる:フェデレーションラーニングのためのバイアスキャンセリングウェイト
- Abstract要約: クライアントは1つの真実を騒々しく見ることができ、それぞれが独立した歪曲を通して見ている。
真のリスクは集合バイアスエネルギーの正確な順序であり、悪い重みベクトルを修復するアルゴリズムは存在しない。
CROWDは、幾何学的不整合床によって支配される比で、最適な重量と競合する。
- 参考スコア（独自算出の注目度）: 36.90685004800658
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A federated objective is a weighted sum of client risks, and the weights are almost always fixed in advance. We treat them instead as the only instrument of a wisdom-of-crowds mechanism: clients are noisy views of one truth, each seeing it through an independent distortion that is unbiased across the crowd. That the optimal weights are inversely proportional to the clients' error energies is classical; we begin at the question that answer presupposes, which energies belong there and whether a crowd can recover them from itself. Excess risk on the truth is of the exact order of the aggregate bias energy, so no optimizer can repair a bad weight vector; the truth itself is identifiable only up to a linear tilt, so subtracting estimated client biases provably reproduces uniform weighting. The expected per-client second moments, however, are exactly identified from the law of the crowd's disagreement by a well-conditioned linear inversion, a step random-effects meta-analysis cannot take because a source reports once; their realized counterparts are estimable up to an incoherence floor the algorithm can measure. This yields CROWD, which reads the disagreement off the optimization trajectory at no extra cost and matches a Bayesian minimax lower bound in the same constant: per instance as the horizon grows, and unconditionally as the prior becomes diffuse. For arbitrary distortions it stays competitive with the optimal weights, at a ratio governed by a geometric incoherence the algorithm can measure. On real scans split into sites with their own miscalibrated detectors it attains the oracle excess risk; on a companion federation that pulls bias and noise apart, weighting by noise variance is worse than not weighting at all, and CROWD is not.
- Abstract（参考訳）: 連合された目的は、クライアントのリスクの重み付けされた総和であり、その重みは、ほとんど常に前もって固定されます。
クライアントは1つの真実の騒々しい見解を持ち、それぞれが群衆全体に偏見のない独立した歪みを通してそれを見ている。
最適なウェイトがクライアントのエラーエネルギーに逆比例するということは古典的であり、答えの前提、どのエネルギーがどのエネルギーに属しているか、そして群衆がそれ自身から回復できるかどうかという質問から始めます。
真理への過剰なリスクは、集約バイアスエネルギーの正確な順序であるので、オプティマイザは悪い重みベクトルを修復することができず、真理自身は線形傾きまでしか特定できないので、推定されたクライアントバイアスの減算は、一様重み付けを確実に再現する。
しかし、予測される1サイクル当たりの秒は、適切に条件付けられた線形反転によって群衆の不一致の法則から正確に識別され、ステップランダム効果のメタアナリシスは、情報源が一度報告しただけでは耐えられず、アルゴリズムが測定できる不整合床まで推定できる。
これにより CROWD は最適化軌道の不一致を余分なコストで読み出し、ベイズ最小値の下限を同じ定数で一致させる。
任意の歪みに対して、アルゴリズムが測定できる幾何的不整合によって支配される比において、最適な重みと競合する。
実際のスキャンでは、誤校正された検出器でサイトを分割すると、オラクルの過剰なリスクが達成される。バイアスとノイズを分離する連合では、ノイズの偏りによる重み付けは、重み付けよりも悪く、CROWDはそうではない。
関連論文リスト
- PosteriorBench: From Point Estimates to Posterior Matching in Evaluating Generative Inverse Solvers [58.87583368961845]
PosteriorBenchは、生成的逆解器の分布精度を評価するためのベンチマークである。
ダーシーフローの逆転、ポアソン源の回復、炭素捕獲と貯蔵、光輸送物質推論の4つの物理に基づく逆問題を評価する。
論文 参考訳（メタデータ） (2026-09-17T17:54:12Z) - SP-CACW: Convergence-Aware Client Weighting for Selfish Personalized Learning [8.941998221680409]
特定対象のクライアントが、負の転送を回避しつつ、自身のリスクを最小限に抑えるためにピア勾配を利用する方法について検討する。
本稿では,収束を考慮したクライアント重み付けフレームワークSP-CACWを提案する。
論文 参考訳（メタデータ） (2026-06-28T10:28:04Z) - Direct Bethe Free Energy Minimization for Bayesian Neural Network [0.0]
我々は,変分下界を最大化するのではなく,Bethe自由エネルギーを直接最小化してベイズニューラルネットワークを訓練することを提案する。
木構造因子グラフ上では、Bethe自由エネルギーは正確であり、決定論的層は目的から外れ、標準のバックプロパゲーションによって訓練される。
すべての変種は、アンサンブルやサンプリングベースの手法とは対照的に、MAP等価な推論コストで閉形式予測を許容する。
論文 参考訳（メタデータ） (2026-05-08T20:12:48Z) - \mathsf{VISTA}: Decentralized Machine Learning in Adversary Dominated Environments [21.69919643934826]
分散機械学習は、評価などのアウトソーシング計算を信頼できないワーカノードに頼っていることが多い。
本稿では, 相互に整合性がある場合にのみ, 報告を受理し, 報奨するインセンティブ指向の枠組みを通じて, 敵に支配される設定について検討する。
本稿では,最適化履歴を用いた適応アルゴリズムであるmathsfVISTAを提案する。
論文 参考訳（メタデータ） (2026-05-08T15:07:15Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳（メタデータ） (2026-02-24T05:32:03Z) - Probability-Entropy Calibration: An Elastic Indicator for Adaptive Fine-tuning [55.2818264614932]
RankTunerは確率エントロピーキャリブレーション信号、相対ランクインジケータを導入し、予測分布の下で接地トラストークンのランクと期待ランクを比較する。
逆インジケータはトークン単位の相対尺度として使用され、微調整の目的を再重み付けし、真に未学習のトークンを更新する。
論文 参考訳（メタデータ） (2026-02-02T07:27:19Z) - Sample Smart, Not Hard: Correctness-First Decoding for Better Reasoning in LLMs [72.82403830490084]
我々は、復号規則は正確さによって校正されるべきであり、自信だけではならないと論じている。
Greedy-Threshold はこの目標を達成するための単純な戦略を提案します。
この結果から,不確実性の下での復号化が問題視され,数学や一般推論のベンチマークで有意な差がみられた。
論文 参考訳（メタデータ） (2025-10-07T14:46:12Z) - A Lightweight Method for Tackling Unknown Participation Statistics in Federated Averaging [39.15781847115902]
フェデレートラーニング(FL)では、クライアントは通常、事前に不明な多様な参加統計を持つ。
我々は、最適重みのオンライン推定に基づいてクライアント更新を適応的に重み付けすることで、FedAvgを改善するFedAUという新しいアルゴリズムを提案する。
我々の理論的結果は、FedAUが元の目的の最適解に収束することを示しながら、重要かつ興味深い洞察を明らかにした。
論文 参考訳（メタデータ） (2023-06-06T04:32:10Z) - Direct Measure Matching for Crowd Counting [59.66286603624411]
そこで本研究では,予測密度マップを散乱点付基底真理に直接回帰する測度に基づく新しい計数手法を提案する。
本稿では, シンクホーンの測位損失を計測するために設計した, 半平衡型のシンクホーン発散を導出する。
論文 参考訳（メタデータ） (2021-07-04T06:37:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。