論文の概要: Decentralized Aggregation of LLM Predictions via Wagering Mechanisms
- arxiv url: http://arxiv.org/abs/2607.04389v1
- Date: Sun, 05 Jul 2026 16:34:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.912625
- Title: Decentralized Aggregation of LLM Predictions via Wagering Mechanisms
- Title(参考訳): 洗浄機構によるLCM予測の分散集約
- Abstract要約: 本稿では,LLMアグリゲーションのためのアドバンテージ・アラインメント・フェアリング機構のファミリーを提案する。
WALLAは予測性能において集中集約手法と一致していることを示す。
また、WALLAは分散学習、有利なアグリゲーション重み付け、不確実性認識、インセンティブに適合する予測を達成できることを示す。
- 参考スコア(独自算出の注目度): 2.670642124118927
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: It is increasingly common to aggregate predictions from multiple LLMs, each with domain expertise or access to private tools and data, to improve collective prediction performance. In decentralized settings, aggregation weights need to be determined without access to models' private information and should remain robust to strategic reporting. We propose a family of advantage-aligned wagering mechanisms for LLM aggregation (WALLA), in which each model reports a prediction and a learned wager, and predictions are aggregated using wagers as weights. WALLA introduces a leave-one-out baseline into the net payout function, yielding three desirable properties: (1) dominant-strategy incentive compatibility of prediction under arbitrary belief structure, (2) advantage--wager alignment, where the optimal wager is proportional to the model's expected score advantage, and (3) prediction-agnostic wager optimization, enabling decentralized learning of wager policies without requiring optimal predictions. We further instantiate two mechanism variants that trade off normality and no-arbitrage while maintaining a bounded worst-case deficit for the mechanism. Experiments on question-answering and forecasting benchmarks across heterogeneous models and private-information settings show that WALLA matches centralized aggregation methods in predictive performance, while simultaneously achieving decentralized learning, advantage-aligned aggregation weights, uncertainty awareness, and incentive-compatible prediction.
- Abstract(参考訳): 複数のLSMから予測を集約し、それぞれがドメインの専門知識を持つか、あるいはプライベートなツールやデータにアクセスして、全体的な予測性能を改善することがますます一般的になっている。
分散化された設定では、集約の重み付けはモデルのプライベート情報にアクセスせずに決定する必要がある。
本稿では,LLMアグリゲーション(WALLA)において,各モデルが予測と学習されたアグリゲーションを報告し,フラーを重みとして予測を集約する長所整合型アグリゲーション機構のファミリーを提案する。
WALLAは,(1)任意の信念構造の下での予測に対する支配的戦略的インセンティブの整合性,(2)最適利得がモデルが期待するスコアの優位性に比例するアドバンテージ・ワーガーアライメント,(3)最適予測を必要とせずにフェーラー政策の分散学習を可能にする予測非依存のフェーラー最適化という3つの望ましい特性を,ネットペイアウト機能に導入する。
さらに、正常性と非アービタージュとをトレードオフする2つのメカニズムの変種を、そのメカニズムのバウンドな最悪の欠陥を維持しながらインスタンス化する。
ヘテロジニアスモデルとプライベートインフォメーション設定にわたる質問回答と予測ベンチマークの実験は、WALLAが集中集約手法と予測性能を一致させ、同時に分散学習、有利なアグリゲーション重み付け、不確実性認識、インセンティブ互換予測を実現していることを示している。
関連論文リスト
- Robust and Consistent Ski Rental with Distributional Advice [13.811651343801579]
スキーレンタル問題は不確実性の下でのオンライン意思決定の標準モデルである。
本稿では,未知品質の分布的アドバイスを決定論的アルゴリズムとランダム化アルゴリズムの両方に統合するフレームワークを提案する。
我々のフレームワークは、既存の点予測ベースラインよりも一貫性を著しく向上し、かつ、同等の堅牢性を維持していることを示す。
論文 参考訳(メタデータ) (2026-03-31T04:04:21Z) - An Optimised Greedy-Weighted Ensemble Framework for Financial Loan Default Prediction [0.8941624592392746]
本研究では,ローンデフォルト予測のための最適化グレディウェイト・アンサンブル・フレームワークを提案する。
提案フレームワークは,経験的予測性能に基づいてモデル重み付けを動的に割り当てる。
クレジットアセスメント、リスク監視、財務上の意思決定をサポートする、スケーラブルなデータ駆動型アプローチを提供する。
論文 参考訳(メタデータ) (2026-03-19T14:04:37Z) - Forecasting the U.S. Treasury Yield Curve: A Distributionally Robust Machine Learning Approach [0.12891210250935145]
配当の不確実性下における米国債利回り曲線の予測について検討する。
予測者は、平均予測誤差を最小化する代わりに、最悪のケース予測損失を最小限に抑える決定ルールを選択する。
本研究では,因子モデルと高次元非パラメトリック機械学習モデルを統合する分散ロバストなアンサンブル予測フレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-08T05:26:43Z) - AWPO: Enhancing Tool-Use of Large Language Models through Explicit Integration of Reasoning Rewards [60.2998874976509]
我々は,ツール利用能力を高めるために,明示的な推論報酬を統合するために,有利なポリシー最適化(AWPO)を提案する。
AWPOは分散認識ゲーティングと困難認識重み付けを導入し、推論信号から利点を適応的に変調する。
実験により、AWPOは標準的なツール使用ベンチマークで最先端のパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2025-12-22T08:07:00Z) - Forests of Uncertaint(r)ees: Using tree-based ensembles to estimate probability distributions of future conflict [0.0]
我々は、従来の点予測から完全な予測分布へ移行し、紛争予測の不確実性を定量化する戦略を開発する。
モデルは、最大1年前の予測において、コンフリクト履歴から派生したベンチマークスイートを一貫して上回ることができる。
我々は,計量が与えられた予測問題に対してどのように振る舞うかを理解する必要があることを強調する。
論文 参考訳(メタデータ) (2025-12-05T23:10:16Z) - Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。
FASTは最先端のベースラインを超え、デバイアス性能が優れている。
これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
論文 参考訳(メタデータ) (2024-08-07T17:14:58Z) - LoRA-Ensemble: Efficient Uncertainty Modelling for Self-Attention Networks [52.46420522934253]
本稿では,自己注意ネットワークのためのパラメータ効率のよいアンサンブル手法であるLoRA-Ensembleを紹介する。
この方法は、BatchEnsembleのような最先端の暗黙のテクニックを上回るだけでなく、Explicit Ensembleの正確さにマッチするか超える。
論文 参考訳(メタデータ) (2024-05-23T11:10:32Z) - Restricted Bernoulli Matrix Factorization: Balancing the trade-off
between prediction accuracy and coverage in classification based
collaborative filtering [45.335821132209766]
本稿では,Restricted Bernoulli Matrix Factorization (ResBeMF) を提案する。
提案モデルでは,他のレコメンデーションモデルと比較して,品質指標のバランスが良好である。
論文 参考訳(メタデータ) (2022-10-05T13:48:19Z) - Collaborative Uncertainty Benefits Multi-Agent Multi-Modal Trajectory Forecasting [61.02295959343446]
この研究はまず、相互作用モジュールから生じる不確実性をモデル化する新しい概念であるコラボレーティブ不確実性(CU)を提案する。
我々は、回帰と不確実性推定の両方を行うために、元の置換同変不確かさ推定器を備えた一般的なCU対応回帰フレームワークを構築した。
提案するフレームワークを,プラグインモジュールとして現在のSOTAマルチエージェント軌道予測システムに適用する。
論文 参考訳(メタデータ) (2022-07-11T21:17:41Z) - Test-time Collective Prediction [73.74982509510961]
マシンラーニングの複数のパーティは、将来のテストポイントを共同で予測したいと考えています。
エージェントは、すべてのエージェントの集合の集合的な専門知識の恩恵を受けることを望んでいるが、データやモデルパラメータを解放する意思はないかもしれない。
我々は、各エージェントの事前学習モデルを利用して、テスト時に集合的な予測を行う分散型メカニズムを探索する。
論文 参考訳(メタデータ) (2021-06-22T18:29:58Z) - Probabilistic electric load forecasting through Bayesian Mixture Density
Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。
ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。
後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文 参考訳(メタデータ) (2020-12-23T16:21:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。