論文の概要: A3M: Adaptive, Adversarial and Multi-Objective Learning for Strategic Bidding in Repeated Auctions
- arxiv url: http://arxiv.org/abs/2606.28943v1
- Date: Sat, 27 Jun 2026 14:30:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.736387
- Title: A3M: Adaptive, Adversarial and Multi-Objective Learning for Strategic Bidding in Repeated Auctions
- Title(参考訳): A3M: 繰り返しオークションにおける戦略入札のための適応的, 反転的, 多目的学習
- Abstract要約: 本稿では,オンラインオークション戦略最適化のための適応型深層学習,明示的対角的推論,多目的報酬設計を取り入れたA3Mフレームワークを紹介する。
A3Mは、動的に探索と搾取のバランスをとるためにアクタークリティカルなDRLバックボーン、非静止敵に対する架空のプレーの対戦モデル、有用性、オークション収益、公正性を共同で最大化する複合報酬機能を採用する。
その結果、A3Mは、標準設定における最終後悔を30-40%減らし、敵戦略シフトに対する堅牢なパフォーマンスを維持し、K$の単位数に好適にスケールし、調整可能な多目的取引を可能にした。
- 参考スコア(独自算出の注目度): 19.323612677924732
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning to bid in repeated multi-unit auctions with bandit feedback poses a fundamental challenge. Existing methods often rely on rigid explore-then-exploit schedules, assume stationary adversaries, and optimize solely for bidder utility, thereby limiting adaptability and strategic robustness. To address these limitations, we introduce the A3M framework, which integrates adaptive deep reinforcement learning (DRL), explicit adversarial reasoning, and principled multi-objective reward design for online auction strategy optimization. A3M employs an actor-critic DRL backbone to dynamically balance exploration and exploitation, an opponent model for fictitious play against non-stationary adversaries, and a composite reward function to jointly maximize utility, auctioneer revenue, and fairness. We provide the first comprehensive empirical evaluation of this integrated approach against established baselines in both discriminatory and uniform price auctions. Results show that A3M reduces final regret by 30--40\% in standard settings, maintains robust performance against adversarial strategy shifts, scales favorably with the number of units $K$, and enables tunable multi-objective trade-offs. An extensive ablation study confirms the necessity of each core component. Our work establishes A3M as a powerful and flexible framework for learning in complex auction environments.
- Abstract(参考訳): 繰り返し行われる複数ユニットオークションで,盗賊のフィードバックで競うことを学ぶことは,根本的な課題である。
既存の方法は、しばしば厳格な探索と露骨なスケジュールに頼り、静止した敵を仮定し、入札者のユーティリティのみに最適化することで、適応性と戦略的堅牢性を制限する。
これらの制約に対処するために,適応型深層強化学習(DRL),明示的対角的推論,オンラインオークション戦略最適化のための多目的報酬設計を統合したA3Mフレームワークを導入する。
A3Mは、動的に探索と搾取のバランスをとるためにアクタークリティカルなDRLバックボーン、非静止敵に対する架空のプレーの対戦モデル、有用性、オークション収益、公正性を共同で最大化する複合報酬機能を採用する。
差別および均一価格オークションにおいて、この統合されたアプローチを確立されたベースラインに対して初めて包括的実証評価を行う。
その結果、A3Mは、標準設定における最終後悔を30~40倍に減らし、敵の戦略シフトに対する堅牢なパフォーマンスを維持し、K$の単位数に好適にスケールし、調整可能な多目的トレードオフを可能にする。
広範囲にわたるアブレーション研究は、各コアコンポーネントの必要性を確認している。
我々の研究は、複雑なオークション環境で学習するための強力で柔軟なフレームワークとしてA3Mを確立します。
関連論文リスト
- GD$^2$PO: Mitigating Multi-Reward Conflicts via Group-Dynamic reward-Decoupled Policy Optimization [54.596224644751565]
訓練後強化学習(RL)は多次元報酬に頼り、包括的能力を育成する。
これを解決するために、グループ報酬分離政策最適化(GDPO)のような既存の手法は、総合的なスコアを独立した報酬グループに分解し、各グループ内でRL損失を個別に計算する。
本稿では,GD$2$PO(Group-Dynamic reward-Decoupled Policy Optimization)を提案する。
論文 参考訳(メタデータ) (2026-06-15T14:19:28Z) - AIPO: Learning to Reason from Active Interaction [54.10819421625103]
AIPOは、ポリシーモデルが、推論ボトルネックに遭遇するときに、3つの機能的協調エージェントを積極的に相談することを可能にする。
AIPOは推論性能を継続的に改善し、異なるポリシーモデルとRLVRアルゴリズムをまたいで堅牢に一般化し、ポリシーモデルの推論能力境界を効果的に拡張する。
論文 参考訳(メタデータ) (2026-05-08T19:06:55Z) - Training Language Models for Bilateral Trade with Private Information [47.25254982913256]
貿易の利益を達成するためには、個人、戦略的余剰の合理性、協力が必要である。
本研究では,大規模言語モデルがイベント駆動シミュレータ内のツールコールを介して交渉する構造化交渉環境を開発する。
この環境は、フロンティアモデルのベンチマークと、強化学習によるオープンウェイトモデルのトレーニング環境という2つの目的を果たす。
論文 参考訳(メタデータ) (2026-04-10T03:04:20Z) - Decomposable Reward Modeling and Realistic Environment Design for Reinforcement Learning-Based Forex Trading [0.0]
本稿では,Forexトレーディングのためのモジュール型強化学習フレームワークを提案する。
これには、厳格なアンチルックアヘッドセマンティクスを強制するフリクション対応実行エンジンが含まれており、時刻 t での観察、時刻 t+1 での実行、時刻 t+1 でのマーク・ツー・マーケットがある。
また、スプレッド、コミッショナー、滑り込み、ロールオーバー・ファイナンス、マージントトリガード・清算といった現実的なコストも取り入れている。
論文 参考訳(メタデータ) (2026-03-20T13:38:19Z) - Mixture of Ranks with Degradation-Aware Routing for One-Step Real-World Image Super-Resolution [76.66229730098759]
実世界の画像超解像(Real-ISR)では、既存のアプローチは主に微調整された事前学習拡散モデルに依存している。
単一ステップ画像超解像のためのMixture-of-Ranks (MoR)アーキテクチャを提案する。
LoRAの各ランクを独立した専門家として扱う、きめ細かい専門家分割戦略を導入する。
論文 参考訳(メタデータ) (2025-11-20T04:11:44Z) - The Bidding Games: Reinforcement Learning for MEV Extraction on Polygon Blockchain [0.11880231424287215]
本稿では,ポリゴンアトラスを用いたMEV抽出のための強化学習フレームワークを提案する。
我々の研究は、高頻度MEV環境において強化学習が重要な利点をもたらすことを証明している。
論文 参考訳(メタデータ) (2025-10-16T12:54:53Z) - FURINA: Free from Unmergeable Router via LINear Aggregation of mixed experts [17.056585698418587]
パラメータ効率の良い微調整のために,Mixture of Experts (MoE) をローランド適応 (LoRA) に統合することに成功している。
既存のMoE-LoRA手法の鍵となる制限は、離散ルータに依存することである。
我々は,LINear Aggregation of expertsに基づく,フリー・アグリゲーション・オブ・アンマージブル・ルータ・フレームワークであるFURINAを提案する。
論文 参考訳(メタデータ) (2025-09-18T12:22:32Z) - Softmax with Regularization: Better Value Estimation in Multi-Agent
Reinforcement Learning [72.28520951105207]
q$-learningの過大評価は、シングルエージェント強化学習で広く研究されている重要な問題である。
ベースラインから逸脱する大きな関節動作値をペナライズする,新たな正規化ベースの更新方式を提案する。
本手法は,StarCraft IIマイクロマネジメントの課題に対して,一貫した性能向上を実現する。
論文 参考訳(メタデータ) (2021-03-22T14:18:39Z) - MoTiAC: Multi-Objective Actor-Critics for Real-Time Bidding [47.555870679348416]
そこで本研究では,MoTiACというマルチエクティブ・アクタ・クリティカルスアルゴリズムを提案する。
従来のRLモデルとは異なり、提案されたMoTiACは複雑な入札環境で同時に多目的タスクを達成できる。
論文 参考訳(メタデータ) (2020-02-18T07:16:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。