論文の概要: Multi-Agent Cooperative Bidding Games for Multi-Objective Optimization
in e-Commercial Sponsored Search
- arxiv url: http://arxiv.org/abs/2106.04075v1
- Date: Tue, 8 Jun 2021 03:18:28 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-09 15:42:11.770982
- Title: Multi-Agent Cooperative Bidding Games for Multi-Objective Optimization
in e-Commercial Sponsored Search
- Title(参考訳): e-Commercial Sponsored Searchにおける多目的最適化のためのマルチエージェント協調バイディングゲーム
- Authors: Ziyu Guan, Hongchang Wu, Qingyu Cao, Hao Liu, Wei Zhao, Sheng Li, Cai
Xu, Guang Qiu, Jian Xu, Bo Zheng
- Abstract要約: 我々は,Multi-Agent Cooperative bidding Games (MACG) と呼ばれる新しい多目的協調入札最適化法を提案する。
すべての広告の全体的な利益を最大化するためのグローバルな目的が、より良い協力を奨励し、またセルフ入札の広告主を保護するために追加される。
タオバオプラットフォーム上でのオフライン実験とオンラインA/Bテストは、単一広告主の目標とグローバル利益の両方が大幅に改善されたことを示している。
- 参考スコア(独自算出の注目度): 26.117969395228503
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Bid optimization for online advertising from single advertiser's perspective
has been thoroughly investigated in both academic research and industrial
practice. However, existing work typically assume competitors do not change
their bids, i.e., the wining price is fixed, leading to poor performance of the
derived solution. Although a few studies use multi-agent reinforcement learning
to set up a cooperative game, they still suffer the following drawbacks: (1)
They fail to avoid collusion solutions where all the advertisers involved in an
auction collude to bid an extremely low price on purpose. (2) Previous works
cannot well handle the underlying complex bidding environment, leading to poor
model convergence. This problem could be amplified when handling multiple
objectives of advertisers which are practical demands but not considered by
previous work. In this paper, we propose a novel multi-objective cooperative
bid optimization formulation called Multi-Agent Cooperative bidding Games
(MACG). MACG sets up a carefully designed multi-objective optimization
framework where different objectives of advertisers are incorporated. A global
objective to maximize the overall profit of all advertisements is added in
order to encourage better cooperation and also to protect self-bidding
advertisers. To avoid collusion, we also introduce an extra platform revenue
constraint. We analyze the optimal functional form of the bidding formula
theoretically and design a policy network accordingly to generate auction-level
bids. Then we design an efficient multi-agent evolutionary strategy for model
optimization. Offline experiments and online A/B tests conducted on the Taobao
platform indicate both single advertiser's objective and global profit have
been significantly improved compared to state-of-art methods.
- Abstract(参考訳): 単一広告主の視点からのオンライン広告のバイアス最適化は,学術研究と産業実践の両方において徹底的に研究されている。
しかし、既存の作業では、競争相手が入札を変更せず、すなわち勝利した価格が固定され、派生したソリューションのパフォーマンスが低下する、という仮定が一般的である。
複数エージェントの強化学習を用いて協調ゲームをセットアップする研究はいくつかあるが、それでも欠点は次のとおりである: (1) オークションに関わるすべての広告主が、非常に低い価格で競い合うように共謀ソリューションを回避できないことだ。
2) 従来の作業は, 基礎となる複雑な入札環境をうまく扱えないため, モデル収束不良につながる。
この問題は、前回の作業では考慮されていない実用的な要求である広告主の複数の目的を扱う場合に増幅される可能性がある。
本稿では,Multi-Agent Cooperative bidding Games (MACG) と呼ばれる新しい多目的協調入札最適化法を提案する。
MACGは、広告主の異なる目的を取り入れた、慎重に設計された多目的最適化フレームワークをセットアップする。
全ての広告の利益を最大化するためのグローバルな目的が追加され、より良い協力を促進し、自己入札型広告主を保護する。
共謀を避けるため、プラットフォームによる追加の収益制限も導入する。
入札公式の最適機能形態を理論的に分析し, 入札レベルの入札を発生させる政策ネットワークを設計する。
モデル最適化のための効率的なマルチエージェント進化戦略を設計する。
タオバオプラットフォーム上でのオフライン実験とオンラインA/Bテストは、単一の広告主の目的とグローバル利益の両方が最先端の手法に比べて著しく改善されていることを示している。
関連論文リスト
- Fair Allocation in Dynamic Mechanism Design [57.66441610380448]
競売業者が各ラウンドの買い手グループに、合計で$T$で分けない商品を販売している問題を考える。
競売人は、各グループの最低平均配分を保証する公正な制約に固執しつつ、割引された全体の収益を最大化することを目的としている。
論文 参考訳(メタデータ) (2024-05-31T19:26:05Z) - Learning Multi-Agent Intention-Aware Communication for Optimal
Multi-Order Execution in Finance [96.73189436721465]
まず,現実的な制約を考慮したマルチオーダー実行のためのマルチエージェントRL(MARL)手法を提案する。
本稿では,学習可能なマルチラウンド通信プロトコルを提案する。
2つの実世界の市場のデータに関する実験では、優れたパフォーマンスを示し、コラボレーションの有効性が著しく向上した。
論文 参考訳(メタデータ) (2023-07-06T16:45:40Z) - Demystifying Advertising Campaign Bid Recommendation: A Constraint
target CPA Goal Optimization [19.857681941728597]
本稿では,広告主が望むtCPA目標を達成するための入札最適化シナリオを提案する。
我々は厳格に定式化された制約付き最適化問題を解くことで決定を下すために最適化エンジンを構築した。
提案モデルでは,広告主の過去のオークション行動に対する推測を行うことで,広告主の期待に応える入札を自然に推奨することができる。
論文 参考訳(メタデータ) (2022-12-26T07:43:26Z) - Functional Optimization Reinforcement Learning for Real-Time Bidding [14.5826735379053]
リアルタイム入札はプログラム広告の新しいパラダイムである。
既存のアプローチは、入札最適化に十分なソリューションを提供するのに苦労しています。
本稿では,機能最適化を伴うRTBのためのマルチエージェント強化学習アーキテクチャを提案する。
論文 参考訳(メタデータ) (2022-06-25T06:12:17Z) - A Cooperative-Competitive Multi-Agent Framework for Auto-bidding in
Online Advertising [53.636153252400945]
本稿では,自動入札のための総合的マルチエージェント強化学習フレームワーク,すなわちMAABを提案し,自動入札戦略を学習する。
当社のアプローチは、社会的福祉の観点から、いくつかの基準的手法を上回り、広告プラットフォームの収益を保証します。
論文 参考訳(メタデータ) (2021-06-11T08:07:14Z) - A novel auction system for selecting advertisements in Real-Time bidding [68.8204255655161]
リアルタイム入札(Real-Time Bidding)は、インターネット広告システムで、近年非常に人気を集めている。
本稿では、経済的な側面だけでなく、広告システムの機能にかかわる他の要因も考慮した、新たなアプローチによる代替ベッティングシステムを提案する。
論文 参考訳(メタデータ) (2020-10-22T18:36:41Z) - Dynamic Knapsack Optimization Towards Efficient Multi-Channel Sequential
Advertising [52.3825928886714]
我々は、動的knapsack問題として、シーケンシャルな広告戦略最適化を定式化する。
理論的に保証された二段階最適化フレームワークを提案し、元の最適化空間の解空間を大幅に削減する。
強化学習の探索効率を向上させるため,効果的な行動空間削減手法も考案した。
論文 参考訳(メタデータ) (2020-06-29T18:50:35Z) - MoTiAC: Multi-Objective Actor-Critics for Real-Time Bidding [47.555870679348416]
そこで本研究では,MoTiACというマルチエクティブ・アクタ・クリティカルスアルゴリズムを提案する。
従来のRLモデルとは異なり、提案されたMoTiACは複雑な入札環境で同時に多目的タスクを達成できる。
論文 参考訳(メタデータ) (2020-02-18T07:16:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。