論文の概要: OneBid: A Unified Auto-Bidding Foundation Model for Diverse oCPX Advertising Scenarios
- arxiv url: http://arxiv.org/abs/2609.21550v1
- Date: Fri, 18 Sep 2026 09:43:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.959234
- Title: OneBid: A Unified Auto-Bidding Foundation Model for Diverse oCPX Advertising Scenarios
- Title(参考訳): OneBid: 多様なoCPX広告シナリオのための統一された自動入札基盤モデル
- Abstract要約: OneBidは、ヘテロジニアスなoCPXログから再利用可能なバックボーンを学ぶ、統合された自動入札基盤モデルである。
OneBidは、oCPX Adsで合計+2.2%ADVVゲインを提供し、ROASシナリオでは+13.1%に達した。
- 参考スコア(独自算出の注目度): 19.168433674819752
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Auto-bidding is central to computational advertising, where strategies must maximize advertisers' conversion value under economic constraints. It has evolved from rule-based controllers to reinforcement learning and generative methods such as Decision Transformer (DT). Yet these methods increasingly mismatch the prevailing optimized cost-per-X (oCPX) paradigm, which spans heterogeneous scenarios (e.g., registration, purchase), each served by a separate model, leading to fragmented pipelines and underexploring cross-scenario modeling. Inspired by foundation models like LLMs, unifying these oCPX scenarios into one model raises three challenges: multi-objective control, scalable capacity under strict latency, and safe offline policy improvement. We present OneBid, a unified auto-bidding foundation model that learns a reusable backbone from heterogeneous oCPX logs and adapts it to scenario-specific deployments via offline post-training. Building on DT, OneBid extends single Return-to-Go conditioning to two atomic signals, Return-to-Go for conversion value and Cost-to-Go for cost ratio, plus value-aware regularization on next-action prediction. To absorb distributional heterogeneity, we design a sequence-level Mixture-of-Experts architecture, where shared experts encode cross-scenario knowledge and sparsely-routed experts capture scenario-specific patterns at low latency, yielding consistent scaling with model size and data. During post-training, we align the backbone with scenario preferences via Critic-guided Relative Offline Policy optimization (CROP): a learned critic scores candidate actions group-relatively, avoiding the unsafe online exploration of GRPO-style fine-tuning while constraining policy shift to reduce OOD risk. Validated via online A/B tests and fully deployed at Kuaishou, OneBid delivers an overall +2.2% ADVV gain on oCPX Ads, peaking at +13.1% in the ROAS scenario.
- Abstract(参考訳): 自動入札は、経済的な制約の下で広告主の変換価値を最大化しなければならない計算広告の中心である。
ルールベースのコントローラから強化学習やDecision Transformer (DT) などの生成手法へと進化してきた。
しかしこれらの手法は、不均一なシナリオ(例えば、登録、購入)にまたがる、最適化されたコスト・パー・X(oCPX)パラダイムを誤解する傾向にある。
LLMのような基盤モデルにインスパイアされたこれらのOCPXシナリオをひとつのモデルに統合すると、マルチオブジェクト制御、厳格なレイテンシの下でスケーラブルなキャパシティ、安全なオフラインポリシ改善の3つの課題が生じる。
我々は、異種oCPXログから再利用可能なバックボーンを学習し、オフラインのポストトレーニングを通じてシナリオ固有のデプロイメントに適応する、統合された自動入札基盤モデルOneBidを提案する。
DT上に構築されたOneBidは、単一のReturn-to-Go条件を2つの原子信号に拡張する。
分散ヘテロジニティを吸収するために、我々は、クロスシナリオ知識を共有専門家が符号化し、疎結合の専門家が低レイテンシでシナリオ固有のパターンをキャプチャし、モデルサイズとデータとの一貫性のあるスケーリングを実現する、シーケンスレベルのMixture-of-Expertsアーキテクチャを設計する。
学習評論家は、GRPOスタイルの微調整の安全性を損なうことなく、政策シフトを制限し、OODリスクを低減し、安全でないオンライン探究を避ける。
オンラインA/Bテストを通じて検証され、Kuaishouで完全にデプロイされたOneBidは、oCPX Adsで合計+2.2%のADVVゲインを提供し、ROASシナリオでは+13.1%に達した。
関連論文リスト
- Beyond Trajectory Imitation: Strategy-Guided Policy Optimization for LLM Reasoning [76.93011742289768]
強い言語モデルから弱い言語モデルへの推論能力の蒸留は、典型的には特定の解軌跡を模倣する。
この軌道レベルの模倣は、伝達可能な問題解決スキルの獲得よりも、インスタンス固有のステップの記憶を促進する。
再利用可能な戦略蒸留にインスタンスレベルの軌道模倣を置き換えた戦略誘導型政策最適化を提案する。
論文 参考訳(メタデータ) (2026-06-23T02:14:12Z) - HOBA: Hierarchical On-Policy Bidding Agents for Adaptive Online Advertising [4.325040293861279]
HOBAは、戦略的推論、モデル選択、入札実行を3つのタイムスケールで分離する階層的な強化学習フレームワークである。
AuctionNetベンチマークと大規模A/Bテストの実験は、最先端のベースラインよりも一貫した改善を示している。
論文 参考訳(メタデータ) (2026-06-17T15:00:34Z) - Policy-based Tuning of Autoregressive Image Models with Instance- and Distribution-Level Rewards [16.135177543347773]
自己回帰モデル(AR)は画像生成に非常に効果的であるが、標準の最大形推定トレーニングではサンプルの品質と多様性を直接最適化することができない。
本稿では,トークンベースのAR推論をマルコフ決定プロセスとして,グループ相対ポリシー最適化によって最適化した軽量なRLフレームワークを提案する。
私たちの中核的な貢献は、新しい流通レベルのLeave-One-Out FID(LOO-FID)の報酬の導入です。
論文 参考訳(メタデータ) (2026-03-24T11:28:36Z) - Model-Based Policy Adaptation for Closed-Loop End-to-End Autonomous Driving [54.46325690390831]
本稿では,事前学習したE2E運転エージェントのロバスト性と安全性を高めるための汎用フレームワークとして,モデルベースポリシー適応(MPA)を提案する。
MPAは、ジオメトリ一貫性のあるシミュレーションエンジンを用いて、まず様々な対物軌道を生成する。
MPAは拡散ベースのポリシーアダプタを訓練し、基本方針の予測を洗練させ、Q値モデルを多段階に分けて長期的な結果を評価する。
論文 参考訳(メタデータ) (2025-11-26T17:01:41Z) - BAPO: Stabilizing Off-Policy Reinforcement Learning for LLMs via Balanced Policy Optimization with Adaptive Clipping [69.74252624161652]
適応クリッピング(BAPO)を用いたBAlanced Policy Optimizationを提案する。
BAPOはクリッピングバウンダリを動的に調整し、適応的に正と負のコントリビューションを再バランスさせ、エントロピーを保持し、RL最適化を安定化させる。
AIME 2024とAIME 2025ベンチマークでは、7B BAPOモデルがSkyWork-OR1-7Bのようなオープンソースモデルを上回っています。
論文 参考訳(メタデータ) (2025-10-21T12:55:04Z) - Adaptive Divergence Regularized Policy Optimization for Fine-tuning Generative Models [31.470613363668672]
Adaptive Divergence Regularized Policy Optimization (Adaptive Divergence Regularized Policy Optimization) は、有利な推定値に基づいて正規化強度を自動的に調整する。
We implementation with Wasserstein-2 regularization for flow matching generative model is achieved great results on text-to-image generation。
ADRPOはテキストのみのLLMとマルチモーダル推論モデルの両方をKL規則化された微調整に一般化する。
論文 参考訳(メタデータ) (2025-10-20T19:46:02Z) - Steerable Adversarial Scenario Generation through Test-Time Preference Alignment [58.37104890690234]
対立シナリオ生成は、自律運転システムの安全性評価のためのコスト効率の良いアプローチである。
textbfSteerable textbfAdversarial scenario textbfGEnerator (SAGE) という新しいフレームワークを導入する。
SAGEは、逆境とリアリズムの間のトレードオフを、再トレーニングなしできめ細かいテストタイムコントロールを可能にします。
論文 参考訳(メタデータ) (2025-09-24T13:27:35Z) - Efficient Safety Alignment of Large Language Models via Preference Re-ranking and Representation-based Reward Modeling [84.00480999255628]
大規模言語モデル(LLM)の安全性アライメントのための強化学習アルゴリズムは,分散シフトの課題に直面している。
現在のアプローチでは、ターゲットポリシーからのオンラインサンプリングを通じてこの問題に対処するのが一般的である。
モデル固有の安全判断能力を活用して報酬信号を抽出する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-03-13T06:40:34Z) - An Offline Risk-aware Policy Selection Method for Bayesian Markov
Decision Processes [0.0]
Exploitation vs. Caution (EvC) はベイズ形式主義のモデル不確実性をエレガントに取り入れたパラダイムである。
我々は,多種多様なMDPクラスを提供する異なる離散的かつシンプルな環境において,最先端のアプローチでEvCを検証する。
テストシナリオでは、EvCは堅牢なポリシーを選択することができ、実践者にとって有用なツールとして際立っている。
論文 参考訳(メタデータ) (2021-05-27T20:12:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。