論文の概要: CORAL: An LLM-Native Harness for Production Recommender Systems
- arxiv url: http://arxiv.org/abs/2609.02730v1
- Date: Wed, 02 Sep 2026 15:40:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-03 17:53:18.44935
- Title: CORAL: An LLM-Native Harness for Production Recommender Systems
- Title(参考訳): Coral: プロダクションレコメンダシステムのためのLLM-Native Harness
- Abstract要約: 本稿では,エージェントループによる制約-dレコメンダ(Constraint-d Recommender)について,その決定の計測結果から学習するエージェントループを提案する。
我々はこれを、ポリシーが文脈で改善する、部分的に観察された、非定常的、制約付き最適化問題として定式化する。
A/B実験により評価された2つの大規模ソーシャルプラットフォームにおいて、同じハーネスは、追加のサービスコストなしでエンゲージメントを改善し、一方のエンゲージメントを低下させることなくサービスコストを低減する。
- 参考スコア(独自算出の注目度): 26.7379632070749
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Production recommender systems shape what billions of people see, and sustaining their performance requires continual optimization: as content, user behavior, and upstream models shift, the choices governing retrieval, ranking, and serving must be revisited. Traditionally, human engineers test such changes through online experiments--a slow, reactive process limited by engineering effort, leaving parts of the system unrevised as conditions change. Although large language models have been applied to ranking, user modeling, and offline model development, few systems place an agent in a continual closed loop that acts on a live recommender and learns from the measured effects of its decisions. We present CORAL (Constraint-Optimized Recommender via an Agentic Loop), an LLM-native harness that closes this loop: each cycle, the agent observes operating signals, reasons over a memory of past decisions and outcomes, and invokes tools--including a numerical optimizer that keeps changes within a fixed operating budget--to reconfigure the recommender, with measured outcomes informing the next cycle. We formulate this as a partially observed, non-stationary, constrained optimization problem in which the policy improves in context, without parameter updates, from its prior actions. Across two large-scale social platforms, evaluated with A/B experiments, the same harness improves engagement at no additional serving cost on one and reduces serving cost without degrading engagement on the other, spanning the engagement-efficiency frontier. Performance improves as the loop iterates, suggesting that a single agentic loop can automate continual optimization work traditionally performed by human algorithm engineers under explicit guardrails.
- Abstract(参考訳): プロダクションレコメンデータシステムは、何十億もの人々が見ているものを作り、そのパフォーマンスを維持するためには、コンテンツ、ユーザの振る舞い、上流モデルの変化に伴って、検索、ランキング、サービスを管理する選択肢を再考する必要がある。
従来、人間のエンジニアは、このような変化をオンラインの実験を通じてテストします。
大規模言語モデルは、ランキング、ユーザモデリング、オフラインモデル開発に応用されているが、エージェントをライブレコメンデータで動作させ、その決定の計測結果から学習する連続的なクローズドループに配置するシステムはほとんどない。
我々は,このループを閉じるLLMネイティブハーネスであるCORAL(Constraint-Optimized Recommender via an Agentic Loop)を,各サイクルごとに動作信号,過去の決定と結果のメモリ上の理由を観察し,ツールを起動する。
本手法は,パラメータ更新を伴わない状況下で,事前の動作からポリシーが改善されるような,部分的に観察された非定常的制約付き最適化問題として定式化する。
A/B実験により評価された2つの大規模ソーシャルプラットフォームにおいて、同じハーネスは、追加のサービスコストなしでエンゲージメントを改善し、一方のエンゲージメントを低下させることなくサービスコストを低減し、エンゲージメント効率のフロンティアにまたがる。
ループが反復するにつれて、パフォーマンスが向上し、1つのエージェントループが、明示的なガードレールの下で、人間のアルゴリズムエンジニアが伝統的に実施した継続的最適化作業を自動化することを示唆している。
関連論文リスト
- The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows [72.9051182568928]
推論駆動最適化のための統合フレームワークであるReASearchを提案する。
共有エージェントループとドメイン固有のツールにより、ReASearchは、プロンプト、プログラム、MLを最適化するために、まったく同じスキャフォールドをインスタンス化する。
我々は,複雑な探索行動がエージェントの推論プロセスから自然に現れることを観察する。
論文 参考訳(メタデータ) (2026-08-07T02:15:39Z) - OPTScientist: Multi-Agent Discovery of Typed Optimizer Programs for Transformer Pretraining [22.097466841331258]
我々は、型付きドメイン固有言語における発見のための理論誘導型マルチエージェントフレームワークOPTScientistを紹介する。
Theorist、Designer、Engineering、Reviewerの4つのロールエージェントは、単一のオーケストレーションループ内で協力し、仮説、コンパイル、評価、批評結果を提案する。
この結果から,理論,型付きプログラム,コンパイラ検証,クローズドループ実験に基礎を置く自動科学への道筋が示唆された。
論文 参考訳(メタデータ) (2026-06-02T15:21:53Z) - Democratizing Large-Scale Re-Optimization with LLM-Guided Model Patches [14.24802309734814]
本稿では,大規模言語モデル(LLM)がORエキスパートとして機能するエージェント的再最適化フレームワークを提案する。
提案フレームワークは,デプロイされた最適化モデルの対話的かつ連続的な適応を可能にする。
論文 参考訳(メタデータ) (2026-05-18T17:28:25Z) - OLIVIA: Online Learning via Inference-time Action Adaptation for Decision Making in LLM ReAct Agents [74.20327254615854]
大規模言語モデルエージェントは、シーケンシャルな意思決定タスクを解決するために、推論、行動選択、観察をインターリーブする。
LLMエージェントの既存の推論時間適応法は、主にプロンプトや検索に依存している。
提案するOLIVIAは,ReAct型エージェントのための推論時行動適応フレームワークである。
論文 参考訳(メタデータ) (2026-05-11T19:28:20Z) - A Production-Ready RL Framework for Personalized Utility Tuning with Pareto Sweeping in Pinterest Recommender Systems [7.4144229390766005]
大規模レコメンデータは、複数の予測結果を1つのユーティリティスコアに組み合わせることで、多目的トレードオフを符号化する。
PRL-PUTS(PRL-PUTS)を提案する。
論文 参考訳(メタデータ) (2026-05-08T01:48:49Z) - Execution-Verified Reinforcement Learning for Optimization Modeling [49.171122807323634]
実行検証学習フレームワークは、数学的プログラミング解法を決定論的で対話的な検証器として扱う。
NL4OPT, MAMO, IndustryOR, OptiBenchをグロビ, OR-Tools, COPTで行った実験では, EVOMがプロセス管理SFTに適合または優れていた。
論文 参考訳(メタデータ) (2026-04-01T03:39:11Z) - Constraint-Aware Generative Re-ranking for Multi-Objective Optimization in Advertising Feeds [3.791872390898376]
本稿では,制約付き最適化を有界神経復号に変換する制約対応生成フレームワークを提案する。
本フレームワークは,シーケンス生成と報酬推定をひとつのネットワークに統合する。
大規模産業用フィードとオンラインA/Bテストの実験により,厳格なレイテンシ要件を満たしながら,当社の手法が収益とユーザエンゲージメントを向上させることが示された。
論文 参考訳(メタデータ) (2026-03-04T16:09:36Z) - RecNet: Self-Evolving Preference Propagation for Agentic Recommender Systems [109.9061591263748]
RecNetは、レコメンデータシステムのための自己進化的な好みの伝達フレームワークである。
関連ユーザやアイテム間で、リアルタイムの好み更新を積極的に伝達する。
逆相では、フィードバック駆動の伝搬最適化機構がマルチエージェント強化学習フレームワークをシミュレートする。
論文 参考訳(メタデータ) (2026-01-29T12:14:31Z) - LLM-guided Chemical Process Optimization with a Multi-Agent Approach [8.714038047141202]
本稿では,最小限のプロセス記述から動作制約を自律的に推論するマルチエージェントLLMフレームワークを提案する。
当社のAutoGenベースのフレームワークは、制約生成、パラメータ検証、シミュレーション、最適化ガイダンスのための特別なエージェントを備えたOpenAIのo3モデルを採用しています。
論文 参考訳(メタデータ) (2025-06-26T01:03:44Z) - Preference Optimization for Combinatorial Optimization Problems [54.87466279363487]
強化学習(Reinforcement Learning, RL)は、ニューラルネットワーク最適化のための強力なツールとして登場した。
大幅な進歩にもかかわらず、既存のRLアプローチは報酬信号の減少や大規模な行動空間における非効率な探索といった課題に直面している。
統計的比較モデルを用いて定量的報酬信号を定性的選好信号に変換する新しい手法であるPreference Optimizationを提案する。
論文 参考訳(メタデータ) (2025-05-13T16:47:00Z) - On the Role of Feedback in Test-Time Scaling of Agentic AI Workflows [71.92083784393418]
エージェントAI(自律的な計画と行動を行うシステム)は広く普及しているが、複雑なタスクにおけるタスクの成功率は低いままである。
推論時のアライメントは、サンプリング、評価、フィードバックの3つのコンポーネントに依存します。
本稿では,様々な形態の批判から抽出されたフィードバックを繰り返し挿入するIterative Agent Decoding(IAD)を紹介する。
論文 参考訳(メタデータ) (2025-04-02T17:40:47Z) - Dynamic Rewarding with Prompt Optimization Enables Tuning-free Self-Alignment of Language Models [54.381650481255235]
我々は,Prompt Optimization (O) を用いた動的リワードによる自己アライメントのための新しいチューニング不要アプローチを提案する。
提案手法は,LLMを反復的に自己改善し,最適アライメント命令を作成可能な検索ベース最適化フレームワークを活用する。
近年の8つのLCMのオープンおよびクローズドソースに関する実証評価により,DRPOはアライメント性能を著しく向上することが示された。
論文 参考訳(メタデータ) (2024-11-13T16:15:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。