論文の概要: Reward-Guided Autoregressive Graph Generation for Efficient Multi-Agent Communication Topology Design
- arxiv url: http://arxiv.org/abs/2608.20099v1
- Date: Thu, 20 Aug 2026 14:32:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.598706
- Title: Reward-Guided Autoregressive Graph Generation for Efficient Multi-Agent Communication Topology Design
- Title(参考訳): 効率的なマルチエージェント通信トポロジ設計のためのリワード誘導自己回帰グラフ生成
- Abstract要約: RLHF(Reinforcement Learning from Human Feedback)にインスパイアされたReward-Guided Autoregressive Graph Generation(RGA-Designer)を導入する。
トークン消費量を平均20.5%削減しつつ,ARG-Designerレベルでのタスク精度を維持する。
- 参考スコア(独自算出の注目度): 3.021888093995873
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: LLM-based Multi-Agent Systems (MAS) achieve strong performance on complex reasoning tasks by coordinating multiple agents, but at the cost of substantial token consumption. Recent work on automatic topology design, ARG-Designer, has reframed this problem as autoregressive graph generation. However, its training objective provides no explicit incentive for the model to generate sparse and efficient topologies. We address this limitation by introducing a Reward-Guided Autoregressive Graph Generation (RGA-Designer) inspired by Reinforcement Learning from Human Feedback (RLHF). We train a reward model that jointly captures task correctness and structural compactness, and then fine-tune the pretrained graph generator using the reward model as feedback. Our method preserves task accuracy at the level of ARG-Designer while reducing token consumption by an average of 20.5%.
- Abstract(参考訳): LLMベースのMulti-Agent Systems (MAS) は、複数のエージェントをコーディネートすることで複雑な推論タスクにおいて高い性能を達成するが、相当なトークン消費を犠牲にしている。
自動トポロジ設計に関する最近の研究であるARG-Designerは、この問題を自己回帰グラフ生成として再検討している。
しかし、そのトレーニング目的は、スパースかつ効率的なトポロジを生成するためのモデルに明確なインセンティブを与えていない。
本稿では,Reinforcement Learning from Human Feedback (RLHF)にインスパイアされたReward-Guided Autoregressive Graph Generation (RGA-Designer)を導入することで,この制限に対処する。
本研究では,タスクの正しさと構造的コンパクトさを両立する報酬モデルを訓練し,その報奨モデルをフィードバックとして,事前学習したグラフ生成器を微調整する。
トークン消費量を平均20.5%削減しつつ,ARG-Designerレベルでのタスク精度を維持する。
関連論文リスト
- Generative Refinement Networks for Visual Synthesis [28.87504154630184]
本稿では,次世代視覚合成パラダイムであるジェネレーティブ・リファインメント・ネットワーク(GRN)を紹介する。
GRNは、理論上ほぼロスレスな階層型二元量子化(HBQ)による離散トークン化ボトルネックに対処する
ImageNetベンチマークでは、GRNは画像再構成(0.56 rFID)とクラス条件画像生成(1.81 gFID)で新しい記録を確立する。
論文 参考訳(メタデータ) (2026-04-14T17:59:03Z) - AutoGraph-R1: End-to-End Reinforcement Learning for Knowledge Graph Construction [60.51319139563509]
強化学習(RL)を用いたタスクパフォーマンスのKG構築を直接最適化する最初のフレームワークであるAutoGraph-R1を紹介する。
我々は2つの新しいタスク対応報酬関数を設計し、1つは知識担体としてのグラフと、もう1つは知識指標としてのグラフを設計する。
私たちの研究は、構築とアプリケーションの間のループを閉じることが可能であることを示している。
論文 参考訳(メタデータ) (2025-10-17T06:03:36Z) - GRAM-R$^2$: Self-Training Generative Foundation Reward Models for Reward Reasoning [90.99527142037853]
GRAM-R$2$は、好みのラベルだけでなく、報酬の合理性も生み出すために訓練された生成的報酬モデルである。
GRAM-R$2$は報酬推論の基礎モデルとして機能し、最小あるいは追加の微調整なしで幅広いタスクに適用できる。
論文 参考訳(メタデータ) (2025-09-02T16:41:07Z) - GraphRAG-R1: Graph Retrieval-Augmented Generation with Process-Constrained Reinforcement Learning [33.57411612551111]
プロセス制約付き結果ベース強化学習(RL)を用いたLLMの学習による適応型GraphRAGフレームワークGraphRAG-R1を提案する。
本手法は,複雑な問題を分解し,検索ツールを自律的に実行し,効果的な推論を行う。
我々のフレームワークは、様々な既存の検索手法と柔軟に統合でき、継続的に性能改善を提供することができる。
論文 参考訳(メタデータ) (2025-07-31T14:11:16Z) - Graph-R1: Towards Agentic GraphRAG Framework via End-to-end Reinforcement Learning [20.05893083101089]
Graph-R1は、エンドツーエンド強化学習(RL)によるエージェントGraphRAGフレームワークである
軽量な知識ハイパーグラフ構築、マルチターンエージェント環境相互作用としてのモデル検索を導入している。
標準RAGデータセットの実験では、Graph-R1は、精度、検索効率、生成品質を推算する従来のGraphRAGおよびRL強化RAGメソッドよりも優れていた。
論文 参考訳(メタデータ) (2025-07-29T15:01:26Z) - Compile Scene Graphs with Reinforcement Learning [69.36723767339001]
次世代予測は大規模言語モデル(LLM)の訓練の基本原理である
本稿では,マルチモーダルLLM(M-LLM)であるR1-SGGを紹介する。
私たちは、Hard Recall、Hard Recall+Relax、Soft Recallの3つのリコールベースのバリエーションを含む、グラフ中心の報酬セットを設計します。
論文 参考訳(メタデータ) (2025-04-18T10:46:22Z) - RED: Unleashing Token-Level Rewards from Holistic Feedback via Reward Redistribution [50.171320156632866]
人間のフィードバックからの強化学習は、大きな言語モデルを人間の好みに合わせるための有望なアプローチを提供する。
現在の報酬モデルはシークエンス・ツー・ワンモデルとして動作し、単一、スパース、遅延報酬を全出力シーケンスに割り当てる。
よりきめ細かなトークンレベルの指導手法をRLトレーニングに提案する。
論文 参考訳(メタデータ) (2024-11-13T02:45:21Z) - Do We Really Need Graph Convolution During Training? Light Post-Training Graph-ODE for Efficient Recommendation [34.93725892725111]
トレーニングレコメンデータシステム(RecSys)におけるグラフ畳み込みネットワーク(GCNs)は、絶え間なく懸念されてきた。
本稿では,学習段階におけるグラフ畳み込みの必要性を批判的に考察する。
光後学習グラフ正規分方程式(LightGODE)という革新的な方法を導入する。
論文 参考訳(メタデータ) (2024-07-26T17:59:32Z) - Comprehensive Graph Gradual Pruning for Sparse Training in Graph Neural
Networks [52.566735716983956]
本稿では,CGPと呼ばれるグラフの段階的プルーニングフレームワークを動的にGNNに提案する。
LTHに基づく手法とは異なり、提案手法では再学習を必要とせず、計算コストを大幅に削減する。
提案手法は,既存の手法の精度を一致させたり,あるいは超えたりしながら,トレーニングと推論の効率を大幅に向上させる。
論文 参考訳(メタデータ) (2022-07-18T14:23:31Z) - Graph Ordering: Towards the Optimal by Learning [69.72656588714155]
グラフ表現学習は、ノード分類、予測、コミュニティ検出など、多くのグラフベースのアプリケーションで顕著な成功を収めている。
しかし,グラフ圧縮やエッジ分割などのグラフアプリケーションでは,グラフ表現学習タスクに還元することは極めて困難である。
本稿では,このようなアプリケーションの背後にあるグラフ順序付け問題に対して,新しい学習手法を用いて対処することを提案する。
論文 参考訳(メタデータ) (2020-01-18T09:14:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。