論文の概要: Agent4RE: A Self-Refining Multi-agent Framework for End-to-End Software Requirements Engineering and Benchmarking
- arxiv url: http://arxiv.org/abs/2610.10628v1
- Date: Wed, 07 Oct 2026 11:23:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.583313
- Title: Agent4RE: A Self-Refining Multi-agent Framework for End-to-End Software Requirements Engineering and Benchmarking
- Title(参考訳): Agent4RE: エンドツーエンドのソフトウェア要件エンジニアリングとベンチマークのための自動修正型マルチエージェントフレームワーク
- Abstract要約: 本稿では、特殊エージェントを編成し、2つの反復的な改善ループを組み込んだ自己修復型マルチエージェントREシステムであるAgent4REを提案する。
評価を支援するために,人間が記述した要求仕様から構築した実世界のデータセットであるRE-E2Eを構築した。
8つのLarge Language Models (LLMs) の評価は、3つのAgent4RE変種がドメインコンテキスト拡張プロンプトベースラインを一貫して上回っていることを示している。
- 参考スコア(独自算出の注目度): 2.4418506552505344
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing LLM-based approaches for software Requirements Engineering (RE) typically rely on basic prompting strategies or rudimentary agent collaboration, under-utilizing the full potential of multi-agent systems. Meanwhile, available datasets focus on isolated subtasks, such as requirements extraction, classification, and completeness detection, leaving the absence of an end-to-end RE benchmark that spans from requirements elicitation to generation. We present Agent4RE - a self-refining multi-agent RE system that orchestrates specialized agents and incorporates two iterative improvement loops. To support evaluation, we construct RE-E2E - a real-world dataset built from human-written requirement specifications, enabling end-to-end assessment of RE workflows. Building on this foundation, we further propose two enhanced Agent4RE versions that incorporate either autonomous self-refinement or structured human feedback, and analyze their strengths and limitations across different scenarios. Evaluation on 8 Large Language Models (LLMs) demonstrates that all three Agent4RE variants consistently outperform a domain-context-augmented prompting baseline by average 8% in text-based metrics. The two enhanced variants achieve the highest LLM-as-a-judge and human ratings, surpassing two RE baselines by approximately 0.8 points on a four-point scale. This consistent performance establishes Agent4RE as a practical end-to-end RE solution for industrial environments.
- Abstract(参考訳): 既存のLCMベースのソフトウェア要件エンジニアリング(RE)アプローチは、一般的に基本的なプロンプト戦略や初歩的なエージェントコラボレーションに依存しており、マルチエージェントシステムの潜在能力を過小評価している。
一方、利用可能なデータセットは、要求抽出、分類、完全性検出などの独立したサブタスクに焦点を当てており、要求の誘導から生成まで、エンドツーエンドのREベンチマークが欠如している。
我々は、特殊エージェントを編成し、2つの反復的な改善ループを組み込んだ自己修復型マルチエージェントREシステムであるAgent4REを提案する。
評価を支援するために,人間が記述した要求仕様から構築した実世界のデータセットであるRE-E2Eを構築し,REワークフローのエンドツーエンド評価を可能にする。
この基盤の上に構築された2つのAgent4REバージョンは、自律的な自己修正または構造化された人間のフィードバックを組み込んだもので、それぞれの強みと制約を異なるシナリオで分析する。
8つのLarge Language Models (LLMs) の評価は、3つのAgent4RE変種が、テキストベースのメトリクスで平均8%のベースラインを向上するドメインコンテキスト拡張プロンプトを一貫して上回っていることを示している。
LLM-as-a-judgeと人格評価の2つの改良版は、4点スケールで2つのREベースラインを約0.8ポイント越えている。
この一貫したパフォーマンスは、産業環境のための実用的なエンドツーエンドREソリューションとしてAgent4REを確立します。
関連論文リスト
- AgentCompass: A Unified Evaluation Infrastructure for Agent Capabilities [55.23913617185508]
Agentは、LLM(Large Language Models)ベースのエージェントを評価するための、オープンソース、軽量、インフラストラクチャである。
Benchmark、Harness、Environmentという3つの独立したコンポーネントに関する評価プロセスを編成する。
フォールトトレラントなランタイムと、報酬ハックのような障害モードを透過的に診断する包括的なトラジェクトリ分析ツールを備えている。
論文 参考訳(メタデータ) (2026-07-15T11:11:17Z) - PACE: A Proxy for Agentic Capability Evaluation [60.3743414796937]
PACEは、既存の非エージェント評価からインスタンスを選択することで、プロキシベンチマークを構築するフレームワークである。
14のモデル、4つのエージェントベンチマーク、19の非エージェントベンチマークによる実験では、PACE-Benchがエージェントスコアを予測し、LOOCVは絶対誤差(MAE)を4%以下、スピアマン相関は0.80以上、ペアワイズモデルの精度は85%で、いずれもエージェント評価コストの1%以下である。
論文 参考訳(メタデータ) (2026-07-02T10:59:03Z) - EngiAI: A Multi-Agent Framework and Benchmark Suite for LLM-Driven Engineering Design [0.4499833362998488]
3つの評価次元を持つベンチマークスイートを導入する。
本稿では,LangGraph上に構築されたマルチエージェントシステム(MAS)の実装であるEngiAIを紹介する。
論文 参考訳(メタデータ) (2026-05-19T12:12:09Z) - OmniEval: An Omnidirectional and Automatic RAG Evaluation Benchmark in Financial Domain [62.89809156574998]
金融分野において全方向自動RAGベンチマークであるOmniEvalを導入する。
我々のベンチマークは多次元評価フレームワークによって特徴づけられる。
実験では、広範囲なテストデータセットを含むOmniEvalの包括性を実証した。
論文 参考訳(メタデータ) (2024-12-17T15:38:42Z) - TestAgent: Automatic Benchmarking and Exploratory Interaction for Evaluating LLMs in Vertical Domains [19.492393243160244]
大規模言語モデル(LLM)は、高度に専門化された垂直ドメインにデプロイされることが多い。
既存の垂直領域の評価は、通常、静的な単一ターンデータセットの労働集約的な構築に依存している。
垂直領域における自動ベンチマークと探索動的評価のためのフレームワークであるTestAgentを提案する。
論文 参考訳(メタデータ) (2024-10-15T11:20:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。