論文の概要: When Does Critique Improve AI-Assisted Theoretical Physics? SCALAR: Structured Critic--Actor Loop for Agentic Reasoning
- arxiv url: http://arxiv.org/abs/2605.06772v1
- Date: Thu, 07 May 2026 18:00:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:38.5251
- Title: When Does Critique Improve AI-Assisted Theoretical Physics? SCALAR: Structured Critic--Actor Loop for Agentic Reasoning
- Title(参考訳): SCALAR: エージェント推論のための構造化批判-アクターループ
- Authors: Vasilis Niarchos, Constantinos Papageorgakis, Alexander G. Stapleton, Sokratis Trifinopoulos,
- Abstract要約: 研究者とエージェントの相互作用がSCALAR(Structured Critic--Actor Loop for AI Reasoning)による結果に与える影響について検討する。
アクターはソリューションを提案し、批評家は反復的なフィードバックを提供し、独立した裁判官は参照されたソリューションに対してその書き起こしを評価する。
我々はアクター・ペルソナ、批判的フィードバック・ストラテジー、アクター・モデル・ファミリーとスケールを変える。
- 参考スコア(独自算出の注目度): 39.871701555686634
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As large language models (LLMs) show increasing promise on research-level physics reasoning tasks and agentic AI becomes more common, a practical question emerges: How does the interaction between researchers and agents affect the results? We study this using SCALAR (Structured Critic--Actor Loop for AI Reasoning), an Actor--Critic--Judge pipeline applied to quantum field theory and string theory problems. The Actor proposes solutions, the Critic provides iterative feedback, and an independent Judge evaluates the transcript against reference solutions. We vary the Actor persona, the Critic feedback strategy, and the Actor model family and scale. Multi-turn dialogue improves over single-shot attempts throughout, but both the mechanism of improvement and the value of different prompting choices depend strongly on the Actor--Critic pairing. Increasing the scale within one model family (e.g. from the 8B-parameter DeepSeek-R1 variant to DeepSeek-R1 70B) improves some easier-problem behavior, but does not remove the hardest bottleneck we observe. Critic feedback strategy matters most clearly in the asymmetric Actor--Critic setting (e.g., a lightweight Haiku Actor guided by a stronger Sonnet Critic), where constructive feedback improves mean-score outcomes. In same-family Actor--Critic settings, strategy effects are weaker: lenient feedback is sometimes favored, while strict and adversarial feedback are not beneficial. Taken together, SCALAR provides a controlled testbed for evaluating which interaction structures help or hinder AI-driven scientific discovery.
- Abstract(参考訳): 大規模言語モデル(LLM)が研究レベルの推論タスクとエージェントAIがより一般的なものになると、現実的な疑問が浮かび上がってくる。
そこで我々はSCALAR(Structured Critic-Actor Loop for AI Reasoning, Actor-Critic-Judge Pipeline)を用いてこれを研究した。
アクターはソリューションを提案し、批評家は反復的なフィードバックを提供し、独立した裁判官は参照されたソリューションに対してその書き起こしを評価する。
我々はアクター・ペルソナ、批判的フィードバック・ストラテジー、アクター・モデル・ファミリーとスケールを変える。
マルチターン対話はシングルショットの試みよりも改善されるが、改善のメカニズムと異なるプロンプト選択の値の両方がアクター-クリティカルペアリングに強く依存する。
例えば、8BパラメータのDeepSeek-R1からDeepSeek-R1 70Bまで)モデルファミリ内でのスケールの増加は、いくつかの容易でプロブレムな振る舞いを改善しますが、観察する最も難しいボトルネックを取り除くことはできません。
批判的フィードバック戦略は、非対称的アクター-批判的設定(例えば、より強いソネット批判によって導かれる軽量な俳句的アクター)において最も重要であり、建設的フィードバックは平均スコア結果を改善する。
厳密なフィードバックが好まれることもあるが、厳密で敵対的なフィードバックは有益ではない。
SCALARは、AIによる科学的発見をどの相互作用構造が助けるか、妨げるのかを評価するための制御されたテストベッドを提供する。
関連論文リスト
- Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。
アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。
ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
論文 参考訳(メタデータ) (2026-04-21T15:05:58Z) - Critique-RL: Training Language Models for Critiquing through Two-Stage Reinforcement Learning [89.60378227969643]
より強力な監督を伴わないクオリティク言語モデルを開発するためのオンラインRLアプローチであるCrytique-RLを提案する。
提案手法は,アクターが応答を生成し,批評家がフィードバックを提供し,アクターがそれに応じて応答を洗練する,という2段階のパラダイムに基づいている。
さまざまなタスクやモデルに対する実験では、Cristique-RLが大幅なパフォーマンス改善を実現している。
論文 参考訳(メタデータ) (2025-10-28T11:37:01Z) - On the Role of Feedback in Test-Time Scaling of Agentic AI Workflows [71.92083784393418]
エージェントAI(自律的な計画と行動を行うシステム)は広く普及しているが、複雑なタスクにおけるタスクの成功率は低いままである。
推論時のアライメントは、サンプリング、評価、フィードバックの3つのコンポーネントに依存します。
本稿では,様々な形態の批判から抽出されたフィードバックを繰り返し挿入するIterative Agent Decoding(IAD)を紹介する。
論文 参考訳(メタデータ) (2025-04-02T17:40:47Z) - Intent-Aware Self-Correction for Mitigating Social Biases in Large Language Models [38.1620443730172]
フィードバックに基づく自己補正は大規模言語モデル(LLM)の出力品質を改善する
本研究では,自己補正によるLLMのバイアスを効果的に軽減するために,意図を明確にすることが重要であることを示す。
論文 参考訳(メタデータ) (2025-03-08T02:20:43Z) - Enhancing LLM Reasoning via Critique Models with Test-Time and Training-Time Supervision [120.40788744292739]
本稿では、推論と批判モデルの役割を分離する2人プレイヤパラダイムを提案する。
まず、批判データを収集する自動化およびスケーラブルなフレームワークであるAutoMathCritiqueを提案する。
テスト時間における難解なクエリに対するアクターのパフォーマンスを,批判モデルが一貫して改善することが実証された。
論文 参考訳(メタデータ) (2024-11-25T17:11:54Z) - Recursive Chain-of-Feedback Prevents Performance Degradation from
Redundant Prompting [0.4662017507844857]
本稿では,このような反復行動とその効果について,新しい設定,CoF(Chain-of-Feedback)を定義することによって検討する。
これらの問題を緩和するために、新しい手法、Recursive Chain-of-Feedback (R-CoF)を提案する。
論文 参考訳(メタデータ) (2024-02-05T00:44:28Z) - Quantifying the Effect of Feedback Frequency in Interactive
Reinforcement Learning for Robotic Tasks [0.0]
強化学習はロボット制御において広く採用されている。
対話的なフィードバックはRLを著しく高速化する。
どのフィードバック頻度が最適かについては合意がない。
論文 参考訳(メタデータ) (2022-07-20T12:17:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。