論文の概要: When AI Reviews Train AI Reviewers: Scientific-Judgment Collapse and Mitigation

• arxiv url: http://arxiv.org/abs/2609.20942v1
• Date: Thu, 17 Sep 2026 18:01:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:16.741996
• Title: When AI Reviews Train AI Reviewers: Scientific-Judgment Collapse and Mitigation
• Title（参考訳）: AIがトレーニングAIレビュアーをレビューする時:科学判断の崩壊と緩和
• Abstract要約: 大規模言語モデル(LLM)は、科学的な評価にますます参加している。 このフィードバックループの1ステップを制御された環境で研究する。 TrustReviewerは、AIと機械学習論文のピアレビューを生成するための、オープンソースのシステムである。
• 参考スコア（独自算出の注目度）: 50.90087870200793
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) increasingly participate in scientific evaluation, both as automated reviewers and as assistants to human reviewers. As model-generated reviews enter public data and future training corpora, AI peer review can become recursive: later reviewers learn from judgments produced by earlier models. We study one step of this feedback loop in a controlled setting. Starting from Llama 3.1 8B, we first fine-tune a reviewer on official ICLR reviews from 2018--2023 and then train four successor models on ICLR 2024 data with systematically varied mixtures of official and model-generated reviews. Our study shows that introducing synthetic reviews compresses rating distributions and reduces both same-paper and corpus-level semantic diversity. We call this pattern $\textbf{scientific-judgment collapse}$. To mitigate this failure mode, we introduce $\textbf{TrustReviewer}$, an open-source LLM-based system for generating peer reviews of AI and machine learning papers. TrustReviewer intervenes at two complementary stages. For training-time prevention, we train the core reviewer in a single stage on a curated corpus designed to reduce low-quality and semantically degenerate supervision. For test-time correction, paired activation steering aims to further mitigate residual tendencies toward collapsed judgments without further training or additional expert annotation. Together, these results characterize a concrete risk of recursive reviewer training and provide practical interventions for preserving judgment diversity and improving recommendation alignment in AI-assisted scientific evaluation.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、自動レビュアーや人間レビュアーのアシスタントとして、科学的な評価にますます参加している。 モデル生成レビューが公開データや将来のトレーニングコーパスに入ると、AIピアレビューは再帰的になる可能性がある。 このフィードバックループの1ステップを制御された環境で研究する。 Llama 3.1 8Bから始めて、2018年から2023年にかけて、公式のICLRレビューのレビュアーを微調整し、その後、公式レビューとモデル生成レビューの体系的に異なる混合で、ICLR 2024データ上で4つの後継モデルをトレーニングしました。 本研究は,合成レビューの導入が評価分布を圧縮し,同一紙とコーパスレベルのセマンティック多様性を両立させることを示す。 このパターンを $\textbf{scientific-judgment collapse}$ と呼ぶ。 この障害モードを緩和するために、AIと機械学習論文のピアレビューを生成するオープンソースのLLMベースのシステムである$\textbf{TrustReviewer}$を導入する。 TrustReviewerは2つの補完的な段階で介入する。 トレーニング時間防止のために、低品質で意味論的に退化した監督を抑えるために、キュレートされたコーパス上でコアレビュアーを1段階訓練する。 テスト時間補正のために、ペア化されたアクティベーションステアリングは、さらなるトレーニングや追加の専門家アノテーションなしで、崩壊した判断に対する残留傾向を緩和することを目的としている。 これらの結果は、再帰的レビュアートレーニングの具体的なリスクを特徴づけ、AIによる科学的評価において、判断の多様性の保存とレコメンデーションアライメントの改善のための実践的な介入を提供する。

関連論文リスト

• AppliedScientist: Automated Scientific Revision Through Iterative AI Reviewing [10.712519962597604]
  我々は、自律的なAI科学者とAIレビュアーを結合するクローズドループシステムであるAppliedScientistを紹介する。 我々は、さまざまな研究分野から削除された論文を反復的に改訂して評価する。
  論文  参考訳（メタデータ） (2026-09-13T18:59:10Z)
• ActReview: Rebuttal-Guided Training Data and Rubric Rewards for Actionable Peer Review Generation [54.82704239643649]
  本稿では, 紙固有の診断と具体的, 基礎的なリビジョン計画とを結びつける, 反感に満ちたポストトレーニングフレームワークである ActReview を紹介する。 我々の中心的な洞察は、著者の反論は、レビュアーの懸念に対処するための妥当な行動を明らかにし、それゆえ、リビジョン指向のフィードバックに対する潜在的な監督を提供することができるということである。 またActReview-Benchは、診断品質とリビジョンの有用性を評価するために、1,000インスタンスの人為的なベンチマークである。
  論文  参考訳（メタデータ） (2026-09-08T17:30:16Z)
• When AI reviews science: Can we trust the referee? [73.47745294608072]
  私たちは、トレーニングとデータ検索、デスクレビュー、深いレビュー、反論、システムレベルといった、レビューライフサイクル全体のアタックをマップします。 評価スコアに高名度フレーミング, 断定力, 反抗薬効, 文脈中毒の因果効果を分離するために, 2つの高度なLCMベースの審判を用いた。
  論文  参考訳（メタデータ） (2026-04-26T08:03:32Z)
• Expanding the Capabilities of Reinforcement Learning via Text Feedback [49.561885700139676]
  テキストフィードバックをトレーニング中に利用できるが、推論では利用できないマルチターンRLセットアップであるテキストフィードバック(RLTF)を形式化する。 そこで本研究では, 自己蒸留法(RLTF-SD)と, フィードバック条件付き第2ターン世代に適合するように単一ターンポリシーを訓練するフィードバックモデリング法(RLTF-FM)の2つの手法を提案する。 以上の結果から,両手法はベンチマークにおいて強いベースラインを一貫して上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2026-02-02T18:56:56Z)
• ReviewGuard: Enhancing Deficient Peer Review Detection via LLM-Driven Data Augmentation [3.9199635838637072]
  ReviewGuardは、欠陥レビューを検出して分類する自動化システムである。 最終コーパスは6,634枚、実際のレビュー24,657枚、合成レビュー46,438枚である。 不十分なレビューでは、評価スコアの低下、自己報告の信頼性の向上、構造的な複雑さの低減、ネガティブな感情の比率の向上が示されています。
  論文  参考訳（メタデータ） (2025-10-18T15:45:26Z)
• REMOR: Automated Peer Review Generation with LLM Reasoning and Multi-Objective Reinforcement Learning [0.0]
  我々は,多目的強化学習(REMOR)を用いた推論LLMが,限界を克服できるかを評価する。 REMORは、人間のレビューの平均的な報酬の2倍以上の報酬、非最先端のエージェント的マルチモーダルAIレビューシステムを達成する。
  論文  参考訳（メタデータ） (2025-05-16T22:00:49Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。