論文の概要: Aligning Autoresearch: Co-Improvement between Agents and Humans

• arxiv url: http://arxiv.org/abs/2610.38882v1
• Date: Wed, 28 Oct 2026 20:47:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:10.006731
• Title: Aligning Autoresearch: Co-Improvement between Agents and Humans
• Title（参考訳）: 自動検索の調整: エージェントと人間による共同改善
• Abstract要約: 自動検索エージェントの指示における人間の役割を,ベンチマーク作成の領域に焦点をあてて検討する。 本研究では,強化学習において,人体シミュレータをプロキシとして利用することにより,人体インタラクションを改善するエージェントを訓練する手法を提案する。 最後に,RLによるテキスト生成のモデル化とエージェント通信の手法を,人間の専門家に合わせたルーリックを用いて開発する。
• 参考スコア（独自算出の注目度）: 59.79624370185983
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autoresearch agents can now attempt long-horizon AI research end-to-end, i.e., self-improvement. However, best results are still obtained by research agents interacting with human researchers, and improving AI's ability to perform this co-research will only reinforce this effect---a process termed co-improvement (Weston and Foerster, 2025). Further, aligning with human expectations is likely a safer path for research agents, especially given recent agent reward hacking phenomena (OpenAI, 2026b). In this work we address these issues in four ways: (i) we empirically study the role of humans in directing autoresearch agents, focusing on the domain of benchmark creation, and find humans still play a pivotal role particularly in the ideation phase; (ii) we also develop a benchmark, HackBench, that shows current autoresearch agents are not aligned and are unable to achieve hack localization sufficiently; (iii) we present a method to train agents for improved human interaction by using human simulators as a proxy during reinforcement learning (RL); and finally (iv) we develop a method to improve model text generation, and hence agent communication, by RL with rubrics aligned with human experts. Together, our training and evaluation recipes provide a path toward more capable and aligned (co-)research agents.
• Abstract（参考訳）: オートリサーチエージェントは、長期的なAI研究、すなわち自己改善を試みることができる。 しかし、最良の結果はまだ人間の研究者と相互作用する研究エージェントによって得られており、この共同研究を行うAIの能力を改善することは、この効果を補強するだけである(Weston and Foerster, 2025)。 さらに、最近のエージェント報酬ハッキング現象(OpenAI, 2026b)を考えると、人間の期待に沿うことは研究エージェントにとってより安全な道である可能性が高い。 この作業では、これらの問題に4つの方法で対処します。 一 自動検索エージェントの指示における人間の役割を実証的に研究し、ベンチマーク作成の領域に焦点をあて、特に思考段階において人間が重要な役割を担っていること。 (ii)現在のオート検索エージェントが整列せず、十分にハックローカライゼーションを達成できないベンチマークであるHackBenchも開発しています。 三 強化学習(RL)において、人体シミュレーターをプロキシとして利用し、人間との交流を改善するためのエージェントの訓練方法を提案する。 そこで,本研究では,RLによるテキスト生成とエージェント通信を改善する手法を開発した。 トレーニングと評価のレシピは共に、より有能で整合した(共同)検索エージェントへの道筋を提供する。

関連論文リスト

• Atria Dawn: The Dawn of Agentic Superintelligence [237.73474618289063]
  本稿では,科学研究と工学のための基礎エージェント言語モデルであるAtria Dawn Previewを紹介する。 本稿では,人間-AI協力の事例研究として,このモデルの背後にある真の研究開発プロセスについて考察する。
  論文  参考訳（メタデータ） (2026-09-14T16:22:30Z)
• Act As a Real Researcher: A Suite of Benchmarks Evaluating Frontier LLMs and Agentic Harnesses in Research Lifecycle [16.040691949938203]
  AARR(Act as a Real Researcher)ベンチマークシリーズを提案する。 AARRは、エージェントが人間の研究者を特徴づけるプロフェッショナル主義、徹底性、ニュアンスな推論をエミュレートできるかどうかに焦点を当てている。 我々の研究結果は、研究者のようなAIを開発するには、さらなる研究行動の探索が必要であることを示唆している。
  論文  参考訳（メタデータ） (2026-06-05T17:13:36Z)
• Learning to Retrieve from Agent Trajectories [72.8923565916533]
  我々はエージェント間相互作用データから直接エージェント探索のための検索モデルを訓練すべきであると主張している。 エージェント・トラジェクトリからの学習を新たな訓練パラダイムとして導入し,マルチステップエージェントのインタラクションから指導を導出する。 本研究は,エージェント探索時代における検索の方向性を示すとともに,エージェントトラジェクトリを実用的でスケーラブルな監視源として強調するものである。
  論文  参考訳（メタデータ） (2026-03-30T17:59:02Z)
• AI Co-Scientist for Ranking: Discovering Novel Search Ranking Models alongside LLM-based AI Agents with Cloud Computing Access [60.37646376282544]
  本稿では,全検索ランキング研究パイプラインを自動化したAI共同科学者フレームワークを提案する。 これは、AIの共同科学者フレームワークをアルゴリズム研究に利用した、ランキングコミュニティで初めての研究である。
  論文  参考訳（メタデータ） (2026-03-23T09:29:08Z)
• AgentRxiv: Towards Collaborative Autonomous Research [3.583084119066612]
  AgentRxivは、エージェントが研究目標に向けて協力し、研究者が発見を加速できるようにする。 最高のパフォーマンス戦略が他の領域のベンチマークに一般化されることが分かりました。 これらの結果は、自律エージェントが未来のAIシステムを人間と一緒に設計する役割を担っていることを示唆している。
  論文  参考訳（メタデータ） (2025-03-23T15:16:42Z)
• ProAgent: Building Proactive Cooperative Agents with Large Language Models [89.53040828210945]
  ProAgentは、大規模な言語モデルを利用してプロアクティブエージェントを生成する新しいフレームワークである。 ProAgentは現状を分析し、チームメイトの意図を観察から推測することができる。 ProAgentは高度なモジュール化と解釈可能性を示し、様々な調整シナリオに容易に統合できる。
  論文  参考訳（メタデータ） (2023-08-22T10:36:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。