論文の概要: Building AI Research Teams for Autonomous Discovery of Linear Attention Architectures

• arxiv url: http://arxiv.org/abs/2610.28887v1
• Date: Tue, 20 Oct 2026 20:09:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 09:50:43.219562
• Title: Building AI Research Teams for Autonomous Discovery of Linear Attention Architectures
• Title（参考訳）: 線形アテンションアーキテクチャの自律的発見のためのAI研究チームの構築
• Abstract要約: さまざまな専門知識を持つエージェントを用いてチームを構築することにより,探索を促進することを提案する。 我々は、異なる科学的背景を持つAI研究者が互いの発見に基づいてどのように構築し、限られた実験予算の下で進歩を維持することができるか尋ねる。 我々は,この設計の有効性を,リニアアテンションアーキテクチャの探索にチームを配置することによって実証する。
• 参考スコア（独自算出の注目度）: 26.81220625618472
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous agents can increasingly propose ideas, modify code, and run experiments, creating an opportunity to accelerate scientific discovery using teams of collaborative AI researchers. To escape local minima in the discovery, we propose to encourage orthogonal exploration by constructing the team using agents with varying expertise. However, realizing this design requires more than diverse backgrounds. When experiments are costly, a team can test only a limited number of ideas, thereby creating the need to balance exploration and exploitation when selecting a subset of researchers to propose and execute new experiments. Furthermore, each result should shape what the team tries next. We therefore ask how AI researchers with different scientific backgrounds can build on one another's findings and sustain progress under a limited experimental budget. To address these challenges, we build a team of persistent AI researchers, each grounded in a different discipline, who keep private research histories, share experimental evidence, and receive research opportunities through adaptive allocation. We demonstrate the effectiveness of this design by deploying the team to search for linear attention architectures, where it outperforms GDN2 at 1.3B scale on language modeling, common-sense reasoning, and synthetic and real-world retrieval tasks. In controlled comparisons, removing any single organizational component from our design yields markedly weaker discoveries: without disciplinary backgrounds, the search plateaus early; without private histories, researchers make less progress despite identical shared evidence; and uniform selection falls short of adaptive allocation within the same budget. These results suggest that sustained autonomous discovery depends not only on stronger agents, but also on who explores, what they remember, and how research effort is allocated.
• Abstract（参考訳）: 自律エージェントは、アイデアを提案し、コードを修正し、実験を実行し、協力的なAI研究者のチームを使って科学的発見を加速する機会を作ることができる。 発見時の局所最小化を避けるため,様々な専門知識を持つエージェントを用いてチームを構築し,直交探索を促進することを提案する。 しかし、この設計を実現するには様々な背景が必要である。 実験に費用がかかると、チームは限られた数のアイデアしかテストできないため、研究者のサブセットを選択して新しい実験を提案して実行する際に、探索と搾取のバランスを取る必要性が生じる。 さらに、それぞれの結果はチームが次に試すものを形成するべきです。 そこで我々は、異なる科学的背景を持つAI研究者が互いの発見に基づいてどのように構築し、限られた実験予算の下で進歩を維持することができるかを尋ねる。 これらの課題に対処するために、私たちは、それぞれ異なる分野に根ざした永続的なAI研究者のチームを構築し、プライベートな研究履歴を保持し、実験的な証拠を共有し、適応的なアロケーションを通じて研究機会を得る。 本稿では, 言語モデリング, 常識推論, 合成および実世界の検索タスクにおいて, GDN2を1.3Bスケールで上回り, 線形アテンションアーキテクチャを探索するためにチームを配置することで, この設計の有効性を実証する。 統制された比較では、我々の設計の成果から単一の組織的要素を取り除くことは、非常に弱い発見である: 学際的背景がなければ、探索台地は早くなり、プライベートな歴史がなければ、研究者は同一の共有された証拠にもかかわらず、進歩を減らし、均一な選択は、同じ予算内で適応的な割り当てに不足する。 これらの結果は、持続的な自律的な発見は、より強いエージェントだけでなく、誰が探索し、何を記憶し、どのように研究努力を割り当てるかにも依存していることを示唆している。

関連論文リスト

• The Agentic Scientist: Orchestrating Coding Agents for Automated Scientific (Co-)Discovery [18.156759449259127]
  我々は、現代のコーディングエージェントと共に計算研究を行うために、人間の研究者のためのエンドツーエンドの分散パイプラインであるエージェントサイエンティストを紹介した。 本システムでは,タスクドラフト,アイデア生成,計画,サンドボックス実験,結果集約,ベースラインおよびアブレーション構築,ポストホック解析,レポート作成などの研究を分解する。 私たちのシステムは、共同科学者のツールとして、あるいはエンドツーエンドの科学調査を行うために、さまざまな自律性に利用できます。
  論文  参考訳（メタデータ） (2026-10-13T11:28:03Z)
• Learning Scientific Exploration from Human Research Decision Trajectories [21.451959478488984]
  科学研究のためのAIシステムを構築する上での課題は、$textitscientific explorationを可能にすることだ。 Gitリポジトリから構築された$textbf Humanリサーチトラジェクトリのデータセットである$textbfResearchTrails$を紹介します。 これらの軌道には、最終論文が示す以上の中間研究決定に関する有意義なシグナルが含まれていることを示す。
  論文  参考訳（メタデータ） (2026-10-05T18:05:12Z)
• IdeaScientist: Orchestrating Agents for Grounded Scientific Ideation [53.38412637382984]
  本稿では,イデオロギーをギャップ発見,イノベーション,レポート作成に分解し,各役割を強化学習で訓練するIdeanScientistを紹介する。 これらの役割は、関連する作業の限界を特定し、類似した問題設定から解の直観を引き出し、それらの直観を完全な研究提案へと発展させる。 ドメイン間の洞察の発見を容易にするため、検索、トレーニング、時間的に制御された評価のための277万の研究思想のコーパスであるSvalbard Idea Vaultを構築した。
  論文  参考訳（メタデータ） (2026-10-02T21:35:55Z)
• Personalized Auto-Research: Towards a True AI Co-Scientist [90.01790420664169]
  研究目標を考えると、最先端のシステムは研究者に依存しないままである。 小説、価値、実現可能なものは研究者によって異なる。 本稿では,検索,仮説探索,実験,執筆,レビューを通じて,グラフグラウンドの研究者コンテキストをスレッド化するフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-08-14T20:43:27Z)
• Intentmaking and Sensemaking: Human Interaction with AI-Guided Mathematical Discovery [72.49593499512092]
  インテントメイキングという別のワークフローを特定し、特徴付けします。 私たちはこれをセンスメイキングの自然な拡張と捉えています。 これらのテーマのドキュメンテーションは、科学的発見のためのAIツール設計へのアプローチを示唆している。
  論文  参考訳（メタデータ） (2026-05-07T09:30:25Z)
• Training AI Co-Scientists Using Rubric Rewards [36.857905469178796]
  AIの共同研究者の重要な特徴は、目的と制約のセットから研究計画を生成する能力である。 本研究では,既存の研究論文の膨大なコーパスを活用して,より良い研究計画を生み出す言語モデルを訓練する方法について検討する。 複数のドメインにわたる論文から研究目標と目標固有のグルーブを自動抽出することで、スケーラブルで多様なトレーニングコーパスを構築します。
  論文  参考訳（メタデータ） (2025-12-29T18:59:33Z)
• The Budget AI Researcher and the Power of RAG Chains [4.797627592793464]
  研究アイデア生成への現在のアプローチは、しばしばジェネリック・大型言語モデル(LLM)に依存している。 私たちのフレームワークであるThe Budget AI Researcherは、検索強化ジェネレーションチェーン、ベクトルデータベース、トピック誘導ペアリングを使用して、数百の機械学習論文の概念を再結合します。 このシステムは、機械学習の広大なサブフィールドにまたがる9つの主要なAIカンファレンスから論文を取り込み、それらを階層的なトピックツリーに整理する。
  論文  参考訳（メタデータ） (2025-06-14T02:40:35Z)
• Many Heads Are Better Than One: Improved Scientific Idea Generation by A LLM-Based Multi-Agent System [62.832818186789545]
  Virtual Scientists (VirSci) は、科学研究に固有のチームワークを模倣するために設計されたマルチエージェントシステムである。 VirSciは研究のアイデアを共同で生成し、評価し、洗練するエージェントのチームを組織している。 このマルチエージェントアプローチは、新しい科学的アイデアを生み出す上で、最先端の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-10-12T07:16:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。