論文の概要: From Solo to Social Learning: Characterizing Recursive Social Improvement in LLMs
- arxiv url: http://arxiv.org/abs/2609.38516v2
- Date: Thu, 01 Oct 2026 21:46:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:29.957132
- Title: From Solo to Social Learning: Characterizing Recursive Social Improvement in LLMs
- Title(参考訳): ソロから社会学習へ: LLMにおける再帰的社会改善を特徴付ける
- Abstract要約: 大規模言語モデル(LLM)は、ピアからコピーすることで学習をより効率的にするが、より効果的ではないことを示す。
制御された環境では、確立された社会学習アルゴリズムはピアの恩恵を受けるが、3つのLSMは得ない。
- 参考スコア(独自算出の注目度): 12.945196091314143
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) can now improve themselves by revising the instructions they follow, and LLM agents are increasingly orchestrated to work together on complex problems. However, self-improvement methods typically optimize one system at a time, and multi-agent frameworks often have every model work toward a shared goal. We ask a different question. When each agent pursues its own reward, can self-improving LLMs learn from one another well enough to improve the whole population? We call this capability recursive social improvement. We study populations that revise skill files and choose whether, when, and whom to copy from. Independent search, learning from peers, and acting all share one token budget. In controlled environments, established social-learning algorithms benefit from peers, but three LLMs do not. They earn less reward per token than solo learners, and explore too narrowly or run out of tokens before acting. We then let the models write and revise their own skills. Observing peers changes how they improve, helping one model find useful skills sooner and another spend less on private search. Neither, however, outperforms independent learners at the same cost. Skills are copied, revised, and passed on, so one discovery can seed further search. Yet these exchanges concentrate the population around fewer independent discoveries. Together, these results show that LLMs can make learning more efficient by copying from peers, but not yet more effective.
- Abstract(参考訳): 大規模言語モデル(LLM)は、それらが従う命令を改訂することで、自分自身を改善できるようになった。
しかし、自己改善手法は通常、1つのシステムを一度に最適化する。
私たちは別の質問をする。
それぞれのエージェントが自身の報酬を追求すると、自己改善型LDMはお互いから十分に学習し、人口全体を改善することができるのか?
これを再帰的な社会改善と呼ぶ。
スキルファイルを改訂し、いつ、いつ、誰からコピーするかを選択する人口について検討する。
独立した検索、同僚からの学習、行動はすべてトークンの予算を共有している。
制御された環境では、確立された社会学習アルゴリズムはピアの恩恵を受けるが、3つのLSMは得ない。
単独の学習者よりもトークン当たりの報酬は少なく、狭く探索したり、行動する前にトークンを使い果たしたりする。
そして、モデルに自身のスキルを書き、修正させます。
ピアの観察は、改善の仕方を変え、あるモデルがより早く有用なスキルを見つけるのを助け、別のモデルがプライベート検索に費やす時間を減らす。
しかし、どちらも独立学習者には同じコストで勝るものではない。
スキルはコピーされ、改訂され、受け継がれる。
しかし、これらの交換所は人口をより少ない独立した発見に集中させている。
これらの結果から、LLMはピアからコピーすることで学習をより効率的にするが、より効果的ではないことが示唆された。
関連論文リスト
- Beyond the AI Tutor: Social Learning with LLM Agents [9.933416370629923]
異なる学習コンテキストにまたがる2つの実験について述べる。
我々は、よりリッチなエージェント構成への1対1のAI教育への移行が、人間の社会学習研究で長年記録されてきた協調的および観察的利益を解き放つことができるかどうかを検討する。
論文 参考訳(メタデータ) (2026-04-03T03:17:30Z) - Learning Robust Social Strategies with Large Language Models [7.697496386429445]
強化学習は,大規模言語モデル(LLM)を単一エージェント体制で整列させるのに有効である。
マルチエージェント設定における標準RLは、しばしば欠陥のある自己関心のポリシーに収束することを示す。
RLが不均衡に収束する傾向に対処するため、近年の対向学習認識アルゴリズムAdvantage Alignmentを適用した。
論文 参考訳(メタデータ) (2025-11-24T18:43:46Z) - Multi-Agent Evolve: LLM Self-Improve through Co-evolution [53.00458074754831]
強化学習(RL)は、大規模言語モデル(LLM)の推論能力を高める大きな可能性を証明している。
近年のSelf-Play RL法は,ゲームやGoのパラダイムの成功に触発されて,人間に注釈を付けることなくLSM推論能力を向上することを目指している。
数学,推論,一般知識Q&Aなど多種多様な課題の解決において,LLMが自己発展できるフレームワークであるMulti-Agent Evolve(MAE)を提案する。
論文 参考訳(メタデータ) (2025-10-27T17:58:02Z) - Corrupted by Reasoning: Reasoning Language Models Become Free-Riders in Public Goods Games [87.5673042805229]
大規模言語モデルは、アライメント、堅牢性、安全なデプロイメントを保証する上で、いかに自己関心と集合的幸福のバランスをとるかが重要な課題である。
我々は、行動経済学から制度的に選択した公共財ゲームに適応し、異なるLLMがいかに社会的ジレンマをナビゲートするかを観察することができる。
意外なことに、o1シリーズのようなLCMの推論は、協調にかなり苦労している。
論文 参考訳(メタデータ) (2025-06-29T15:02:47Z) - Lessons Learned: A Multi-Agent Framework for Code LLMs to Learn and Improve [9.893319057671711]
エージェントのチームは、お互いの成功と失敗から学び、自身のパフォーマンスを改善することができる、と私たちは主張する。
本研究では,授業ベースのコラボレーションフレームワークを提案し,授業ソリケーション-バンク選択機構を設計し,学習した小さなLLMのチームがより大きなLLMを上回り得ることを示す。
論文 参考訳(メタデータ) (2025-05-29T18:56:20Z) - A Survey on Self-Evolution of Large Language Models [116.54238664264928]
大規模言語モデル(LLM)は、様々な分野やインテリジェントエージェントアプリケーションにおいて大きく進歩している。
この問題に対処するために、LLMが自律的に獲得し、洗練し、モデル自身によって生成された経験から学ぶことができる自己進化的アプローチが急速に成長している。
論文 参考訳(メタデータ) (2024-04-22T17:43:23Z) - Emergent Social Learning via Multi-agent Reinforcement Learning [91.57176641192771]
社会学習は、人間と動物の知性の重要な構成要素である。
本稿では,独立系強化学習エージェントが,社会的学習を用いてパフォーマンスを向上させることを学べるかどうかを検討する。
論文 参考訳(メタデータ) (2020-10-01T17:54:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。