論文の概要: LLM Evolution in a Simple Simulated Market
- arxiv url: http://arxiv.org/abs/2610.24033v1
- Date: Fri, 16 Oct 2026 10:25:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-26 11:31:33.374878
- Title: LLM Evolution in a Simple Simulated Market
- Title（参考訳）: 単純模擬市場におけるLCMの進化
- Abstract要約: 算術問題を解くための20の大規模言語モデルエージェントの集団からなる単純市場をシミュレートする。
エージェントはシステムプロンプトでのみ異なり、倒産したエージェントは削除され、成功したエージェントのプロンプトの変異コピーに置き換えられる。
- 参考スコア（独自算出の注目度）: 0.16799377888527686
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Arguments that AI systems will evolve in harmful ways are largely made in the abstract. We provide a concrete empirical example. We simulate simple markets consisting of populations of twenty Large Language Model agents tasked with solving arithmetic problems. Agents differ only in their system prompt; those that go bankrupt are removed and replaced by mutated copies of the prompts of successful agents. Two market conditions select for opposite phenotypes: a market that rewards accuracy produces agents with high accuracy (94%) and high token use; a market that charges per token produces agents with low accuracy (10%) and low token use. In the second market, only tokens are incentivised yet we see a collapse in accuracy. Token use and accuracy are correlated traits such that selection on one also moves the other, and behaviour adapts along an unpriced dimension. A third neutral condition with no selection allows us to separate these effects from bias in the mutation operator. Adaptation occurs through a collective optimisation process that operates above the level of individual agents, who are never told the payment rule, do not receive feedback, and have no memory.
- Abstract（参考訳）: AIシステムが有害な方法で進化するという主張は、主に抽象的になされる。
具体例を挙げる。
算術問題を解くための20の大規模言語モデルエージェントの集団からなる単純市場をシミュレートする。
エージェントはシステムプロンプトでのみ異なり、倒産したエージェントは削除され、成功したエージェントのプロンプトの変異コピーに置き換えられる。
正確さに報いる市場は、高い精度(94%)のエージェントを、高いトークン使用率で、トークン当たりの課金は低い精度(10%)のエージェントを、低いトークン使用率で生産する。
第2の市場では、トークンだけがインセンティブを受けていますが、精度の低下が見られます。
トークンの使用と精度は、一方の選択が他方を移動させるような相関特性であり、振る舞いは不適切な次元に沿って順応する。
選択のない第3の中立条件は、変異演算子のバイアスからこれらの効果を分離することができる。
適応は、個々のエージェントのレベル以上で動作し、支払いルールを告げられず、フィードバックを受け取らず、記憶も持たない、集合的な最適化プロセスを通じて起こる。
関連論文リスト
- Decentralized LLM Workflows via Sequential Auctions [75.30127254397256]
自己関心エージェントの分散市場を通して多段階タスクを解くためのスケーラブルなフレームワークを提案する。
3つのオークションプロトコルで4つの入札アルゴリズムを定式化し評価する。
論文 参考訳（メタデータ） (2026-10-15T16:52:16Z) - What Do Foundation Models for Market Microstructure Learn? A Controlled Study with Synthetic Limit Order Books [52.171034819111945]
我々は,潜在パラメータが知られているシミュレータから,GPTスタイルのモデルを順序流で学習する。
学習された予測は、トークン当たり1ミリナット以内のベイズ最適値と一致する。
実NASDAQデータでは、ゼロショット転送はシミュレーターが実際の流れをいかにうまくカバーするかによって設定される。
論文 参考訳（メタデータ） (2026-10-14T12:38:49Z) - Market Signal Injection: Adversarial Context Manipulation of LLM Pricing Agents [7.751304917408626]
大きな言語モデル(LLM)の価格設定エージェントは、数値が変わらない場合でも、市場データの提示方法に反応する可能性がある。
本稿では, 数値フォーマット, 競合注文, 定性的な市場注釈を明示的な指示を出さずに操作する攻撃である市場信号注入(MSI)を導入する。
シミュレーションしたBertrand DuopolyおよびTiopolyマーケットにおける9つのオープンウェイトモデルと,Duopolyマーケットにおける3つのプロプライエタリモデルを評価した。
論文 参考訳（メタデータ） (2026-09-16T09:16:08Z) - Agent Bazaar: Enabling Economic Alignment in Multi-Agent Marketplaces [13.796920626646964]
本稿では,経済アライメント評価のためのマルチエージェントシミュレーションフレームワークであるAgens Bazaarを紹介する。
我々は,B2C市場におけるアルゴリズム的不安定性(“The Crash”)と,C2C市場におけるSybil Deception(“The Lemon Market”)の2つの障害モードを特定する。
我々は、経済に整合したハーネス、安定化企業、懐疑的ガーディアンズを提案し、その結果を改善するが、厳しい市場条件下では脆弱である。
論文 参考訳（メタデータ） (2026-05-17T23:36:55Z) - Sample Smart, Not Hard: Correctness-First Decoding for Better Reasoning in LLMs [72.82403830490084]
我々は、復号規則は正確さによって校正されるべきであり、自信だけではならないと論じている。
Greedy-Threshold はこの目標を達成するための単純な戦略を提案します。
この結果から,不確実性の下での復号化が問題視され,数学や一般推論のベンチマークで有意な差がみられた。
論文 参考訳（メタデータ） (2025-10-07T14:46:12Z) - Smooth Quadratic Prediction Markets [6.576051895863941]
我々はSmooth Quadratic Prediction Marketと呼ばれる新しい予測市場を提案する。
DCFMMとは対照的に、Smooth Quadratic Prediction MarketはAD証券で最悪の金融損失を被る。
本研究は,価格更新規則と料金構造が分離されているが,保証は維持されている将来の設計を示唆する。
論文 参考訳（メタデータ） (2025-05-05T18:43:58Z) - On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。
不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。
本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
論文 参考訳（メタデータ） (2024-08-02T03:25:20Z) - Uncertainty in Language Models: Assessment through Rank-Calibration [65.10149293133846]
言語モデル(LM)は、自然言語生成において有望な性能を示している。
与えられた入力に応答する際の不確実性を正確に定量化することは重要である。
我々は、LMの確実性と信頼性を評価するために、Rank$-$Calibration$と呼ばれる斬新で実用的なフレームワークを開発する。
論文 参考訳（メタデータ） (2024-04-04T02:31:05Z) - On Imperfect Recall in Multi-Agent Influence Diagrams [57.21088266396761]
マルチエージェント・インフルエンス・ダイアグラム(MAID)はベイズネットワークに基づくゲーム理論モデルとして人気がある。
混合ポリシと2種類の相関平衡を用いて, 忘れ易いエージェントと不注意なエージェントでMAIDを解く方法を示す。
また,不完全なリコールがしばしば避けられないマルコフゲームやチーム状況へのMAIDの適用についても述べる。
論文 参考訳（メタデータ） (2023-07-11T07:08:34Z) - Using Non-Stationary Bandits for Learning in Repeated Cournot Games with
Non-Stationary Demand [11.935419090901524]
本稿では,非定常要求の繰り返しCournotゲームについてモデル化する。
エージェントが選択できる武器/アクションのセットは、個別の生産量を表す。
本稿では,よく知られた$epsilon$-greedyアプローチに基づく,新しいアルゴリズム"Adaptive with Weighted Exploration (AWE) $epsilon$-greedy"を提案する。
論文 参考訳（メタデータ） (2022-01-03T05:51:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。