論文の概要: HiveMind: OS-Inspired Scheduling for Concurrent LLM Agent Workloads
- arxiv url: http://arxiv.org/abs/2604.17111v1
- Date: Sat, 18 Apr 2026 18:59:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.338714
- Title: HiveMind: OS-Inspired Scheduling for Concurrent LLM Agent Workloads
- Title（参考訳）: HiveMind: 並行LLMエージェントワークロードのためのOSインスパイアされたスケジューリング
- Abstract要約: モチベーションのインシデントでは、11の並列エージェントのうち3つがコネクションリセットとHTTP 502エラーで死亡しました。
HIVEMINDは5つのOSにインスパイアされたスケジューリングプリミティブを適用し,非協調並列実行による障害モードを除去する透過的なHTTPプロキシである。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: When multiple LLM coding agents share a rate-limited API endpoint, they exhibit resource contention patterns analogous to unscheduled OS processes competing for CPU, memory, and I/O. In a motivating incident, 3 of 11 parallel agents died from connection resets and HTTP 502 errors - a 27% failure rate - despite the API having sufficient aggregate capacity to serve all 11 sequentially. We present HIVEMIND, a transparent HTTP proxy that applies five OS-inspired scheduling primitives - admission control, rate-limit tracking, AIMD backpressure with circuit breaking, token budget management, and priority queuing - to eliminate the failure modes caused by uncoordinated parallel execution. The proxy requires zero modifications to existing agent code and supports Anthropic, OpenAI, and local model APIs via auto-detected provider profiles. Our evaluation across seven scenarios (5-50 concurrent agents) shows that uncoordinated agents fail at 72-100% rates under contention, while HIVEMIND reduces failures to 0-18% and eliminates 48-100% of wasted compute. An ablation study reveals that transparent retry - not admission control - is the single most critical primitive, but the primitives are most effective in combination. Real-world validation against Ollama confirms that HIVEMIND adds under 3ms of proxy overhead per request. The system is open-source under the MIT license.
- Abstract（参考訳）: 複数のLDMコーディングエージェントがレート制限APIエンドポイントを共有すると、CPU、メモリ、I/Oと競合する未スケジュールのOSプロセスに類似したリソース競合パターンを示す。
モチベーションのあるインシデントでは、11の並列エージェントのうち3つが、コネクションリセットとHTTP 502エラー(障害率27%)で死亡した。
入出力制御,レートリミットトラッキング,回路破壊を伴うAIMDバックプレッシャ,トークン予算管理,優先度キューなど,5つのOSにインスパイアされたスケジューリングプリミティブを適用した透過的なHTTPプロキシであるHIVEMINDを,非コーディネート並列実行による障害モードを排除する。
プロキシは、既存のエージェントコードの変更をゼロにし、自動検出されたプロバイダプロファイルを介して、Anthropic、OpenAI、およびローカルモデルAPIをサポートする。
コンカレントエージェントを7つのシナリオ(5-50)で評価したところ,非コーディネートエージェントは72-100%の速度で競合する一方,HIVEMINDはエラーを0-18%まで低減し,48-100%の無駄な計算を排除した。
アブレーション研究では、入場制御ではなく透明な再試行が、最も重要なプリミティブであることが明らかになったが、プリミティブは組み合わせて最も効果的である。
Ollamaに対する現実の検証では、HIVEMINDがリクエスト毎に3ms以下のプロキシオーバーヘッドを追加することが確認されている。
このシステムはMITライセンス下でオープンソースである。
関連論文リスト
- Where Is the Cost of Third-Party API Routers in Agentic Software Development? [16.886494606820495]
サードパーティのAPIルータは、ますます多様なLLMプロバイダ間のアクセスを統一する共通レイヤになっている。
符号化エージェントでは、対話オーバーヘッドを減らすため、ハイオートノミー操作が広く採用されている。
プロバイダの出力と最終的にエージェントによって実行されるリポジトリレベルのアクションとの整合性を検証するメカニズムはありません。
論文 参考訳（メタデータ） (2026-07-26T12:15:09Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳（メタデータ） (2026-07-18T04:46:53Z) - ClawArena-Team: Benchmarking Subagent Orchestration and Dynamic Workflows in Language-Model Agents [61.184954205350984]
ClawArena-Teamは、41のマルチターン、マルチモーダル、マルチエージェントシナリオのベンチマークである。
全体的なスコア -- Subagent-Management Score (SMS) -- は、タスクの正しさを最小限のプライマリとモダリティのルーティング因子によって乗算する。
論文 参考訳（メタデータ） (2026-06-30T06:06:08Z) - Verifier-First Evaluation of Agentic LLMs for Infrastructure-as-Code Generation [0.0]
自然言語からインフラストラクチャ・アズ・コード(IaC)を生成するには、プロバイダのスキーマ、依存関係の計画、組織的なポリシの制約を満たす必要がある。
Rego v1ポリシを備えた186タスクのAWS/TerraformベンチマークであるIaC-Eval v2で評価されたTerraform生成のための7つのエージェント戦略に関する検証初の実験的研究を示す。
論文 参考訳（メタデータ） (2026-05-29T12:43:27Z) - Deterministic Replay for AI Agent Systems [0.0]
大規模な言語モデルを外部ツールやAPIと組み合わせるAIエージェントシステムは本質的に非決定論的である。
既存の可観測性プラットフォームは実行ログをキャプチャするが、独立して実行を再現することはできない。
エージェント実行の決定論的リプレイのための開発者ファーストのCLIフレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-30T12:00:45Z) - FLARE: Agentic Coverage-Guided Fuzzing for LLM-Based Multi-Agent Systems [9.562231408217281]
マルチエージェントLLMシステム(MAS)はタスクをサブタスクに分割することで複雑なヒューマンタスクを自動化するために採用されている。
MASアプリケーションは無限ループや失敗したツール呼び出しなど、頻繁に障害に遭遇する。
従来のソフトウェアテスト技術は、LLMエージェント仕様の欠如、MASの大規模な行動空間、意味に基づく正当性判定の欠如により、そのような障害を検出するのに効果がない。
本稿では、MASに適した新しいテストフレームワークであるFLAREについて述べる。FLAREは、MASのソースコードを入力として、エージェント定義から仕様と行動空間を抽出する。
論文 参考訳（メタデータ） (2026-04-07T00:47:37Z) - AgentCgroup: Understanding and Controlling OS Resources of AI Agents [2.8139711959925244]
AIエージェントは、サンドボックスコンテナ内でさまざまなツールコールを実行するマルチテナントクラウド環境にますますデプロイされている。
サンドボックス型AI符号化エージェントにおけるOSレベルの資源動態の系統的特徴について述べる。
予備評価は, マルチテナント分離の改善と資源廃棄物の削減を実証する。
論文 参考訳（メタデータ） (2026-02-10T02:37:42Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳（メタデータ） (2025-12-09T06:52:21Z) - DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems [48.971606069204825]
DoVerは、大規模言語モデル(LLM)ベースのマルチエージェントシステムのための介入駆動デバッグフレームワークである。
ターゲットの介入を通じて、アクティブな検証によって仮説生成を増強する。
DoVerは失敗試験の18～28%を成功させ、最大16%のマイルストーンを達成し、失敗仮説の30～60%を検証または否定する。
論文 参考訳（メタデータ） (2025-12-07T09:23:48Z) - Which Agent Causes Task Failures and When? On Automated Failure Attribution of LLM Multi-Agent Systems [50.29939179830491]
LLMマルチエージェントシステムにおける障害帰属は、まだ調査が過小評価されており、労働集約的である。
本稿では,3つの自動故障帰属手法の開発と評価を行い,その欠点と欠点を要約する。
最良の方法は、障害に応答するエージェントを特定する際に53.5%の精度を達成するが、故障の特定には14.2%しか役に立たない。
論文 参考訳（メタデータ） (2025-04-30T23:09:44Z) - AegisLLM: Scaling Agentic Systems for Self-Reflective Defense in LLM Security [74.22452069013289]
AegisLLMは、敵の攻撃や情報漏洩に対する協調的なマルチエージェント防御である。
テスト時のエージェント推論システムのスケーリングは,モデルの有用性を損なうことなく,ロバスト性を大幅に向上させることを示す。
アンラーニングやジェイルブレイクを含む主要な脅威シナリオに対する総合的な評価は、AegisLLMの有効性を示している。
論文 参考訳（メタデータ） (2025-04-29T17:36:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。