論文の概要: Where LLM Agents Get Stuck Debugging Databases: Access More Than Reasoning
- arxiv url: http://arxiv.org/abs/2611.17304v1
- Date: Thu, 12 Nov 2026 18:56:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.596972
- Title: Where LLM Agents Get Stuck Debugging Databases: Access More Than Reasoning
- Title(参考訳): LLMエージェントがデータベースを不安定にデバッグする場所: 推論以上のアクセス
- Abstract要約: 大規模言語モデル(LLM)コーディングエージェントは、コードを記述するのではなく、実行中のランタイムデータからシステムをデバッグするように求められている。
本研究では, 実運用用メッセージディスパッチエンジンにおいて, 8件のデータベースインシデントを診断したエージェントを現場で観察した。
実行時に依存する根本原因のすべてのインシデントにおいて、エージェントは原因を公表し、修正を出荷し、後に修正を再開した。
- 参考スコア(独自算出の注目度): 2.459243013274013
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model (LLM) coding agents are increasingly asked not only to write code but to debug running systems from live runtime data. We report a field observation of one such agent (Claude Code) as it diagnosed eight database incidents in a production message-dispatch engine. In every incident whose root cause depended on runtime concurrency, the agent announced a cause, shipped a fix, and later walked it back, and each wrong guess cost a deploy-and-observe cycle. Mapping each incident to what the agent lacked, we find that access to production state was the most pervasive bottleneck. The missing access included live lock views, untruncated deadlock reports, read-only execution, and an explicit environment context. An access gap was present in all five concurrency-dependent incidents: alone in one, and in four combined with a reasoning error such as anchoring on an early cause, incomplete exploration of the configuration, or a misreading of the code's transaction semantics. The three incidents that did not depend on concurrency needed nothing beyond what the agent already had. Within the incidents, the agent's wrong hypotheses were consistent with the evidence it could see; they were not fabrications. We argue that the next step for production-debugging agents is a forensics layer that gives the agent the access it lacks inside existing security controls. Such a layer would combine a safe interrogation API, a lock-and-deadlock flight recorder, and a production replay harness.
- Abstract(参考訳): 大規模言語モデル(LLM)コーディングエージェントは、コードを記述するだけでなく、ライブランタイムデータから実行中のシステムをデバッグするよう、ますます求められている。
実運用用メッセージディスパッチエンジンにおける8つのデータベースインシデントを診断し,そのようなエージェント(Claude Code)のフィールド観察を行った。
実行時の並行性に依存する根本原因のすべてのインシデントにおいて、エージェントは原因を公表し、修正を出荷し、後に修正を再開した。
各インシデントをエージェントが不足したものにマッピングすると、プロダクション状態へのアクセスが最も広く行き渡ったボトルネックであることが分かりました。
欠落したアクセスには、ライブロックビュー、未実行のデッドロックレポート、読み取り専用実行、明示的な環境コンテキストが含まれていた。
アクセスギャップは、初期原因のアンカーや設定の不完全な探索、コードのトランザクションセマンティクスの誤読など、並列性に依存した5つのインシデントすべてに発生しました。
並行性に依存しない3つのインシデントは、エージェントがすでに持っているもの以上のものを必要としませんでした。
事件の中では、エージェントの誤った仮説は、それが見ることのできる証拠と一致していた。
プロダクションデバッグエージェントの次のステップは、エージェントに既存のセキュリティコントロールに欠けているアクセスを与える法医学的なレイヤである、と私たちは主張します。
このような層は安全な尋問API、ロック・アンド・デッドロックのフライトレコーダー、プロダクション・リプレイ・ハーネスを組み合わせたものである。
関連論文リスト
- On the Relative Security of Prompt Injection: Mechanised Definitions, Defences and Verdicts for LLM Agents [0.0]
我々は、信頼できないコンテンツに従わないモデルで同じモニターの下で同じ計画を実行する参照エージェントに対して、セキュリティを記述します。
エージェントは、リークがあるたびに、参照がすでに持っているリークであれば、比較的セキュアである。
フェンスの定理は、最初の信頼できないリードで射出可能なツールを取り消し、決してそれを返さないことで、すべての計画が有限ランのイベントレベルで比較的安全であることを示している。
論文 参考訳(メタデータ) (2026-11-08T17:20:48Z) - Do Coding Agents Understand Why Systems Crash---and Why They Don't? [67.16681439771178]
コーディングエージェントは現実世界のバグを修正する能力はますます高まっているが、Linuxカーネルのような大規模なシステムでは依然として苦労している。
理由を理解するために、私たちはクラッシュ推論を通じてエージェントがこれらの処理の実行を理由づける方法をテストする。
正しい予測だけでは、不審なコードを見つけることから生じる可能性があるため、この能力を確立できない。
論文 参考訳(メタデータ) (2026-10-21T07:30:20Z) - Claude Code Complete User Handbook [0.0]
Claude Codeは、未検証アクセス、シェル実行、ブラウザ制御、スケジュールおよびクラウド実行を備えたループで動作する言語モデルである。
この本は、そのシステムを安全かつ生産的に運用するためのタスク指向の参照である。
論文 参考訳(メタデータ) (2026-08-27T07:32:14Z) - Five Primitives for Governing Autonomous AI Agents at Runtime [0.0]
自律的なAIエージェントの管理は問題であり、モデルアライメントの問題ではない、と私たちは主張する。
行動を起こす前に答えなければならない質問から5つのプリミティブを導き出す。
エージェントのアクションが実行前にポリシーに対して媒介される実装について述べる。
論文 参考訳(メタデータ) (2026-08-27T06:53:11Z) - Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。
我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
論文 参考訳(メタデータ) (2026-07-24T06:43:09Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳(メタデータ) (2026-07-18T04:46:53Z) - Confining Nondeterminism: AI-Driven Research Systems as DBMSs for Reliable, Non-Wasteful, Transparent, and Collaborative Research [Vision] [6.1118660156378075]
今日のエージェントループは、エージェントを含む内部状態がチェックできないエグゼキュータである、と私たちは主張する。
LLMの内部を見るのではなく、データベースからレッスンを受けます。
プロジェクトは決定論的でバージョン管理されたデータフローエンジン内にあり、LLMはユーザとともに、その計画だけを編集するコンパイラである。
論文 参考訳(メタデータ) (2026-07-11T23:46:01Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳(メタデータ) (2026-06-22T11:36:58Z) - LACUNA: Safe Agents as Recursive Program Holes [3.2613419151327343]
LLMエージェントはますますコードを記述することで振る舞うが、エージェントを駆動するランタイムとモデルが記述するコードの間には分割が持続する。
我々は、安全性を維持しながら、この分割を閉じるエージェントのためのプログラミングモデルであるLACUNAを紹介する。
我々のプリミティブは、通常の制御フローとしてReActループ、サブエージェント、スキル、並列分解、マルチモデル計画を表現する。
論文 参考訳(メタデータ) (2026-05-27T15:27:25Z) - AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management [47.49917373646469]
既存の防御は肥大した記憶を与えられたまま扱い、回復力を維持することに集中する。
我々は、明示的なメモリ管理を通じて間接的なインジェクションを防御するフレームワークであるAgentSysを紹介する。
論文 参考訳(メタデータ) (2026-02-07T06:28:51Z) - Where LLM Agents Fail and How They can Learn From Failures [62.196870049524364]
大規模言語モデル(LLM)エージェントは、複雑なマルチステップタスクの解決において有望であることを示す。
単一ルート原因エラーがその後の決定を通じて伝播する、障害のカスケードに対する脆弱性を増幅する。
現在のシステムは、モジュール的で体系的な方法でエージェントエラーを包括的に理解できるフレームワークを欠いている。
AgentErrorTaxonomyは、メモリ、リフレクション、計画、アクション、システムレベルの操作にまたがる障害モードのモジュール分類である。
論文 参考訳(メタデータ) (2025-09-29T18:20:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。