論文の概要: Agentic AI Process Observability: Discovering Behavioral Variability

• arxiv url: http://arxiv.org/abs/2505.20127v1
• Date: Mon, 26 May 2025 15:26:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:43.567392
• Title: Agentic AI Process Observability: Discovering Behavioral Variability
• Title（参考訳）: エージェントAIプロセスの可観測性:行動変数の発見
• Authors: Fabiana Fournier, Lior Limonad, Yuval David,
• Abstract要約: 大規模言語モデル(LLM)を利用するAIエージェントは、現代のソフトウェアシステムの中核的な構成要素になりつつある。 フレームワークは自然言語のプロンプトを使ってエージェントの設定を定義することができる。 このような設定では、エージェントの振る舞いは任意の入力に対して非決定論的である。
• 参考スコア（独自算出の注目度）: 2.273531916003657
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI agents that leverage Large Language Models (LLMs) are increasingly becoming core building blocks of modern software systems. A wide range of frameworks is now available to support the specification of such applications. These frameworks enable the definition of agent setups using natural language prompting, which specifies the roles, goals, and tools assigned to the various agents involved. Within such setups, agent behavior is non-deterministic for any given input, highlighting the critical need for robust debugging and observability tools. In this work, we explore the use of process and causal discovery applied to agent execution trajectories as a means of enhancing developer observability. This approach aids in monitoring and understanding the emergent variability in agent behavior. Additionally, we complement this with LLM-based static analysis techniques to distinguish between intended and unintended behavioral variability. We argue that such instrumentation is essential for giving developers greater control over evolving specifications and for identifying aspects of functionality that may require more precise and explicit definitions.
• Abstract（参考訳）: 大規模言語モデル(LLM)を利用するAIエージェントは、現代のソフトウェアシステムの中核的な構成要素になりつつある。 このようなアプリケーションの仕様をサポートするために、幅広いフレームワークが利用可能になった。 これらのフレームワークは自然言語プロンプトを使用してエージェント設定の定義を可能にし、関連するさまざまなエージェントに割り当てられた役割、目標、ツールを指定する。 このようなセットアップ内では、エージェントの動作は任意の入力に対して決定論的ではなく、堅牢なデバッグと可観測性ツールに対する重要な必要性を強調している。 本研究では,開発者の可観測性を高める手段として,エージェント実行軌跡に適用されたプロセスと因果発見の利用について検討する。 このアプローチはエージェントの振る舞いにおける創発的変動のモニタリングと理解を支援する。 さらに,LLMに基づく静的解析手法を用いて,意図的および意図しない振る舞いの変動を識別する。 このようなインスツルメンテーションは、開発者が仕様の進化をよりコントロールし、より正確で明示的な定義を必要とするかもしれない機能の側面を特定するために不可欠である、と私たちは主張する。

関連論文リスト

• Interactive Agents to Overcome Ambiguity in Software Engineering [61.40183840499932]
  AIエージェントは、あいまいで不明確なユーザー指示に基づいて、タスクを自動化するためにますますデプロイされている。 不安定な仮定をし、明確な質問をしないことは、最適以下の結果につながる可能性がある。 対話型コード生成設定において,LLMエージェントが不明瞭な命令を処理する能力について,プロプライエタリモデルとオープンウェイトモデルを評価して検討する。
  論文  参考訳（メタデータ） (2025-02-18T17:12:26Z)
• Adaptive Tool Use in Large Language Models with Meta-Cognition Trigger [49.81945268343162]
  我々は,外部ツール利用のための適応型意思決定戦略であるMeCoを提案する。 MeCoは表現空間の高レベル認知信号をキャプチャし、ツールを呼び出すタイミングを指示する。 実験の結果,MeCoはLSMの内部認知信号を正確に検出し,ツール使用による意思決定を大幅に改善することがわかった。
  論文  参考訳（メタデータ） (2025-02-18T15:45:01Z)
• AgentOps: Enabling Observability of LLM Agents [12.49728300301026]
  大規模言語モデル(LLM)エージェントは、自律的で非決定論的行動のため、AI安全性に重大な懸念を提起する。 本稿では,エージェントのライフサイクル全体を通じて追跡されるべきアーティファクトと関連するデータを特定し,効果的な観測可能性を実現するための,AgentOpsの包括的な分類法を提案する。 私たちの分類は、監視、ロギング、分析をサポートするAgentOpsインフラストラクチャを設計、実装するためのリファレンステンプレートとして機能します。
  論文  参考訳（メタデータ） (2024-11-08T02:31:03Z)
• Watson: A Cognitive Observability Framework for the Reasoning of LLM-Powered Agents [7.392058124132526]
  ファウンデーションモデル(FM)はエージェントソフトウェアのような複雑なソフトウェアシステムにおいて、ますます顕著な役割を担っている。 高速思考の大規模言語モデル(LLM)は、レイテンシの制約のため、依然として好まれている。 暗黙の推論プロセスに推論可能性を提供するフレームワークであるWatsonを紹介します。
  論文  参考訳（メタデータ） (2024-11-05T19:13:22Z)
• Gödel Agent: A Self-Referential Agent Framework for Recursive Self-Improvement [117.94654815220404]
  G"odel AgentはG"odelマシンにインスパイアされた自己進化型フレームワークである。 G"odel Agentは、パフォーマンス、効率、一般化性において手作業によるエージェントを上回る、継続的な自己改善を実現することができる。
  論文  参考訳（メタデータ） (2024-10-06T10:49:40Z)
• REVEAL-IT: REinforcement learning with Visibility of Evolving Agent poLicy for InTerpretability [23.81322529587759]
  REVEAL-ITは複雑な環境下でのエージェントの学習過程を説明するための新しいフレームワークである。 各種学習課題における政策構造とエージェントの学習過程を可視化する。 GNNベースの説明者は、ポリシーの最も重要な部分を強調することを学び、エージェントの学習プロセスについてより明確で堅牢な説明を提供する。
  論文  参考訳（メタデータ） (2024-06-20T11:29:26Z)
• AgentScope: A Flexible yet Robust Multi-Agent Platform [66.64116117163755]
  AgentScopeは、メッセージ交換をコアコミュニケーションメカニズムとする、開発者中心のマルチエージェントプラットフォームである。 豊富な構文ツール、組み込みエージェントとサービス機能、アプリケーションのデモとユーティリティモニタのためのユーザフレンドリなインターフェース、ゼロコードプログラミングワークステーション、自動プロンプトチューニング機構により、開発とデプロイメントの両方の障壁は大幅に低下した。
  論文  参考訳（メタデータ） (2024-02-21T04:11:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。