論文の概要: ATLAS: Discovering Agent Strategies through LLM-Guided Abstraction and Automata Learning
- arxiv url: http://arxiv.org/abs/2608.14352v1
- Date: Fri, 14 Aug 2026 14:51:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-17 20:14:29.408678
- Title: ATLAS: Discovering Agent Strategies through LLM-Guided Abstraction and Automata Learning
- Title（参考訳）: ATLAS: LLM-Guided AbstractionとAutomata Learningによるエージェント戦略の発見
- Abstract要約: ATLAS (Automata Learning for Agent Trajectory Analysis and Strategy Discovery) はエージェント軌跡から解釈可能な行動モデルを復元する手法である。
概念実証として, LLMを用いた貫入試験により生成された軌道にATLASを適用した。
学習した行動モデルが、エージェントシステムの説明可能性、モデル誘導探索、監査、分析をサポートする方法について論じる。
- 参考スコア（独自算出の注目度）: 6.410715142296986
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Model (LLM)-based agents are increasingly used for complex tasks such as software testing and cybersecurity assessment. While these agents demonstrate impressive capabilities, their behavior is difficult to understand, explain, and analyze. Existing evaluations focus mainly on task success and execution traces, offering limited insight into the strategies employed by the agent. We present ATLAS (Automata Learning for Agent Trajectory Analysis and Strategy Discovery), an approach for recovering interpretable behavioral models from agent trajectories. ATLAS combines trace abstraction with automata learning to infer finite-state models that capture observed agent-environment interaction strategies. These models provide human-interpretable insights and support automated analyses of recurring behaviors, decision points, successful task-completion paths, and failure loops. As a proof of concept, we apply ATLAS to trajectories generated by an LLM-based penetration-testing agent. The resulting models expose high-level behavioral strategies for exploiting vulnerable machines that are difficult to identify from raw execution traces alone. We discuss how learned behavioral models can support explainability, model-guided exploration, auditing, and analysis of agentic systems. We further demonstrate symbolic model-based knowledge transfer from powerful frontier models to compact language models. In addition, we show how model transformations can derive concise explanations of agent behavior in a penetration-testing case study comprising 12 vulnerable machines. ATLAS highlights a new opportunity for model-driven engineering: transforming agent trajectories into explicit behavioral models that enable systematic understanding and analysis of otherwise opaque AI agents.
- Abstract（参考訳）: 大規模言語モデル(LLM)ベースのエージェントは、ソフトウェアテストやサイバーセキュリティアセスメントといった複雑なタスクにますます使われています。
これらのエージェントは印象的な能力を示すが、それらの振る舞いを理解し、説明し、分析することは困難である。
既存の評価は、主にタスクの成功と実行トレースに焦点を当てており、エージェントが採用する戦略についての限られた洞察を提供する。
我々はエージェント軌跡から解釈可能な行動モデルを取り戻すためのATLAS(Automata Learning for Agent Trajectory Analysis and Strategy Discovery)を提案する。
ATLASはトレース抽象化とオートマチック学習を組み合わせて、観測されたエージェント環境相互作用戦略を捉える有限状態モデルを推論する。
これらのモデルは、人間の解釈可能な洞察を提供し、繰り返し発生する行動、決定ポイント、成功したタスク補完パス、障害ループの自動分析をサポートする。
概念実証として, LLMを用いた貫入試験により生成された軌道にATLASを適用した。
結果として得られたモデルは、生の実行トレースのみから識別するのが難しい脆弱性のあるマシンを悪用するための高レベルの行動戦略を公開する。
学習した行動モデルが、エージェントシステムの説明可能性、モデル誘導探索、監査、分析をサポートする方法について論じる。
さらに、強力なフロンティアモデルからコンパクト言語モデルへのシンボリックモデルに基づく知識伝達を実証する。
さらに,12台の脆弱マシンからなる浸透試験ケーススタディにおいて,モデル変換がエージェント動作の簡潔な説明を導出する方法を示す。
ATLASは、モデル駆動エンジニアリングの新たな機会を強調している。エージェントトラジェクトリを明示的な行動モデルに変換することで、それ以外の不透明なAIエージェントの体系的な理解と分析を可能にする。
関連論文リスト
- From Atomic to Agentic: Towards Interpretable Evaluation of LLMs' Agentic Mathematical Capabilities [103.60384544335072]
大規模言語モデル(LLM)は、エンドツーエンドの数学的推論からエージェントインテリジェンスの統合へと進化している。
本フレームワークは,問題解決エージェントの挙動を,再利用可能な数学的原子能力の構造化された分類法と整合させる。
実験により、同様のエンドツーエンドの精度を持つモデルでは、エージェント能力プロファイルが著しく異なることが判明した。
論文 参考訳（メタデータ） (2026-08-27T10:52:06Z) - AutoMIA: Improved Baselines for Membership Inference Attack via Agentic Self-Exploration [49.050688065974605]
メンバーシップ推論攻撃(MIAs)は、機械学習モデルにおけるトレーニングデータの漏洩を評価するための基本的な監査ツールである。
本稿では,自己探索と戦略進化の自動化プロセスとして,メンバーシップ推論を再構築するエージェントフレームワークであるAutoMIAを提案する。
論文 参考訳（メタデータ） (2026-04-01T15:17:45Z) - Pitfalls in Evaluating Interpretability Agents [91.49742416116635]
我々は,実験を反復的に設計し,仮説を洗練するエージェントシステムを構築した。
我々の研究は、複雑な自動解釈可能性システムを評価する上での根本的な課題を実証している。
論文 参考訳（メタデータ） (2026-03-20T16:27:17Z) - Multi-Agent Collaborative Intrusion Detection for Low-Altitude Economy IoT: An LLM-Enhanced Agentic AI Framework [60.72591149679355]
低高度経済の急速な拡大により、インターネット・オブ・モノ(LAE-IoT)ネットワークは前例のないセキュリティ上の課題を生んだ。
従来の侵入検知システムは、空中IoT環境のユニークな特徴に対処できない。
LAE-IoTネットワークにおける侵入検出を強化するための大規模言語モデル(LLM)対応エージェントAIフレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-25T12:47:25Z) - Agentic AI in Remote Sensing: Foundations, Taxonomy, and Emerging Systems [9.388162021920206]
この調査は、リモートセンシングにおけるエージェントAIの総合的なレビューである。
単一エージェントのコピロとマルチエージェントのシステムを区別した統合分類を導入する。
評価を画素レベルの精度から軌跡認識推論の正確性に移行する新しいベンチマークをレビューする。
論文 参考訳（メタデータ） (2026-01-05T08:34:17Z) - Beyond Pipelines: A Survey of the Paradigm Shift toward Model-Native Agentic AI [27.209787026732972]
エージェントAIの急速な進化は、人工知能の新しいフェーズを象徴している。
この調査はエージェントAI構築におけるパラダイムシフトをトレースする。
それぞれの能力が外部スクリプトモジュールからエンドツーエンドの学習行動へとどのように進化したかを調べる。
論文 参考訳（メタデータ） (2025-10-19T05:23:43Z) - A Survey on Agentic Multimodal Large Language Models [84.18778056010629]
エージェントマルチモーダル大言語モデル(Agentic MLLMs)に関する総合的な調査を行う。
我々は,エージェントMLLMの新たなパラダイムを探求し,その概念的基盤を明確にし,従来のMLLMエージェントとの特徴を区別する。
コミュニティのためのこの分野の研究をさらに加速するため、エージェントMLLMを開発するためのオープンソースのトレーニングフレームワーク、トレーニングおよび評価データセットをコンパイルする。
論文 参考訳（メタデータ） (2025-10-13T04:07:01Z) - The Landscape of Agentic Reinforcement Learning for LLMs: A Survey [103.32591749156416]
エージェント強化学習(Agentic RL)の出現は、大規模言語モデル(LLM RL)に適用された従来の強化学習からパラダイムシフトを示している。
本研究では, LLM-RLの縮退した単段階マルコフ決定過程(MDPs)と, エージェントRLを定義する部分可観測マルコフ決定過程(POMDPs)とを対比することにより, この概念シフトを定式化する。
論文 参考訳（メタデータ） (2025-09-02T17:46:26Z) - Understanding Software Engineering Agents: A Study of Thought-Action-Result Trajectories [17.975121612118752]
大規模言語モデル(LLM)ベースのエージェントは、複雑なソフトウェアエンジニアリングタスクを自動化するためにますます採用されている。
本研究は,3種類のLLM系エージェントの思考-反感-反感の軌跡について,大規模な実証的研究を行った。
我々は,数量やトークン消費,反復的な行動系列,思考,行動,結果のセマンティックコヒーレンスといった重要な軌道特性を同定する。
論文 参考訳（メタデータ） (2025-06-23T16:34:52Z) - Perspectives for Direct Interpretability in Multi-Agent Deep Reinforcement Learning [0.41783829807634765]
マルチエージェントディープ強化学習(MADRL)は、ロボット工学やゲームにおいて複雑な問題を解くのに効果的であることが証明された。
本稿では, 学習モデルから直接, ポストホックな説明を生成することによって, 直接解釈可能であることを提唱する。
我々は、関連バックプロパゲーション、知識エディション、モデルステアリング、アクティベーションパッチ、スパースオートエンコーダ、サーキットディスカバリなど、現代的な手法を探求する。
論文 参考訳（メタデータ） (2025-02-02T09:15:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。