論文の概要: A Local Agentic AI Framework to Generate Edge Case Scenarios for Safety Assurance

• arxiv url: http://arxiv.org/abs/2610.13479v1
• Date: Fri, 09 Oct 2026 12:13:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.562859
• Title: A Local Agentic AI Framework to Generate Edge Case Scenarios for Safety Assurance
• Title（参考訳）: 安全保証のためのエッジケースシナリオを生成するローカルエージェントAIフレームワーク
• Abstract要約: エッジケースシナリオの生成は、自律システムのトレーニング、テスト、安全性保証に不可欠である。 近年のアプローチの多くは、ヒューマン・イン・ザ・ループ(Human-in-the-loop)やルールベースの戦略に依存している。 我々の研究は、適応シナリオ生成のためのラップトップベースのエージェントAIフレームワークにおけるローカルLMを使用している。
• 参考スコア（独自算出の注目度）: 1.409281145093156
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generating edge case scenarios is crucial for training, testing and safety assuring autonomous systems. This identifies hazardous failures to increase system reliability and robustness, ensures the system can still function safely on the boundaries of its operational design domain and learns the expected system behaviour for these edge cases. The rapid advancement in the generation and analysis capabilities of language models (LMs) has expanded their applicability and recent work has investigated LM scenario generation. However, many recent approaches rely on human-in-the-loop or rule-based strategies. This restricts the LM's ability to generate diverse and edge case scenarios; the long tail of the distribution. Our work uses local LMs in a laptop-based agentic AI framework for adaptive scenario generation. This is cheap, fully-controlled, ensures data privacy and security. It uses think, act, observe, update, and continue loops with lightweight JSON encoding to generate scenarios. We use the system requirements, system description and environment description as knowledge bases in contextual prompts for an LM to ensure scenario realism. A second, independent LM critiques each scenario using domain specific criteria so it can be refined. The refined scenarios are run in simulation and evaluation metrics collected. These metric scores are analysed and similar scenarios are created for edge cases (exploitation) or novel scenarios are generated to explore the scenario space. Post-hoc clustering using metric scores and thematic-type analysis of the rich-text scenario descriptions produced by the LM pinpoints functional gaps and their triggering conditions. This creates traceable evidence for the safety assurance case. Our work highlights the potential of a flexible and adaptive local agentic AI framework for automating edge case generation and producing traceable safety assurance evidence.
• Abstract（参考訳）: エッジケースシナリオの生成は、自律システムのトレーニング、テスト、安全性保証に不可欠である。 これにより、システムの信頼性と堅牢性を高めるための有害な障害を特定し、システムは運用設計ドメインの境界上で安全に機能し、これらのエッジケースに対して期待されるシステム動作を学ぶことができる。 言語モデル(LM)の生成と解析能力の急速な進歩により適用性は向上し,最近の研究でLMシナリオの生成が検討されている。 しかし、近年のアプローチの多くは、人間のループやルールベースの戦略に依存している。 これにより、LMの多様なケースシナリオ、すなわち分布の長いテールを生成する能力が制限される。 我々の研究は、適応シナリオ生成のためのラップトップベースのエージェントAIフレームワークにおけるローカルLMを使用している。 これは安価で、完全にコントロールされており、データのプライバシとセキュリティを保証する。 シンク、アクション、観察、更新、継続ループを使用して、軽量なJSONエンコーディングを使用してシナリオを生成する。 シナリオリアリズムを保証するために,システム要件,システム記述,環境記述を文脈的プロンプトの知識ベースとして利用する。 第2の独立したLMは、各シナリオをドメイン固有の基準を使って批判し、洗練されたものにする。 洗練されたシナリオはシミュレーションと評価のメトリクスで実行される。 これらのメトリクススコアは分析され、エッジケース(探索)用に同様のシナリオが作成されるか、シナリオ空間を探索するために新しいシナリオが生成される。 LMピンポイントによるリッチテキストシナリオ記述のメトリクススコアを用いたポストホッククラスタリングとテーマ型解析は,機能的ギャップとそのトリガー条件を規定する。 これにより、安全保証事件の痕跡となる証拠が生み出される。 私たちの研究は、エッジケース生成を自動化し、トレース可能な安全性保証証拠を生成するための、柔軟で適応的なローカルエージェントAIフレームワークの可能性を強調します。

関連論文リスト

• From Words to Collisions: LLM-Guided Evaluation and Adversarial Generation of Safety-Critical Driving Scenarios [6.681744368557208]
  大規模言語モデル(LLM)と構造化シナリオ解析と迅速なエンジニアリングは、安全クリティカルな運転シナリオを生成するために使用される。 2次元シミュレーションフレームワークと複数の事前学習LDMを用いて,本手法の有効性を検証した。 ドメインインフォームドプロンプト技術を備えたLLMは、安全クリティカルな運転シナリオを効果的に評価し、生成することができると結論付けている。
  論文  参考訳（メタデータ） (2025-02-04T09:19:13Z)
• Generating Out-Of-Distribution Scenarios Using Language Models [58.47597351184034]
  大規模言語モデル(LLM)は自動運転において有望であることを示している。 本稿では,多様なOF-Distribution(OOD)駆動シナリオを生成するためのフレームワークを提案する。 我々は、広範囲なシミュレーションを通じてフレームワークを評価し、新しい"OOD-ness"メトリクスを導入する。
  論文  参考訳（メタデータ） (2024-11-25T16:38:17Z)
• LeGEND: A Top-Down Approach to Scenario Generation of Autonomous Driving Systems Assisted by Large Language Models [9.841914333647631]
  シナリオ生成のトップダウン方式を特徴とするLeGENDを提案する。 最初は抽象的な機能シナリオから始まり、その後論理的で具体的なシナリオへと下降する。 形式的に記述できる論理的シナリオとは異なり、関数的シナリオは自然言語で文書化されることが多い。
  論文  参考訳（メタデータ） (2024-09-16T08:01:21Z)
• ALI-Agent: Assessing LLMs' Alignment with Human Values via Agent-based Evaluation [48.54271457765236]
  大規模言語モデル(LLM)は、人間の価値観と不一致した場合、意図しない、有害なコンテンツも引き出すことができる。 現在の評価ベンチマークでは、LLMが人的価値とどの程度うまく一致しているかを評価するために、専門家が設計した文脈シナリオが採用されている。 本研究では, LLM エージェントの自律的能力を活用し, 奥行き及び適応的アライメント評価を行う評価フレームワーク ALI-Agent を提案する。
  論文  参考訳（メタデータ） (2024-05-23T02:57:42Z)
• Realistic simulation of users for IT systems in cyber ranges [63.20765930558542]
  ユーザアクティビティを生成するために,外部エージェントを用いて各マシンを計測する。 このエージェントは、決定論的および深層学習に基づく手法を組み合わせて、異なる環境に適応する。 また,会話や文書の作成を容易にする条件付きテキスト生成モデルを提案する。
  論文  参考訳（メタデータ） (2021-11-23T10:53:29Z)
• Generating and Characterizing Scenarios for Safety Testing of Autonomous Vehicles [86.9067793493874]
  最先端運転シミュレータを用いて,テストシナリオを特徴付け,生成するための効率的なメカニズムを提案する。 次世代シミュレーション(NGSIM)プロジェクトにおける実運転データの特徴付けに本手法を用いる。 事故回避の複雑さに基づいてメトリクスを定義してシナリオをランク付けし、事故発生の可能性を最小限に抑えるための洞察を提供します。
  論文  参考訳（メタデータ） (2021-03-12T17:00:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。