論文の概要: Who Analyses the Analyser? Self-Validating LLM Hazard Analysis with Constitutional Meta-STPA

• arxiv url: http://arxiv.org/abs/2607.08054v1
• Date: Thu, 09 Jul 2026 02:05:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-10 14:45:27.39269
• Title: Who Analyses the Analyser? Self-Validating LLM Hazard Analysis with Constitutional Meta-STPA
• Title（参考訳）: 分析者はだれか? : 自己検証型LLMハザード分析と構造メタSTPA
• Authors: Samuel Tetteh, Udip Shrestha, Joshua R. Waite, Cody Fleming,
• Abstract要約: 大規模言語モデル(LLM)は、安全分析の成果物を作成するためにますます信頼されている。 しかし、この急速に成長している文献には盲点がある。全てのシステムが分析されるが、LCM支援ツールが分析を行う。 クローズドループを中心に構築されたLLM支援ツールであるMeta-STPAを紹介します。このツールは、AI支援安全ツールのクラスのメタSTPAを実行し、アサーションではなく派生します。
• 参考スコア（独自算出の注目度）: 0.43748379918040853
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Large language models (LLMs) are increasingly trusted to draft the artifacts of safety analysis such as, losses, hazards, Unsafe Control Actions (UCAs), and safety constraints, inside rigorous processes such as Systems-Theoretic Process Analysis (STPA). Yet a blind spot runs through this fast-growing literature: every system gets analysed except the LLM-assisted tool doing the analysing, which is itself a safety-relevant system that can hallucinate standards, emit unverifiable constraints, and leave no audit trail from prompt to artifact. We take seriously the question the field has skipped -- {who analyses the analyser?} and answer it by turning STPA on the tool itself. We present \{Constitutional Meta-STPA}, an LLM-assisted STPA tool built around a closed loop: the tool runs a {meta-STPA} of the class of AI-assisted safety tools and {derives} rather than asserts, its governance constitution from the resulting loss$\to$hazard$\to$UCA$\to$constraint chain, yielding a published constitution of $21$ Tool Principles and $8$ Meta-Safety Principles, each bound to a code enforcement point. We formalise the measured object as a constitution-marginal coverage operator over a principle set $P$ ($|P|{=}29$) with a soundness lemma that isolates coverage from model and scanner, and report four findings. {(i)~Self-derivation:} a frontier ensemble ({claude-opus-4.8}${+}${claude-sonnet-4}) recovers $18/21$ canonical and all $8/8$ governance principles from the tool's own design, while a weaker pair recovers $12/21$ and $3/8$, so the meta layer is model-limited, not constitution-limited, and the same $8/8$ re-emerge from a second, independently authored tool.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、システム理論プロセス分析(STPA)のような厳格なプロセスの中で、安全分析の成果物、損失、ハザード、安全制御アクション(UCA)、安全制約のドラフトを作成することをますます信頼されている。 LLMが支援するツール以外は、標準を幻覚させ、検証不能な制約を発生させ、監査証跡をアーティファクトに残さない安全関連システムである。 我々は、フィールドがスキップした疑問を真剣に受け止める。 ツール自体でSTPAをオンにすることで、答えるのです。 クローズドループを中心に構築されたLCM支援STPAツールである{Constitutional Meta-STPA}を提示する。このツールは、アサーションではなくAI支援安全ツールのクラスの {meta-STPA} と {derives} を実行し、その結果の損失からガバナンス構成を$\to$hazard$\to$UCA$\to$Constraint chain とすることで、21ドルのツール原則と8ドルのメタセーフティ原則が発行され、それぞれコード実行ポイントにバインドされる。 P$$(|P|{=}29$)をモデルとスキャナーからカバー範囲を分離した音質補題で定式化し,4つの知見を報告する。 {(i)~Self-deivation:} フロンティアアンサンブル({claude-opus-4.8}${+}${claude-sonnet-4})は、ツール自身の設計から18/21$と8/8$のガバナンス原則をすべて回収し、弱いペアは12/21$と3/8$を回収する。

関連論文リスト

• Imbuing Large Language Models with Bidirectional Logic for Robust Chain Repair [44.80087038178069]
  本稿では,デコーダのみのトランスフォーマーをネイティブに組み込んだトレーニングフレームワークであるTeleological Reasoning Infilling (TRI)を紹介する。 推測では、TRIは二重システムループ内の外科的修復モジュールとして動作する。 3つのベンチマークの実験では、TRIは全てのタスクで最先端のパフォーマンスを達成し、プロブレム当たりのトークン支出を31.2%削減した。
  論文  参考訳（メタデータ） (2026-06-03T15:58:48Z)
• From Attack Simulation to SIEM Rule: Deterministic Detection-as-Code Synthesis with Probe-Level Traceability [51.56484100374058]
  セキュリティチームは、自身のシステムに対する攻撃をシミュレートして、監視が真の侵入者を捕まえるかどうかをチェックする。 人間はそのギャップを手でブリッジし、それぞれの発見を読み、対応するシグマルールを書きます。 ロックされたコーパスからプローブが引き出されると,この変換が部分的に自動化されることを示す。
  論文  参考訳（メタデータ） (2026-06-03T14:26:25Z)
• BAPR: Bayesian amnesic piecewise-robust reinforcement learning for non-stationary continuous control [19.34848029403215]
  現実の制御システムは、段階的な定常状態の下で動作し、状態が変化する前に、力学は長期にわたって安定している。 標準的なロバストなRL法は基本的なジレンマに直面しており、グローバルな保守的な政策は安定した期間にパフォーマンスを無駄にし、一方、局地的な適応的な政策は、体制変更が未検出であるときに破滅的な失敗を危険にさらす。 我々は,頑健なアンサンブルRLでベイズオンライン変化検出を統一するtextbfBAPRを提案する。
  論文  参考訳（メタデータ） (2026-05-15T16:49:05Z)
• ComplexMCP: Evaluation of LLM Agents in Dynamic, Interdependent, and Large-Scale Tool Sandbox [61.862814740220806]
  $textbfComplexMCP$は厳格な条件下でエージェントを評価するために設計されたベンチマークである。 Model Context Protocol (MCP)上に構築された$textbfComplexMCP$は300以上の精巧にテストされたツールを提供する。
  論文  参考訳（メタデータ） (2026-05-11T16:20:51Z)
• CHAINTRIX: A multi-pipeline LLM-augmented framework for automated smart-contract security auditing [3.8615905456206256]
  Chaintrixは、スマートコントラクトエクスプロイトのためのエンドツーエンドの監査フレームワークである。 120の脆弱性のうち86が検出され、25の監査が100%リコールされた。
  論文  参考訳（メタデータ） (2026-05-10T06:02:22Z)
• LLM-Powered Detection of Price Manipulation in DeFi [12.59175486585742]
  分散ファイナンス(DeFi)のスマートコントラクトは数十億ドルを管理し、エクスプロイトの主要なターゲットとなっている。 価格操作の脆弱性は、しばしばフラッシュローンを通じて発生し、壊滅的な攻撃の類である。 本稿では,静的解析とLarge Language Model(LLM)に基づく推論を組み合わせたハイブリッドフレームワークPMDetectorを提案する。
  論文  参考訳（メタデータ） (2025-10-24T09:13:30Z)
• Towards a Sharp Analysis of Offline Policy Learning for $f$-Divergence-Regularized Contextual Bandits [49.96531901205305]
  我々は$f$-divergence-regularized offline policy learningを分析する。 逆Kullback-Leibler (KL) の発散に対して、単極集中性の下での最初の$tildeO(epsilon-1)$サンプル複雑性を与える。 これらの結果は,$f$-divergence-regularized policy learningの包括的理解に向けて大きな一歩を踏み出したものと考えられる。
  論文  参考訳（メタデータ） (2025-02-09T22:14:45Z)
• Intention Analysis Makes LLMs A Good Jailbreak Defender [79.4014719271075]
  我々は,シンプルかつ高能率な防衛戦略,すなわち意図分析(mathbbIA$)を提示する。 $mathbbIA$ は LLM 固有の自己修正をトリガーし、2段階のプロセスを通じて能力を向上させる。 さまざまなjailbreakベンチマークの実験によると、$mathbbIA$は一貫して応答の有害性を著しく低減できる。
  論文  参考訳（メタデータ） (2024-01-12T13:15:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。