論文の概要: A Security-Oriented Lifecycle Model for Large Language Model Systems
- arxiv url: http://arxiv.org/abs/2608.03626v1
- Date: Tue, 04 Aug 2026 13:13:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-05 15:30:23.201081
- Title: A Security-Oriented Lifecycle Model for Large Language Model Systems
- Title(参考訳): 大規模言語モデルシステムのためのセキュリティ指向ライフサイクルモデル
- Abstract要約: データ検証、アーティファクト署名、エージェント・パーミッション・コントロール、削除といったセキュリティ関連アクティビティは、しばしば暗黙的に残されるか、定期的なケアを受けると仮定される。
LLMシステムのライフサイクルモデルを提案し,セキュリティ関連境界を中心に構築することで,セキュリティ解析を支援する。
- 参考スコア(独自算出の注目度): 2.313414330066
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models are being integrated into critical infrastructure and enterprise workflows at unprecedented scale,yet the lifecycle frameworks governing their development and operations were designed for operational efficiency rather than security analysis. As a result, security-relevant activities such as data provenance verification, artifact signing, agentic permission control, and decommissioning are often left implicit or assumed to receive due care. Governance frameworks, in turn, organise requirements around risk levels or management processes without clearly linking them to the lifecycle stages where they apply. This paper addresses both deficiencies. We propose a lifecycle model for LLM systems that supports security analysis by structuring it around security-relevant boundaries rather than workflow optimisation. The model comprises 32 stages across four core pipeline layers (Data, Model, Distribution, Application), supported by a 12-stage LLMOps pillar and a 9-category governance pillar. Thirteen stages are introduced here as separate units because they expose distinct security concerns that existing frameworks do not clearly distinguish. A governance mapping synthesising the NIST AI RMF, the EU AI Act, and ISO/IEC 42001 reveals a structural property of the current regulatory landscape: governance evidence concentrates at deployment-facing stages, where systems are visible to regulators, while the most consequential decisions, data selection, alignment strategy, and capability boundaries, are made at development-facing stages, where regulatory visibility is lowest.
- Abstract(参考訳): 大規模な言語モデルは、前例のない規模で重要なインフラストラクチャとエンタープライズワークフローに統合されている。
その結果、データプロファイナンス検証、アーティファクト署名、エージェント・パーミッション・コントロール、削除といったセキュリティ関連アクティビティは、しばしば暗黙またはデュケアを受けると仮定される。
ガバナンスフレームワークは、それを適用するライフサイクルステージと明確にリンクすることなく、リスクレベルや管理プロセスに関する要件を整理します。
この論文は両方の欠陥に対処する。
本稿では,LLMシステムのライフサイクルモデルを提案する。ワークフローの最適化ではなく,セキュリティ関連境界を中心に構築することで,セキュリティ解析を支援する。
モデルは4つのコアパイプライン層(データ、モデル、配布、アプリケーション)にわたる32ステージで構成され、12ステージのLCMOps柱と9カテゴリのガバナンス柱によってサポートされている。
既存のフレームワークが明確に区別していない、異なるセキュリティ上の懸念を明らかにするため、ここでは13のステージが別々のユニットとして紹介されている。
NIST AI RMF、EU AI Act、ISO/IEC 42001を合成するガバナンスマッピングは、現在の規制の状況の構造的特性を明らかにしている。
関連論文リスト
- Evaluating Large Language Model Performance on International Maritime Dangerous Goods Code Compliance [47.37396434232136]
本稿では,IMDG修正42-24の知識を評価するための最初のベンチマークであるDGEvalを紹介する。
複数の選択、オープンエンド、DGLルックアップ、規制識別タスクにまたがる1,678の質問で構成されている。
我々は、複数の思考構成の6つのプロバイダから13のモデルを評価する。
論文 参考訳(メタデータ) (2026-08-21T12:32:31Z) - Formal Verification of Agentic Systems over Operational Data [59.98246281888422]
大規模言語モデル(LLM)によって駆動されるエージェントシステムは、永続的な運用データを扱う現実世界にますます展開されている。
既存のアプローチはそのようなシステムレベルの保証を提供していません。
本稿では, 1 つの LLM とツールオーケストレーションハーネスからなるエージェントシステムのリレーショナル操作データに対する検証について述べる。
論文 参考訳(メタデータ) (2026-08-04T13:01:30Z) - Data Engineering Patterns for Cross-System Reconciliation in Regulated Enterprises: Architecture, Anomaly Detection, and Governance [0.0]
本稿では,ベンダーニュートラルな4層データアーキテクチャであるGERAフレームワークを紹介する。
アーキテクチャは、現在のデータプラットフォームで一般的なマルチレイヤパターンに従って、4つのレイヤ(インジェクション、ステージング、コアモデル、セマンティックサービス)にまたがる。
論文 参考訳(メタデータ) (2026-04-16T15:02:39Z) - AgenticCyOps: Securing Multi-Agentic AI Integration in Enterprise Cyber Operations [7.660803748903973]
マルチエージェントシステム(MAS)は適応的で推論駆動の企業を約束するが、ツール、メモリ、通信の自律的な制御をエージェントに与えることで、決定論的パイプラインが欠如する攻撃面を導入する。
AgenticCyOpsは、コンポーネント層、調整層、プロトコル層にまたがる攻撃面を体系的に分解するフレームワークである。
このフレームワークをSecurity Operations Center(SOC)ワークフローに適用し、モデルコンテキストプロトコル(MCP)を構造基盤として採用する。
論文 参考訳(メタデータ) (2026-03-10T03:15:36Z) - Architecture-Aware Multi-Design Generation for Repository-Level Feature Addition [53.50448142467294]
RAIMは、リポジトリレベルの機能追加のための、多設計およびアーキテクチャ対応のフレームワークである。
複数の多様な実装設計を生成することで、線形パッチから切り離される。
NoCode-bench Verifiedデータセットの実験では、RAIMが新しい最先端のパフォーマンスを確立することが示されている。
論文 参考訳(メタデータ) (2026-03-02T12:50:40Z) - The Alignment Flywheel: A Governance-Centric Hybrid MAS for Architecture-Agnostic Safety [5.399984738447277]
本稿では、アライメントフライホイールをガバナンス中心のハイブリッドMASアーキテクチャとして定式化する。
執行層は実行時に明確なリスクポリシーを適用し、ガバナンスMASは監査、不確実性駆動による検証、バージョン管理による改善を通じてOracleを監督します。
アーキテクチャはProposerとSafety Oracleの両方に関して実装に依存せず、実行時ゲーティング、監査、署名されたパッチ、ステージングロールアウトに必要な役割、アーティファクト、プロトコル、リリースセマンティクスを指定する。
論文 参考訳(メタデータ) (2026-02-28T00:48:06Z) - Agentic Problem Frames: A Systematic Approach to Engineering Reliable Domain Agents [0.0]
大きな言語モデル(LLM)は、自律的なエージェントへと進化していますが、現在の"フレームワークレス"な開発は、あいまいな自然言語に基づいています。
本研究では,内部モデルインテリジェンスからエージェントと環境間の構造的相互作用に焦点を移すシステム工学フレームワークであるエージェント問題フレーム(APF)を提案する。
論文 参考訳(メタデータ) (2026-02-22T06:32:32Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳(メタデータ) (2026-01-12T21:31:38Z) - Toward Secure and Compliant AI: Organizational Standards and Protocols for NLP Model Lifecycle Management [0.0]
本稿では, Secure and Compliant NLP Lifecycle Management Framework (SC-NLP-LMF)を紹介する。
このフレームワークは、NLPシステムの開発から引退までの安全な運用を保証するように設計されている。
バイアス検出、プライバシ保護、セキュアなデプロイメント、説明可能性、セキュアなモデル廃止のための確立された方法を統合する。
論文 参考訳(メタデータ) (2025-12-26T15:28:20Z) - Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。
既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。
我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
論文 参考訳(メタデータ) (2025-10-10T18:42:32Z) - Bridging the Mobile Trust Gap: A Zero Trust Framework for Consumer-Facing Applications [51.56484100374058]
本稿では,信頼できないユーザ制御環境で動作するモバイルアプリケーションを対象としたZero Trustモデルを提案する。
デザインサイエンスの方法論を用いて、この研究は、実行時の信頼の強制をサポートする6つのピラーフレームワークを導入した。
提案したモデルは,デプロイ前コントロールを越えてモバイルアプリケーションをセキュアにするための,実用的で標準に準拠したアプローチを提供する。
論文 参考訳(メタデータ) (2025-08-20T18:42:36Z) - Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。
次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。
これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
論文 参考訳(メタデータ) (2022-08-23T05:02:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。