論文の概要: Large Language Models at the Intersection of Software Engineering and Software Security:An Evidence-Centered Structured Survey and Research Agenda
- arxiv url: http://arxiv.org/abs/2608.21107v1
- Date: Fri, 21 Aug 2026 13:54:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-24 14:49:32.561107
- Title: Large Language Models at the Intersection of Software Engineering and Software Security:An Evidence-Centered Structured Survey and Research Agenda
- Title（参考訳）: ソフトウェア工学とソフトウェアセキュリティの交差点における大規模言語モデル:Evidence-Centered Structured SurveyとResearch Agenda
- Abstract要約: 大規模言語モデル(LLM)は、コード補完から、コンテキストを取得し、ファイルを編集し、ツールを実行し、セキュリティに敏感な証明に参加するリポジトリスケールエージェントへと移行している。
このエビデンス中心の構造化された調査は、ソフトウェアエンジニアリングタスク、ソフトウェアセキュリティタスク、適応メカニズム、アーティファクトの粒度、評価設計を含む2026年5月31日までに利用可能な代表的作業を合成する。
- 参考スコア（独自算出の注目度）: 8.73908281393875
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) are moving from code completion toward repository-scale agents that retrieve context, edit files, execute tools, and participate in security-sensitive workflows. The evidence for these systems, however, remains divided between software engineering evaluations centered on functional task completion and software security evaluations centered on vulnerability detection, secure generation, or exploit-oriented validation. This evidence-centered structured survey synthesizes representative work available through May 31, 2026 across software engineering tasks, software security tasks, adaptation mechanisms, artifact granularity, and evaluation design. In addition to a task taxonomy, we introduce an assurance framework that separates functional correctness, security, operational reliability, evidence provenance, and agent authority. The review shows that execution feedback and repository access can substantially improve engineering task completion, but do not by themselves establish security; conversely, static-analysis labels or vulnerability-classification scores rarely establish deployable correctness. We identify recurring validity threats--weak test oracles, duplicated and temporally leaked data, changing agent harnesses, proxy-only security checks, and under-reported budgets and human intervention--and derive a minimum reporting protocol for cross-study comparison. The resulting research agenda prioritizes jointly secure-and-functional benchmarks, repository-scale threat models, calibrated human oversight, longitudinal maintainability evidence, and reproducible agent evaluation. The central conclusion is that model capability should be judged as an assurance case supported by task-appropriate evidence, rather than by a single benchmark score.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、コード補完から、コンテキストを取得し、ファイルを編集し、ツールを実行し、セキュリティに敏感なワークフローに参加するリポジトリスケールエージェントへと移行している。
しかしながら、これらのシステムの証拠は、機能的タスク完了を中心としたソフトウェアエンジニアリング評価と、脆弱性検出、セキュアな生成、エクスプロイト指向の検証を中心としたソフトウェアセキュリティ評価の2つに分かれている。
このエビデンス中心の構造化された調査は、ソフトウェアエンジニアリングタスク、ソフトウェアセキュリティタスク、適応メカニズム、アーティファクトの粒度、評価設計を含む2026年5月31日までに利用可能な代表的作業を合成する。
タスク分類の他に,機能的正当性,セキュリティ,運用信頼性,エビデンス証明,エージェント権限を分離する保証フレームワークを導入する。
レビューでは、実行時のフィードバックとリポジトリアクセスが、エンジニアリングタスクの補完を大幅に改善できることを示しているが、それ自体がセキュリティを確立するわけではない。
繰り返し発生する妥当性の脅威 - オラクル、重複および一時リークデータ、エージェントハーネスの変更、プロキシのみのセキュリティチェック、未報告の予算と人間の介入 - を識別し、クロススタディ比較のための最小限の報告プロトコルを導出する。
その結果得られた研究課題は、共同で安全かつ機能的なベンチマーク、リポジトリスケールの脅威モデル、調整された人間の監視、長期維持可能性の証拠、再現可能なエージェントの評価を優先順位付けする。
中心的な結論は、モデル能力は単一のベンチマークスコアではなく、タスク適切な証拠によって支持される保証ケースとして判断されるべきである、ということである。
関連論文リスト
- Engineering Reliable Coding Agents: Evaluating and Operating the System Around the Model [0.0]
164の学術作品、100の実践記録、29のベンチマーク記録、17の著者・システム・ケース・レコードを合成する。
構造化されたマルチボーカルレビュー、ターゲットとする更新監査、ソフトウェアエンジニアリングカバレッジ分析、分散システムエビデンス合成として書かれた。
本は、深さ56の信頼性記録と13のリサーチリードを含む、バージョン管理された206の信頼性記録を寄稿している。
論文 参考訳（メタデータ） (2026-08-14T01:34:25Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Engineering Trustworthy Agentic AI for Critical Systems [1.8015174793525714]
この研究は、安全と制約満足度、堅牢性と信頼性、透明性と解釈可能性、説明責任と監査可能性、プライバシーとセキュリティの5つの横断的な側面で組織された信頼性モデルを採用している。
この基盤の上に構築されたエージェントシステムアーキテクチャ、脅威、具体的な信頼メカニズム、および定量的なメトリクスは、エージェントシステムの開発と評価において直接適用するために調査される。
これらの原則は、電力システム、自動運転車/ロボティクス/UAV、高性能コンピューティング、通信ネットワークの4つの制約のあるエンジニアリングドメインで検証される。
論文 参考訳（メタデータ） (2026-07-20T22:28:16Z) - From Question Answering to Task Completion: A Survey on Agent System and Harness Design [67.8241530947325]
本研究はモデルハーネスレンズを用いてLCMをベースとしたエージェントについて検討する。
まず, LLMをベースとしたエージェントを基礎モデルと実行ハーネスとして, エージェントの機能的定義と実装の視点を明らかにする。
次に、モデル中心のスケーリングの限界を分析し、エージェントエンジニアリングの4つのパラダイムをトレースし、実行ハーネスを6つの結合ランタイム責任に分解する。
論文 参考訳（メタデータ） (2026-06-14T05:40:16Z) - SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。
ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
論文 参考訳（メタデータ） (2026-06-01T14:23:42Z) - Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - False Security Confidence in Benign LLM Code Generation [0.0]
このメモは、補完的だが異なるフレーミングを紹介している。 偽セキュリティ信頼(FSC)。
FSCは、通常の非攻撃フレーム生成タスクにおいて、測定ファーストの観点から同じ表面現象を研究する。
我々はFSCレートを,機能的に正しい出力セット内のセキュリティ障害の頻度として定式化する。
論文 参考訳（メタデータ） (2026-04-18T14:52:26Z) - TopoPilot: Reliable Conversational Workflow Automation for Topological Data Analysis and Visualization [4.62716665682001]
TopoPilotは、複雑な科学的視覚化を自動化するための信頼性が高くエージェント的なフレームワークである。
TopoPilotは、信頼性の高い運用を保証するために、系統的なガードレールと検証メカニズムを組み込んでいる。
評価では、TopoPilotは99%以上の成功率を達成したが、ベースラインでは50%以下で、包括的なガードレールやチェックがない。
論文 参考訳（メタデータ） (2026-03-26T05:56:53Z) - ESAA-Security: An Event-Sourced, Verifiable Architecture for Agent-Assisted Security Audits of AI-Generated Code [0.0]
本稿では,ソフトウェアリポジトリのエージェント支援セキュリティ監査のためのドメイン固有フレームワークであるESAA-Securityを提案する。
このフレームワークは構造化されたチェック結果、脆弱性の在庫、深刻度分類、リスク、修正ガイダンス、エグゼクティブサマリー、最終的なマークダウン/JSON監査レポートを生成する。
論文 参考訳（メタデータ） (2026-03-06T15:15:26Z) - RealSec-bench: A Benchmark for Evaluating Secure Code Generation in Real-World Repositories [58.32028251925354]
LLM(Large Language Models)は、コード生成において顕著な能力を示しているが、セキュアなコードを生成する能力は依然として重要で、未調査の領域である。
我々はRealSec-benchを紹介します。RealSec-benchは、現実世界の高リスクなJavaリポジトリから慎重に構築されたセキュアなコード生成のための新しいベンチマークです。
論文 参考訳（メタデータ） (2026-01-30T08:29:01Z) - Advancing Embodied Agent Security: From Safety Benchmarks to Input Moderation [52.83870601473094]
エンボディード・エージェントは、複数のドメインにまたがって大きな潜在能力を示す。
既存の研究は主に、一般的な大言語モデルのセキュリティに重点を置いている。
本稿では, エンボディエージェントの保護を目的とした新しい入力モデレーションフレームワークを提案する。
論文 参考訳（メタデータ） (2025-04-22T08:34:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。