論文の概要: On Automated and Explainable Provenance of AI-Generated Code
- arxiv url: http://arxiv.org/abs/2608.02329v1
- Date: Mon, 03 Aug 2026 14:50:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.608844
- Title: On Automated and Explainable Provenance of AI-Generated Code
- Title（参考訳）: AI生成コードの自動化と説明性について
- Abstract要約: 次世代のCodeGenAIツールは、説明可能な証明の基礎の上に構築されなければならない、と我々は主張する。
本稿では,大規模実証研究とポストホック因果・解釈可能性技術を組み合わせた研究プログラムについて述べる。
- 参考スコア（独自算出の注目度）: 56.818202904805446
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Generative AI for code generation has transformed software development, but it has also introduced a critical transparency problem: the origins of AI-generated code are opaque to the developers who use it, the organizations that deploy it, and the compliance professionals responsible for ensuring its legal and quality standards. Existing mitigations flag problematic outputs after the fact without explaining why a model produced them or how future generation could be improved. We present a research vision, grounded in a U.S. NSF-funded research grant, that argues that the next generation of CodeGenAI tools must be built on a foundation of explainable provenance: automated, post-hoc traceability that links generated code back to the prompt components, training data instances, global data features, and internal model components that caused its generation. We grounded this vision in empirical evidence from studies of software developers, model users, and compliance/legal professionals, which show that provenance information is a practical necessity that current tools do not provide. We characterize the problem across four traceability dimensions, outline a research program combining large-scale empirical studies with post-hoc causal and interpretability techniques, and identify the key open challenges that the community must address to realize this vision.
- Abstract（参考訳）: コード生成のための生成AIは、ソフトウェア開発に変化をもたらしたが、同時に重要な透明性問題も導入している。AI生成コードの起源は、それを使用する開発者、それをデプロイする組織、法的および品質基準を保証する責任を持つコンプライアンス専門家に不透明である。
既存の緩和策は、なぜモデルが生成したのか、将来の世代がどのように改善されるのかを説明せずに、問題のあるアウトプットを通知する。
我々は、米国のNSFが出資した研究助成金に基づいて、次世代のCodeGenAIツールは、説明可能な証明の基礎の上に構築されなければならない、と主張する研究ビジョンを提示します。
私たちは、このビジョンを、ソフトウェア開発者、モデルユーザ、コンプライアンス/法律専門家の研究から実証的な証拠に基礎づけました。
本研究では,4つのトレーサビリティ領域にまたがる問題を特徴付け,大規模実証研究とポストホック因果・解釈可能性技術を組み合わせた研究プログラムを概説し,このビジョンを実現するためにコミュニティが取り組むべき重要な課題を明らかにする。
関連論文リスト
- The Case for Vibe Modeling: A Missing Step in AI-Based Trustworthy Software Development [0.7783262415147654]
現在のAIベースの開発プラクティスは、コードの直接生成に重きを置いている、と私たちは主張する。
我々は、自然言語の相互作用とコード生成の間の軽量な中間抽象化として、ビブモデリングを論じる。
論文 参考訳（メタデータ） (2026-07-30T09:37:02Z) - Bridging the Gap on AI-Assisted Scientific Software Development Through Transparency and Traceability [4.466942018046944]
研究者はすでに、大規模な言語モデルを使用して、コードを書き、テストケースを生成し、ドキュメントをドラフトしています。
このAIの使用は、科学ソフトウェアの品質に対する体系的なリスクを表している。
本稿では,厳密なソフトウェア品質保証の文脈におけるAI支援コード開発のためのガイダンスを提案する。
論文 参考訳（メタデータ） (2026-05-17T22:08:52Z) - A Survey of Vibe Coding with Large Language Models [93.88284590533242]
視覚符号化(Vibe Coding)は、開発者が成果観察を通じてAI生成の実装を検証する開発手法である。
変革の可能性にもかかわらず、この創発的パラダイムの有効性は未解明のままである。
この調査は、大規模な言語モデルによるVibe Codingの総合的かつ体系的なレビューを初めて提供する。
論文 参考訳（メタデータ） (2025-10-14T11:26:56Z) - The Impact of Generative AI on Code Expertise Models: An Exploratory Study [0.0]
本稿では、知識モデルとトラックファクターアルゴリズムがGenAIの利用によってどのように影響するかを探索分析する。
この結果から,GenAIが開発に深く統合されるにつれ,これらの指標の信頼性が低下する可能性が示唆された。
論文 参考訳（メタデータ） (2025-07-10T20:43:08Z) - Rethinking Data Protection in the (Generative) Artificial Intelligence Era [138.07763415496288]
現代の(生産的な)AIモデルやシステムに生じる多様な保護ニーズを捉える4段階の分類法を提案する。
当社のフレームワークは、データユーティリティとコントロールのトレードオフに関する構造化された理解を提供し、AIパイプライン全体にわたっています。
論文 参考訳（メタデータ） (2025-07-03T02:45:51Z) - Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。
ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。
我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
論文 参考訳（メタデータ） (2025-02-18T02:26:50Z) - Bridging LLM-Generated Code and Requirements: Reverse Generation technique and SBC Metric for Developer Insights [0.0]
本稿では,SBCスコアと呼ばれる新しいスコアリング機構を提案する。
これは、大規模言語モデルの自然言語生成能力を活用するリバースジェネレーション技術に基づいている。
直接コード解析とは異なり、我々のアプローチはAI生成コードからシステム要求を再構築し、元の仕様と比較する。
論文 参考訳（メタデータ） (2025-02-11T01:12:11Z) - The Role of Code Proficiency in the Era of Generative AI [10.524937623398003]
ジェネレーティブAIモデルは、開発者ワークスペースに不可欠なものになりつつある。
しかし、これらのモデルの多くに「ブラックボックス」の性質があるため、課題が浮かび上がっている。
このポジションペーパーは、これらの生成モデルに対する「白い箱」アプローチを提唱する。
論文 参考訳（メタデータ） (2024-04-08T06:20:42Z) - On the Challenges and Opportunities in Generative AI [155.030542942979]
私たちは、現在の大規模な生成AIモデルは、ドメイン間で広く採用されるのを妨げるいくつかの根本的な欠点を示しています。
我々は、研究者に実りある研究の方向性を探るための洞察を提供することを目標とし、より堅牢でアクセスしやすい生成AIソリューションの開発を促進する。
論文 参考訳（メタデータ） (2024-02-28T15:19:33Z) - Data-Driven and SE-assisted AI Model Signal-Awareness Enhancement and
Introspection [61.571331422347875]
モデルの信号認識性を高めるためのデータ駆動型手法を提案する。
コード複雑性のSE概念とカリキュラム学習のAIテクニックを組み合わせる。
モデル信号認識における最大4.8倍の改善を実現している。
論文 参考訳（メタデータ） (2021-11-10T17:58:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。