論文の概要: Concepts for Securing Agentic AI Coding and the Terok Environment

• arxiv url: http://arxiv.org/abs/2608.22930v1
• Date: Mon, 24 Aug 2026 08:05:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:43.959561
• Title: Concepts for Securing Agentic AI Coding and the Terok Environment
• Title（参考訳）: エージェントAI符号化の安全性とテロク環境
• Authors: Jiří Vyskočil, Franz Pöschel, Andreas Knüpfer,
• Abstract要約: Agentic AIは、ソフトウェア開発のための魅力的な新しいツールだ。 ITのセキュリティにはいくつかの基本的なリスクがある。 我々は、(I)ITセキュリティリスクの評価、(II)利益を損なうことなく軽減するコンセプト、(III)私たちのコンセプトの実装の概要を提示する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agentic AI is a fascinating new tool for software development. It is a huge step forward compared to "conventional" AI assisted coding, which in turn was a considerable breakthrough earlier. AI support through LLMs is a young and very fast-moving field. The "conventional" (non-agentic) flavor became useful and productive in early 2025 (around 18 months ago) and the agentic flavor followed in fall 2025 (approximately 9 months ago). Besides all its benefits and potential, it also carries some fundamental risks for IT security. And the agentic approach added very severe risks while making others much more dangerous. With all the motivation to explore this fascinating new tool we should not ignore the risks but actively address them. We present (I) an assessment of the IT security risks, (II) a concept for mitigating them without breaking its benefits, and (III) an overview about an implementation of our concept. In this very dynamic field this is likely not the final and once-and-for-all answer to the identified issues but still a substantial step forward in responsible usage of Agentic AI for software development. It should also be a contribution to the community to allow early and eager evaluation of the potential of agentic AI for software development without actually suffering from its implied IT security risks.
• Abstract（参考訳）: Agentic AIは、ソフトウェア開発のための魅力的な新しいツールだ。 従来のAIがコーディングを補助していたのに比べれば、これは大きな前進です。 LLMによるAIサポートは、若く、非常に速く動く分野である。 2025年初頭(約18ヶ月前)には「伝統的な」風味が有用で生産的になり、2025年秋(約9ヶ月前)には薬味が続いた。 すべてのメリットと潜在能力に加えて、ITセキュリティに対する基本的なリスクも伴います。 そしてエージェント的アプローチは、他の人をもっと危険なものにしながら、非常に深刻なリスクを与えました。 この魅力的な新しいツールを探求する動機は、リスクを無視して、積極的に対処することです。 我々は、(I)ITセキュリティリスクの評価、(II)利益を損なうことなく軽減するコンセプト、(III)私たちのコンセプトの実装の概要を提示する。 この非常にダイナミックな分野では、特定された問題に対する最終かつすべての答えではなく、ソフトウェア開発におけるエージェントAIの責任を負うための大きな一歩である。 また、ITセキュリティのリスクに実際に悩まされることなく、ソフトウェア開発におけるエージェントAIの可能性の早期かつ熱心な評価を可能にするために、コミュニティへのコントリビューションとなるべきです。

関連論文リスト

• "We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
  ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。 プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。 AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
  論文  参考訳（メタデータ） (2025-10-01T13:51:33Z)
• Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path? [37.13209023718946]
  未確認のAI機関は、公共の安全とセキュリティに重大なリスクをもたらす。 これらのリスクが現在のAIトレーニング方法からどのように生じるかについて議論する。 我々は,非エージェント型AIシステムの開発をさらに進めるために,コアビルディングブロックを提案する。
  論文  参考訳（メタデータ） (2025-02-21T18:28:36Z)
• Fully Autonomous AI Agents Should Not be Developed [50.61667544399082]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• Mapping Technical Safety Research at AI Companies: A literature review and incentives analysis [0.0]
  レポートは、3つの主要なAI企業が実施する安全なAI開発に関する技術研究を分析している。 Anthropic、Google DeepMind、OpenAI。 私たちは安全なAI開発を、大規模な誤用や事故のリスクを生じにくいAIシステムの開発であると定義しました。
  論文  参考訳（メタデータ） (2024-09-12T09:34:55Z)
• Using AI Assistants in Software Development: A Qualitative Study on Security Practices and Concerns [23.867795468379743]
  最近の研究は、AI生成コードがセキュリティ問題を含むことを実証している。 ソフトウェア専門家がAIアシスタントの使用とセキュリティのバランスをとる方法はまだ不明だ。 本稿では,ソフトウェアプロフェッショナルがセキュアなソフトウェア開発にAIアシスタントをどのように利用するかを検討する。
  論文  参考訳（メタデータ） (2024-05-10T10:13:19Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• AI Maintenance: A Robustness Perspective [91.28724422822003]
  我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。 本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。 我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
  論文  参考訳（メタデータ） (2023-01-08T15:02:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。