論文の概要: How Do You Choose Your AI Component? An Interview Study of Secure AI Integration in Practice

• arxiv url: http://arxiv.org/abs/2607.16660v1
• Date: Sat, 18 Jul 2026 06:30:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.221279
• Title: How Do You Choose Your AI Component? An Interview Study of Secure AI Integration in Practice
• Title（参考訳）: AIコンポーネントをどのように選択するか? セキュアなAI統合の実践に関するインタビュー研究
• Abstract要約: 私たちは、ソフトウェアにAIコンポーネントを統合する方法について、22人のソフトウェア開発者、アーキテクト、AI実践者との半構造化インタビューを行います。 分析の結果, 実践者のモデル選択は, 性能, 精度, コスト, 特定の特徴など, 機能的基準によって大きく左右されることがわかった。 AIコンポーネント統合プロセス全体において、セキュリティ上の懸念が一貫した欠如を観察し、確立されたソフトウェアサプライチェーンの教訓を見落としたり無視したりする。
• 参考スコア（独自算出の注目度）: 3.3043425525629293
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The increasing adoption of Large Language Models (LLMs) as AI components in modern software systems introduces distinct security risks to the software supply chain. While many considerations and safety mechanisms are in place for components of the traditional software supply chain, the recent rapid adoption of AI components and platforms has overlooked these hard learned lessons. Selecting and integrating AI models without clear guidance on how these choices affect system security may leave applications vulnerable to threats, such as malicious components, data leakage, and unintended behavior. The goal of this study is to understand practitioners' decision making process and security considerations in selecting and integrating AI components through an exploratory semi-structured interview study. Toward this goal, we conducted semistructured interviews with 22 software developers, architects, and AI practitioners across diverse organizations about how they integrate AI components into their software. Our analysis finds that practitioners' model selection is predominantly driven by functional criteria, including performance, accuracy, cost, and specific features, e.g., tool calling or multimodal support, while security is rarely considered as an evaluation criterion. We observe a consistent lack of security concern throughout the AI component integration process, with established software supply chain lessons overlooked or ignored. The industry is repeating the historically costly mistakes of early software dependency management, prioritizing rapid reuse and availability over security and provenance. We distill our findings into actionable recommendations for AI adopters, model providers, and researchers, advocating for a proactive, security-by-design approach that integrates security evaluation into component selection and sustains it throughout the software development lifecycle.
• Abstract（参考訳）: 現代のソフトウェアシステムにおけるAIコンポーネントとしてのLarge Language Models(LLMs)の採用の増加は、ソフトウェアサプライチェーンに対して、セキュリティ上の明確なリスクをもたらす。 従来のソフトウェアサプライチェーンのコンポーネントには、多くの考慮と安全性のメカニズムが採用されているが、最近のAIコンポーネントとプラットフォームの採用は、これらのハードラーニングの教訓を見落としている。 これらの選択がシステムセキュリティに与える影響に関する明確なガイダンスのないAIモデルの選択と統合は、悪意のあるコンポーネントやデータ漏洩、意図しない振る舞いといった脅威に脆弱なアプリケーションを残す可能性がある。 本研究の目的は,AIコンポーネントの選択と統合における実践者の意思決定プロセスとセキュリティ上の考慮事項を理解することである。 この目標に向けて、私たちは、ソフトウェアにAIコンポーネントを統合する方法について、22人のソフトウェア開発者、アーキテクト、AI実践者との半構造化インタビューを行いました。 分析の結果,実践者のモデル選択は,パフォーマンス,精度,コスト,具体的特徴,例えば,ツール呼び出しやマルチモーダルサポートなど,機能的基準が主体であり,セキュリティが評価基準として考慮されることは稀であることがわかった。 AIコンポーネント統合プロセス全体において、セキュリティ上の懸念が一貫した欠如を観察し、確立されたソフトウェアサプライチェーンの教訓を見落としたり無視したりする。 業界は、初期のソフトウェア依存性管理における歴史的にコストのかかるミスを繰り返し、セキュリティと前兆よりも迅速な再利用と可用性を優先している。 我々は、我々の研究結果をAI導入者、モデル提供者、研究者のための実用的なレコメンデーションに抽出し、セキュリティ評価をコンポーネント選択に統合し、ソフトウェア開発ライフサイクルを通して維持する、積極的なセキュリティ・バイ・デザインアプローチを提唱する。

関連論文リスト

• ORCA -- An Automated Threat Analysis Pipeline for O-RAN Continuous Development [57.61878484176942]
  Open-Radio Access Network (O-RAN)は、多くのソフトウェアコンポーネントをクラウドのようなデプロイメントに統合し、これまで考えられていなかったセキュリティ脅威に無線アクセスネットワークを開放する。 現在の脆弱性評価の実践は、しばしば手動、労働集約、主観的な調査に依存しており、脅威分析の不整合につながる。 人間の介入や関連するバイアスを最小限に抑えるために,自然言語処理(NLP)を活用する自動パイプラインを提案する。
  論文  参考訳（メタデータ） (2026-01-20T07:31:59Z)
• Securing the AI Supply Chain: What Can We Learn From Developer-Reported Security Issues and Solutions of AI Projects? [0.5352699766206809]
  私たちは、Hugging FaceとGitHubの議論に基づいて、開発者によって報告された問題とソリューションに関する実証的な調査を行います。 このパイプラインは312,868のセキュリティ議論のデータセットを生成する。 我々は、データセットからサンプリングした753の投稿をテーマ分析し、32のセキュリティ問題と24のソリューションのきめ細かい分類法を明らかにする。
  論文  参考訳（メタデータ） (2025-12-29T11:22:11Z)
• Securing Agentic AI Systems -- A Multilayer Security Framework [0.0]
  エージェント人工知能(AI)システムのセキュア化には、自律性、意思決定、適応行動によってもたらされる複雑なサイバーリスクに対処する必要がある。 既存のAIセキュリティフレームワークは、これらの課題やエージェントAIのユニークなニュアンスに適切に対処していない。 本研究は,エージェントAIシステムに特化して設計されたライフサイクル対応セキュリティフレームワークを開発する。
  論文  参考訳（メタデータ） (2025-12-19T20:22:25Z)
• Systems Security Foundations for Agentic Computing [21.600611396864114]
  本稿では,AIモデルではなく,システム全体のエンドツーエンドのセキュリティ特性について検討する。 主要なゴールは、AIエージェントの文脈で従来のセキュリティ原則を適用する際に、研究上の課題がどこから生じるかを調べることである。
  論文  参考訳（メタデータ） (2025-12-01T05:28:59Z)
• Security Vulnerabilities in Software Supply Chain for Autonomous Vehicles [5.600944414742589]
  自動運転車のオープンソースソフトウェアコンポーネントのセキュリティ脆弱性を分析します。 目標は、研究者、実践家、政策立案者に対して、AVドメインのオープンソースソフトウェアエコシステムにおいて、既存のセキュリティ上の欠陥について知らせることである。
  論文  参考訳（メタデータ） (2025-09-21T03:22:05Z)
• Report on NSF Workshop on Science of Safe AI [75.96202715567088]
  機械学習の新たな進歩は、社会問題に対する技術ベースのソリューションを開発する新たな機会につながっている。 AIの約束を果たすためには、正確でパフォーマンスが高く、安全で信頼性の高いAIベースのシステムを開発する方法に取り組む必要がある。 本報告はワークショップの安全性の異なる側面に対処した作業グループにおける議論の結果である。
  論文  参考訳（メタデータ） (2025-06-24T18:55:29Z)
• AISafetyLab: A Comprehensive Framework for AI Safety Evaluation and Improvement [73.0700818105842]
  我々は、AI安全のための代表的攻撃、防衛、評価方法論を統合する統合されたフレームワークとツールキットであるAISafetyLabを紹介する。 AISafetyLabには直感的なインターフェースがあり、開発者はシームレスにさまざまなテクニックを適用できる。 我々はヴィクナに関する実証的研究を行い、異なる攻撃戦略と防衛戦略を分析し、それらの比較効果に関する貴重な洞察を提供する。
  論文  参考訳（メタデータ） (2025-02-24T02:11:52Z)
• Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
  我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。 これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
  論文  参考訳（メタデータ） (2024-12-19T13:50:26Z)
• "I Don't Use AI for Everything": Exploring Utility, Attitude, and Responsibility of AI-empowered Tools in Software Development [19.851794567529286]
  本研究では、ソフトウェア開発プロセスにおけるAIを活用したツールの採用、影響、およびセキュリティに関する考察を行う。 ソフトウェア開発のさまざまな段階において,AIツールが広く採用されていることが判明した。
  論文  参考訳（メタデータ） (2024-09-20T09:17:10Z)
• Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems [88.80306881112313]
  我々は、AI安全性に対する一連のアプローチを紹介し、定義する。 これらのアプローチの中核的な特徴は、高保証の定量的安全性保証を備えたAIシステムを作ることである。 これら3つのコアコンポーネントをそれぞれ作成するためのアプローチを概説し、主な技術的課題を説明し、それらに対する潜在的なソリューションをいくつか提案します。
  論文  参考訳（メタデータ） (2024-05-10T17:38:32Z)
• Dos and Don'ts of Machine Learning in Computer Security [74.1816306998445]
  大きな可能性にもかかわらず、セキュリティにおける機械学習は、パフォーマンスを損なう微妙な落とし穴を引き起こす傾向がある。 我々は,学習ベースのセキュリティシステムの設計,実装,評価において共通の落とし穴を特定する。 我々は,落とし穴の回避や軽減を支援するために,研究者を支援するための実用的な勧告を提案する。
  論文  参考訳（メタデータ） (2020-10-19T13:09:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。