論文の概要: Generative AI for trustworthy systems - Towards a health check model
- arxiv url: http://arxiv.org/abs/2609.10595v1
- Date: Mon, 07 Sep 2026 09:48:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.072858
- Title: Generative AI for trustworthy systems - Towards a health check model
- Title（参考訳）: 信頼できるシステムのための生成AI -ヘルスチェックモデルを目指して-
- Abstract要約: Trustworthy Autonomy Health Check Model(信頼に値する自律性健康チェックモデル)は、組織がGenAI支援ソフトウェアエンジニアリングの信頼を確立する方法を特定するための、構造化された多次元の機器である。
4つの信頼パラダイムの横断的なオーバーレイは、信頼の確立方法を取り除き、信頼すべきものをキャプチャする次元を補完する。
組織間比較をサポートし、構成上のトレードオフを表面化し、単一の進行経路を課すことなく、共有空間内に組織を配置する。
- 参考スコア（独自算出の注目度）: 9.729745750450874
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The adoption of generative AI in software-intensive systems is proceeding rapidly, but current analytical instruments - principally unidimensional maturity models - compress important configurational variation into a single progressive axis. Drawing on an inductive interview study of eighteen senior practitioners across telecommunications, automotive, defence, aviation, banking, energy, government, and enterprise software services, this paper presents the Trustworthy Autonomy Health Check Model: a structured, multidimensional instrument for characterizing how organizations establish trust in GenAI-assisted software engineering. The model organizes eight empirically grounded dimensions into a system layer (Scope of Agent Authority, Assurance Mechanisms, Data Trustworthiness, Architectural Containment, Traceability & Comprehensibility) and an organizational layer (Governance, Human Oversight Posture, Workforce Capability Sustainability), each on a five-level ordinal scale. A cross-cutting overlay of four trust paradigms - operational, engineering, statistical, and containment-based - captures how trust is established, complementing the dimensions capturing what must be trustworthy. The model is diagnostic rather than prescriptive: it supports cross-organizational comparison, surfaces configurational trade-offs, and locates an organization in a shared space without imposing a single progression path. Higher levels are not inherently better; the goal is alignment across dimensions appropriate to the organization's domain and chosen trust paradigm. This is formalized as the alignment hypothesis: effective trustworthiness is constrained by the fit between the scope of agent authority and the dimensions enabling it, with misalignment producing pathological risk or unnecessary friction. We discuss how practitioners can apply the model and outline directions for empirical validation.
- Abstract（参考訳）: ソフトウェア集約システムにおける生成AIの採用は急速に進んでいるが、現在の分析機器(主に一次元の成熟度モデル)は、重要な構成変化を1つの進行軸に圧縮している。
本稿では,電気通信,自動車,防衛,航空,銀行,エネルギー,政府,企業ソフトウェアサービスにまたがる18人のシニア実践者のインダクティブインタヴューに基づいて,組織がGenAI支援ソフトウェア工学をいかに信頼するかを特徴づける,構造化された多次元的手法であるTrustworthy Autonomy Health Check Modelを提案する。
このモデルは、8つの経験的基礎をシステム層(エージェント・オーソリティ、保証メカニズム、データ信頼性、アーキテクチャ・コンテンメント、トレーサビリティと理解性)と組織層(Governance、Human Oversight Posture、Workforce Capability Sustainability)に分類します。
運用、エンジニアリング、統計、封じ込めベースの4つの信頼パラダイムの横断的なオーバーレイは、信頼の確立方法を捉え、信頼すべきものをキャプチャする次元を補完する。
組織間比較をサポートし、構成上のトレードオフを表面化し、単一の進行経路を課すことなく、共有空間に組織を配置する。
目標は、組織のドメインや選択された信頼パラダイムに適した範囲をまたいで調整することだ。
これはアライメント仮説として定式化される: 効果的な信頼性は、エージェントの権限の範囲とそれを実現する次元との適合によって制約される。
実践者がモデルをどう適用し、実験的な検証のために方向性を概説するかについて議論する。
関連論文リスト
- ComBodied Agents: a New Paradigm of Human-Centric Agentic AI [121.60938707072069]
我々は、人間中心のパラダイムであるCombodied Agentsを紹介し、時間とともに個々の人間状態の軌跡を知覚し、モデル化し、予測し、支援する。
パーソナルアシスタント、ヘルスエージェント、AIコンパニオン、適応型ヒューマンAIシステムをクローズドループに統合する。
論文 参考訳（メタデータ） (2026-08-11T13:35:58Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Engineering Trustworthy Agentic AI for Critical Systems [1.8015174793525714]
この研究は、安全と制約満足度、堅牢性と信頼性、透明性と解釈可能性、説明責任と監査可能性、プライバシーとセキュリティの5つの横断的な側面で組織された信頼性モデルを採用している。
この基盤の上に構築されたエージェントシステムアーキテクチャ、脅威、具体的な信頼メカニズム、および定量的なメトリクスは、エージェントシステムの開発と評価において直接適用するために調査される。
これらの原則は、電力システム、自動運転車/ロボティクス/UAV、高性能コンピューティング、通信ネットワークの4つの制約のあるエンジニアリングドメインで検証される。
論文 参考訳（メタデータ） (2026-07-20T22:28:16Z) - Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - AI Trust OS -- A Continuous Governance Framework for Autonomous AI Observability and Zero-Trust Compliance in Enterprise Environments [4.3073750462661256]
本稿では,継続的かつ自律的なAIオブザーバビリティとゼロトラストコンプライアンスのためのガバナンスアーキテクチャであるAI Trust OSを提案する。
このフレームワークはゼロトラストテレメトリ境界を介して動作し、短命の読み取り専用プローブが構造メタデータを検証する。
論文 参考訳（メタデータ） (2026-04-06T15:14:10Z) - SYNAPSE: Framework for Neuron Analysis and Perturbation in Sequence Encoding [4.507191680687611]
医療やサイバーセキュリティのような敏感なドメインでは、透明性、信頼性、堅牢性を保証することが不可欠である。
この研究は、Transformerモデルの内部動作を理解しテストするための、体系的でトレーニング不要なフレームワークであるSynAPSEを提案する。
論文 参考訳（メタデータ） (2026-03-09T14:18:47Z) - Trustworthy AI Posture (TAIP): A Framework for Continuous AI Assurance of Agentic Systems at Horizontal and Vertical scale [1.0896567381206714]
ポイント・イン・タイムの文書ベースの監査では、決定論的でない振る舞いには対応できない。
垂直的には、ガバナンスとコントロールの義務は、フレームワークが運用できるものよりも速く変化します。
リスクベースの規制は、現在進行中のコントロールの妥当性と効果を示す必要がある。
本稿では,信頼度を静的証明書ではなく,連続的に発生する信号として再設定する。
論文 参考訳（メタデータ） (2026-02-15T10:49:47Z) - Generative AI for Autonomous Driving: Frontiers and Opportunities [145.6465312554513]
この調査は、自律運転スタックにおけるGenAIの役割の包括的合成を提供する。
まず、VAE、GAN、拡散モデル、および大規模言語モデルを含む、現代の生成モデリングの原則とトレードオフを蒸留することから始めます。
我々は、合成データ一般化、エンドツーエンド駆動戦略、高忠実なデジタルツインシステム、スマートトランスポートネットワーク、具体化されたAIへのクロスドメイン転送など、実用的な応用を分類する。
論文 参考訳（メタデータ） (2025-05-13T17:59:20Z) - Human-AI Governance (HAIG): A Trust-Utility Approach [0.0]
本稿では,人間とAIの関係が進化する中で,信頼のダイナミクスを分析するためのHAIGフレームワークを紹介する。
我々の分析は、自己監督、推論権限、分散意思決定の技術的進歩が、不均一な信頼の進化をいかに引き起こすかを明らかにする。
論文 参考訳（メタデータ） (2025-05-03T01:57:08Z) - On the Trustworthiness of Generative Foundation Models: Guideline, Assessment, and Perspective [377.2483044466149]
Generative Foundation Models (GenFMs) がトランスフォーメーションツールとして登場した。
彼らの広く採用されていることは、次元の信頼に関する重要な懸念を提起する。
本稿では,3つの主要なコントリビューションを通じて,これらの課題に対処するための包括的枠組みを提案する。
論文 参考訳（メタデータ） (2025-02-20T06:20:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。