論文の概要: On Specifying for Trustworthiness

• arxiv url: http://arxiv.org/abs/2206.11421v1
• Date: Wed, 22 Jun 2022 23:37:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2022-06-24 14:17:16.269234
• Title: On Specifying for Trustworthiness
• Title（参考訳）: 信頼性の特定について
• Abstract要約: 私たちは、機能、安全性、セキュリティ、その他の機能的でない性質に制限されない、トップレベルの要件に集中して、幅広い仕様の見方を取ります。 本稿の主な貢献は、自律システムコミュニティにおける信頼性の特定に関連する、ハイレベルな知的課題の集合である。
• 参考スコア（独自算出の注目度）: 33.9727512751834
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As autonomous systems are becoming part of our daily lives, ensuring their trustworthiness is crucial. There are a number of techniques for demonstrating trustworthiness. Common to all these techniques is the need to articulate specifications. In this paper, we take a broad view of specification, concentrating on top-level requirements including but not limited to functionality, safety, security and other non-functional properties. The main contribution of this article is a set of high-level intellectual challenges for the autonomous systems community related to specifying for trustworthiness. We also describe unique specification challenges concerning a number of application domains for autonomous systems.
• Abstract（参考訳）: 自律システムは私たちの日常生活の一部になりつつあるため、信頼の確保が不可欠です。 信頼性を示す技術はいくつかある。 これらのテクニックすべてに共通しているのは、仕様を明確化する必要があることです。 本稿では,機能,安全性,セキュリティ,その他の非機能特性に限らず,トップレベルの要件に重点を置いて,幅広い仕様を考察する。 本稿の主な貢献は、自律システムコミュニティにおける信頼性の特定に関連する高度な知的課題の集合である。 また,自律システムのためのアプリケーションドメインに関するユニークな仕様の課題についても述べる。

関連論文リスト

• The AI Evaluability Gap: The Missing Layer for Managing Risk and Sustaining Value [1.6328866317851185]
  リスクと価値のどちらかに関して、高信頼のガバナンス決定を支持する十分な証拠がない、と私たちは主張します。 既存のガバナンスアプローチは、主に安全性、公正性、信頼性、コンプライアンス、価値といったシステムの特性に焦点を当てています。 高信頼のガバナンス決定を支援するのに十分な証拠を生成し、維持し、更新するシステムの能力として定義される評価可能性を導入する。
  論文  参考訳（メタデータ） (2026-06-19T00:58:01Z)
• Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
  エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。 この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。 各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
  論文  参考訳（メタデータ） (2026-05-17T10:26:37Z)
• FaithCoT-Bench: Benchmarking Instance-Level Faithfulness of Chain-of-Thought Reasoning [62.452350134196934]
  FaithCoT-Benchは、インスタンスレベルのCoT不信検出のための統一ベンチマークである。 我々の枠組みは差別的な決定問題として不誠実検出を定式化している。 FaithCoT-Bench は LLM のより解釈可能で信頼性の高い推論に向けた将来の研究の基盤となる。
  論文  参考訳（メタデータ） (2025-10-05T05:16:54Z)
• Position: Certified Robustness Does Not (Yet) Imply Model Security [29.595213559303996]
  認証された堅牢性は、人工知能システムの敵例に対する解決策として推奨される。 我々は,検出のパラドックスを含む,現在の研究における重要なギャップを識別する。 本稿では,これらの基本的な課題に対処し,実用化に向けての分野を前進させる手順を提案する。
  論文  参考訳（メタデータ） (2025-06-16T01:18:33Z)
• Attention Knows Whom to Trust: Attention-based Trust Management for LLM Multi-Agent Systems [52.57826440085856]
  LLM-MAS(Large Language Model-based Multi-Agent Systems)は、複雑なタスクを解く上で強力な能力を示すが、エージェントが信頼性の低いメッセージを受け取ると弱いままである。 LLMエージェントは、信頼性を評価することなく、すべての受信メッセージを平等に扱う。 本稿では,メッセージの信頼度を評価するための軽量な注意ベース手法であるAttention Trust Score (A-Trust)を提案する。
  論文  参考訳（メタデータ） (2025-06-03T07:32:57Z)
• Zero-Trust Foundation Models: A New Paradigm for Secure and Collaborative Artificial Intelligence for Internet of Things [61.43014629640404]
  Zero-Trust Foundation Models (ZTFM)は、ゼロトラストセキュリティの原則をIoT(Internet of Things)システムの基盤モデル(FM)のライフサイクルに組み込む。 ZTFMは、分散、異質、潜在的に敵対的なIoT環境にわたって、セキュアでプライバシ保護のAIを可能にする。
  論文  参考訳（メタデータ） (2025-05-26T06:44:31Z)
• Towards Trustworthy GUI Agents: A Survey [64.6445117343499]
  本調査では,GUIエージェントの信頼性を5つの重要な次元で検証する。 敵攻撃に対する脆弱性、シーケンシャルな意思決定における障害モードのカスケードなど、大きな課題を特定します。 GUIエージェントが普及するにつれて、堅牢な安全基準と責任ある開発プラクティスを確立することが不可欠である。
  論文  参考訳（メタデータ） (2025-03-30T13:26:00Z)
• On the Trustworthiness of Generative Foundation Models: Guideline, Assessment, and Perspective [333.9220561243189]
  Generative Foundation Models (GenFMs) がトランスフォーメーションツールとして登場した。 彼らの広く採用されていることは、次元の信頼に関する重要な懸念を提起する。 本稿では,3つの主要なコントリビューションを通じて,これらの課題に対処するための包括的枠組みを提案する。
  論文  参考訳（メタデータ） (2025-02-20T06:20:36Z)
• Assessing the Trustworthiness of Electronic Identity Management Systems: Framework and Insights from Inception to Deployment [9.132025152225447]
  本稿ではDISTAF(Digital Identity Systems Trustworthiness Assessment Framework)を紹介する。 65以上のメカニズムと、国際標準や技術ガイドラインから派生した400以上のメトリクスによって支援されている。 我々は, Modular Open Source Identity Platform (MOSIP) インスタンスを用いた実世界の実装による DISTAF の応用を実演する。
  論文  参考訳（メタデータ） (2025-02-15T11:26:30Z)
• Towards Trustworthy Retrieval Augmented Generation for Large Language Models: A Survey [92.36487127683053]
  Retrieval-Augmented Generation (RAG)は、AIGC(AIGC)の課題に対処するために設計された高度な技術である。 RAGは信頼性と最新の外部知識を提供し、幻覚を減らし、幅広いタスクで関連するコンテキストを保証する。 RAGの成功と可能性にもかかわらず、最近の研究により、RAGパラダイムはプライバシーの懸念、敵対的攻撃、説明責任の問題など、新たなリスクももたらしていることが示されている。
  論文  参考訳（メタデータ） (2025-02-08T06:50:47Z)
• Trustworthiness for an Ultra-Wideband Localization Service [2.4979362117484714]
  本稿では,超広帯域自己ローカライゼーションのための総合的信頼性評価フレームワークを提案する。 我々の目標は、客観的な証拠に基づいてシステムの信頼性を評価するためのガイダンスを提供することである。 我々のアプローチは、結果の信頼性指標が、選択された現実世界の脅威に対応することを保証します。
  論文  参考訳（メタデータ） (2024-08-10T11:57:10Z)
• When to Trust LLMs: Aligning Confidence with Response Quality [49.371218210305656]
  我々はconfidence-Quality-ORDer保存アライメントアプローチ(CONQORD)を提案する。 品質報酬と秩序保存アライメント報酬機能を統合する。 実験により,CONQORDは信頼性と応答精度のアライメント性能を著しく向上することが示された。
  論文  参考訳（メタデータ） (2024-04-26T09:42:46Z)
• TrustLLM: Trustworthiness in Large Language Models [446.5640421311468]
  本稿では,大規模言語モデル(LLM)における信頼度に関する総合的研究であるTrustLLMを紹介する。 まず、8つの異なる次元にまたがる信頼性の高いLCMの原則を提案する。 これらの原則に基づいて、真理性、安全性、公正性、堅牢性、プライバシ、機械倫理を含む6つの次元にわたるベンチマークを確立します。
  論文  参考訳（メタデータ） (2024-01-10T22:07:21Z)
• U-Trustworthy Models.Reliability, Competence, and Confidence in Decision-Making [0.21756081703275998]
  信頼性の正確な数学的定義を$mathcalU$-trustworthinessと呼ぶ。 $mathcalU$-trustworthinessの文脈において、適切にランク付けされたモデルは本質的に$mathcalU$-trustworthyであることが証明される。 我々は、信頼度を優先する尺度として、AUCメートル法の採用を提唱する。
  論文  参考訳（メタデータ） (2024-01-04T04:58:02Z)
• A Survey on Trustworthy Edge Intelligence: From Security and Reliability To Transparency and Sustainability [32.959723590246384]
  Edge Intelligence(EI)は、エッジコンピューティング(EC)と人工知能(AI)を統合して、AIの能力をネットワークエッジにプッシュする。 この調査は、信頼できるEIの特徴、アーキテクチャ、技術、ソリューションを包括的にまとめたものです。
  論文  参考訳（メタデータ） (2023-10-27T07:39:54Z)
• Trustworthy Federated Learning: A Survey [0.5089078998562185]
  人工知能(AI)分野において、フェデレートラーニング(FL)が大きな進歩を遂げている。 我々は、Trustworthy FLの現状を概観し、既存のソリューションとTrustworthyに関連する明確に定義された柱を探求する。 本稿では,解釈可能性,公正性,セキュリティとプライバシの3つの柱を含む分類法を提案する。
  論文  参考訳（メタデータ） (2023-05-19T09:11:26Z)
• Assessing Trustworthiness of Autonomous Systems [0.0]
  社会において、自律システム(AS)がよりユビキタスになり、より安全とそれとの相互作用に責任を負うようになり、それらが信頼に値することが不可欠である。 ASの信頼性を評価することは、検証と開発コミュニティにとって必須の課題である。 これは、現在および将来の幅広いアプリケーションにおいて、ASの信頼性を客観的かつ相対的に判断するのに役立つ適切な標準と適切なメトリクスを必要とします。
  論文  参考訳（メタデータ） (2023-05-05T10:26:16Z)
• Reliable Federated Disentangling Network for Non-IID Domain Feature [62.73267904147804]
  本稿では、RFedDisと呼ばれる新しい信頼性のあるフェデレーション・ディエンタングリング・ネットワークを提案する。 我々の知る限り、提案するRFedDisは、明らかな不確実性と特徴の混在に基づくFLアプローチを開発する最初の試みである。 提案するRFedDisは,他の最先端FL手法と比較して信頼性の高い優れた性能を提供する。
  論文  参考訳（メタデータ） (2023-01-30T11:46:34Z)
• Designing for Responsible Trust in AI Systems: A Communication Perspective [56.80107647520364]
  我々は、MATCHと呼ばれる概念モデルを開発するために、技術に対する信頼に関するコミュニケーション理論と文献から引き出す。 私たちは、AIシステムの能力として透明性とインタラクションを強調します。 我々は、技術クリエーターが使用する適切な方法を特定するのに役立つ要件のチェックリストを提案する。
  論文  参考訳（メタデータ） (2022-04-29T00:14:33Z)
• Where Does Trust Break Down? A Quantitative Trust Analysis of Deep Neural Networks via Trust Matrix and Conditional Trust Densities [94.65749466106664]
  本稿では,新しい信頼量化戦略である信頼行列の概念を紹介する。 信頼行列は、所定のアクター・オークル回答シナリオに対して期待される質問・回答信頼を定義する。 我々は、条件付き信頼密度の概念により、信頼密度の概念をさらに拡張する。
  論文  参考訳（メタデータ） (2020-09-30T14:33:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。