論文の概要: Transparency as Answerability: Role-Dependent Information Flow Modeling
- arxiv url: http://arxiv.org/abs/2610.16887v1
- Date: Mon, 12 Oct 2026 14:46:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.389878
- Title: Transparency as Answerability: Role-Dependent Information Flow Modeling
- Title（参考訳）: 解答可能性としての透明性:役割依存情報フローモデリング
- Abstract要約: 我々は,透明性を関係として扱うことを提案する: システムは,その構造から正解できる程度に,利害関係者に透過的である。
情報フローネットワークを用いてこれを定式化し、ネットワーク構造や応答可能性の観点から透明性を問う質問を、システムが解決する条件とする。
- 参考スコア（独自算出の注目度）: 1.290382979353427
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Transparency in AI-supported decision systems is widely required but poorly defined. Existing approaches treat transparency as a property of systems or components, producing characteristic failures: assessments that do not transfer across organizational boundaries, stakeholder questions that cannot be formulated within the available frame of analysis, and component-level findings that say nothing about system-level behavior. We propose treating transparency as a relation: a system is transparent to a stakeholder to the degree that their legitimate questions are answerable from its structure. We formalize this using information flow networks, in which transparency questions are expressed in terms of network structure and answerability is the condition that the system settles them. The framework supports three dimensions of analysis: structural answerability from the network alone, compositional answerability across organizational boundaries for deployed systems, and role-dependent answerability given a stakeholder's accessible sub-network. We demonstrate the framework on a real pre-integration assessment of an AI recruitment tool in a public sector municipality. The assessment uses participatory design and interviews to model the decision system structure. We show how structural and role-dependent transparency questions can be formally stated and analyzed across the Provider and Deployer boundary where the AI system is composed together with the deployer's decision process.
- Abstract（参考訳）: AIをサポートする意思決定システムの透明性は広く必要だが、定義が不十分である。
既存のアプローチは、システムやコンポーネントの特性として透明性を扱い、特徴的な障害を生み出します。組織の境界を越えて移動しない評価、分析の利用可能なフレーム内では定式化できないステークホルダーの質問、システムレベルの振る舞いについて何も言わないコンポーネントレベルの発見です。
我々は,透明性を関係として扱うことを提案する: システムは,その構造から正解できる程度に,利害関係者に対して透明である。
情報フローネットワークを用いてこれを定式化し、ネットワーク構造や応答可能性の観点から透明性を問う質問を、システムが解決する条件とする。
このフレームワークは、ネットワークからの構造的応答可能性、デプロイされたシステムに対する組織の境界を越えた構成的応答性、ステークホルダーがアクセス可能なサブネットワークによって与えられる役割に依存した応答性という3つの側面をサポートしている。
公共セクター自治体におけるAI採用ツールの実際の事前統合評価に関する枠組みを実証する。
評価は参加型設計とインタビューを用いて意思決定システム構造をモデル化する。
我々は、AIシステムがデプロイ者の意思決定プロセスと一緒に構成されるプロバイダとデプロイの境界を越えて、構造的および役割に依存した透明性に関する質問を正式に定義し、分析する方法を示します。
関連論文リスト
- Transparent Information Flow Modeling for Role-Aware AI Act Assessment [1.290382979353427]
欧州連合の人工知能法は、リスクの高いAIシステムを管理するための構造化された枠組みを導入している。
現在のアセスメントのプラクティスは、モノリシックなシステムビューや非接続のチェックリストに依存していることが多い。
このようなモデリングは、効果的でコンテキストに敏感なAIガバナンスと説明責任のための基礎的なツールである、と私たちは主張する。
論文 参考訳（メタデータ） (2026-10-12T14:59:52Z) - CLAIM: Leading Open-domain Active Clarification of Large Language Models with Uncertainty Measurement [50.91045324738942]
CLAIMは、オープンドメイン環境でのアクティブな明確化学習のための不確実性駆動フレームワークである。
本研究では,不確実性推定とセマンティッククラスタリングと推論に基づく判断を統合したエントロピー駆動型合成データ生成パイプラインを提案する。
実験の結果,手動でラベル付けしたデータに頼ることなく,CLAIMが安定かつ一般化可能な明確化戦略を学習できることが確認された。
論文 参考訳（メタデータ） (2026-08-12T04:27:45Z) - Governed Auditable Decisioning Under Uncertainty: Synthesis and Agentic Extension [0.0]
自動決定システムが失敗すると、組織はしばしば、公式に準拠したガバナンスインフラストラクチャが、何が起きたのか、なぜ起きたのかを再構築できないことに気付く。
本稿では,運用管理エビデンス・フレームワークを統合連鎖に合成し,その伝達可能性を4つの意思決定システムアーキテクチャ間で解析的に評価する。
論文 参考訳（メタデータ） (2026-04-21T05:45:04Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - Modeling Fairness in Recruitment AI via Information Flow [1.290382979353427]
人的意思決定と自動候補マッチングを統合した実世界の採用プロセスに,情報フローに基づくモデリングフレームワークを適用した。
バイアスがどこに現れるか、どのようにシステムを通して伝播するか、候補者にどのような影響を及ぼすか、などを特定します。
論文 参考訳（メタデータ） (2025-11-16T21:01:55Z) - An Adaptive Framework for Generating Systematic Explanatory Answer in Online Q&A Platforms [62.878616839799776]
質問応答(QA)性能を向上させるために設計された,革新的なフレームワークであるSynthRAGを提案する。
SynthRAGは動的コンテンツの構造化に適応的なアウトラインを用いることで従来のモデルを改善する。
Zhihuプラットフォーム上のオンラインデプロイメントでは、SynthRAGの回答が注目すべきユーザエンゲージメントを実現していることが明らかになった。
論文 参考訳（メタデータ） (2024-10-23T09:14:57Z) - Path To Gain Functional Transparency In Artificial Intelligence With Meaningful Explainability [0.0]
AIシステムがますます高度化するにつれて、透明性と説明可能性の確保が重要になる。
透明なシステムにおけるユーザ中心のコンプライアンス・バイ・デザイン透過性の設計を提案する。
AIシステムにおける透明性に関連する課題を包括的に理解することで、説明責任、信頼性、社会的価値に整合したAIシステムの開発を促進することを目指している。
論文 参考訳（メタデータ） (2023-10-13T04:25:30Z) - Dimensions of Transparency in NLP Applications [64.16277166331298]
aiシステムに関する記述とコミュニケーションに関する幅広い透明性が望ましいと考えられている。
以前の研究は、システムの透明性向上とユーザの混乱の間にトレードオフが存在することを示唆している。
論文 参考訳（メタデータ） (2021-01-02T11:46:17Z) - Uncertainty as a Form of Transparency: Measuring, Communicating, and
Using Uncertainty [66.17147341354577]
我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。
モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。
この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
論文 参考訳（メタデータ） (2020-11-15T17:26:14Z) - Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。
現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。
我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
論文 参考訳（メタデータ） (2020-07-13T20:30:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。