論文の概要: Update Opacity: Epistemic Accessibility and Governance Under AI System Change
- arxiv url: http://arxiv.org/abs/2606.00037v1
- Date: Mon, 27 Apr 2026 19:32:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 07:09:36.590688
- Title: Update Opacity: Epistemic Accessibility and Governance Under AI System Change
- Title（参考訳）: アップデートオパシティ:AIシステム変更時のエピステマティックアクセシビリティとガバナンス
- Authors: Andrea Ferrario, Joshua Hatherley,
- Abstract要約: デプロイされたAIシステムに埋め込まれた機械学習モデルは、時間とともに正しい機能を維持するために定期的に更新される。
しかし、このようなアップデートは更新の不透明度を発生させる可能性がある。
本稿では,信頼度プロファイルと信頼度レベルを通じてシステム変更をモデル化するフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 1.3177681589844819
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning models embedded in deployed AI systems are routinely updated to maintain correct functioning over time. Yet such updates can generate update opacity: users may not be able to understand why the same input now yields a different output. We argue that update opacity is best understood as a diachronic failure of epistemic accessibility: the problem is that materially relevant changes may fail to remain accessible to human users in forms that support understanding, calibrated reliance, and appropriate action under real role- and time-specific constraints. This makes update opacity a governance problem. Not all change is equally relevant, and disclosing every update would itself undermine use through overload. To address this problem, we combine two complementary governance approaches: the EU AI Act, which helps specify the system-level perimeter of normatively relevant change, and Machine Learning Operations, which provides operational tools for tracking and comparing change over time. On this basis, we propose a framework that models system change through trustworthiness profiles and trustworthiness levels, and uses threshold-based disclosure to surface materially relevant within-envelope change to different stakeholders over time. We illustrate the approach with a medical AI example and derive practical implications for lifecycle documentation, post-market monitoring, and update disclosure.
- Abstract（参考訳）: デプロイされたAIシステムに埋め込まれた機械学習モデルは、時間とともに正しい機能を維持するために定期的に更新される。
しかし、このようなアップデートは更新の不透明度を発生させる可能性がある。
我々は、更新不透明性は、先天的なアクセシビリティーのダイアクロニックな失敗として理解されていると論じる。問題は、実際の役割や時間固有の制約の下で、理解、調整、適切なアクションをサポートする形で、実質的に関連する変更が人間にアクセスできないことである。
これにより、更新の不透明さがガバナンス上の問題になります。
すべての変更が同等に関係している訳ではなく、すべての更新がオーバーロードによる使用を損なうことになる。
この問題に対処するために、私たちは2つの補完的なガバナンスアプローチ、つまり、規範的に関連する変更のシステムレベルの範囲を規定するEU AI Actと、時間とともに変化を追跡し比較するための運用ツールを提供する機械学習 Operationsを組み合わせています。
そこで本研究では,信頼度プロファイルと信頼度レベルを通じてシステム変化をモデル化し,しきい値に基づく開示を用いて,時間とともに異なる利害関係者に対して物質的・包括的変化を呈示する枠組みを提案する。
我々は、このアプローチを医療AIの例で説明し、ライフサイクルドキュメンテーション、市場終了後の監視、およびアップデート開示に実践的な意味を導き出す。
関連論文リスト
- IMPACT-Scribe: Interactive Temporal Action Segmentation with Boundary Scribbles and Query Planning [75.72434806468884]
IMPACT-Scribeは高密度ラベリングのための修正駆動のフレームワークである。
不確実性を認識した境界管理、局所的な提案モデリング、コストを意識したクエリ計画、構造化された伝搬、修正駆動適応を組み合わせる。
実験と人間の研究により、このクローズドループの設計は、努力ごとのラベル付け品質を改善し、境界精度を高め、時間とともにより良い人間機械の相互作用を促進することが示されている。
論文 参考訳（メタデータ） (2026-05-03T01:45:58Z) - Can Large Language Models Keep Up? Benchmarking Online Adaptation to Continual Knowledge Streams [78.9560820155271]
我々は、ストリーミングよりもオンライン適応を評価し、知識を継続的に更新する。
OAKSはOAKS-BABIとOAKS-Novelの2つのデータセットから構成される。
最先端モデルとエージェントメモリシステムはどちらもOAKSにしっかりと適応できない。
論文 参考訳（メタデータ） (2026-03-08T00:38:39Z) - Spectral Imbalance Causes Forgetting in Low-Rank Continual Adaptation [58.3773038915023]
継続的な学習は、事前訓練されたモデルを、以前取得した知識を忘れずにシーケンシャルなタスクに適応することを目的としている。
既存のほとんどのアプローチは、現在のタスク固有の更新が以前取得した知識を自然に保存するプロパティを考慮せずに、継続的な学習を過去の更新への干渉を避けるものとして扱う。
本稿では,視覚言語モデルで使用される標準深度ドットと互換性のある一階述語法を用いてこの問題に対処する。
論文 参考訳（メタデータ） (2026-01-31T13:27:02Z) - POLARIS: Is Multi-Agentic Reasoning the Next Wave in Engineering Self-Adaptive Systems? [0.0]
POLARISは3層多層自己適応フレームワークである。
不確実性に対処し、過去の行動から学び、その戦略を進化させる。
SWIMとSWITCHの2つの自己適応型指数に対する予備評価は、POLARISが一貫して最先端のベースラインを上回っていることを示している。
論文 参考訳（メタデータ） (2025-12-04T11:51:03Z) - Enabling Self-Improving Agents to Learn at Test Time With Human-In-The-Loop Guidance [58.21767225794469]
大規模言語モデル(LLM)エージェントは、しばしばルールや必要なドメイン知識が頻繁に変化する環境で苦労する。
テスト時に更新されたドメイン知識を継続的に学習するための適応反射型対話エージェント(ARIA)を提案する。
ARIAはTikTok Pay内にデプロイされ、月間アクティブユーザ数は1億5000万を超えている。
論文 参考訳（メタデータ） (2025-07-23T02:12:32Z) - HyRet-Change: A hybrid retentive network for remote sensing change detection [14.46707519278272]
コンボリューションと保持機構の利点をシームレスに統合する,HyRet-Changeと呼ばれるシームズベースのフレームワークを提案する。
具体的には,畳み込みとマルチヘッド保持機構の両面を利用した特徴差モジュールを提案する。
3つの挑戦的なCDデータセットの実験を行い、既存の手法と比較して最先端のパフォーマンスを実現した。
論文 参考訳（メタデータ） (2025-06-15T13:14:55Z) - Situationally-Aware Dynamics Learning [57.698553219660376]
隠れ状態表現のオンライン学習のための新しいフレームワークを提案する。
提案手法は、非観測パラメータが遷移力学と報酬構造の両方に与える影響を明示的にモデル化する。
シミュレーションと実世界の両方の実験は、データ効率、ポリシー性能、安全で適応的なナビゲーション戦略の出現を著しく改善した。
論文 参考訳（メタデータ） (2025-05-26T06:40:11Z) - A moving target in AI-assisted decision-making: Dataset shift, model updating, and the problem of update opacity [1.6317061277457001]
機械学習(ML)システムは、データセットシフトによるパフォーマンス低下に対して脆弱である。
専門家はしばしば、継続的なパフォーマンスの安定性を保証するため、MLシステムは定期的に更新されるべきであると提案する。
本稿では、モデル更新がML支援意思決定に新しい不透明なサブタイプを導入することを論じる。
論文 参考訳（メタデータ） (2025-04-07T15:58:23Z) - Mind the Interference: Retaining Pre-trained Knowledge in Parameter Efficient Continual Learning of Vision-Language Models [79.28821338925947]
ドメインクラスのインクリメンタル学習は現実的だが、継続的な学習シナリオである。
これらの多様なタスクに対処するために、事前訓練されたビジョンランゲージモデル(VLM)を導入し、その強力な一般化性を実現する。
事前訓練されたVLMにエンコードされた知識は、新しいタスクに適応する際に妨げられ、固有のゼロショット能力を損なう。
既存の手法では、膨大なオーバーヘッドを必要とする余分なデータセットに知識蒸留でVLMをチューニングすることで、この問題に対処している。
我々は、事前学習した知識を保持できるDIKI(Distributed-Aware Interference-free Knowledge Integration)フレームワークを提案する。
論文 参考訳（メタデータ） (2024-07-07T12:19:37Z) - Meta-Learning with Variational Bayes [0.0]
生成メタ学習のより一般的な問題に対処する新しいアプローチを提案する。
我々の貢献は、AEVBフレームワークと平均場変動ベイズを活用し、高速適応潜在空間生成モデルを作成する。
我々の貢献の核心は新たな成果であり、広範囲の深層生成潜在変数モデルにおいて、関連するVB更新は生成ニューラルネットワークに依存しないことを示している。
論文 参考訳（メタデータ） (2021-03-03T09:02:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。