論文の概要: Intervenability as a Design Requirement for Autonomy and Oversight within Human-Centered AI
- arxiv url: http://arxiv.org/abs/2607.10322v1
- Date: Sat, 11 Jul 2026 13:56:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 15:40:48.395732
- Title: Intervenability as a Design Requirement for Autonomy and Oversight within Human-Centered AI
- Title（参考訳）: 人間中心AIにおける自律性と監視のための設計要件としてのインターベンタビリティ
- Abstract要約: 新しい現象は、緊急停止、回避策、自動システムの再構成によってカバーされない。
インターベンタビリティ(Intervenability)は、AIのコンテキストにおいて、制御可能性、自律性、監視、ループ内の人間の維持の原則をインスタンス化する。
- 参考スコア（独自算出の注目度）: 1.5229257192293195
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Based on the literature and several practical examples of possible AI applica-tions, we outline the concept of intervenability. This new phenomenon is not covered by emergency shutdowns, workarounds, or the reconfiguration of automated systems. Intervenability instantiates the principles of control-lability, autonomy, oversight, and keeping humans in the loop in the context of AI. We provide a taxonomy that encompasses a range of possibilities for intervening activities and differentiates them regarding the mental effort of the users. This taxonomy extends the scope of interventions from real-time control of automated processes to AI-based discrete case-related decision-making. This is in accordance with human-centered AI, which seeks to combine human strengths with the usage of AI. We demonstrate how inter-venability can potentially contribute to the ongoing development of human capabilities on the one hand and to further technical improvement by recon-figuration of AI on the other. Exploring and collaboratively reflecting on the effects of interventions as an integral part of organizational practices is key to enabling this continuous improvement on both sides. Intervenability also provides further momentum for the design of an AI that can help realize in-terventions on its own and advance a smooth transition from intervention to reconfiguration of the AI.
- Abstract（参考訳）: AIの適用可能性に関する文献といくつかの実践的な例に基づいて、インターベンタビリティの概念を概説する。
この新たな現象は、緊急のシャットダウン、回避策、自動システムの再構成によってカバーされない。
インターベンタビリティ(Intervenability)は、AIのコンテキストにおいて、制御可能性、自律性、監視、ループ内の人間の維持の原則をインスタンス化する。
我々は,行動に介入する可能性の範囲を包含し,ユーザの精神的努力に関してそれらを区別する分類法を提供する。
この分類は、自動化プロセスのリアルタイム制御からAIベースの個別ケース関連意思決定まで、介入の範囲を拡大する。
これは、人間の強みとAIの使用を組み合わせようとする、人間中心のAIに従っている。
我々は、人間能力の継続的な発展と、AIの再フィギュレーションによるさらなる技術的改善に、インターベンタビリティがいかに貢献するかを実証する。
組織的プラクティスの不可欠な部分としての介入の効果を探求し、協調的に反映することが、この継続的改善を両サイドで実現するための鍵となる。
また、インターベンタビリティーはAIの設計にさらなる勢いをもたらし、インターベンションを自分自身で実現し、介入からAIの再構成へのスムーズな移行を進めるのに役立つ。
関連論文リスト
- The Boundaries of Automation: A Theory of Persistent Human Participation [107.84677954791773]
高い能力を持つAIシステムであっても、人間の参加は継続する可能性がある、と私たちは主張する。
一部のアクティビティでは、ターゲットは事前に完全に指定されるのではなく、代わりにインタラクション自体を通じて現れる。
この観点は、自動化の限界に重要な意味を持つ。
論文 参考訳（メタデータ） (2026-07-23T17:33:43Z) - Solipsistic Superintelligence is Unlikely to be Cooperative [48.65947679109806]
極めて有能なタスク解決ツールである超知能は協調的ではないと我々は主張する。
我々は、相互依存を中核的な設計原則として扱う非ソリプシックな研究パラダイムを提唱する。
論文 参考訳（メタデータ） (2026-06-02T06:54:55Z) - From Passive Tool to Socio-cognitive Teammate: A Conceptual Framework for Agentic AI in Human-AI Collaborative Learning [0.0]
我々は、ツールとしてのAIから、コラボレーションパートナとしてのAIへの移行をグラフ化する、新しい概念的フレームワークを提案する。
真の意識や共有意図を欠いたAIが真の協力者であるかどうかを検討する。
この区別は、教育におけるAIの教育、教育設計、そして将来の研究課題に重要な意味を持つ。
論文 参考訳（メタデータ） (2025-08-20T16:17:32Z) - Explanation-Driven Interventions for Artificial Intelligence Model Customization: Empowering End-Users to Tailor Black-Box AI in Rhinocytology [3.4705962607086973]
本稿では、ブラックボックスAIモデルのための新しいエンドユーザー開発(EUD)アプローチを提案する。
提案手法はHuman-Centered AI(HCAI)を進化させ,人間と適応型ユーザカスタマイズ型AIシステムとの共生関係を促進する。
論文 参考訳（メタデータ） (2025-04-07T08:44:48Z) - The case for delegated AI autonomy for Human AI teaming in healthcare [3.441725960809854]
本稿では、人工知能(AI)を医療に組み込むための高度なアプローチとして、自律的な意思決定支援を提案する。
このアプローチにより、AIアルゴリズムは、定義された委任基準に基づいて、患者の他のサブセットで支援的な役割を担いながら、患者のサブセットに対して自律的に行動することができる。
患者を安全に扱えるようにし、AIツールの制限に注意しながら臨床レビュー時間を短縮する可能性がある。
論文 参考訳（メタデータ） (2025-03-24T15:26:54Z) - AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。
このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
論文 参考訳（メタデータ） (2025-03-04T03:55:38Z) - Aligning Generalisation Between Humans and Machines [74.120848518198]
AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。
AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - AI-Driven Human-Autonomy Teaming in Tactical Operations: Proposed Framework, Challenges, and Future Directions [10.16399860867284]
人工知能(AI)技術は、人間の意思決定能力を増強することで戦術的操作を変革している。
本稿では,AI駆動型人間自律チーム(HAT)を変革的アプローチとして検討する。
我々はAI駆動型HATの重要なコンポーネントに対処する包括的フレームワークを提案する。
論文 参考訳（メタデータ） (2024-10-28T15:05:16Z) - How Performance Pressure Influences AI-Assisted Decision Making [52.997197698288936]
我々は、プレッシャーと説明可能なAI(XAI)技術がAIアドバイステイク行動とどのように相互作用するかを示す。
我々の結果は、圧力とXAIの異なる組み合わせで複雑な相互作用効果を示し、AIアドバイスの行動を改善するか、悪化させるかのどちらかを示す。
論文 参考訳（メタデータ） (2024-10-21T22:39:52Z) - Position: Towards Bidirectional Human-AI Alignment [109.57781720848669]
我々は、人間とAIの双方向的・動的関係を説明するために、研究コミュニティは「調整」を明確に定義し、批判的に反映すべきであると主張する。
このフレームワークは、AIと人間の価値を整合させる従来の取り組みを取り入れているだけでなく、人間とAIを整合させるという、重要で未解明の次元も導入しています。
論文 参考訳（メタデータ） (2024-06-13T16:03:25Z) - A Mental-Model Centric Landscape of Human-AI Symbiosis [31.14516396625931]
我々は、GHAI(Generalized Human-Aware Interaction)と呼ばれる、ヒューマン・アウェア・AIインタラクション・スキームの極めて一般的なバージョンを導入する。
この新しいフレームワークによって、人間とAIのインタラクションの空間で達成されたさまざまな作業が捕捉され、これらの作業によって支えられる基本的な行動パターンが特定できるかどうかを確認します。
論文 参考訳（メタデータ） (2022-02-18T22:08:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。