論文の概要: AI, Trust, and Teaming: The Humans-as-Handlers Approach for Autonomous and Opaque AI Systems
- arxiv url: http://arxiv.org/abs/2607.00523v1
- Date: Wed, 01 Jul 2026 07:10:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.769649
- Title: AI, Trust, and Teaming: The Humans-as-Handlers Approach for Autonomous and Opaque AI Systems
- Title（参考訳）: AI、信頼、そしてチーム: 自律的で不透明なAIシステムに対するヒューマン・アズ・ハンドラーのアプローチ
- Abstract要約: 非常に影響力のある地域では、自律的および不透明なシステムを犬に似たものとして扱うための根拠がある、と私は主張する。
このアナロジーの下では、これらのシステムを利用する人間は、これらのシステムの"ユーザ"や"デプロイ"と見なされるのではなく、代わりに"ハンドラー"の役割を担っている。
この役割の再放送は、人間、AI対応、自律システム、そしてそれらとの関係の見方を変える。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial intelligence (AI) is becoming ubiquitous, and across domains, increasingly autonomous systems are carrying out tasks which raise significant ethical and legal challenges which demonstrate a need for strong human-machine teams rooted in trust. In this article, I argue that within highly impactful areas (such as medicine or warfighting) there are grounds for us initially treating autonomous and opaque systems as relevantly analogous to dogs (or other animals with which we have close relationships). Under this analogy, humans making use of these systems are not to be viewed as "users" or "deployers" of these systems, but instead take the role of "handlers". This recasting of roles shifts the way we view humans, AI-enabled and autonomous systems, and the relations between them, and moreover clarifies the clear and traceable lines of responsibility humans have for the outcomes brought about when using these systems. In developing this point, I clarify that the machine-animal analogy does admit disanalogous elements, but that its touch-points ground it as a starting point. I then explore how we can divest the humans-as-handlers approach of those aspects of our relationships with animals which are unfitting for how we engage with and make use of autonomous and AI-enabled systems. I conclude by arguing that the trajectory of human-machine teamings for autonomous and AI-enabled systems should be a state where we authentically view these not as artifacts which we simply make use of, but as collaborators with which we pursue complex goals and carry out complex tasks.
- Abstract（参考訳）: 人工知能(AI)はユビキタスになり、ドメイン全体にわたって、ますます自律的なシステムが、信頼に根ざした強力な人間機械チームの必要性を示す重要な倫理的および法的課題を提起するタスクを実行している。
本稿では,高度に影響力のある地域(医学や戦闘など)において,我々は当初,自律的・不透明なシステムを,犬(あるいは近縁な動物)に類似したものとして扱うための根拠がある,と論じる。
このアナロジーの下で、これらのシステムを利用する人間は、これらのシステムの"ユーザ"や"デプロイ"と見なされるのではなく、代わりに"ハンドラー"の役割を担っている。
この役割の再キャストは、人間、AI対応、自律システム、それら間の関係の見方を変え、さらに、人間がこれらのシステムを使用する際に生じる結果に対して、明確で追跡可能な責任ラインを明確にする。
この点の開発において、機械・動物類似は異種要素を許容するが、そのタッチポイントが出発点となる。
次に、自律的およびAI対応システムとの関わりや利用に不適な動物との関係における、人間とハンドラーのアプローチを掘り下げる方法を探る。
自律的およびAI対応システムのための人間と機械のコラボレーションの軌跡は、私たちが単に利用している人工物ではなく、複雑な目標を追求し、複雑なタスクを実行する共同作業者として、真に見なすべきである、と私は結論付けています。
関連論文リスト
- Reversing the Paradigm: Building AI-First Systems with Human Guidance [0.0]
人間と人工知能の関係はもはやSFではない。
人間を置き換えるのではなく、AIはタスクを強化し、データによる意思決定を強化する。
仕事の未来は、AIエージェントがタスクを自律的に処理することにある。
本稿では,AIファーストシステムの導入に責任を負うために必要な技術的・組織的な変化について検討する。
論文 参考訳（メタデータ） (2025-06-13T21:48:44Z) - A Call for Collaborative Intelligence: Why Human-Agent Systems Should Precede AI Autonomy [36.74150011862134]
人間とAIのチームワークは、AIが単独で作業するよりも複雑なタスクをうまく処理できることを示す。
本稿は、AIの進歩は、独立系がどのように成長するかではなく、人間がいかにうまく機能するかによって測定されるべきである、と論じる。
論文 参考訳（メタデータ） (2025-06-11T06:08:13Z) - Agency in Artificial Intelligence Systems [0.0]
人工知能(AI)研究の現在の発展が、知覚的なAIシステムに繋がる、という一般的な懸念がある。
しかし、なぜ知的なAIシステムが人類に利益をもたらすことができないのか?
私は、AIシステムが我々の社会に対して利他的または悪意ある態度を発達させるのか、その機関の性質は何かと尋ねる。
論文 参考訳（メタデータ） (2025-02-09T02:21:14Z) - Aligning Generalisation Between Humans and Machines [74.120848518198]
AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。
AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。
AIシステムは特にメタ認知に苦しむ。
スマートAIのベンチマーク、トレーニング、実装について論じる。
論文 参考訳（メタデータ） (2024-11-04T18:10:10Z) - Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。
学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。
トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
論文 参考訳（メタデータ） (2024-07-03T15:38:57Z) - Artificial General Intelligence (AGI)-Native Wireless Systems: A Journey Beyond 6G [58.440115433585824]
デジタルツイン(DT)のようなサービスをサポートする将来の無線システムの構築は、メタサーフェスのような従来の技術への進歩を通じて達成することが困難である。
人工知能(AI)ネイティブネットワークは、無線技術のいくつかの制限を克服することを約束する一方で、開発は依然としてニューラルネットワークのようなAIツールに依存している。
本稿では、AIネイティブ無線システムの概念を再考し、それらを人工知能(AGI)ネイティブシステムに変換するために必要な共通感覚を取り入れた。
論文 参考訳（メタデータ） (2024-04-29T04:51:05Z) - Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic
Systems [67.01132165581667]
本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。
本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
論文 参考訳（メタデータ） (2023-11-13T21:20:17Z) - Intent-aligned AI systems deplete human agency: the need for agency
foundations research in AI safety [2.3572498744567127]
人間の意図の一致は、安全なAIシステムには不十分である、と我々は主張する。
我々は、人類の長期的機関の保存がより堅牢な標準であると論じている。
論文 参考訳（メタデータ） (2023-05-30T17:14:01Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - Meaningful human control over AI systems: beyond talking the talk [8.351027101823705]
私たちは、AIベースのシステムが有意義な人間の制御下にある必要がある4つの特性を特定します。
第一に、人間とAIアルゴリズムが相互作用するシステムは、道徳的にロードされた状況の明確に定義された領域を持つべきである。
第2に、システム内の人間とAIエージェントは、適切かつ相互に互換性のある表現を持つべきである。
第三に、人間に帰属する責任は、その人のシステムを支配する能力と権限に相応すべきである。
論文 参考訳（メタデータ） (2021-11-25T11:05:37Z) - Learning to Complement Humans [67.38348247794949]
オープンワールドにおけるAIに対するビジョンの高まりは、知覚、診断、推論タスクのために人間を補完できるシステムの開発に焦点を当てている。
我々は,人間-機械チームの複合的なパフォーマンスを最適化するために,エンド・ツー・エンドの学習戦略をどのように活用できるかを実証する。
論文 参考訳（メタデータ） (2020-05-01T20:00:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。