論文の概要: Integrators at War: Mediating in AI-assisted Resort-to-Force Decisions
- arxiv url: http://arxiv.org/abs/2501.06861v1
- Date: Sun, 12 Jan 2025 16:21:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-14 14:27:09.551830
- Title: Integrators at War: Mediating in AI-assisted Resort-to-Force Decisions
- Title(参考訳): 戦争におけるインテグレータ:AI支援のリゾート・ツー・フォースの決定を仲介する
- Authors: Dennis Müller, Maurice Chiodo, Mitja Sienknecht,
- Abstract要約: AIシステムの軍事領域への統合は、戦争に関する決定の仕方を変えつつある。
3つの異なるアクターグループ – 開発者,ユーザ – を結合して,これらのグループとマシンの関係を生成する。
- 参考スコア(独自算出の注目度): 2.5602836891933074
- License:
- Abstract: The integration of AI systems into the military domain is changing the way war-related decisions are made. It binds together three disparate groups of actors - developers, integrators, users - and creates a relationship between these groups and the machine, embedded in the (pre-)existing organisational and system structures. In this article, we focus on the important, but often neglected, group of integrators within such a sociotechnical system. In complex human-machine configurations, integrators carry responsibility for linking the disparate groups of developers and users in the political and military system. To act as the mediating group requires a deep understanding of the other groups' activities, perspectives and norms. We thus ask which challenges and shortcomings emerge from integrating AI systems into resort-to-force (RTF) decision-making processes, and how to address them. To answer this, we proceed in three steps. First, we conceptualise the relationship between different groups of actors and AI systems as a sociotechnical system. Second, we identify challenges within such systems for human-machine teaming in RTF decisions. We focus on challenges that arise a) from the technology itself, b) from the integrators' role in the sociotechnical system, c) from the human-machine interaction. Third, we provide policy recommendations to address these shortcomings when integrating AI systems into RTF decision-making structures.
- Abstract(参考訳): AIシステムの軍事領域への統合は、戦争に関する決定の仕方を変えつつある。
開発者、インテグレータ、ユーザという3つの異なるアクタのグループを結合し、これらのグループとマシンの関係を作り、(既存の)組織構造とシステム構造に埋め込まれます。
本稿では,このような社会技術システムにおける重要な,しかししばしば無視される,インテグレータのグループに焦点を当てる。
複雑なヒューマンマシン構成では、インテグレータは、政治的および軍事システムにおいて、異なる開発者とユーザの異なるグループをリンクする責任を負う。
仲介グループとして振る舞うには、他のグループの活動、視点、規範を深く理解する必要がある。
そこで我々は、AIシステムをリゾート・トゥ・フォース(RTF)の意思決定プロセスに統合することで、どのような課題や欠点が生じるのか、どのように対処するかを問う。
これに答えるために、私たちは3つのステップを進めます。
まず,アクターの異なるグループとAIシステムとの関係を社会技術システムとして概念化する。
第2に,RTF決定における人間と機械の連携の課題を明らかにする。
私たちは、生じる課題に焦点を合わせます
a) 技術そのものから
b) 社会技術システムにおけるインテグレータの役割から
c) 人間と機械の相互作用から。
第3に、AIシステムをRTF決定構造に統合する場合のこれらの欠点に対処するためのポリシーレコメンデーションを提供する。
関連論文リスト
- Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
AIシステムは知恵を欠いている。
AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。
メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
論文 参考訳(メタデータ) (2024-11-04T18:10:10Z) - The Switch, the Ladder, and the Matrix: Models for Classifying AI Systems [0.0]
AI倫理の原則と実践の間にはまだギャップがある。
AI倫理を運用しようとする組織が直面する大きな障害のひとつは、明確に定義された材料スコープの欠如である。
論文 参考訳(メタデータ) (2024-07-07T12:16:01Z) - Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。
学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。
トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
論文 参考訳(メタデータ) (2024-07-03T15:38:57Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳(メタデータ) (2023-10-26T17:59:06Z) - Aligned with Whom? Direct and social goals for AI systems [0.0]
この記事では、どの目標を検討するかによって、2種類のアライメント問題を区別する。
直接的なアライメント問題は、AIシステムがそれを操作するエンティティの目標を達成するかどうかを考慮する。
社会アライメント問題は、より大きなグループや社会に対するAIシステムの影響をより広く考慮している。
論文 参考訳(メタデータ) (2022-05-09T13:49:47Z) - A Decentralized Approach Towards Responsible AI in Social Ecosystems [0.0]
社会生態系の当事者が望ましいAI行動を生み出すための計算施設を提供する枠組みを提示する。
アーキテクチャレベルでAIシステムを分析し、AIシステムアーキテクチャのための2つの暗号メカニズムを提案する。
我々は、分散アプローチがコンピュータ科学と社会科学の両方の観点から、責任あるaiへの最も有望な道であると主張する。
論文 参考訳(メタデータ) (2021-02-12T06:33:42Z) - On the Philosophical, Cognitive and Mathematical Foundations of
Symbiotic Autonomous Systems (SAS) [87.3520234553785]
共生自律システム(SAS)は、自律的な集団知能を示す高度なインテリジェントおよび認知システムです。
この研究は、知性、認知、コンピュータ、システム科学の最新の進歩に根ざしたSASの理論的枠組みを示す。
論文 参考訳(メタデータ) (2021-02-11T05:44:25Z) - Towards an Interface Description Template for AI-enabled Systems [77.34726150561087]
再利用(Reuse)は、システムアーキテクチャを既存のコンポーネントでインスタンス化しようとする、一般的なシステムアーキテクチャのアプローチである。
現在、コンポーネントが当初目的としていたものと異なるシステムで運用する可搬性を評価するために必要な情報の選択をガイドするフレームワークは存在しない。
我々は、AI対応コンポーネントの主情報をキャプチャするインターフェイス記述テンプレートの確立に向けて、現在進行中の作業について述べる。
論文 参考訳(メタデータ) (2020-07-13T20:30:26Z) - Distributed and Democratized Learning: Philosophy and Research
Challenges [80.39805582015133]
民主化学習(Dem-AI)という新しいデザイン哲学を提案する。
ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。
本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
論文 参考訳(メタデータ) (2020-03-18T08:45:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。