論文の概要: AI and Human Oversight: A Risk-Based Framework for Alignment
- arxiv url: http://arxiv.org/abs/2510.09090v1
- Date: Fri, 10 Oct 2025 07:36:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-14 00:38:48.387448
- Title: AI and Human Oversight: A Risk-Based Framework for Alignment
- Title（参考訳）: AIと人間の監視 - 調整のためのリスクベースのフレームワーク
- Authors: Laxmiraju Kandikatla, Branislav Radeljic,
- Abstract要約: 本稿では、基本的権利を守り、人事を強化し、効果的な人的監視機構を組み込むAIシステムを設計するための戦略を検討する。
この論文は、AIモデルのリスクのレベルと人間の監視の適切な形態を結びつけることによって、AIのデプロイに人間が関与する重要な役割を浮き彫りにする。
- 参考スコア（独自算出の注目度）: 0.2039123720459736
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As Artificial Intelligence (AI) technologies continue to advance, protecting human autonomy and promoting ethical decision-making are essential to fostering trust and accountability. Human agency (the capacity of individuals to make informed decisions) should be actively preserved and reinforced by AI systems. This paper examines strategies for designing AI systems that uphold fundamental rights, strengthen human agency, and embed effective human oversight mechanisms. It discusses key oversight models, including Human-in-Command (HIC), Human-in-the-Loop (HITL), and Human-on-the-Loop (HOTL), and proposes a risk-based framework to guide the implementation of these mechanisms. By linking the level of AI model risk to the appropriate form of human oversight, the paper underscores the critical role of human involvement in the responsible deployment of AI, balancing technological innovation with the protection of individual values and rights. In doing so, it aims to ensure that AI technologies are used responsibly, safeguarding individual autonomy while maximizing societal benefits.
- Abstract（参考訳）: 人工知能(AI)技術が進歩を続けるにつれて、人間の自律性保護と倫理的意思決定の促進が信頼と説明責任の育成に不可欠である。
人事機関(情報決定を行う個人の能力)は、AIシステムによって積極的に保存され、強化されなければならない。
本稿では、基本的権利を守り、人事を強化し、効果的な人的監視機構を組み込むAIシステムを設計するための戦略を検討する。
HIC(Human-in-Command)、HITL(Human-in-the-Loop)、HOTL(Human-on-the-Loop)といった重要な監視モデルについて議論し、これらのメカニズムの実装を導くためのリスクベースのフレームワークを提案する。
この論文は、AIモデルのリスクレベルと人間の監視の適切な形態を結びつけることによって、AIの責任ある展開における人間の関与の重要な役割を強調し、技術革新と個々の価値と権利の保護のバランスをとる。
そうすることで、AIテクノロジが責任を持って使用され、社会的利益を最大化しながら個人の自律性を保護することを目指している。
関連論文リスト
- Fully Autonomous AI Agents Should Not be Developed [58.88624302082713]
本稿では,完全自律型AIエージェントを開発すべきではないと主張している。
この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。
分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
論文 参考訳（メタデータ） (2025-02-04T19:00:06Z) - Building Symbiotic AI: Reviewing the AI Act for a Human-Centred, Principle-Based Framework [3.723174617224632]
欧州連合(EU)は、AIを規制する新たな法的枠組みであるAI Actをリリースした。
同時に、研究者はAIシステム(通称Human-Centred AI(HCAI))について、新たな視点を提供する。
本稿では,共生型AIシステムの設計と開発を特徴付ける原則を明らかにすることを目的とする。
論文 参考訳（メタデータ） (2025-01-14T11:53:10Z) - Aligning Generalisation Between Humans and Machines [74.120848518198]
AI技術は、科学的発見と意思決定において人間を支援することができるが、民主主義と個人を妨害することもある。
AIの責任ある使用と人間-AIチームへの参加は、AIアライメントの必要性をますます示している。
これらの相互作用の重要かつしばしば見落とされがちな側面は、人間と機械が一般化する異なる方法である。
論文 参考訳（メタデータ） (2024-11-23T18:36:07Z) - Combining Theory of Mind and Kindness for Self-Supervised Human-AI Alignment [0.0]
現在のAIモデルは、安全よりもタスク最適化を優先しており、意図しない害のリスクにつながっている。
本稿では,これらの諸問題に対処し,競合する目標の整合化を支援することを目的とした,人間に触発された新しいアプローチを提案する。
論文 参考訳（メタデータ） (2024-10-21T22:04:44Z) - Managing extreme AI risks amid rapid progress [171.05448842016125]
我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。
このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。
現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
論文 参考訳（メタデータ） (2023-10-26T17:59:06Z) - AI Potentiality and Awareness: A Position Paper from the Perspective of
Human-AI Teaming in Cybersecurity [18.324118502535775]
我々は、人間とAIのコラボレーションはサイバーセキュリティに価値があると論じている。
私たちは、AIの計算能力と人間の専門知識を取り入れたバランスのとれたアプローチの重要性を強調します。
論文 参考訳（メタデータ） (2023-09-28T01:20:44Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。