論文の概要: FormIDEAble: Safe and Socially-aware Autonomous Systems
- arxiv url: http://arxiv.org/abs/2606.31572v1
- Date: Tue, 30 Jun 2026 12:30:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.21011
- Title: FormIDEAble: Safe and Socially-aware Autonomous Systems
- Title（参考訳）: FormIDEAble: 安全で社会的に認識された自律システム
- Abstract要約: 本稿では,社会に配慮した協調戦略と安全保証の形式的アプローチであるFormIDEAbleを紹介する。
人間と自律エージェントの協調は、プライスド・タイムド・マルコフ決定プロセスとしてモデル化されている。
- 参考スコア（独自算出の注目度）: 6.380911786456793
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous agents operating in socio-critical settings must coordinate with humans under uncertainty while respecting explicit safety constraints. Existing approaches either account for social dynamics without formal guarantees or provide formal assurance while abstracting away human behaviour. We introduce FormIDEAble, a formally grounded approach for synthesising socially-aware cooperation strategies with safety guarantees. The cooperation between humans and the autonomous agent is modelled as a Priced Timed Markov Decision Process, and decision-making is formulated as a cost-bounded reachability problem. We illustrate the approach using an emergency evacuation scenario. Initial experimental evidence demonstrates the effectiveness of the approach and highlights the trade-offs between optimisation and safety guarantees. FormIDEAble provides a principled foundation for formally assured, socially-aware decision-making in socio-critical systems.
- Abstract（参考訳）: 社会クリティカルな環境で活動する自律エージェントは、明確な安全制約を尊重しながら不確実性の下で人間と協調する必要がある。
既存のアプローチは、正式な保証なしに社会的ダイナミクスを考慮に入れたり、人間の振る舞いを抽象化しながら正式な保証を提供する。
我々は,社会的に認識された協調戦略を安全保証とともに構築するための公式な基盤となるアプローチであるFormIDEAbleを紹介した。
人間と自律エージェントの協力関係は、価格の時間的マルコフ決定プロセスとしてモデル化され、意思決定はコストバウンドな到達可能性問題として定式化される。
緊急避難シナリオを用いたアプローチについて説明する。
最初の実験的な証拠は、このアプローチの有効性を示し、最適化と安全保証のトレードオフを強調している。
FormIDEAbleは、社会クリティカルシステムにおいて、公式に保証され、社会的に認識される意思決定のための原則化された基盤を提供する。
関連論文リスト
- A game theory for foundation models shows new paths to rational cooperation through similarity inference [56.53805518668248]
最適計画に携わる基礎モデルエージェントは、安定的な協調に一貫して収束していることを示す。
分離された物質から埋め込まれた物質へと移行することで、これらのエージェントは自分たちが居住する宇宙の一部として自身をモデル化する。
論文 参考訳（メタデータ） (2026-08-04T17:24:33Z) - Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security [57.35851886874902]
エージェントAIシステムは、複雑なタスクを自律的に実行するが、その多段階の軌道には、信頼性に挑戦する新たな障害モードが導入されている。
この調査では、リスクの高いデプロイメントに不可欠な2つのコアディメンションを通じて、信頼できるエージェントAIを精査する。
各次元について、重要な概念を明確にし、エージェントワークフローに沿ってリスクが発生する場所を特定し、ステージ目標の緩和戦略を要約する。
論文 参考訳（メタデータ） (2026-05-17T10:26:37Z) - Fairness over Equality: Correcting Social Incentives in Asymmetric Sequential Social Dilemmas [14.346045345458416]
逐次社会ジレンマ(SSD)は、個人のインセンティブが集団福祉と対立するときに、協力がどのように現れるかを研究するための重要な枠組みを提供する。
既存の方法の多くは、エージェントがジレンマにおいて同一のインセンティブに直面し、公正性を評価するために他のエージェントに関するグローバル情報への継続的なアクセスを必要とすると仮定している。
我々は、よく知られたSSD環境の非対称な変種を導入し、エージェント間の自然差が協調力学にどのように影響するかを検討する。
論文 参考訳（メタデータ） (2026-02-17T07:31:20Z) - The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。
エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。
我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
論文 参考訳（メタデータ） (2026-02-10T15:18:19Z) - Towards Responsible AI: Advances in Safety, Fairness, and Accountability of Autonomous Systems [0.913755431537592]
この論文は、AIシステムの安全性、公正性、透明性、説明責任に関する知識を前進させる。
我々は,古典的決定論的遮蔽技術を拡張し,遅延観測に対する耐性を高める。
我々は,グループフェアネスを逐次決定設定で強制するための,新しい後処理手法であるフェアネスシールドを導入する。
論文 参考訳（メタデータ） (2025-06-11T21:30:02Z) - Towards provable probabilistic safety for scalable embodied AI systems [79.31011047593492]
エンボディードAIシステムは、様々なアプリケーションでますます普及している。
複雑な運用環境での安全性確保は依然として大きな課題である。
このパースペクティブは、安全で大規模に実施されたAIシステムを安全クリティカルなアプリケーションに採用するための道筋を提供する。
論文 参考訳（メタデータ） (2025-06-05T15:46:25Z) - Can an AI Agent Safely Run a Government? Existence of Probably Approximately Aligned Policies [23.27199615640474]
既存のアライメント法はそのようなモデルの安全性を公式に保証するものではない。
社会的意思決定の文脈におけるアライメントの新しい定量的定義を提供する。
自律エージェントのブラックボックスポリシーを保護するための,単純かつ堅牢な手法を提案する。
論文 参考訳（メタデータ） (2024-11-21T11:36:45Z) - Enhanced Safety in Autonomous Driving: Integrating Latent State Diffusion Model for End-to-End Navigation [5.928213664340974]
本研究は自動運転の制御最適化問題における安全性問題に対処する。
本稿では,条件付きバリュー・アット・リスクに基づくソフトアクター批判を利用して,ポリシー最適化のための新しいモデルベースアプローチを提案する。
本手法では, 安全探索を誘導する最悪のアクターを導入し, 予測不可能なシナリオにおいても, 安全要件の厳密な遵守を確保する。
論文 参考訳（メタデータ） (2024-07-08T18:32:40Z) - Safe Explicable Planning [3.3869539907606603]
安全計画(SEP:Safe Explicable Planning)を提案する。
提案手法は,複数のモデルから派生した複数の対象の考察を一般化する。
これらの手法の望ましい理論的性質を検証するための公式な証明を提供する。
論文 参考訳（メタデータ） (2023-04-04T21:49:02Z) - Safe Reinforcement Learning via Confidence-Based Filters [78.39359694273575]
我々は,標準的な強化学習技術を用いて学習した名目政策に対して,国家安全の制約を認定するための制御理論的アプローチを開発する。
我々は、正式な安全保証を提供し、我々のアプローチの有効性を実証的に実証する。
論文 参考訳（メタデータ） (2022-07-04T11:43:23Z) - Towards Safe Policy Improvement for Non-Stationary MDPs [48.9966576179679]
多くの実世界の利害問題は非定常性を示し、利害関係が高ければ、偽の定常性仮定に関連するコストは受け入れがたい。
我々は、スムーズに変化する非定常的な意思決定問題に対して、高い信頼性で安全性を確保するための第一歩を踏み出します。
提案手法は,時系列解析を用いたモデルフリー強化学習の合成により,セルドンアルゴリズムと呼ばれる安全なアルゴリズムを拡張した。
論文 参考訳（メタデータ） (2020-10-23T20:13:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。