論文の概要: Autonomy, Social Norms, and Alignment: Towards a Developmental Framework for Autonomous Artificial Agents
- arxiv url: http://arxiv.org/abs/2609.11660v1
- Date: Thu, 10 Sep 2026 15:02:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-11 23:53:35.409072
- Title: Autonomy, Social Norms, and Alignment: Towards a Developmental Framework for Autonomous Artificial Agents
- Title（参考訳）: 自律性・社会的ノルム・アライメント--自律型人工エージェントの開発に向けて
- Abstract要約: ほとんどの高度なシステムは、既存のデータセットと人間のフィードバック戦略に依存しており、動的または未知のコンテキストでは強力だが不十分である。
この課題に対処する戦略の1つは、本質的なモチベーションのようなより高度なメカニズムの導入である。
アライメント(アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント、アライメント
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In recent years, artificial intelligence has made extraordinary progress thanks to large-scale models capable of generalization and the generation of complex outputs. However, transferring this potential into embodied agents reveals a significant limitation: the most advanced systems rely on pre-existing datasets and human feedback strategies that are powerful but insufficient in dynamic or unknown contexts. To adapt, an agent must acquire knowledge through direct interaction with its environment. One strategy to address this challenge involves introducing higher-level mechanisms, such as intrinsic motivations, which leverage curiosity and competence, to guide exploration and learning in complex environments. While this flexibility expands autonomy, it complicates the task of ensuring agents remain aligned with human goals. Alignment, already a challenge for artificial systems in general, becomes even more complex in unstructured and dynamic contexts where predefined rules prove insufficient. To be effective and adaptable, norms must be rooted in experience through an epistemological process that starting from simple, situated principles allows for the gradual construction of more complex rules through experience, autonomous learning, and cooperation with other moral agents. Similarly to children learning social norms by exploring their environment and participating in collective practices, artificial agents must also be educated toward alignment. Following Dennett, the status of a moral agent is not innate but is attributed gradually based on the ability to responsibly manage increasing degrees of freedom. From this perspective, the regulatory sandboxes can be viewed as pedagogical environments for AI: dynamic spaces where alignment develops as a formative process, progressively shaping autonomous behaviors through interaction and cooperation in scenarios of increasing complexity.
- Abstract（参考訳）: 近年、人工知能は、一般化と複雑な出力の生成が可能な大規模モデルのおかげで、驚くべき進歩を遂げている。
もっとも先進的なシステムは、既存のデータセットと、動的または未知のコンテキストにおいて強力だが不十分な人間のフィードバック戦略に依存している。
適応するためには、エージェントはその環境と直接の相互作用を通じて知識を得る必要がある。
この課題に対処する1つの戦略は、複雑な環境における探索と学習を導くために好奇心と能力を活用する本質的な動機付けのようなより高度なメカニズムを導入することである。
この柔軟性は自律性を高めるが、エージェントが人間の目標と一致し続けることを保証するタスクを複雑にする。
アライメント(アライメント、アライメント、アライメント、英: Alignment)は、既定のルールが不十分な非構造的および動的コンテキストにおいて、より複雑なものとなる。
効果的で適応性のあるためには、規範は経験に根ざし、経験、自律学習、そして他の道徳的エージェントとの協力を通じて、より複雑なルールを段階的に構築することを可能にする、単純で位置付けられた原則から始まる認識論的プロセスによって、経験に根ざさなければならない。
環境を探索し、集団的な実践に参加することで社会規範を学ぶ子供たちと同様に、人工エージェントもアライメントに向けて教育されなければならない。
デネットに従えば、道徳的エージェントの地位は生まれつきではなく、徐々に自由の度合いの上昇に責任を負う能力に起因している。
この観点では、規制サンドボックスはAIの教育的な環境として見ることができます。アライメントがフォーマティブなプロセスとして発達するダイナミックスペース、複雑化のシナリオにおけるインタラクションと協調を通じて、自律的な振る舞いを段階的に形成します。
関連論文リスト
- Agent-World: Scaling Real-World Environment Synthesis for Evolving General Agent Intelligence [122.8626256816085]
textbfAgent-Worldは、スケーラブルな環境を通じて汎用エージェントインテリジェンスを前進させるための自己進化型トレーニングアリーナである。
Agent-World-8Bと14Bは、強力なプロプライエタリなモデルと環境スケーリングベースラインを一貫して上回っている。
論文 参考訳（メタデータ） (2026-04-20T14:01:10Z) - A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。
応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。
我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
論文 参考訳（メタデータ） (2026-03-11T07:40:53Z) - A Comprehensive Review of AI Agents: Transforming Possibilities in Technology and Beyond [3.96715377510494]
Reviewは、次世代のAIエージェントシステムを、より堅牢で適応性があり、信頼できる自律的知性へと導くことを目指している。
認知科学に触発されたモデル、階層的強化学習フレームワーク、および大規模言語モデルに基づく推論から洞察を合成する。
我々は、これらのエージェントを現実世界のシナリオに展開する際の倫理的、安全性、解釈可能性に関する懸念について論じる。
論文 参考訳（メタデータ） (2025-08-16T07:38:45Z) - A Survey of Self-Evolving Agents: On Path to Artificial Super Intelligence [87.08051686357206]
大きな言語モデル(LLM)は強力な能力を示しているが、基本的に静的である。
LLMはますますオープンでインタラクティブな環境にデプロイされているため、この静的な性質は重要なボトルネックとなっている。
この調査は、自己進化エージェントの体系的で包括的なレビューを初めて提供する。
論文 参考訳（メタデータ） (2025-07-28T17:59:05Z) - Rational Superautotrophic Diplomacy (SupraAD); A Conceptual Framework for Alignment Based on Interdisciplinary Findings on the Fundamentals of Cognition [0.0]
ラショナル超独立外交(Rational Superautotrophic Diplomacy, SupraAD)は、アライメントのための理論的、学際的な概念的枠組みである。
認知システム分析と器質的合理性モデリングに着目する。
SupraADは、AIより前の課題としてアライメントを再構築し、十分に複雑で協調的なインテリジェンスを損なう。
論文 参考訳（メタデータ） (2025-06-03T17:28:25Z) - Multi-agent Embodied AI: Advances and Future Directions [46.23631919950584]
エンボディード人工知能(Embodied AI)は、インテリジェントな時代における先進技術の適用において重要な役割を担っている。
本稿では,研究の現状を概観し,重要な貢献を分析し,課題と今後の方向性を明らかにする。
論文 参考訳（メタデータ） (2025-05-08T10:13:53Z) - Stochastic, Dynamic, Fluid Autonomy in Agentic AI: Implications for Authorship, Inventorship, and Liability [0.2209921757303168]
エージェントAIシステムは、暗黙の学習を通じて戦略を適応し、自律的に目標を追求する。
人間と機械の貢献は、相互に絡み合った創造的なプロセスに不可避的に絡まってしまう。
法律と政策の枠組みは、人間と機械の貢献を機能的に同等に扱う必要があるかもしれないと我々は主張する。
論文 参考訳（メタデータ） (2025-04-05T04:44:59Z) - Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems [132.77459963706437]
この本は、モジュール化された脳に触発されたアーキテクチャの中で、インテリジェントなエージェントをフレーミングする、包括的な概要を提供する。
自己向上と適応的な進化のメカニズムを探求し、エージェントが自律的に能力を洗練する方法を探求する。
また、エージェントの相互作用、協力、社会構造から生じる集合的知性についても調べる。
論文 参考訳（メタデータ） (2025-03-31T18:00:29Z) - Position: Emergent Machina Sapiens Urge Rethinking Multi-Agent Paradigms [8.177915265718703]
AIエージェントは、目的を動的に調整する権限を持つべきだ、と私たちは主張する。
私たちは、これらのマルチエージェントAIシステムの創発的で、自己組織化され、コンテキストに配慮した性質へのシフトを呼びかけます。
論文 参考訳（メタデータ） (2025-02-05T22:20:15Z) - Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic
Systems [67.01132165581667]
本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。
本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
論文 参考訳（メタデータ） (2023-11-13T21:20:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。