論文の概要: Intentionality is a Design Decision: Measuring Functional Intentionality for Accountable AI Systems
- arxiv url: http://arxiv.org/abs/2605.05475v1
- Date: Wed, 06 May 2026 21:53:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.424773
- Title: Intentionality is a Design Decision: Measuring Functional Intentionality for Accountable AI Systems
- Title（参考訳）: 意図性は設計決定である:説明責任AIシステムにおける機能意図性の測定
- Abstract要約: 本稿では,目的,前見,意志,時間的コミットメント,一貫性を特徴とする行動プロファイルとして意図性を定義した。
機能的意図性テスト(FIT)は,5次元にわたって意図的な振る舞いを定量化する多次元フレームワークである。
本研究では,意図の抽出と評価のための構造化評価プロトコルであるFIT-Evalを提案する。
- 参考スコア（独自算出の注目度）: 3.4217039995100555
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As AI systems increasingly exhibit autonomous, goal-directed, and long-horizon behavior, users lack a standardized way to detect the degree to which a system functions like an intentional actor for governance and accountability purposes. This position paper defines intentionality not as consciousness, but as a behavioral profile characterized by purpose, foresight, volition, temporal commitment, and coherence - criteria long used in legal and philosophical contexts to infer intent. These properties are design-contingent: architectural choices such as memory persistence, planning depth, and tool autonomy shape the degree to which systems exhibit organized goal pursuit. If intentionality is design-contingent, it is in principle controllable. Yet control requires measurement. We introduce the Functional Intentionality Test (FIT), a multidimensional framework that quantifies intentional-like behavior across five observable dimensions, and propose FIT-Eval, a structured evaluation protocol for eliciting and scoring them. While reduced human agency can increase efficiency, rising intentional capacity heightens accountability risks. By translating intentionality into interpretable levels, FIT enables proportionate oversight and deliberate autonomy calibration in increasingly agentic systems.
- Abstract（参考訳）: AIシステムは、自律的で、ゴール指向で、長期にわたる振る舞いをますます示しているため、ユーザは、ガバナンスと説明責任の目的のために、システムが意図的なアクターのように機能する程度を検出するための、標準化された方法が欠けている。
このポジションペーパーは、意図を意識ではなく、目的、前見、意志、時間的コミットメント、一貫性によって特徴づけられる行動プロファイルとして定義する。
メモリの永続性、計画の深さ、ツールの自律性といったアーキテクチャ上の選択は、システムが組織された目標追求を示す度合いを形作る。
意図が設計上の問題であれば、原則として制御可能である。
しかし、制御には測定が必要である。
本稿では,5次元にわたって意図的な振る舞いを定量化する多次元フレームワークであるFIT(Functional Intentionality Test)を紹介し,それらを抽出・評価するための構造化評価プロトコルであるFIT-Evalを提案する。
人事機関の削減は効率を高めるが、意図的な能力の上昇は説明責任リスクを高める。
意図を解釈可能なレベルに翻訳することで、FITはますますエージェントシステムにおいて、比例的な監視と故意の自律的校正を可能にします。
関連論文リスト
- A Mathematical Framework for Legacy, Governance, and Decision Integrity in Enterprise AI [0.0]
本稿では,制度的遺産のためのデザイン・サイエンス・フレームワークを開発する。
i) 知識保持、ガバナンス、人間の監督、適応性、フィードバック学習、および管轄権の忠実さという、厳格化された幾何学的平均に基づく正規化されたレガシースコア。
また、8つのAI決定整合性ルール、評価プロトコル、再現可能な計算実証も提案している。
論文 参考訳（メタデータ） (2026-09-01T02:06:32Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - Intelligence as Managed Autonomy: Failure, Escalation, and Governance for Agentic AI Systems [0.0]
本稿では,非有界自律のアーキテクチャ的脆弱性について考察する。
この理論をSMARtモデル(Stable、Meta-cognitive、Assisted、Regulationの4層フレームワーク)を用いてインスタンス化する。
自律ライフサイクルにおける障害管理の形式化は、信頼性と管理された人工知能の実現に向けた重要なステップである、と結論付けます。
論文 参考訳（メタデータ） (2026-05-26T19:49:23Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - Agentic AI for Cybersecurity: A Meta-Cognitive Architecture for Governable Autonomy [0.0]
本稿では,サイバーセキュリティのオーケストレーションはエージェント型マルチエージェント認知システムとして再認識されるべきである,と論じる。
本稿では,特定・仮説形成・文脈解釈・説明・ガバナンスに責任を負う異種AIエージェントを,メタ認知判断機能を通じて協調する概念的枠組みを提案する。
我々の貢献は、メタ認知判断を第一級システム機能として組み込むことによって、この認知構造をアーキテクチャ的に明確化し、統制可能にすることである。
論文 参考訳（メタデータ） (2026-02-12T12:52:49Z) - Position: Human-Centric AI Requires a Minimum Viable Level of Human Understanding [26.14684888478043]
本稿では、透明性、ユーザコントロール、リテラシー、ガバナンスに対する一般的なアプローチは、人間が持続的なAIデリゲートの下で監視し続けなければならないという基本的な理解を定義していない、と論じる。
これを形式化するために、認知統合閾値(CIT)を、AI支援下での監視、自律性、説明責任な参加を維持するために必要な最小限の理解として定義する。
論文 参考訳（メタデータ） (2026-01-31T18:37:33Z) - PISA: A Pragmatic Psych-Inspired Unified Memory System for Enhanced AI Agency [50.712873697511206]
既存の作業は、多種多様なタスクへの適応性に欠けることが多く、AIエージェントメモリの構成的およびタスク指向の役割を見落としている。
PISAは,メモリを構築的かつ適応的なプロセスとして扱う,実践的でサイコにインスパイアされた統合メモリシステムである。
既存のLOCOMOベンチマークと新たに提案したデータ解析タスクのAggQAベンチマークに基づいて,PISAが適応性と長期的知識保持を大幅に向上させることで,新たな最先端技術を設定することを確認した。
論文 参考訳（メタデータ） (2025-10-12T10:34:35Z) - Fundamentals of Building Autonomous LLM Agents [64.39018305018904]
本稿では,大規模言語モデル(LLM)を用いたエージェントのアーキテクチャと実装手法について概説する。
この研究は、複雑なタスクを自動化し、人間の能力でパフォーマンスのギャップを埋めることのできる「アジェンティック」なLLMを開発するためのパターンを探求することを目的としている。
論文 参考訳（メタデータ） (2025-10-10T10:32:39Z) - Toward a Theory of Agents as Tool-Use Decision-Makers [89.26889709510242]
真の自律性は、エージェントが、彼らが知っていること、必要なこと、そしてその知識を効率的に獲得する方法を統治する、一貫性のある疫学の枠組みに根ざす必要がある、と我々は主張する。
本研究では,内的推論と外的行動を等価な疫学ツールとして扱う統一理論を提案し,エージェントが内観と相互作用を体系的に調整することを可能にする。
この視点は、エージェントの設計を単なるアクションエグゼクタから知識駆動インテリジェンスシステムにシフトさせ、適応的で効率的でゴール指向の行動が可能な基礎エージェントを構築するための原則化された道筋を提供する。
論文 参考訳（メタデータ） (2025-06-01T07:52:16Z) - Know Where You're Uncertain When Planning with Multimodal Foundation Models: A Formal Framework [54.40508478482667]
認識と計画生成の不確実性を解消し、定量化し、緩和する包括的枠組みを提案する。
本稿では,知覚と意思決定の独特な性質に合わせた手法を提案する。
この不確実性分散フレームワークは, 変動率を最大40%削減し, タスク成功率をベースラインに比べて5%向上させることを示した。
論文 参考訳（メタデータ） (2024-11-03T17:32:00Z) - Interpretable Concept-Based Memory Reasoning [12.562474638728194]
コンセプトベースのメモリリゾナー(CMR)は、人間に理解でき、検証可能なタスク予測プロセスを提供するために設計された新しいCBMである。
CMRは、最先端のCBMに対する精度-解釈可能性のトレードオフを向上し、基礎的な真実と整合した論理規則を発見し、規則の介入を可能にし、事前デプロイ検証を可能にする。
論文 参考訳（メタデータ） (2024-07-22T10:32:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。