論文の概要: Reliable AI Needs to Externalize Implicit Knowledge: A Human-AI Collaboration Perspective
- arxiv url: http://arxiv.org/abs/2605.02010v1
- Date: Sun, 03 May 2026 18:31:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:50.042813
- Title: Reliable AI Needs to Externalize Implicit Knowledge: A Human-AI Collaboration Perspective
- Title（参考訳）: 意図しない知識の外部化に必要な信頼性の高いAI:人間とAIのコラボレーションの視点
- Authors: Hengyu Liu, Tianyi Li, Zhihong Cui, Yushuai Li, Zhangkai Wu, Torben Bach Pedersen, Kristian Torp, Christian S. Jensen,
- Abstract要約: ドキュメントのコストが知覚される価値を超えるため、暗黙の知識は外用されない。
現在の信頼性手法は、ソースに対する明示的な知識のみを検証できる。
我々は、暗黙の知識を人間が検査し、検証し、支持できる形で外部化する構造化されたアーティファクト(KO)を提案する。
- 参考スコア（独自算出の注目度）: 18.284119243990062
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This position paper argues that reliable AI requires infrastructure for human validation of implicit knowledge. AI learns from both explicit knowledge (papers, documentation, structured databases) and implicit knowledge (reasoning patterns, debugging processes, intermediate steps). Implicit knowledge remains unexternalized because documentation cost exceeds perceived value -- yet AI learns from it indiscriminately, acquiring both beneficial patterns and harmful biases. Current reliability methods can only verify explicit knowledge against sources, creating a fundamental gap: the most valuable AI capabilities (reasoning, judgment, intuition) are precisely those we cannot verify. We propose Knowledge Objects (KOs) -- structured artifacts that externalize implicit knowledge into forms humans can inspect, verify, and endorse. KOs transform verification economics: what was previously too costly to verify becomes feasible, enabling accumulated human validation to improve reliability over time.
- Abstract（参考訳）: このポジションペーパーでは、信頼できるAIは暗黙の知識の人間による検証のためのインフラを必要とすると論じている。
AIは明示的な知識(紙、ドキュメント、構造化データベース)と暗黙的な知識(推論パターン、デバッグプロセス、中間ステップ)から学ぶ。
ドキュメントのコストが知覚的価値を上回るため、暗黙の知識はいまだ無意味なままである。しかし、AIはそれから無差別に学習し、有益なパターンと有害なバイアスの両方を取得する。現在の信頼性メソッドは、ソースに対する明示的な知識を検証できるだけであり、基本的なギャップを作ることができる。最も価値のあるAI能力(推論、判断、直感)は、正確には検証できないものである。我々は、Knowledge Objects (KOs) - 暗黙の知識を人間が検査、検証、承認できる形で外部化する構造化されたアーティファクトを提案する。
KOsは検証経済学を変革する:以前は検証に費用がかかりすぎたものが実現可能になり、蓄積された人間の検証によって時間とともに信頼性が向上する。
関連論文リスト
- Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - Building Trustworthy AI for Materials Discovery: From Autonomous Laboratories to Z-scores [0.09999629695552194]
AIを使用する上で重要な課題は、人間の科学者がモデルの有効性と信頼性を信頼することである。
報告された機械学習手法が一般化可能か、解釈可能か、公正か、透明か、説明可能か、堅牢か、安定かを評価する。
論文 参考訳（メタデータ） (2025-11-30T21:02:00Z) - Operationalising Extended Cognition: Formal Metrics for Corporate Knowledge and Legal Accountability [0.0]
企業知識は動的能力として再定義され、情報アクセス手順の効率によって測定できると主張している。
これらの量的指標を、実際の知識、建設的知識、力強い盲目、無謀性の法的基準にマッピングします。
論文 参考訳（メタデータ） (2025-10-17T20:03:57Z) - A Community-driven vision for a new Knowledge Resource for AI [54.6699845861346]
WordNetのような知識リソースの成功にもかかわらず、検証可能な汎用的な知識ソースは、AIインフラストラクチャにおいて重要な欠陥である。
本稿では,この知見を要約し,新しい知識基盤に向けたコミュニティ主導のビジョンを概説する。
論文 参考訳（メタデータ） (2025-06-19T20:51:28Z) - AI and the Problem of Knowledge Collapse [0.0]
特定の知識モードへのアクセスコストを削減することにより、AIが公衆の理解をパラドックス的に損なう可能性のある条件を特定する。
学習者やイノベーターのコミュニティが従来の手法を使うか、割引されたAI支援プロセスに頼るというシンプルなモデルを提供する。
我々のデフォルトモデルでは、AI生成コンテンツに対する20%の割引は、ディスカウントがない場合よりも真実から2.3倍の信条を生成する。
論文 参考訳（メタデータ） (2024-04-04T15:06:23Z) - Beyond Factuality: A Comprehensive Evaluation of Large Language Models
as Knowledge Generators [78.63553017938911]
大規模言語モデル(LLM)は、下流の知識集約タスクのための情報検索技術より優れている。
しかし、コミュニティの懸念は、この無検閲の知識を使用することの事実と潜在的意味について多岐にわたる。
本研究では,6つの重要な視点から生成した知識を評価するために設計されたCONNERを紹介する。
論文 参考訳（メタデータ） (2023-10-11T08:22:37Z) - Trustworthy AI [75.99046162669997]
入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。
我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
論文 参考訳（メタデータ） (2020-11-02T20:04:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。