論文の概要: From the Gettier Machine to Justified True Output: A Three-Step Account of Rational Trust in Generative AI
- arxiv url: http://arxiv.org/abs/2610.38112v1
- Date: Wed, 28 Oct 2026 00:49:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-01 01:32:09.933556
- Title: From the Gettier Machine to Justified True Output: A Three-Step Account of Rational Trust in Generative AI
- Title（参考訳）: ゲティティマシンから正当化された真のアウトプット:ジェネレーティブAIにおける合理的信頼の3段階的評価
- Abstract要約: 本稿は、AIによる調査の特徴的な失敗は、正真正真正銘の伝統とそのポストゲティエの反ラッキーリファインメントが診断のために構築されたものである、と論じる。
第一に、AIの出力は、先延ばしの証言令状も、決定論的ツールの信頼性の高い令状も継承しない。
第二に、出力を取得するのをやめる利用は、生成AIをGettierマシンに変える。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: As generative artificial intelligence (AI) settles into everyday practices of inquiry, an old epistemological question returns in a new guise: when does a proposition a user takes from an AI output become something the user knows, and when is it rational to trust it as such? This paper argues that the characteristic failures of AI-mediated inquiry are precisely those that the justified-true-belief (JTB) tradition and its post-Gettier anti-luck refinements were built to diagnose, and it advances three claims. First, AI outputs inherit neither the presumptive warrant of testimony nor the reliabilist warrant of deterministic tools: unaudited trust in a calculator rests on a type-level reliability record, and for general-purpose generative models there is no type-stable process to which such a record could attach -- a practical form of the generality problem. Second, use that stops at obtaining an output turns generative AI into a Gettier machine: the user's fluency-based seeming of justification is disconnected from the truth of what is believed, and, as a clock running ten times too fast illustrates, sheer speed of production multiplies coincidental hits, inflating the appearance of reliability without improving the standing of any single hit. Third, the remedy is a three-step structure of use -- acquisition, understanding, independent verification -- whose first two steps answer to the classical belief and justification conditions and whose third answers to the post-Gettier sensitivity condition. The result is a stakes-indexed criterion of rational trust, justified true output (JTO), with an everyday test: "Had this been false, would I have noticed?" The criterion is defended against objections from over-demandingness, the extended mind, model improvement, and redundancy.
- Abstract（参考訳）: 生成的人工知能(AI)が日常的な調査の慣行に落ち着くにつれ、古い認識論的疑問は、いつユーザーがAI出力から取り出す命題が、ユーザが知っているものになり、いつそれを信頼することが合理的になるのか、という新しい指針に返ってくる。
本稿は、AIによる調査の特徴的な失敗は、正真正信(JTB)の伝統と、Gettierの反ラッキーリファインメントが診断のために構築されたものであり、3つのクレームを前進させるものである、と論じる。
まず、AIの出力は、証言の前提令状も、決定論的なツールの偏見的な令状も受け継がない。電卓への信頼の欠如は、タイプレベルの信頼性記録に残っており、汎用的な生成モデルでは、そのようなレコードが付加可能なタイプ安定プロセスは存在しない -- 一般問題の実践的な形式である。
第2に、出力を得るのをやめた使用は、生成AIをGettierマシンへと変換する: ユーザのフラレンシベースの正当化の外観は、信じられている真実から切り離され、クロックが10倍の高速な図面を実行しているため、プロダクションのマーポンの正確な速度が同時にヒットし、単一のヒットの立ち位置を改善することなく、信頼性の外観を膨らませる。
第3に、この治療法は、古典的な信念と正当化条件に答える最初の2つのステップと、ゲティエ後の感受性条件に答える第3のステップである、取得、理解、独立した検証の3つのステップ構造である。
その結果は、合理的信頼、正当化された真のアウトプット(JTO)の利害関係者による基準であり、日常的なテストである。
この基準は、過度の要求、拡張された心、モデルの改善、冗長性からの反対に対して守られている。
関連論文リスト
- Reasoning-Token Spikes Under Prompted Untruthful Responses in Large Language Models [0.0]
セマンティック・チェーン・オブ・シント・モニタリングは、モデルの振る舞いを生み出す基礎となる計算に正確で忠実に依存します。
本稿では,低帯域幅の信号,すなわち推論トレースの内容にアクセスする必要のない推論トークンの数について検討する。
以上の結果から,本研究は,真理モデル行動と非本質モデル行動とを区別するための,単純かつ内容に依存しないブラックボックス候補信号として機能することの証明である。
論文 参考訳（メタデータ） (2026-10-07T16:53:11Z) - When Confidence Rises Too Early: Detecting Shortcut Reasoning via Premature Answer Commitment [76.62469105933384]
大規模言語モデル (LLM) は、ある答えにたどり着くためのショートカットを頼りにし、その決定を合理化する。
ConfLensは、推論を通じて最終的な回答における信頼の進化を追跡するフレームワークです。
本稿では,解答コミットメントに対する確率分布のエントロピーを測定するために,DACS(Distributal Answer Commitment Score)を提案する。
論文 参考訳（メタデータ） (2026-09-28T13:00:25Z) - ExplainGuard: A Zero Trust Framework for Post-Hoc Explanation Integrity Guarantees in Blackbox XAI Models [0.573978744524696]
現在の監査パラダイムは、第三者監査人が信頼されるという暗黙の「信頼の連鎖」に依存している。
近年の研究では、この仮定に欠陥があり、敵監査役がXAIの説明を操作できることが示されている。
我々は、XAI説明サプライチェーンに組み込まれるZero-Trustアーキテクチャ(ZTA)設計を利用するExplainGuardを紹介する。
論文 参考訳（メタデータ） (2026-08-22T06:52:09Z) - Framing, Judging, Steering: An Assessable Competency Model for Teach-ing Students to Reason With Generative AI [47.027290803102666]
生産的AI利用を3つの評価可能なスキルに分解する能力モデルであるCoRe-3(Co-Reasoning)を提案する。
理論上のスキルを基盤として、5つのテスト可能な提案を述べ、それらをCoReasoningLabでインスタンス化します。
人為的な合意と成果が次々に行われます。私たちは、計測器、データ、プロトコルをリリースします。
論文 参考訳（メタデータ） (2026-06-04T10:25:31Z) - Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - The Specification as Quality Gate: Three Hypotheses on AI-Assisted Code Review [0.0]
AIが生成するコード品質の問題に対する業界の主要な反応は、AIレビュアーをデプロイすることだ。
本稿では,実行可能な仕様が存在しない場合,この応答は構造的に円形であると主張している。
論文 参考訳（メタデータ） (2026-03-26T11:59:05Z) - Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。
プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
論文 参考訳（メタデータ） (2026-01-23T17:17:32Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳（メタデータ） (2026-01-22T07:16:26Z) - Understanding Critical Thinking in Generative Artificial Intelligence Use: Development, Validation, and Correlates of the Critical Thinking in AI Use Scale [1.0946458347622612]
本研究はAI利用における批判的思考を,AI生成情報の源泉と内容の検証のための配置傾向として概念化する。
我々は,AI利用尺度における13項目の批判的思考を開発し,そのノモロジカルネットワークをマッピングした。
研究3と4では、AI使用における批判的思考が、開放性、外向性、ポジティブな特性の影響、AI使用頻度に肯定的な関連があることが明らかにされた。
論文 参考訳（メタデータ） (2025-12-13T17:56:12Z) - Latent Veracity Inference for Identifying Errors in Stepwise Reasoning [78.29317733206643]
本稿では、精度割当てに対する離散探索アルゴリズムであるVeracity Search(VS)を紹介する。
その他の方法では、後続の精度値よりも後続の分布において難解な推論を行う。
VSを一般化し、新しいコンテキストで正確なゼロショットの精度推論を可能にする。
論文 参考訳（メタデータ） (2025-05-17T04:16:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。