論文の概要: Correctness, confidence, and context: Framing software assurance in the AI age
- arxiv url: http://arxiv.org/abs/2607.04667v1
- Date: Mon, 06 Jul 2026 04:49:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:30.038221
- Title: Correctness, confidence, and context: Framing software assurance in the AI age
- Title（参考訳）: 正確性、信頼、コンテキスト:AI時代のソフトウェア保証を判断する
- Authors: Mary Shaw,
- Abstract要約: 十分な情報があれば、正しさへの道のりを理にかなっている、という考え方に依然として固執しています。
従来のソフトウェアエンジニアリングは厳格な推論、ドメイン知識、専門家の判断を通じて信頼を確立する。
生成AIの結果は洗練された予測であり、ヴァリアントの言葉は「おそらくほぼ正しい」。
- 参考スコア（独自算出の注目度）: 8.05458491503507
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Software engineering has a complicated relationship with "correctness". We recognize the challenges of full formal rigor as well as many required properties beyond functional correctness. Although we satisfice in practice, we are still stuck in the mindset that we could reason our way to correctness, if only we had enough information. Generative AI has introduced a new dimension to assurances: its foundation is statistical rather than formal. Traditional software engineering establishes confidence through rigorous reasoning, domain knowledge and expert judgment. In contrast, generative AI's results are sophisticated predictions, in Valiant's words "probably approximately correct". This inherently limits assurances about the results are to probabilistic assertions. Further, the nuances and implicit associations that guide human judgment are not accessible to its training sets, so that tacit knowledge cannot be incorporated in its models. We have many approaches for developing assurances that a software system does what it's expected to do, though most of them focus on the specification of the code rather than the requirements for the system, let alone fitness for purpose. We have failed to develop a systematic understanding of the relative merits of the various approaches. I hope that generative AI will finally force us to tackle this. To that end, I will challenge us to think systematically about our assurance techniques. We need ways to make informed, reasoned choices about cost-effective combinations of approaches to devel-oping confidence in our systems. We call ourselves software engineers. Let's act like engineers.
- Abstract（参考訳）: ソフトウェア工学は「正確性」と複雑な関係を持つ。
我々は、完全な形式的な厳密さの課題と、機能的正しさを超える多くの要求特性を認識している。
私たちは実際は満足していますが、十分な情報さえあれば、正しさへの道のりを推論できるという考え方に固執しています。
生成AIは新しい次元を導入し、その基盤は形式ではなく統計的である。
従来のソフトウェアエンジニアリングは厳格な推論、ドメイン知識、専門家の判断を通じて信頼を確立する。
対照的に、生成AIの結果は洗練された予測であり、ヴァリアントの言葉は「おそらくほぼ正しい」。
この結果に関する保証を本質的に制限するのは確率論的主張である。
さらに、人間の判断を導くニュアンスや暗黙の関連は、トレーニングセットにはアクセスできないため、暗黙の知識をモデルに組み込むことはできない。
ソフトウェアシステムが期待通りに行うことを保証するための多くのアプローチがありますが、そのほとんどは、システムの要件ではなく、コードの仕様に重点を置いています。
我々は,様々なアプローチの相対的なメリットを体系的に理解することに失敗した。
生成型AIが最終的にこれに取り組むことを強いられることを願っています。
そのために、保証技術について体系的に考えることに挑戦します。
システムに対する信頼性を損なうための、コスト効率の良いアプローチの組み合わせについて、インフォームドで合理的な選択をする方法が必要です。
私たちは自らをソフトウェアエンジニアと呼んでいます。
エンジニアのように振舞いましょう。
関連論文リスト
- AI as a Partner in Learning about, Doing, and Engaging with Science: Vigilance as the Key to Productive Augmentation [0.0]
科学教育ではすでに警戒が呼びかけられているが、AIのケースでは特定されていない。
統合された概念知識指導は、深層処理のみで形を育むことを目的としている。
不均一に配布されているため、AIの統合は、より良い準備が整った学生と低い学生のギャップを広げる可能性が高い。
論文 参考訳（メタデータ） (2026-06-15T15:06:53Z) - Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。
本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
論文 参考訳（メタデータ） (2026-05-04T14:26:28Z) - Mitigating "Epistemic Debt" in Generative AI-Scaffolded Novice Programming using Metacognitive Scripts [0.0]
制限のないAIは、初心者にスキーマ形成に必要な固有の認知負荷をアウトソースするように促す。
成功しているビブコーダが自然に自己スケーリングを行い、契約者ではなくコンサルタントとしてAIを扱います。
今後の学習システムは,保守不能なコードの大量生産を防止するためにメタ認知摩擦を強制する必要がある。
論文 参考訳（メタデータ） (2026-02-22T21:25:04Z) - Beyond Statistical Learning: Exact Learning Is Essential for General Intelligence [59.07578850674114]
音の誘惑的推論は、一般知能の必然的に望ましい側面である。
もっとも先進的なフロンティアシステムでさえ、定期的かつ一貫して容易に解決可能な推論タスクに干渉していることは、よく文書化されている。
彼らの不健全な振る舞いは、彼らの発展を支えている統計的学習のアプローチの結果である、と我々は主張する。
論文 参考訳（メタデータ） (2025-06-30T14:37:50Z) - Probabilistic Artificial Intelligence [42.59649764999974]
インテリジェンスの主な側面は、予測を行うだけでなく、これらの予測の不確実性について推論し、決定を行うときにこの不確実性を考慮することである。
データ不足による「緊急的」不確実性と「アラート的」不確実性との区別について論じる。
論文 参考訳（メタデータ） (2025-02-07T14:29:07Z) - Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。
AIシステムは特にメタ認知に苦しむ。
スマートAIのベンチマーク、トレーニング、実装について論じる。
論文 参考訳（メタデータ） (2024-11-04T18:10:10Z) - Generation Probabilities Are Not Enough: Uncertainty Highlighting in AI Code Completions [54.55334589363247]
本研究では,不確実性に関する情報を伝達することで,プログラマがより迅速かつ正確にコードを生成することができるかどうかを検討する。
トークンのハイライトは、編集される可能性が最も高いので、タスクの完了が早くなり、よりターゲットを絞った編集が可能になることがわかりました。
論文 参考訳（メタデータ） (2023-02-14T18:43:34Z) - Never trust, always verify : a roadmap for Trustworthy AI? [12.031113181911627]
我々はAIベースのシステムのコンテキストにおける信頼を検証し、AIシステムが信頼に値するものとなることの意味を理解する。
我々は、AIに対する信頼(resp. zero-trust)モデルを提案し、AIシステムの信頼性を保証するために満足すべき特性のセットを提案する。
論文 参考訳（メタデータ） (2022-06-23T21:13:10Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。