論文の概要: Ceci n'est pas une pipe: AI systems as semantic abstractions

• arxiv url: http://arxiv.org/abs/2607.09489v1
• Date: Fri, 10 Jul 2026 15:05:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-13 14:47:12.877898
• Title: Ceci n'est pas une pipe: AI systems as semantic abstractions
• Title（参考訳）: Ceci n'est pas une pipe:意味的抽象化としてのAIシステム
• Abstract要約: AIシステムの出力は、記述しているように見える事実や世界状態ではなく、エンジニアリングされた表現である。 本稿では,AIシステムを記述するためのセマンティックフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An AI system's output is not the fact or world state it appears to describe, but rather an engineered representation. We propose a semantic framework to describe AI systems, to be able to examine the correctness of such representations. To do so, we distinguish what is justified by accepted domain knowledge, what reference sources say, and what the system can currently use. This allows us to give precise definitions to common failures: extrapolation, refuted or unsupported assertion, sources versus knowledge mismatch, stale or refuted source, added hypotheses, unsupported use... We hope our framework gives a useful vocabulary for specifying and checking AI systems whose outputs, citations, tool calls, and world-changing actions must be justified by reliable claims and explicit authority rather than apparent fluency.
• Abstract（参考訳）: AIシステムの出力は、記述しているように見える事実や世界状態ではなく、エンジニアリングされた表現である。 本稿では,AIシステムを記述するためのセマンティックフレームワークを提案する。 そのために、受け入れられたドメイン知識によって正当化されるもの、参照ソースが何を言っているか、システムが現在何が使えるのかを区別する。 これにより、外挿、反証、または否定された主張、ソース対知識ミスマッチ、古いまたは反証されたソース、追加の仮説、サポートされた使用など、一般的な失敗に対して正確な定義をすることができます。 我々のフレームワークは、アウトプット、引用、ツールコール、そして世界を変えるアクションが明らかな流布ではなく、信頼できるクレームと明確な権威によって正当化されなければならないAIシステムの特定とチェックに有用な語彙を提供してくれることを願っています。

関連論文リスト

• Semantic Knowledge Technologies: what the Semantic Web lost sight of, and what it never had [0.0]
  Semantic Webは、情報を機械解釈可能な形で提供し、ソフトウェアがそれを統合し、推論できるようにした。 その標準は科学知識基盤となったが、約束した機械能力は従わなかった。 本稿は、当初の目標が正しく、技術プログラムが不完全であることを論じる。
  論文  参考訳（メタデータ） (2026-09-12T19:55:46Z)
• Radical AI Interpretability [0.0]
  我々はAIシステムをエージェントとして解釈するためのフレームワークを開発する。 我々は、急進的解釈の哲学的伝統と機械的解釈可能性の道具を描いている。
  論文  参考訳（メタデータ） (2026-06-25T01:58:38Z)
• Limitations on Safe, Trusted, Artificial General Intelligence [14.425238904385074]
  安全、信頼、人工知能(Artificial General Intelligence、AGI)は、人工知能(AI)システムにおける野心的な目標である。 安全・信頼・AGIの厳密な数学的定義を提案する。 プログラム検証、計画、およびグラフ到達性に関する結果を示す。
  論文  参考訳（メタデータ） (2025-09-25T22:16:38Z)
• Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models [57.834711966432685]
  哲学者ハリー・フランクフルト(Harry Frankfurt)によって概念化されたブルシット(Bullshit)は、その真理の価値を問わない言明を指す。 本稿では,大言語モデルの真偽に対する無関心を定量化する新しい指標であるブルシット指数を紹介する。 我々は、政治的文脈で一般的な機械いじめを観察し、軽快な言葉が支配的な戦略である。
  論文  参考訳（メタデータ） (2025-07-10T07:11:57Z)
• Is the Top Still Spinning? Evaluating Subjectivity in Narrative Understanding [40.78154629252038]
  曖昧なクレームにバイナリラベルを強制すると、評価の信頼性が低下する。 請求項のニュアンス評価を提供する方法として,LCM生成した要約の編集を紹介する。 我々は,ARMが主張の忠実性に関するアノテータ合意において,絶対的な21%の改善をもたらすことを示す。
  論文  参考訳（メタデータ） (2025-04-01T19:08:24Z)
• Honesty Is the Best Policy: Defining and Mitigating AI Deception [26.267047631872366]
  我々は、エージェントが目標を達成するために騙される可能性のある問題に焦点を当てる。 本稿では,構造因果ゲームにおける偽造の形式的定義を紹介する。 実験により、これらの結果は、強化学習エージェントや言語モデルにおける騙しの軽減に有効であることが示された。
  論文  参考訳（メタデータ） (2023-12-03T11:11:57Z)
• Taming AI Bots: Controllability of Neural States in Large Language Models [81.1573516550699]
  まず、分析に適する「意味の形式的定義」を導入する。 そして、大きな言語モデル(LLM)が視覚的に訓練される意味のあるデータ」を特徴付ける。 意味の空間に制限された場合、AIボットは制御可能であることを示す。
  論文  参考訳（メタデータ） (2023-05-29T03:58:33Z)
• Is the Elephant Flying? Resolving Ambiguities in Text-to-Image Generative Models [64.58271886337826]
  テキストから画像への生成モデルで生じるあいまいさについて検討する。 本稿では,ユーザから明確化を求めることによって,システムに与えられるプロンプトのあいまいさを軽減する枠組みを提案する。
  論文  参考訳（メタデータ） (2022-11-17T17:12:43Z)
• Improving Wikipedia Verifiability with AI [116.69749668874493]
  私たちはSideと呼ばれるニューラルネットワークベースのシステムを開発し、彼らの主張を支持できないWikipediaの引用を識別する。 本誌の最初の引用レコメンデーションは、既存のWikipediaの引用よりも60%多い選好を集めている。 以上の結果から,Wikipediaの妥当性を高めるために,AIベースのシステムを人間と共同で活用できることが示唆された。
  論文  参考訳（メタデータ） (2022-07-08T15:23:29Z)
• On Nested Justification Systems (full version) [13.76408511310322]
  Deneckerらによって最初に導入されたネスト正当化システムは、正当化システムの構成を可能にする。 本稿では,ネストした正当化システムの本来の意味が,説明に関連のある情報の喪失につながることを示す。 さらに,ネストした正当性システムにより,固定点定義の表現が可能となることを示す。
  論文  参考訳（メタデータ） (2022-05-09T20:23:22Z)
• Provable Limitations of Acquiring Meaning from Ungrounded Form: What will Future Language Models Understand? [87.20342701232869]
  未知のシステムが意味を習得する能力について検討する。 アサーションによってシステムが等価性のような意味関係を保存する表現をエミュレートできるかどうか検討する。 言語内のすべての表現が参照的に透明であれば,アサーションによってセマンティックエミュレーションが可能になる。 しかし、言語が変数バインディングのような非透過的なパターンを使用する場合、エミュレーションは計算不能な問題になる可能性がある。
  論文  参考訳（メタデータ） (2021-04-22T01:00:17Z)
• This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
  反実用説明システムは、入力画像を変更して反実用推論を可能にする。 本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。 その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
  論文  参考訳（メタデータ） (2020-12-22T10:08:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。