論文の概要: Towards A Litmus Test for Common Sense

• arxiv url: http://arxiv.org/abs/2501.09913v1
• Date: Fri, 17 Jan 2025 02:02:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-20 13:59:52.961488
• Title: Towards A Litmus Test for Common Sense
• Title（参考訳）: Litmus Test for Common Sense に向けて
• Authors: Hugo Latapie,
• Abstract要約: この論文は、安全で有益な人工知能への道を構想するシリーズの第2弾となる。 我々は,最小の事前知識制約と対角的あるいはゴドネル的な議論を組み合わせた公理的アプローチを用いて,より形式的なリトマステストを提案する。
• 参考スコア（独自算出の注目度）: 5.280511830552275
• License:
• Abstract: This paper is the second in a planned series aimed at envisioning a path to safe and beneficial artificial intelligence. Building on the conceptual insights of "Common Sense Is All You Need," we propose a more formal litmus test for common sense, adopting an axiomatic approach that combines minimal prior knowledge (MPK) constraints with diagonal or Godel-style arguments to create tasks beyond the agent's known concept set. We discuss how this approach applies to the Abstraction and Reasoning Corpus (ARC), acknowledging training/test data constraints, physical or virtual embodiment, and large language models (LLMs). We also integrate observations regarding emergent deceptive hallucinations, in which more capable AI systems may intentionally fabricate plausible yet misleading outputs to disguise knowledge gaps. The overarching theme is that scaling AI without ensuring common sense risks intensifying such deceptive tendencies, thereby undermining safety and trust. Aligning with the broader goal of developing beneficial AI without causing harm, our axiomatic litmus test not only diagnoses whether an AI can handle truly novel concepts but also provides a stepping stone toward an ethical, reliable foundation for future safe, beneficial, and aligned artificial intelligence.
• Abstract（参考訳）: この論文は、安全で有益な人工知能への道を構想するシリーズの第2弾となる。 共通センスがすべて必要である」の概念的洞察に基づいて、我々は、エージェントの既知の概念を超えたタスクを作成するために、最小の事前知識(MPK)制約と対角的またはゴデル的な議論を組み合わせた公理的アプローチを採用する、より形式的なリトマステスト(common sense is All You Need)を提案する。 本稿では,この手法が Abstraction and Reasoning Corpus (ARC) にどのように適用されるか,トレーニング/テストデータ制約,物理的あるいは仮想的な実施,および大規模言語モデル (LLM) について論じる。 我々はまた、より有能なAIシステムが意図的に、実証可能で誤解を招くアウトプットを、知識ギャップを偽装するために作ることができるような、創発的認知幻覚に関する観察を統合する。 網羅的なテーマは、一般的な感覚のリスクを保証せずにAIをスケールすることで、そのような偽りの傾向を強化し、それによって安全性と信頼を損なうことである。 我々の公理的リトマステストは、AIが真に新しい概念を扱えるかどうかを診断するだけでなく、将来安全で有益な人工知能のための倫理的で信頼性の高い基盤への一歩となる。

関連論文リスト

• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  AIシステムは知恵を欠いている。 AI研究はタスクレベルの戦略に焦点を当てているが、メタ認知はAIシステムでは未発達である。 メタ認知機能をAIシステムに統合することは、その堅牢性、説明可能性、協力性、安全性を高めるために不可欠である。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Converging Paradigms: The Synergy of Symbolic and Connectionist AI in LLM-Empowered Autonomous Agents [55.63497537202751]
  コネクショニストと象徴的人工知能(AI)の収束を探求する記事 従来、コネクショナリストAIはニューラルネットワークにフォーカスし、シンボリックAIはシンボリック表現とロジックを強調していた。 大型言語モデル(LLM)の最近の進歩は、人間の言語をシンボルとして扱う際のコネクショナリストアーキテクチャの可能性を強調している。
  論文  参考訳（メタデータ） (2024-07-11T14:00:53Z)
• Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
  エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。 本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
  論文  参考訳（メタデータ） (2024-02-28T16:09:56Z)
• Explainable AI for Safe and Trustworthy Autonomous Driving: A Systematic Review [12.38351931894004]
  本稿では,安全かつ信頼性の高い自動運転のための説明可能な手法に関する,最初の体系的な文献レビューを紹介する。 我々は、ADにおける安全で信頼性の高いAIに対するXAIの5つの重要な貢献を特定し、それらは解釈可能な設計、解釈可能な代理モデル、解釈可能なモニタリング、補助的な説明、解釈可能な検証である。 我々は、これらのコントリビューションを統合するためにSafeXと呼ばれるモジュラーフレームワークを提案し、同時にAIモデルの安全性を確保しながら、ユーザへの説明提供を可能にした。
  論文  参考訳（メタデータ） (2024-02-08T09:08:44Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Circumventing interpretability: How to defeat mind-readers [0.0]
  ミスアライメントされた人工知能は 思考の理解を難しくする 集中的なインセンティブを持つでしょう 有能なAIがスケーラブルな解釈可能性手法を回避できる多くの方法について議論し、これらの潜在的な将来のリスクについて考えるためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-21T23:52:42Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Modelos din\^amicos aplicados \`a aprendizagem de valores em intelig\^encia artificial [0.0]
  この地域の数人の研究者が、人間と環境の保存のための堅牢で有益な、安全なAIの概念を開発した。 人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。 おそらくこの難しさは、認知的手法を使って価値を表現するという問題に対処する方法から来ています。
  論文  参考訳（メタデータ） (2020-07-30T00:56:11Z)
• Dynamic Cognition Applied to Value Learning in Artificial Intelligence [0.0]
  この分野の数人の研究者が、堅牢で有益で安全な人工知能の概念を開発しようとしている。 人工知能エージェントが人間の価値観に合わせた価値を持っていることは、最も重要である。 この問題に対する可能なアプローチは、SEDのような理論モデルを使用することである。
  論文  参考訳（メタデータ） (2020-05-12T03:58:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。