論文の概要: Do Neurons Dream of Primitive Operators? Wake-Sleep Compression Rediscovers Schank's Event Semantics
- arxiv url: http://arxiv.org/abs/2603.25975v1
- Date: Thu, 26 Mar 2026 23:35:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-30 21:49:48.313013
- Title: Do Neurons Dream of Primitive Operators? Wake-Sleep Compression Rediscovers Schank's Event Semantics
- Title(参考訳): ニューロンはプリミティブ・オペレーターを夢見るか? ウォーク・スリープ・コンプレッション・リスコバーズ・シャンクのイベント・セマンティックス
- Authors: Peter Balogh,
- Abstract要約: シャンクの概念的依存論は、全ての事象は原始的操作に分解すると主張した。
私たちはDreamCoderのウェイクスリープライブラリ学習をイベント状態変換に適用します。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We show that they do. Schank's conceptual dependency theory proposed that all events decompose into primitive operations -- ATRANS, PTRANS, MTRANS, and others -- hand-coded from linguistic intuition. Can the same primitives be discovered automatically through compression pressure alone? We adapt DreamCoder's wake-sleep library learning to event state transformations. Given events as before/after world state pairs, our system finds operator compositions explaining each event (wake), then extracts recurring patterns as new operators optimized under Minimum Description Length (sleep). Starting from four generic primitives, it discovers operators mapping directly to Schank's: MOVE_PROP_has = ATRANS, CHANGE_location = PTRANS, SET_knows = MTRANS, SET_consumed = INGEST, plus compound operators ("mail" = ATRANS + PTRANS) and novel emotional state operators absent from Schank's taxonomy. We validate on synthetic events and real-world commonsense data from the ATOMIC knowledge graph. On synthetic data, discovered operators achieve Bayesian MDL within 4% of Schank's hand-coded primitives while explaining 100% of events vs. Schank's 81%. On ATOMIC, results are more dramatic: Schank's primitives explain only 10% of naturalistic events, while the discovered library explains 100%. Dominant operators are not physical-action primitives but mental and emotional state changes -- CHANGE_wants (20%), CHANGE_feels (18%), CHANGE_is (18%) -- none in Schank's original taxonomy. These results provide the first empirical evidence that event primitives can be derived from compression pressure, that Schank's core primitives are information-theoretically justified, and that the complete inventory is substantially richer than proposed -- with mental/emotional operators dominating in naturalistic data.
- Abstract(参考訳): 私たちは彼らがそうしていることを示します。
シャンクの概念的依存論は、全ての事象は、言語的直観から手書きで、原始的な操作(ATRANS、PTRANS、MTRANSなど)に分解すると主張した。
同じプリミティブは、圧縮圧力だけで自動的に発見できますか?
私たちはDreamCoderのウェイクスリープライブラリ学習をイベント状態変換に適用します。
我々のシステムは,前/後の世界状態ペアとしてイベントが与えられた場合,各イベントを説明する演算子構成(覚醒)を検出し,最小記述長(sleep)で最適化された新たな演算子として繰り返しパターンを抽出する。
MOVE_PROP_has = ATRANS, CHANGE_location = PTRANS, SET_knows = MTRANS, SET_consumed = INGEST, さらに複合演算子 (mail" = ATRANS + PTRANS) と、シャンクの分類から欠落した新しい感情状態演算子。
ATOMICナレッジグラフから合成事象と実世界のコモンセンスデータを検証した。
合成データでは、発見された作用素は、シャンクの手書きプリミティブの4%以内でベイズ的MDLを達成し、シャンクの81%に対して100%の事象を説明する。
シャンクのプリミティブは自然主義的な出来事の10%しか説明していないが、発見された図書館は100%しか説明していない。
支配的なオペレーターは、身体的なプリミティブではなく、心的および感情的な状態の変化 -- CHANGE_wants (20%)、CHANGE_feels (18%)、CHANGE_is (18%) -- である。
これらの結果は、イベントプリミティブが圧縮圧力から導出可能であること、シャンクの中核プリミティブが情報理論的に正当化されていること、そして完全なインベントリは、自然主義的なデータで支配されるメンタル/感情的なオペレーターによって提案されたよりもかなりリッチであることを示す最初の実証的な証拠を提供する。
関連論文リスト
- Can We Test Consciousness Theories on AI? Ablations, Markers, and Robustness [0.0]
我々は、意識理論をテストするために、合成神経現象学アプローチを用いる。
3つの実験において,これらの理論が相補的な機能的層を記述していることを示す解離を報告した。
GWTはブロードキャスト能力を提供し、HOTは品質管理を提供します。
論文 参考訳(メタデータ) (2025-12-22T08:52:07Z) - Syno: Structured Synthesis for Neural Operators [1.5826646053411249]
我々は,実用的なニューラル演算子合成を実現するために,エンドツーエンドのフレームワークであるSynoを開発した。
Synoは、さまざまなハードウェアとコンパイラの選択に対して、平均スピードアップが1.37時間$から2.06時間$のより良い演算子を見つけることを実証している。
論文 参考訳(メタデータ) (2024-10-31T09:00:24Z) - Towards Faster k-Nearest-Neighbor Machine Translation [51.866464707284635]
k-nearest-neighbor 機械翻訳アプローチは、トークンをデコードする際に、データストア全体の重い検索オーバーヘッドに悩まされる。
ニューラルネットワークの翻訳モデルとkNNが生成する確率によってトークンが共同で翻訳されるべきかどうかを予測するための,単純で効果的な多層パーセプトロン(MLP)ネットワークを提案する。
本手法は,翻訳品質をわずかに低下させることなく,kNN検索のオーバーヘッドを最大53%削減する。
論文 参考訳(メタデータ) (2023-12-12T16:41:29Z) - LipSim: A Provably Robust Perceptual Similarity Metric [56.03417732498859]
敵攻撃に対するViTベースの特徴抽出器のアンサンブルに基づく,最先端の知覚的類似度指標の脆弱性を示す。
次に、証明可能な保証とともに、LipSimと呼ばれる堅牢な知覚的類似度メトリックをトレーニングするためのフレームワークを提案する。
LipSimは、各データポイント周辺の保護された領域と、$ell$ ball内のすべての摂動の証明書を提供する。
論文 参考訳(メタデータ) (2023-10-27T16:59:51Z) - Keep Your Friends Close and Your Counterfactuals Closer: Improved
Learning From Closest Rather Than Plausible Counterfactual Explanations in an
Abstract Setting [6.883906273999368]
対実的説明(CFE)は、モデル入力の変更が特定の方法でその予測を変更したことを強調している。
近年の革新は、自動生成されたCFEに対する計算可能性の概念を導入している。
初級ユーザを対象とした反復学習設計において,計算可能なCFEの客観的および主観的ユーザビリティを評価する。
論文 参考訳(メタデータ) (2022-05-11T14:07:57Z) - Robust Deep Learning from Crowds with Belief Propagation [6.643082745560235]
ワーカとタスク間のローカル依存関係を表すグラフィカルモデルは、ノイズの多い回答から真のラベルを推論する原則的な方法を提供する。
多くの場合、本当のラベルではなく、クラウドソースされたデータセットから直接、目に見えないデータに取り組んでいる予測モデルが必要です。
本稿では,ニューラルネットワークがタスク特徴から真のラベルを生成する新しいデータ生成プロセスを提案する。
論文 参考訳(メタデータ) (2021-11-01T07:20:16Z) - A Scaling Law for Synthetic-to-Real Transfer: A Measure of Pre-Training [52.93808218720784]
合成から現実への変換学習は,実タスクのための合成画像と接地真実アノテーションを用いた事前学習を行うフレームワークである。
合成画像はデータの不足を克服するが、事前訓練されたモデルで微調整性能がどのようにスケールするかは定かではない。
我々は、合成事前学習データの様々なタスク、モデル、複雑さにおける学習曲線を一貫して記述する、単純で一般的なスケーリング法則を観察する。
論文 参考訳(メタデータ) (2021-08-25T02:29:28Z) - Understanding Self-supervised Learning with Dual Deep Networks [74.92916579635336]
本稿では,2組の深層ReLUネットワークを用いたコントラスト型自己教師学習(SSL)手法を理解するための新しい枠組みを提案する。
種々の損失関数を持つSimCLRの各SGD更新において、各層の重みは共分散演算子によって更新されることを示す。
共分散演算子の役割と、そのようなプロセスでどのような特徴が学習されるかをさらに研究するために、我々は、階層的潜在木モデル(HLTM)を用いて、データ生成および増大過程をモデル化する。
論文 参考訳(メタデータ) (2020-10-01T17:51:49Z) - Noisy Agents: Self-supervised Exploration by Predicting Auditory Events [127.82594819117753]
本稿では, エージェントが行動の因果的影響を理解することを奨励する, 強化学習(Reinforcement Learning, RL)の本質的なモチベーションを提案する。
ニューラルネットワークを用いて聴覚事象を予測し、予測誤差を本質的な報奨として利用し、RL探索を誘導する。
Atariゲームの実験結果から、我々の新しい本質的な動機は、最先端のベースラインを著しく上回ることがわかった。
論文 参考訳(メタデータ) (2020-07-27T17:59:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。