論文の概要: Bongard: Training Machine Intuition
- arxiv url: http://arxiv.org/abs/2609.39111v1
- Date: Wed, 30 Sep 2026 06:48:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.295552
- Title: Bongard: Training Machine Intuition
- Title(参考訳): Bongard: トレーニングマシンの直感
- Abstract要約: Bongardは、マシンの直感を設計とトレーニングの独立した能力として扱う、オープンウェイトなSystem Oneモデルである。
T5Gemma 2 4B-4Bエンコーダデコーダは、証拠を読むことと判断することとを分離する。
訓練されたヘッドは、テキストを生成することなく、供給された候補に対して確率を返す。
- 参考スコア(独自算出の注目度): 7.297514014595282
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Human intelligence relies heavily on learned intuition: recognising patterns and judging situations without explicitly unfolding every intermediate step. We introduce Bongard, an open-weight System One model that treats machine intuition as an independent capability to design and train. A T5Gemma 2 4B-4B encoder-decoder separates reading the evidence from making judgments. The encoder reads the state bidirectionally together with the question instructions, and separate decoder branches share this encoding, so many judgments about the same situation require only one reading of the state. A trained head returns probabilities over the supplied candidates without generating text. Training proceeds in three stages, from supervised judgments to semantic relationships to action outcomes, and each stage updates all 7.09 billion trainable parameters on one Blackwell GPU. Joint-embedding post-training raises accuracy on held-out rephrasings from 75.7% to 85.9%. A sandbox stage then learns outcome distributions from action rollouts and exact oracles, raising accuracy on a frozen sandbox panel from 50.6% to 64.8%. On DecisionBench, the final model reaches 78.05% accuracy over 23,900 decisions and ranks fourth of 61 systems in the public comparison. On one RTX PRO 6000, its median latency is 36 ms for short requests, and 32 questions about one state take 221 ms. Bongard demonstrates that machine intuition can be systematically trained via representation learning and outcome feedback, providing an open, efficient alternative for high-throughput decision workloads.
- Abstract(参考訳): 人間の知性は学習した直感に大きく依存する: パターンを認識し、すべての中間ステップを明示的に広げることなく状況を判断する。
マシンの直感を設計とトレーニングの独立した能力として扱う,オープンウェイトなSystem OneモデルであるBongardを紹介します。
T5Gemma 2 4B-4Bエンコーダデコーダは、証拠を読むことと判断することとを分離する。
エンコーダは、質問命令とともに状態を双方向に読み出し、分離されたデコーダブランチは、このエンコードを共有するため、同じ状況に関する多くの判断は、状態の読み取りを1つだけ要求する。
訓練されたヘッドは、テキストを生成することなく、供給された候補に対して確率を返す。
トレーニングは、教師付き判断からセマンティックリレーション、アクション結果、各ステージは1つのBlackwell GPU上で790億のトレーニング可能なパラメータを更新する。
共同埋め込み後トレーニングでは、保留中のリフレージングの精度が75.7%から85.9%に向上する。
サンドボックスステージは、アクションロールアウトと正確なオラクルから結果の分布を学習し、凍結したサンドボックスパネルの精度を50.6%から64.8%に上げる。
DecisionBenchでは、最終モデルは23,900以上の精度で78.05%に達し、一般比較では61のシステムのうち4位にランクインしている。
1つのRTX PRO 6000では、中央値のレイテンシが36ミリ秒で、ある状態に関する32の質問は221ミリ秒である。Bongard氏は、マシン直感は表現学習と結果フィードバックを通じて体系的にトレーニングされ、高スループットの意思決定ワークロードに対するオープンで効率的な代替手段を提供することを示した。
関連論文リスト
- Learn Now, Use Next, Trust Later: Prequential Test-Time Learning for LLM Agents [55.440058537827134]
StepLearnは、永続的な信頼から即時の使用を分離する非パラメトリックフレームワークである。
情報的な遷移を仮説に変え、次のステップを導く。
GPT-5-miniでの平均成功率は59.9%、84.0%、Qwen3.5-35B-A3Bで57.8%、88.1%である。
論文 参考訳(メタデータ) (2026-09-28T08:06:03Z) - JET: Justification Evaluation in Transformer [0.0]
JETは、事前訓練された言語とビジョン言語モデルを使用して、追加のトレーニングなしで、有限の回答の中から選択する。
Qwen3.6-35B-A3Bは完全なMMLUテストセットで87.48%の精度を達成し、別途MMLUサブセットで毎秒3.69リクエストを処理している。
論文 参考訳(メタデータ) (2026-09-27T19:50:08Z) - Greedy Decoding Is Not Precision-Invariant: Cross-Precision Output Divergence in LLM Inference [13.137699166830322]
大規模言語モデルからのグレディ復号は、一般に決定論的として扱われる。
同一のモデル,プロンプト,デコードアルゴリズムは同一のハードウェア上で,BF16とFP16の異なる出力を生成する。
実験により,22層に蓄積したボディーエラーは,浮動小数点数と浮動小数点数とを区別しないことがわかった。
論文 参考訳(メタデータ) (2026-09-22T15:54:16Z) - NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness [76.6324710887112]
NeoHorse-1は、エージェントのポストトレーニングを通じてこの経路を探索するために開発されたエージェントネイティブモデルのファミリーである。
本システムでは,異種モデルプールとインテリジェントなルーティング,予測能力要求,選択されたサービス層,およびその後のユーザ毎のインタラクションを結合する。
論文 参考訳(メタデータ) (2026-09-08T03:14:54Z) - Sampling headroom is not selection gain: a compute-value audit of test-time scaling for video world models [34.20907662027954]
テストタイムスケーリングは、より多くの計算がより良い候補を生成する場合にのみ生成を改善することができ、システムはそれらを確実に識別できる。
我々は,余分なサンプリングが機会を生み出すかどうかを問う連続的なフレームワークであるCompute-Value Audit(CVA)を紹介する。
192の物理IQのシーンでは、プールを4から16の候補に拡張すると、オラクルの品質は+9.23 IQ向上する。
12のアダプティブ・ディープス・ポリシーは、均一な計算よりも優れておらず、測定されたエントリー料金の42-69%しか回復しない。
論文 参考訳(メタデータ) (2026-09-06T06:11:15Z) - Efficient Visual Pointing for Embodied AI:Agent-Driven Data Synthesis, Cross-Block Attention, and Iterative Correction [55.11480729304395]
PointArena 2026は77.2%の精度でベンチマークで2位である。
ap proachは3つの障害モードをターゲットにしている。第一に、エージェント駆動のシンセシスは大きなセマンティクスとアンカー相対的な候補プールを構築する。
次に、determinis tic steerable-dataパイプラインは、認証された10,000サンプルのメインセットと、マスク、テンプレート、パス検証を使用するリザーブサンプルを生成する。
論文 参考訳(メタデータ) (2026-06-29T06:39:03Z) - Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search [50.16356451328644]
シャノン型エントロピーの不等式を証明することは情報理論の基本的な課題である。
我々は,原子実証のステップを微調整した小規模大規模言語モデルがこのプロセスを自動化することができるか検討する。
GPT-5.5は0ショットプロンプトで1.7%のサンプルを解き、Psitipは33.3%のサンプルを解いた。
論文 参考訳(メタデータ) (2026-06-04T05:43:12Z) - dVoting: Fast Voting for dLLMs [71.572316901001]
拡散大言語モデル(dLLMs)は自己回帰モデリングを超えた新しいパラダイムである。
dLLMは任意の位置で任意のトークンを並列に生成できるため、並列テストタイムスケーリングには大きな可能性がある。
トレーニングなしで推論能力を高める高速投票手法であるdVotingを導入する。
論文 参考訳(メタデータ) (2026-02-12T16:35:05Z) - Alexa Teacher Model: Pretraining and Distilling Multi-Billion-Parameter
Encoders for Natural Language Understanding Systems [63.713297451300086]
本研究では,700Mから9.3Bまでの非埋め込みパラメータ数を持つ事前学習エンコーダの大規模実験結果について述べる。
その後、17M-170Mパラメータからより小さなモデルに蒸留し、仮想アシスタントシステムの自然言語理解(NLU)コンポーネントに応用した。
論文 参考訳(メタデータ) (2022-06-15T20:44:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。