論文の概要: Blackboard Intelligence Can Surpass Autoregressive on Globally Constrained Problems
- arxiv url: http://arxiv.org/abs/2609.38806v2
- Date: Thu, 01 Oct 2026 08:17:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.544224
- Title: Blackboard Intelligence Can Surpass Autoregressive on Globally Constrained Problems
- Title(参考訳): ブラックボードのインテリジェンスは、世界的制約のある問題に対して自己回帰を回避できる
- Abstract要約: 我々は,次世代の予測が,複雑なグローバル制約によって支配される問題に苦しむことができるかどうかを考察する。
我々は、このアイデアを拡散言語モデルでインスタンス化し、任意の順序予測インターフェースが部分的に満たされた解状態の予測を公開する。
我々のキーとなる観察は、標準的なマスク付き拡散目標から得られる単純なモデル内部量である平均信頼度が、グローバルコヒーレンスに有用なプロキシを提供することである。
- 参考スコア(独自算出の注目度): 66.45282692810375
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Next-token prediction has driven remarkable progress in large language models, yet a growing body of evidence suggests that they can struggle on problems governed by complex global constraints. In this work, we focus on this regime and ask whether some of these limitations arise from the inference interface induced by next-token prediction itself. We study this question through blackboard intelligence: an inference-time perspective in which a model works on a fixed, revisable canvas and searches over candidate solution states rather than committing to a causal, left-to-right trajectory. We instantiate this idea with diffusion language models, whose any-order prediction interface naturally exposes predictions over partially filled solution states. Our key observation is that mean confidence, a simple model-internal quantity available from the standard masked diffusion objective, provides a useful proxy for global coherence and can guide inference-time search and revision. Empirically, across ZebraLogic, Nurse Rostering, and Job-Shop Scheduling, Blackboard consistently improves inference while holding the fine-tuned LLaDA-8B-Instruct checkpoint fixed and substantially outperforms same-scale autoregressive baselines, reaching 90.4% accuracy on ZebraLogic-Hard, 76.4% exact feasibility on Nurse Rostering, and 80.2% optimality on JSSP. Stronger autoregressive search and refinement also fail to close the gap on ZebraLogic-Hard, while Blackboard surpasses tested frontier LLMs there and on JSSP despite their substantially greater scale and strong test-time reasoning. We open-source our codebase at https://github.com/jwoosang1/blackboard-intelligence.
- Abstract(参考訳): 次世代の予測は、大規模な言語モデルにおいて顕著な進歩をもたらしたが、その一方で、複雑なグローバルな制約によって支配される問題に苦しむことができるという証拠が増えている。
本研究は,この状況に注目し,次点予測自体によって引き起こされる推論インターフェースから,これらの制限のいくつかが生じるかどうかを問う。
モデルが固定された修正可能なキャンバス上で動作し、因果的、左から右への軌跡にコミットするのではなく、候補の解状態について探索する推論時間の観点から、ブラックボードインテリジェンスを通してこの問題を研究する。
我々はこのアイデアを拡散言語モデルでインスタンス化し、任意の順序予測インターフェースが部分的に満たされた解状態の予測を自然に公開する。
我々のキーとなる観察は、標準的なマスク付き拡散目標から利用できる単純なモデル内部量である平均信頼度が、グローバルコヒーレンスに有用なプロキシを提供し、推論時探索とリビジョンを導くことができることである。
経験的に、ZebraLogic、Nurse Rostering、Job-Shop Schedulingにおいて、Blackboardは、微調整されたLLaDA-8B-インストラクションチェックポイントを保持しながら推論を一貫して改善し、同じスケールの自己回帰ベースラインをほぼ上回り、ZebraLogic-Hardで90.4%、Nurse Rosteringで76.4%、JSSPで80.2%の精度を達成した。
より強い自己回帰探索と改良は、ZebraLogic-Hardのギャップを埋めることにも失敗したが、Blackboardは、かなり大きなスケールと強力なテストタイム推論にもかかわらず、テストフロンティアのLLMとJSSPを上回っている。
コードベースはhttps://github.com/jwoosang1/blackboard-intelligence.comでオープンソース化しています。
関連論文リスト
- Surrogate Fidelity: When Can Open LLMs Explain Closed Ones? [6.786301369955054]
予測,属性,表現レベルでの代理的忠実度を評価する。
注意パターンや大きさのようなホワイトボックス信号は、モデル間で非常に安定しているが、因果属性の弱い予測しかできない。
論文 参考訳(メタデータ) (2026-06-30T17:43:44Z) - SELFDOUBT: Uncertainty Quantification for Reasoning LLMs via the Hedge-to-Verify Ratio [0.038379177968040606]
言語モデル推論のための単一パス不確実性フレームワークであるSELFDOUBTを提案する。
私たちのキーシグナルであるHedge-to-Verify Ratio(HVR)は、推論トレースが不確実性マーカーを含むかどうかを検出し、もしそうであれば、明示的な自己チェック行動によってオフセットされているかどうかを検出する。
SELFDOUBTは単一の観測された推論軌道で動作し、任意のプロプライエタリなAPI上でのレイテンシとコスト制約によるデプロイメントに適している。
論文 参考訳(メタデータ) (2026-04-07T19:19:29Z) - CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。
ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
論文 参考訳(メタデータ) (2025-10-02T02:14:33Z) - TokenUnify: Scaling Up Autoregressive Pretraining for Neuron Segmentation [65.65530016765615]
本稿では,3つの相補的な学習目標を通じて,大規模依存関係をキャプチャする階層型予測コーディングフレームワークを提案する。
TokenUnifyは、ランダムトークン予測、次のトークン予測、およびすべてのトークン予測を統合して、包括的な表現空間を作成する。
また,120億個の注釈付きボクセルを付加した大規模EMデータセットを導入し,空間連続性を持つ理想的な長周期視覚データを提供する。
論文 参考訳(メタデータ) (2024-05-27T05:45:51Z) - Unveiling the Tapestry of Consistency in Large Vision-Language Models [25.106467574467448]
提案手法は,プロンプトの解空間が知識点を中心に回転するときに,LVLMがどう機能するかを直感的に解析するベンチマークである。
ConBenchツールに基づいて、タペストリーを最初に公開し、以下の結果を得た。
我々は,本論文が研究コミュニティのモデル評価を加速し,一貫性領域の今後の進歩を促進することを願っている。
論文 参考訳(メタデータ) (2024-05-23T04:08:23Z) - Dirichlet-Based Prediction Calibration for Learning with Noisy Labels [40.78497779769083]
雑音ラベルによる学習はディープニューラルネットワーク(DNN)の一般化性能を著しく損なう
既存のアプローチでは、損失補正やサンプル選択手法によってこの問題に対処している。
そこで我々は,textitDirichlet-based Prediction (DPC) 法を解法として提案する。
論文 参考訳(メタデータ) (2024-01-13T12:33:04Z) - An Analysis and Mitigation of the Reversal Curse [70.13419502543915]
最近の研究は、大型言語モデル(LLM)で注目すべき現象を観測している。
逆の呪文は、$a$と$b$の2つのエンティティを扱う場合、LLMは$aRb$,'という形式でシーケンスを処理するのに優れるが、$bR-1a$'を処理する場合の課題に直面することである。
論文 参考訳(メタデータ) (2023-11-13T17:01:12Z) - RobustBench: a standardized adversarial robustness benchmark [84.50044645539305]
ロバストネスのベンチマークにおける主な課題は、その評価がしばしばエラーを起こし、ロバストネス過大評価につながることである。
我々は,白箱攻撃と黒箱攻撃のアンサンブルであるAutoAttackを用いて,敵対的ロバスト性を評価する。
分散シフト,キャリブレーション,アウト・オブ・ディストリビューション検出,フェアネス,プライバシリーク,スムースネス,転送性に対するロバスト性の影響を解析した。
論文 参考訳(メタデータ) (2020-10-19T17:06:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。