論文の概要: CircuitSynth: Reliable Synthetic Data Generation
- arxiv url: http://arxiv.org/abs/2604.10114v1
- Date: Sat, 11 Apr 2026 09:18:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:15.850948
- Title: CircuitSynth: Reliable Synthetic Data Generation
- Title（参考訳）: CircuitSynth:信頼性の高い合成データ生成
- Authors: Zehua Cheng, Wei Dai, Jiahao Sun, Thomas Lukasiewicz,
- Abstract要約: 大規模言語モデル(LLM)は、しばしば幻覚、論理的不整合、構造化された生成をタスクする場合のモード崩壊に悩まされる。
既存のアプローチ、例えば、プロンプトや検索強化ジェネレーションは、言語表現性と、妥当性とカバレッジに関する正式な保証のバランスをとるメカニズムを欠いている。
サーキットシンス(Circuit Synth)は,表面実現から意味論的推論を分離する新しいニューロシンボリックフレームワークである。
- 参考スコア（独自算出の注目度）: 44.80087038178069
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The generation of high-fidelity synthetic data is a cornerstone of modern machine learning, yet Large Language Models (LLMs) frequently suffer from hallucinations, logical inconsistencies, and mode collapse when tasked with structured generation. Existing approaches, such as prompting or retrieval-augmented generation, lack the mechanisms to balance linguistic expressivity with formal guarantees regarding validity and coverage. To address this, we propose CircuitSynth, a novel neuro-symbolic framework that decouples semantic reasoning from surface realization. By distilling the reasoning capabilities of a Teacher LLM into a Probabilistic Sentential Decision Diagram (PSDD), CircuitSynth creates a tractable semantic prior that structurally enforces hard logical constraints. Furthermore, we introduce a convex optimization mechanism to rigorously satisfy soft distributional goals. Empirical evaluations across diverse benchmarks demonstrate that CircuitSynth achieves 100% Schema Validity even in complex logic puzzles where unconstrained baselines fail (12.4%) while significantly outperforming state-of-the-art methods in rare-combination coverage.
- Abstract（参考訳）: 高忠実性合成データの生成は、現代の機械学習の基盤となっているが、大規模言語モデル(LLM)は、しばしば幻覚、論理的不整合、構造化された生成をタスクする場合のモード崩壊に悩まされる。
既存のアプローチ、例えば、プロンプトや検索強化ジェネレーションは、言語表現性と、妥当性とカバレッジに関する正式な保証のバランスをとるメカニズムを欠いている。
そこで我々は,表面実現から意味論的推論を分離する新しいニューロシンボリック・フレームワークであるCircuitSynthを提案する。
教師LLMの推論能力をPSDD(Probabilistic Sentential Decision Diagram)に蒸留することにより、CircuitSynthは、構造的にハード論理的制約を強制する前に、抽出可能なセマンティクスを生成する。
さらに,ソフトな分布目標を厳密に満たすための凸最適化機構を導入する。
様々なベンチマークによる実証的な評価によると、CircuitSynthは、制約のないベースラインが失敗(12.4%)する複雑な論理パズルでさえ100%のスキーマ妥当性を達成し、稀な組み合わせのカバレッジにおいて最先端の手法を大幅に上回っている。
関連論文リスト
- MathAgent: Adversarial Evolution of Constraint Graphs for Mathematical Reasoning Data Synthesis [26.328617109421327]
本稿では、教師なし最適化問題としてデータ合成を定式化する階層型フレームワークを提案する。
立法者は、問題の制約をコードする構造化された世代図を逆向きに進化させ、執行者はこれらの仕様をさまざまな自然言語シナリオにインスタンス化する。
Qwen, Llama, Mistral, Gemmaの各シリーズの合計10モデルを用いて行った実験により, 本手法が顕著な結果が得られることを示した。
論文 参考訳（メタデータ） (2026-04-13T08:48:12Z) - Understanding by Reconstruction: Reversing the Software Development Process for LLM Pretraining [66.89012795621349]
大規模言語モデル(LLM)は、複雑なソフトウェア工学に必要な、深く、長期にわたる推論に苦しむことが多い。
本稿では,再構築による理解という,新しいパラダイムを提案する。
マルチエージェントシミュレーションを用いて潜在エージェント軌道を合成するフレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-11T09:23:20Z) - Distilling Formal Logic into Neural Spaces: A Kernel Alignment Approach for Signal Temporal Logic [6.419602857618508]
形式仕様の連続的ニューラル表現を学習するためのフレームワークを導入する。
シンボリックロバストネスカーネルをトランスフォーマーエンコーダに蒸留する。
エンコーダは1つのフォワードパスに埋め込みを生成し、計算コストのごく一部でカーネルのロジックを効果的に模倣する。
論文 参考訳（メタデータ） (2026-03-05T14:08:25Z) - On the Limits of Self-Improving in LLMs and Why AGI, ASI and the Singularity Are Not Near Without Symbolic Model Synthesis [0.01269104766024433]
我々は,大規模言語モデル(LLM)における自己学習と生成AIを離散時間力学系として定式化する。
1) 有限サンプリング効果が分布多様性の単調な損失(モード崩壊)を引き起こすエントロピー減衰と,(2) 外部グラウンドの損失がモデルの真理表現をランダムウォークとして漂流させる変数増幅の2つの基本的障害モードを導出する。
論文 参考訳（メタデータ） (2026-01-05T19:50:49Z) - EvoSyn: Generalizable Evolutionary Data Synthesis for Verifiable Learning [63.03672166010434]
我々は、進化的、タスクに依存しない、戦略を導いた、実行可能検証可能なデータ合成フレームワークを紹介します。
問題、多様な候補解、検証成果物を共同で合成する。
これは、人間による注釈付きチェックと戦略によるチェックの合意を強制する一貫性に基づく評価器を通じて戦略を反復的に発見する。
論文 参考訳（メタデータ） (2025-10-20T11:56:35Z) - RationAnomaly: Log Anomaly Detection with Rationality via Chain-of-Thought and Reinforcement Learning [27.235259453535537]
RationAnomalyは、Chain-of-Thoughtファインチューニングと強化学習を相乗化することにより、ログの異常検出を強化する新しいフレームワークである。
コードとデータセットを含む、対応するリソースをリリースしました。
論文 参考訳（メタデータ） (2025-09-18T07:35:58Z) - Enhancing Systematic Decompositional Natural Language Inference Using Informal Logic [51.967603572656266]
我々は,分解包含を注釈付けするための一貫した理論的なアプローチを導入する。
我々の新しいデータセットRDTEは、前回の分解エンターメントデータセットよりもかなり高い内部整合性(+9%)を持つことがわかった。
また,RDTE による知識蒸留によるエンテーメント分類器の訓練や,エンテーメントツリー推論エンジンへの導入により,精度と検証精度が向上することが確認された。
論文 参考訳（メタデータ） (2024-02-22T18:55:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。