論文の概要: S1-Evo: Experience-Guided Evidence Competition Attacks on Typed System-1 Decision Models
- arxiv url: http://arxiv.org/abs/2611.16937v2
- Date: Fri, 13 Nov 2026 07:30:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.236105
- Title: S1-Evo: Experience-Guided Evidence Competition Attacks on Typed System-1 Decision Models
- Title(参考訳): S1-Evo:Typed System-1決定モデルにおける経験指導型エビデンス競合攻撃
- Abstract要約: Typed System-1 (S1)決定モデルは、ルーティング、モデレーション、推論コスト削減のための認可のためにLLMエージェントに徐々に展開されている。
S1-Evoは、S1の契約ベースのオプションコンペティションとマージンフィードバックに合わせた自己進化型フレームワークである。
- 参考スコア(独自算出の注目度): 10.82056390564536
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Typed System-1 (S1) decision models are increasingly deployed in LLM agents for routing, moderation, and authorization to cut inference cost, yet untrusted context can still manipulate typed outputs and alter execution branches. Unlike autoregressive System-2 (S2) models, S1 interfaces score dynamic rules and options without token-by-token decoding, mismatching attacks targeting text continuation or explicit override commands. We propose S1-Evo, a self-evolving framework tailored to S1's contract-based option competition and margin feedback. S1-Evo perturbs untrusted fields via contract-aware evidence channels to induce \emph{evidence competition} with original task evidence while preserving fact invariance. Offline on seed tasks, it optimizes candidates via feedback search guided by directional margins and re-verification, distilling verified flips into experience cards. At test time, S1-Evo retrieves relevant cards to construct perturbations for unseen tasks. Across four benchmarks and three S1 models, S1-Evo reaches 71.99\% mean ASR and 57.47\% high-confidence ASR on \texttt{jev-1.14}, and causes up to 24.00\% E2E agent violations.
- Abstract(参考訳): Typed System-1 (S1) 決定モデルは、ルーティング、モデレーション、推論コスト削減のための LLM エージェントにますますデプロイされるが、信頼できないコンテキストでは型付けされた出力を操作でき、実行ブランチを変更することができる。
自動回帰システム2 (S2) とは異なり、S1 インタフェースはトークン・バイ・トークン・デコードやテキスト継続や明示的なオーバーライド・コマンドをターゲットとした攻撃を使わずに動的ルールとオプションをスコアする。
S1-Evoは、S1の契約ベースのオプションコンペティションとマージンフィードバックに合わせた自己進化型フレームワークである。
S1-Evoの摂動は、契約を意識したエビデンスチャネルを介して信頼できないフィールドを摂動し、事実の不変性を保ちながら、元のタスクエビデンスと共に 'emph{evidence competition} を誘導する。
シードタスクのオフラインで、方向性マージンと再検証によって導かれるフィードバック検索によって候補を最適化し、検証済みのフリップを経験カードに蒸留する。
テスト時には、S1-Evoは関連するカードを検索して、目に見えないタスクの摂動を構築する。
4つのベンチマークと3つのS1モデルで、S1-Evoは71.99 %の平均 ASR と57.47 %の高信頼 ASR に達し、最大 24.00 % E2E エージェント違反を引き起こす。
関連論文リスト
- IBBench-Light: A Paired Evaluation of Task-Conditioned Responses to External Directives [5.766730891926642]
IBBench-Lightテストはどちらも同じレコードに対して使用される。
12のセマンティックベースは、モデル毎に144のマッチングペアを生成する。
Qwenは132の実行と109のプロセスプロンプトで成功するが、97の完全なペアしか持たない。
論文 参考訳(メタデータ) (2026-09-12T05:27:20Z) - VST: Verifiable Structured Transport for Auditable Agent-to-Agent Alpha Discovery [11.790070440436294]
エージェント・ツー・エージェント(A2A)アルファ発見は、マイニングと評価エージェント間の繰り返しのフィードバックサイクルによって遅くなる。
我々はまず、この通信をEmphtyped, causally addressable, unicast recordの構造化エージェント対エージェントプロトコルとして再構成する。
型付けが提供するものは、スキーマチェック、決定論的にリプレイされ、構築によって予測を評価者にリークすることを防ぐ状態である。
論文 参考訳(メタデータ) (2026-09-07T05:43:50Z) - AEVAL: From Anecdotal to Deterministic Testing for Agentic Skill Workflows [1.6785141970297952]
AEVAL(Agentic Evaluation)はCI統合フレームワークで、このプラクティスをエージェントスキルのための決定論的かつ再現可能なテストパイプラインに置き換える。
すべてのスキル変更がテストイベントをトリガーする。スキルは、自動エグゼキュータ内の開発者が宣言した評価契約に対して実行される。
鍵となる要素は、実行子とグレーダの間の構造的分離であり、微妙だが広汎な障害モードを防止する。
論文 参考訳(メタデータ) (2026-07-16T21:33:05Z) - VeriEvol: Scaling Multimodal Mathematical Reasoning via Verifiable Evol-Instruct [71.22358682581215]
ビジュアルな数学的推論のための強化学習のスケーリングは、難しい質問を生成すること以上のものを必要とします。
これは2つのコンポーネントからなる反復的なフレームワークであるVeriEvolとしてインスタンス化します。
5ベンチマークのビジュアル・マス・スイートでは、10Kから250KサンプルまでのSFTデータのスケーリングが平均精度を35.42から54.73に引き上げている。
論文 参考訳(メタデータ) (2026-06-22T16:17:30Z) - VASO: Formally Verifiable Self-Evolving Skills for Physical AI Agents [57.240036084348354]
本稿では,ロボットスキルコントラクトの検証誘導自己進化のためのフレームワークであるVASOを紹介する。
VASOは論理的に一貫性のないスキル契約を検証し、グローバルおよびローカルな時間的仕様に対してスキルによって誘発される計画を検証する。
Clearpath Jackal と PX4 のクアッドコプタータスクでは、VASO は100点未満の最適化サンプルを使用して97.2% の形式的な仕様準拠に達した。
論文 参考訳(メタデータ) (2026-06-03T20:02:35Z) - SpatialBench-UC: Uncertainty-Aware Evaluation of Spatial Prompt Following in Text-to-Image Generation [0.0]
SpaceBench-UCは、ペアの空間関係を再現可能な小さなベンチマークである。
ベンチマークパッケージ、バージョン付きプロンプト、ピン付き構成、サンプルごとのチェッカー出力、レポートテーブルをリリースします。
安定拡散1.5, SD 1.5 BoxDiff, SD 1.4 GLIGENの3つのベースラインについて検討した。
論文 参考訳(メタデータ) (2026-01-19T23:37:10Z) - From Harm to Help: Turning Reasoning In-Context Demos into Assets for Reasoning LMs [58.02809208460186]
デモとしてDeepSeek-R1の高品質なトレースを使って、このパラドックスを再検討する。
デモが最適であっても、より多くの例を加えることで、常に精度が低下することがわかった。
デモを明示的で再利用可能な洞察に変換するシーケンシャルなテストタイム手順であるInsight-to-solve(I2S)を紹介します。
論文 参考訳(メタデータ) (2025-09-27T08:59:31Z) - Towards single integrated spoofing-aware speaker verification embeddings [63.42889348690095]
本研究は,1つの統合スプーフィング対応話者検証埋め込みを開発することを目的とする。
単一のSASV埋め込みの劣った性能は、不十分なトレーニングデータから得られると分析する。
実験では、SASV2022チャレンジの評価プロトコルにおいて、SASV-EERが1.06%に達するという劇的な改善が示された。
論文 参考訳(メタデータ) (2023-05-30T14:15:39Z) - WR-ONE2SET: Towards Well-Calibrated Keyphrase Generation [57.11538133231843]
キーワード生成は、入力文書を要約する短いフレーズを自動的に生成することを目的としている。
最近登場したONE2SETパラダイムは、キーフレーズをセットとして生成し、競争性能を達成した。
本稿では, ONE2SET を拡張した WR-ONE2SET を提案する。
論文 参考訳(メタデータ) (2022-11-13T09:56:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。