論文の概要: For Your Eyes Only: Evaluating Coordination Between Isolated Language Model Instances

• arxiv url: http://arxiv.org/abs/2609.19504v1
• Date: Wed, 16 Sep 2026 23:41:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:54.031733
• Title: For Your Eyes Only: Evaluating Coordination Between Isolated Language Model Instances
• Title（参考訳）: 目だけのために:分離言語モデルインスタンス間のコーディネーションを評価する
• Abstract要約: 我々は,確立した精神言語コーパスから,300語対の4つの建築家族の現代モデルを評価する。 ほとんどのモデルは、検出可能な信号を避けるために必要になった場合、調整を維持するのに苦労している。 1つのフロンティアモデルは、そのようなフィルタリング後にもほぼ完璧な性能を維持する。
• 参考スコア（独自算出の注目度）: 45.88028371034407
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As model-generated content is increasingly consumed by other model instances in automated workflows, a practically important question arises: can a model embed a signal in natural language that an independent instance of the same model can detect, relying only on shared pre-training and task instructions, without any shared memory or coordination-specific training? We introduce For Your Eyes Only, a cooperative signalling game designed to evaluate this directly. A Sender produces free-form descriptions for two words, one of which is a hidden target; an isolated Receiver must identify it. We evaluate seven contemporary models from four architectural families on 300 word pairs from established psycholinguistic corpora, using the Double-Pass Success Rate to control for output biases. We find that most models struggle to maintain coordination once they are required to avoid detectable signals, while one frontier model retains near-perfect performance even after such filtering. We further show that models can direct this capability toward deliberate misdirection, and that coordination is consistently weaker across architectures than within them.
• Abstract（参考訳）: モデルは自然言語にシグナルを埋め込むことができ、同じモデルの独立インスタンスが、共有メモリや調整固有のトレーニングを使わずに、共有事前学習とタスク命令のみに依存することができる。 我々は,これを直接評価するために設計された協調的なシグナリングゲームであるFor Your Eyes Onlyを紹介する。 Senderは2つの単語に対して自由形式の記述を生成し、そのうちの1つは隠れたターゲットであり、孤立した受信者はそれを識別しなければならない。 我々は,300ワード対の4つの建築系から得られた7つの現代モデルについて,二重パス成功率を用いて評価し,出力バイアスの制御を行った。 その結果、ほとんどのモデルでは、検出可能な信号の回避が要求されれば調整の維持に苦慮し、一方のフロンティアモデルでは、フィルタ後のほぼ完全な性能を維持していることがわかった。 さらに、モデルが故意に誤った方向に向かってこの機能を誘導できることを示し、アーキテクチャ間での調整が内部よりも一貫して弱いことを示します。

関連論文リスト

• Silent Commitment Failure in Instruction-Tuned Language Models: Evidence of Governability Divergence Across Architectures [0.0]
  我々は、モデルのエラーが出力コミット前に検出可能で、一度検出されると修正できる程度、統治性を導入します。 ベンチマーク精度は支配可能性を予測するものではなく、補正能力は検出と独立に異なり、同一のガバナンス足場はモデル間で逆の効果をもたらす。 本稿では,モデルとタスクの組み合わせをGovernable, Monitor Only, Steer Blind, Ungovernableの4つに分類する。
  論文  参考訳（メタデータ） (2026-03-22T21:50:28Z)
• StackingNet: Collective Inference Across Independent AI Foundation Models [46.16216152540918]
  StackingNetと呼ばれるメタアンサンブルフレームワークによって調整が可能であることを示す。 StackingNetは精度を向上し、バイアスを低減し、信頼性ランキングを可能にし、パフォーマンスを低下させるモデルを識別またはプルースする。 不整合の源からの多様性をコラボレーションに変えることによって、StackingNetは、コーディネートされた人工知能の実践的な基盤を確立する。
  論文  参考訳（メタデータ） (2026-02-14T14:12:43Z)
• ASIDE: Architectural Separation of Instructions and Data in Language Models [87.16417239344285]
  ASIDEは言語モデルに対して、埋め込みのレベルで命令とデータを明確に分離することを可能にする。 本稿では,ASIDE を用いた命令調整 LLM がモデルユーティリティを損なうことなく,命令データ分離の高度化につながることを実験的に示す。 モデル表現の分析を通じて,本手法の基盤となるメカニズムについて考察する。
  論文  参考訳（メタデータ） (2025-03-13T17:17:17Z)
• XTrack: Multimodal Training Boosts RGB-X Video Object Trackers [88.72203975896558]
  マルチモーダルセンシングから得られる知識を効果的に共有することが重要である。 異なるモダリティにまたがる類似のサンプルは、他のものよりも多くの知識を共有できる。 提案手法は,現在のSOTAよりも平均+3%精度が向上したRGB-Xトラッカーである。
  論文  参考訳（メタデータ） (2024-05-28T03:00:58Z)
• Purposer: Putting Human Motion Generation in Context [30.706219830149504]
  本研究では,3次元屋内シーンに人間の動きを再現する新しい手法を提案する。 シーン内のパス、ターゲットポーズ、過去の動き、そして3Dポイントの雲として表されるシーンなど、様々な条件信号の組み合わせで制御できる。
  論文  参考訳（メタデータ） (2024-04-19T15:16:04Z)
• Robust Training of Federated Models with Extremely Label Deficiency [84.00832527512148]
  フェデレーション半教師付き学習(FSSL)は、ラベル不足を伴う分散データを用いて機械学習モデルを協調訓練するための強力なパラダイムとして登場した。 我々は,ラベル付きおよびラベルなしデータの異なる視点から洞察を提供することにより相互指導を強化するために,ツインサイトと呼ばれる新しいツインモデルパラダイムを提案する。 4つのベンチマークデータセットに関する包括的な実験は、Twin-sightが様々な実験環境において最先端の手法を著しく上回っていることを示す重要な証拠となる。
  論文  参考訳（メタデータ） (2024-02-22T10:19:34Z)
• Universal Semi-supervised Model Adaptation via Collaborative Consistency Training [92.52892510093037]
  我々は、Universal Semi-supervised Model Adaptation (USMA)と呼ばれる現実的で挑戦的なドメイン適応問題を導入する。 本稿では,2つのモデル間の予測整合性を規則化する協調的整合性トレーニングフレームワークを提案する。 実験により,いくつかのベンチマークデータセットにおける本手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-07-07T08:19:40Z)
• MEGA: Model Stealing via Collaborative Generator-Substitute Networks [4.065949099860426]
  近年のデータフリーモデルステイティングメソッドは,実際のクエリの例を使わずに,ターゲットモデルの知識を抽出するために有効であることが示されている。 本稿では,データフリーモデルステーリングフレームワーク(MEGA)を提案する。 以上の結果から,我々の訓練した代替モデルの精度と敵攻撃成功率は,最先端のデータフリーブラックボックス攻撃よりも最大で33%,40%高い値となる可能性が示唆された。
  論文  参考訳（メタデータ） (2022-01-31T09:34:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。