論文の概要: Literal Lock-In: How Test Language Shifts Literal Attraction in Typed Decision Models on Bengali Idioms
- arxiv url: http://arxiv.org/abs/2610.22526v1
- Date: Thu, 15 Oct 2026 18:19:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.622148
- Title: Literal Lock-In: How Test Language Shifts Literal Attraction in Typed Decision Models on Bengali Idioms
- Title(参考訳): リテラルロックイン:ベンガルイディオムの型決定モデルにおけるテスト言語によるリテラルアトラクションのシフト
- Abstract要約: 決定モデルは、何も生成せず、合理的であり、思考の連鎖は適用されない。
エンコーダスコアラ、デコーダスコアラ、クローズドAPIの3つを監査する。
イディオムのリテラルグラスをオプションリストにドロップすると、すべてのアームがそれに向かって描画される。
精度が低いセマンティックスフリーのオプションリストでは、ベストキャリブレーションされたアームが信頼度0.82と報告している。
- 参考スコア(独自算出の注目度): 0.6875312133832079
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Decision models, non-generative scorers that report a probability over caller-supplied options and emit no text, are increasingly deployed as routers, classifiers and guardrails. Because they generate nothing, rationales and chain-of-thought do not apply. We audit three: an encoder scorer, a decoder scorer and a closed API, entirely through interventions on their input, using expert-annotated Bengali idioms carrying a gold figurative and a gold literal gloss. Dropping an idiom's own literal gloss into the option list draws every arm toward it, taking 65% to 96% of each arm's remaining Bengali errors. A model-by-language matrix over one shared item set shows how far this depends on the test language: every arm is 1.9 to 6.4 times more captured in Bengali than in English on the same paired entries, the commercial model's apparent resistance is a property of its test language, and capability does not order the failure. Calibration degrades in all three arms, and on the open arms confidence inverts, so gating on it is worse than gating at random. On a semantics-free option list, where accuracy is at chance, the best-calibrated arm still reports mean confidence 0.82. Code and data: https://github.com/sakhadib/literal-lock-in.
- Abstract(参考訳): 決定モデル、すなわち、呼び出し元が供給するオプションよりも確率を報告し、テキストを出力しない非生成スコアラーは、ルータ、分類器、ガードレールとしてますますデプロイされる。
それらは何も生成しないので、理性や思考の連鎖は適用されない。
金のフィギュラと金のリテラルグロスを積んだエキスパート注釈のベンガルイディオムを用いて,エンコーダスコアラ,デコーダスコアラ,クローズドAPIの3つを検査した。
オプションリストにイディオム自身のリテラル光沢をドロップすると、各アームの残りのベンガルのエラーの65%から96%を取る。
1つの共有アイテム集合上のモデル・バイ・ランゲージ行列は、これがテスト言語にどの程度依存しているかを示している: 全てのアームは、英語の同じペアのエントリの1.9から6.4倍、商業モデルの明らかな抵抗はテスト言語の特性であり、能力は失敗を命令しない。
キャリブレーションは3つの腕の全てで劣化し、オープンアームの信頼性は逆転する。
精度が低いセマンティックスフリーのオプションリストでは、ベストキャリブレーションされたアームが信頼度0.82と報告している。
コードとデータ:https://github.com/sakhadib/literal-lock-in
関連論文リスト
- One Word Opens the Gate: The Option-Channel Attack on Typed Decision Models as Agent Guardrails [8.534825157831387]
型付き決定モデルはテキストを読み出し、呼び出し元定義のオプションよりも確率を返します。
最近の作業では、これらのモデルをエージェントシステムにガードレールとして配置している。
その役割において、7つのオープンウェイトモデルを評価し、2つのエラー方向を別々に報告する。
論文 参考訳(メタデータ) (2026-10-08T16:46:43Z) - HakemBench: A Turkish Benchmark of Typed Decisions [0.0]
HakemBenchは、テスト対象のモデルがテキスト、質問、固定されたオプションセットを読み取って、すべてのオプションの確率を返す型決定のベンチマークである。
バージョン1.0はCC BY 4.0で完全に公開されており、2,346の項目と4,275の選択肢、ye/no、スコアの7つのトラックがある。
論文 参考訳(メタデータ) (2026-10-01T16:55:18Z) - Fair Fact-Checking: Closing the Cross-Lingual Gap in LLM Factual Judgement with RoSh [37.08044812250237]
英語はすべてのモデルで他のどの言語よりも優れていると判断され、その差は最小の言語よりも大きい。
3層で閉じた形で計算した残差ストリームの言語ごとのシフトと回転であるRoShを提案する。
Llama-3Bのアラビア語は偶然からほぼ英語のレベルへと変化し、英語で正しく答えられた主張のうち5分の1は翻訳で失われている。
論文 参考訳(メタデータ) (2026-09-28T09:08:47Z) - Actions Speak Louder than Words: Measuring Cross-Lingual Policy Retention in Tool-Using Agents [22.30468215041597]
ツール使用エージェントは別の言語で同じタスクを与えられるが、それでも同じステップを踏むだろうか?
アクションポリシーを,8つのモデル,6つの並列ベンチマーク,41の言語で測定対象とする。
論文 参考訳(メタデータ) (2026-08-11T16:18:34Z) - Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。
ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。
3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI)
4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
論文 参考訳(メタデータ) (2026-07-19T22:27:00Z) - BabelJudge: Measuring LLM-as-a-Judge Reliability Across Languages and Agent Trajectories [0.0]
LLM-as-a-judgeは、NLPパイプラインのスケーラビリティ評価において、主要なアプローチとなっている。
オープンソースのベンチマークと信頼性監査フレームワークであるBabelJudgeを紹介します。
位置バイアス、冗長性バイアス、順序の不整合、言語間の劣化の4つの障害モードを計測します。
論文 参考訳(メタデータ) (2026-06-21T04:35:43Z) - Catching One in Five: LLM-as-Judge Blind Spots in Production Multi-Turn Transaction Agents [45.148328075418156]
デプロイされた多ターン食品・飲料注文エージェントについて検討し,実際の品質問題の数を測定した。
私たちの盲点分類は、失敗はランダムではなく構造化されていることを示している。
プロダクションマルチターンエージェントでは、自動判断はリグレッションフロアであり、人間のレビューの代わりにはならない。
論文 参考訳(メタデータ) (2026-06-09T02:11:01Z) - Evaluating Commercial AI Chatbots as News Intermediaries [85.32040752972836]
ベストシステムは、数時間前に報告されたイベントに関する質問に対して、90%以上の多重選択精度を達成する。
すべてのモデルはヒンディー語で最小の精度を達成する。
原因ではなく検索は エラーの70%以上を 引き起こします
論文 参考訳(メタデータ) (2026-05-21T17:42:07Z) - Discovering Latent Knowledge in Language Models Without Supervision [72.95136739040676]
既存の言語モデルをトレーニングするテクニックは、真実と正しく一致していない可能性がある。
本稿では,言語モデルの内部アクティベーション内部の潜伏知識を,純粋に教師なしの方法で直接見つけることを提案する。
本手法は, 教師なし, モデル出力がないにもかかわらず, 大規模言語モデルで表される多様な知識を復元できることを示す。
論文 参考訳(メタデータ) (2022-12-07T18:17:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。