論文の概要: Extrapolating Volition with Recursive Information Markets

• arxiv url: http://arxiv.org/abs/2604.08606v1
• Date: Wed, 08 Apr 2026 13:57:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-13 17:57:53.482008
• Title: Extrapolating Volition with Recursive Information Markets
• Title（参考訳）: 再帰的情報市場による外挿
• Abstract要約: 我々は,Large Language Model (LLM) の購入者による検査と購入により,この情報の非対称性を克服できると主張している。 我々は、このメカニズムを「情報の価値」パラダイム、すなわち、その「真の価値」に応じて情報にインセンティブを与えるかどうかによって、正式に分析する。
• 参考スコア（独自算出の注目度）: 9.297427304313336
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: One of the impediments to the efficiency of information markets is the inherent information asymmetry present in them, exacerbated by the "buyer's inspection paradox" (the buyer cannot mitigate the asymmetry by "inspecting" the information, because in doing so the buyer obtains the information without paying for it). Previous work has suggested that using Large Language Model (LLM) buyers to inspect and purchase information could overcome this information asymmetry, as an LLM buyer can simply "forget" the information it inspects. In this work, we analyze this mechanism formally through a "value-of-information" paradigm, i.e. whether it incentivizes information to be priced and provided in accordance with its "true value". We focus in particular on our new recursive version of the mechanism, which we believe has a range of applications including in AI alignment research, where it is related to Extrapolated Volition and Scalable Oversight.
• Abstract（参考訳）: 情報市場の効率を損なう障害の1つは、「買い手の検査パラドックス」によって悪化する固有の情報非対称性である(買い手はその情報を「検査」することで非対称性を緩和できない。 これまでの研究では、LLMバイヤーが単に検査する情報を「忘れる」ことができるため、LLMバイヤーが情報を検査して購入することで、この情報の非対称性を克服できることが示唆されていた。 本研究では,このメカニズムを「情報の価値」パラダイム,すなわち,その「真の価値」に応じて情報にインセンティブを与えるか否かによって分析する。 私たちは特に、AIアライメント研究を含む幅広い応用があると考えるこのメカニズムの新たな再帰バージョンに焦点を当てています。

関連論文リスト

• Paying to Know: Micro-Transaction Markets for Verified Product Information in Agentic E-Commerce [4.655159257282136]
  エージェントネイティブのマイクロペイメントレールの到着は、不足しているものを変えると論じる。 我々はエージェント型電子商取引を、検証情報のためのマイクロ取引市場として想定する。
  論文  参考訳（メタデータ） (2026-06-23T16:42:21Z)
• PrivacyPeek: Auditing What LLM-Based Agents Acquire, Not Just What They Say [48.84133320567554]
  LLMベースのエージェントは急速に進歩し、ユーザーのタスクを完了させるために外部ツールを自律的に呼び出している。 既存のプライバシベンチマークは、エージェントの応答や外部アクションが開示するものを監査するが、データがエージェントのコンテキストに最初に入力される取得ステージを見落としている。 LLMエージェントの取得段階のプライバシー漏洩を評価するベンチマークであるemphPrivacyPeekを紹介する。
  論文  参考訳（メタデータ） (2026-05-29T04:55:12Z)
• Information Aggregation with AI Agents [0.0]
  我々は、AIエージェントがプライベートシグナルを受信した後、予測市場で取引を行う制御実験を行う。 中央市場は情報構造において情報の集約に有効であるが,複雑性の増大は有意かつ負の影響を及ぼすことがわかった。 我々は「スマート」なAIエージェントがアグリゲーションでより良いパフォーマンスを発揮し、より利益を上げていると断定する。
  論文  参考訳（メタデータ） (2026-04-21T23:17:24Z)
• When Life Gives You AI, Will You Turn It Into A Market for Lemons? Understanding How Information Asymmetries About AI System Capabilities Affect Market Outcomes and Adoption [45.10829096284761]
  複雑なAIシステムは、コストのかかるエラーを犯したり、隠れた欠陥を埋め込んだりしながら、非常に正確に見える。 本稿では,AIシステムのユーザ導入における情報非対称性と開示設計の役割について,最初の実験的証拠を提供する。
  論文  参考訳（メタデータ） (2026-01-29T12:49:28Z)
• Balancing Truthfulness and Informativeness with Uncertainty-Aware Instruction Fine-Tuning [79.48839334040197]
  インストラクション微調整(IFT)は、大きな言語モデル(LLM)の知性を高めるが、その真偽を減少させる可能性がある。 本稿では,IFTデータセットにおける不慣れな知識がLLMの真偽にどのように悪影響を及ぼすかを実証的に示す。 この問題に対処するために、新しいIFTパラダイムである$UNIT_cut$と$UNIT_ref$を導入します。
  論文  参考訳（メタデータ） (2025-02-17T16:10:30Z)
• Verification of Machine Unlearning is Fragile [48.71651033308842]
  両タイプの検証戦略を回避できる2つの新しい非学習プロセスを導入する。 この研究は、機械学習検証の脆弱性と限界を強調し、機械学習の安全性に関するさらなる研究の道を開く。
  論文  参考訳（メタデータ） (2024-08-01T21:37:10Z)
• On Bits and Bandits: Quantifying the Regret-Information Trade-off [62.64904903955711]
  エージェントが蓄積する情報と、それが苦しむ後悔の間のトレードオフについて検討する。 エージェントが蓄積する情報に依存する、最初のベイズ的後悔の低い境界を導入する。 また,エージェントが蓄積する情報量を用いて,後悔の上限を証明した。
  論文  参考訳（メタデータ） (2024-05-26T14:18:38Z)
• Language Models Can Reduce Asymmetry in Information Markets [100.38786498942702]
  我々は、言語モデルを利用した知的エージェントが外部参加者に代わって情報を売買する、オープンソースのシミュレートされたデジタルマーケットプレースを紹介した。 このマーケットプレースを実現する中心的なメカニズムはエージェントの二重機能であり、特権情報の品質を評価する能力を持つと同時に、忘れる能力も備えている。 適切に行動するためには、エージェントは合理的な判断をし、生成されたサブクエリを通じて市場を戦略的に探索し、購入した情報から回答を合成する必要がある。
  論文  参考訳（メタデータ） (2024-03-21T14:48:37Z)
• Exploitation Business: Leveraging Information Asymmetry [0.0]
  Exploitation Business」は、情報非対称性を利用して必死の個人に製品やサービスを売る非専門家や詐欺師をターゲットとするビジネスに焦点を当てている。 この現象は、個人が限られた情報へのアクセス、専門知識の欠如、そして失敗の恐怖(Fear of Missing Out、FOMO)によって成長する。 近年のソーシャルメディアの進展とファンダムビジネスの高まりは、そのような搾取ビジネスモデルの普及を加速させている。
  論文  参考訳（メタデータ） (2023-10-15T11:18:54Z)
• Bloated Disclosures: Can ChatGPT Help Investors Process Information? [1.3594158136398242]
  ChatGPTのような生成AIツールは、投資家が情報を処理する方法を根本的に変えることができる。 我々は、これらのツールが、株式市場を実験室として利用した複雑な企業情報開示を要約する上での経済的有用性について検討する。 肥大化した開示は、価格効率の低下や情報非対称性の上昇など、資本市場の悪影響と関連していることを示す。
  論文  参考訳（メタデータ） (2023-06-17T01:22:08Z)
• Information Association for Language Model Updating by Mitigating LM-Logical Discrepancy [68.31760483418901]
  大規模言語モデル(LLM)は、時代遅れの事前学習データのために現在の情報を提供するのに苦労する。 知識編集や連続的な微調整など,従来のLCMの更新方法は,新たな情報の一般化に重大な欠点がある。 これらの欠点の中核となる課題は,言語モデリングの確率と論理的確率の差を特徴とするLM論理的相違である。
  論文  参考訳（メタデータ） (2023-05-29T19:48:37Z)
• Augmented cross-selling through explainable AI -- a case from energy retailing [0.0]
  エネルギー小売店の顧客220,185件のデータを分析し、最大86%の正当性(AUC)でクロス購入を予測し、XAI法SHAPが実際の購入者に対する説明を提供することを示す。 さらに,情報システム,XAI,関係マーケティングにおける研究の意義について概説する。
  論文  参考訳（メタデータ） (2022-08-24T09:51:52Z)
• A Bayesian Framework for Information-Theoretic Probing [51.98576673620385]
  我々は、探索は相互情報を近似するものとみなすべきであると論じる。 これは、表現が元の文とターゲットタスクに関する全く同じ情報をエンコードしているというかなり直感的な結論を導いた。 本稿では,ベイズ的相互情報(Bayesian mutual information)と呼ぶものを測定するための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2021-09-08T18:08:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。