随着AI代理开始处理支付、金融交易和其他交易，当这些系统失败时，人类面临的金融风险日益受到关注。一个研究联盟认为，当前的AI安全技术并未解决这一风险，需要考虑新的保险式技术。
在最近的一篇论文中，来自微软、Google DeepMind、哥伦比亚大学以及初创公司Virtuals Protocol和t54.ai的研究人员提出了”代理风险标准”（Agentic Risk Standard），这是一个结算层框架，旨在当AI代理错误执行任务、未能提供服务或造成财务损失时对用户进行补偿。
“技术保障只能提供概率可靠性，而高风险环境中的用户通常需要对结果有可执行的保证，”论文中写道。
作者认为，当前大多数AI研究都专注于改进模型的行为方式，包括减少偏见、使系统更难被操纵，以及使其决策更容易理解。
“这些风险本质上是产品层面的，无法通过技术保障单独消除，因为代理行为本质上是随机的，”他们写道。”为了解决模型级可靠性与面向用户的保证之间的差距，我们提出了一个基于风险管理的补充框架。”
代理风险标准为AI任务处理方式增加了金融保障。对于用户仅面临支付服务费风险的简单任务，付款将被托管，只有在工作确认后才释放。对于需要预先释放资金的高风险任务，如交易或货币兑换，该系统引入了承保人。承保人评估风险，要求服务提供商提供抵押品，并在发生承保失败时偿还用户。
论文指出，非金融损害如幻觉、诽谤或心理伤害仍在该框架之外。
研究人员表示，该系统使用运行5000次试验的模拟进行了测试，并补充说实验是有限的，并非设计用于反映真实世界的失败率。
“这些结果激励了未来关于多样化失败模式的风险建模、部署条件下失败频率的经验测量，以及在检测器错误和战略行为下保持稳健的承保和抵押计划设计方面的工作，”研究称。
关键要点
• 新提出的”代理风险标准”将AI任务分为受托管保护的仅收费任务和需要承保的资金处理任务
• 在模拟中，承保将用户损失减少了高达61%，尽管零加载保费使承保人破产
• 准确的失败率估计仍然是主要挑战，因为过高和过低的估计都会产生系统性风险
本网站所有区块链相关数据与资料仅供用户学习及研究之用，不构成任何投资建议。转载请注明出处：https://www.lianxinshe666.com/2026/04/09/%e7%a0%94%e7%a9%b6%e4%ba%ba%e5%91%98%e6%8f%90%e5%87%ba%e6%96%b0%e6%96%b9%e6%b3%95%ef%bc%9a%e5%bd%93ai%e4%bb%a3%e7%90%86%e4%ba%a4%e6%98%93%e5%a4%b1%e8%af%af%e6%97%b6%e5%a6%82%e4%bd%95%e7%ae%a1%e7%90%86/
