机器信任 – 为什么声誉是下一个人工智能原语 - 每日霍德尔

HodlX 客座文章提交您的文章

当我们第一次讨论去中心化人工智能时，我们关注的是计算、数据和治理模型——这些仍然很重要。

然而，随着自主代理在交易资产、运行供应链和管理社区等现实环境中运作，信任成为了摆在前面的挑战。

不是那种柔软的人类情感，比如“我对这个品牌感觉不错”或“他们的营销很有说服力。”

在机器经济中，信任必须是可验证的、可量化的，并且能够以协议速度执行。

没有它，去中心化的人工智能面临着成为幻觉、垃圾邮件、剥削和连锁失败的高吞吐量场所。

这不是一个我们可以通过更多计算能力或更干净的数据集来解决的问题。这是一个我们如何决定谁可以采取行动的问题。

从非正式信任到协议规则

在Web 2.0中，信任就像阅读餐厅评论——适合选择晚餐，但在成千上万的自主代理人做出瞬息万变、影响深远的决策时毫无意义。

这些信号容易伪造，无法大规模审计，并且对不良行为者没有内置后果。

在去中心化的人工智能网络中，这种方式是行不通的。代理不再是运行在业余爱好者服务器上的孤立脚本。

它们是请求资源、执行交易、在DAO中投票以及协调其他代理的实体。

如果一个人恶意或无能地行事，损害是立即发生的，并且往往是不可逆的。

研究界提出的答案是将信任本身作为基础设施的一部分。

一个越来越受到关注的提议是AgentBound代币的概念——不可转让的凭证，作为AI代理的履历，最早由研究员Tomer Jordi Chaffer提出。

ABT – 机器的护照

ABT是一种不可转让的加密凭证，用于记录代理商随时间的行为。

把它想象成机器的护照——不是贴签证，而是记录已完成的验证工作、交付的成果和记录的失败。

与钱包余额或抵押金额不同，ABT无法被购买、出售或委托。

它们通过行为获得，基于验证的表现进行更新，并因不当行为而被削减——行为证明。

这将默认设置从付费参与转变为证明行为。

代币余额可以控制人类，但在机器经济中，它们错误地定价风险——代理可以被廉价复制，可以借贷资本并以机器速度运作，产生远超其持股的外部性。

ABTs通过使经过验证的表现随着时间的推移成为稀缺资源来填补这一空白。

在代币加权系统中，深口袋买入访问权限——在ABT限制系统中，只有持久且透明的业绩记录才能解锁更高影响力的角色。

可靠性成为运营的抵押品。

通过实时五步循环，ABT将代理行为转化为可以增长、衰减或被削减的运营资本。

考虑一个去中心化的物流网络。一个具有零声誉的 ABT 的新路由代理在监督下开始处理小规模货物。

每个经过验证的工作都能获得认证——信任不断累积，直到可以自主运行一个区域。

一个有问题的更新导致了延迟 - 验证者标记了它，ABT受到惩罚，使代理回到低风险任务。

经过一个干净的试用期，其声誉恢复。

这是一种作为活系统的信任，以机器可以理解和协议可以执行的形式获得、失去和恢复。

建立在灵魂绑定的概念上

如果这在概念上听起来与绑定灵魂代币相近，那就是。

在他们2022年的论文《去中心化社会 - 寻找Web 3.0的灵魂》中，Glen Weyl、Puja Ohlhaver和Vitalik Buterin提出了SBT作为人类身份的不可转让凭证——文凭、隶属关系、执照。

ABTs 将这一逻辑扩展到机器上。

但SBT通常是静态的(“这个人毕业于X”)，而ABT是动态的，随着每个经过验证的行动而更新。

他们更关注的是一个代理的行为，而不是代理是谁——时间因素是至关重要的。

去年的完美记录如果代理的模型已经退化或被破坏，意义就不大了。

ABTs 捕捉到这种演变，使它们成为一个实时信号，而不是一次性的标志。

声誉DAO作为治理层

ABTs 处理数据，即发生的不可变记录，但必须有人制定规则。

什么是良好或不良行为？各种行为的权重有多大？如何处理争议？

声誉 DAO 是定义、维护和审计声誉层的去中心化治理机构。

他们决定哪些验证者可以更新ABTs，哪些指标对于特定领域重要，以及声誉如何随时间衰减或恢复。

他们还可以在高风险环境中设置风险等级——内容审核代理需要一个独立行动的记录。

相反，交易机器人可能需要另一个。通过去中心化这些决策，系统避免了被单一权威控制和硬编码规则的僵化。

声誉DAO是去中心化信任的人类参与元素——不是微观管理每一个行动——而是引导保持机器层诚实的规范和参数。

使信任可编程的挑战

这些都不是简单的实现。最复杂的问题同时是社会和技术的。

Sybil攻击是显而易见的威胁——在低风险角色中产生数千个新代理来获取声誉，然后在更高风险的环境中部署它们。

防止这种情况需要将ABT与强大的去中心化身份绑定在一起，有时还需要与无法廉价复制的硬件或执行环境绑定在一起。

声誉洗涤是另一个风险。

没有保护措施，ABT系统可能会变成一个高风险的化妆舞会，恶意代理人可以戴上别人的面具进入VIP房间。

协议层面的非转让性、与密钥的加密绑定和严格的反委托规则是必不可少的。

还存在隐私与可审计性的权衡。要信任一个代理，你需要知道它的表现如何。

然而，发布完整的决策日志可能会暴露敏感数据或专有方法。

ZKPs (零知识证明)和聚合指标是解决这个问题的有前途的方法。

然后还有治理捕获——如果一小部分验证者控制了大多数更新，他们可以将坏演员列入白名单或惩罚竞争对手。

开放验证者集、轮换和因共谋而进行的削减有助于分散这种权力。

为什么这现在很重要

我们已经到了去中心化人工智能不再受技术限制，而更多受制于合法性的时候。

在未决定哪些代理可以被信任承担哪些角色的情况下，网络要么集中控制，要么接受持续的风险。

ABT和声誉DAO提供了一条第三条路径——一种将信任直接编码到基础设施中的方式，使其在系统中与共识一样原生。

他们通过将‘谁控制AI？’转变为‘控制是如何定义、授予和撤销的？’来公开回答这个问题。

Web 3.0 的第一波教会了我们要信任陌生人处理金钱。

下一个必须教会我们以机器的速度信任陌生人做出决定，而其后果是人类无法及时逆转的。

在代理经济中，这不是可选的——这是生存。

Roman Melnyk 是 DeXe 的首席营销官。