Manus突破GAIA测试 引发AI安全与FHE技术探讨

Manus在GAIA基准测试中取得突破性进展

近期,Manus在GAIA基准测试中取得了令人瞩目的成绩,其性能超越了同层次的大型语言模型。这意味着Manus能够独立完成诸如跨国商业谈判等复杂任务,涉及合同条款分解、策略预判、方案生成,甚至能够协调法务和财务团队。

Manus的优势主要体现在三个方面:动态目标拆解能力、跨模态推理能力以及记忆增强学习能力。它能将大型任务分解成数百个可执行子任务,同时处理多种类型的数据,并通过强化学习不断提升自身决策效率,降低错误率。

这一突破再次引发了业内对AI演化路径的讨论:未来是AGI一统天下,还是多智能体系统(MAS)协同主导?

Manus的设计理念暗含两种可能性:

  1. AGI路径:通过持续提升单体智能水平,使其逼近人类综合决策能力。

  2. MAS路径:作为超级协调者,指挥数千个垂直领域智能体协同作战。

表面上,这是不同路径的分歧,实质上讨论的是AI发展中效率与安全如何平衡的问题。单体智能越接近AGI,其决策黑箱化风险越高;而多智能体协同虽能分散风险,却可能因通信延迟错失关键决策时机。

Manus的进化无形中放大了AI发展的固有风险,如数据隐私、算法偏见和对抗攻击等问题。在医疗场景中,Manus需要实时访问患者基因组数据;在金融谈判中,可能涉及企业未公开财报信息。在招聘谈判中,可能对特定群体给出偏低的薪资建议;在法律合同审核时,对新兴行业条款的误判率可能接近一半。此外,黑客可能通过植入特定语音频率,导致Manus在谈判中误判对手报价区间。

这些问题凸显了一个重要观点:越智能的系统,其攻击面也越广。

Manus带来AGI的曙光初现,AI安全亦值得深思

在Web3领域,安全一直是备受关注的话题。基于V神提出的"不可能三角"(区块链网络无法同时实现安全性、去中心化和可扩展性),衍生出了多种加密方式:

  1. 零信任安全模型:核心理念是"不信任任何人,总是进行验证",强调对每个访问请求进行严格的身份验证和授权。

  2. 去中心化身份(DID):一套标识符标准,使实体能够以可验证和持久的方式获得识别,无需依赖集中式注册表。

  3. 全同态加密(FHE):一种先进的加密技术,允许在不解密数据的情况下对加密数据执行任意计算。

其中,FHE被认为是解决AI时代安全问题的关键技术。它可以在以下几个层面发挥作用:

  1. 数据层面:用户输入的所有信息(包括生物特征、语音语调)在加密状态下被处理,连AI系统自身也无法解密原始数据。

  2. 算法层面:通过FHE实现"加密模型训练",即使是开发者也无法窥探AI的决策路径。

  3. 协同层面:多个智能体之间的通信采用门限加密,单个节点被攻破不会导致全局数据泄露。

在Web3安全领域,已有多个项目在不同方向上进行探索。然而,安全项目往往不被投机者关注。未来,随着AI技术的不断发展,FHE等安全技术的重要性将日益凸显。在通向AGI的道路上,这些技术不仅是解决当前问题的工具,更是未来强AI时代的必需品。

FHE1.11%
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 分享
评论
0/400
暗池观察员vip
· 07-24 23:34
又一家跳出来说自己牛批的
回复0
FrontRunFightervip
· 07-24 23:31
黑暗森林越来越黑……manus只是最大可提取价值(MEV)提取军备竞赛中的另一种武器,老实说。
查看原文回复0
DeFi小灰灰vip
· 07-24 23:30
社区总来点新花样
回复0
GasFeePhobiavip
· 07-24 23:21
嘎 这不得恐慌性买入
回复0
链上数据侦探vip
· 07-24 23:17
深夜挖了挖后台数据 这系统架构可疑度99.97%
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)