OPML: 区块链上的低成本高效AI模型训练与推理系统

robot
摘要生成中

OPML:基于乐观主义方法的区块链机器学习系统

OPML(乐观主义机器学习)是一种新型区块链系统,可以实现低成本、高效率的AI模型推理和训练。相比ZKML,OPML的硬件要求更低,甚至可以在普通PC上运行大型语言模型如7B-LLaMA。

OPML:采用Optimistic Rollup系统的机器学习

OPML采用验证游戏机制来保证ML服务的去中心化和可验证性。其基本流程是:

  1. 请求者发起ML任务
  2. 服务器完成任务并提交结果上链
  3. 验证者检查结果,如有异议则启动验证游戏
  4. 通过二分协议精确定位有争议步骤
  5. 最终由智能合约仲裁单个步骤

OPML:采用Optimistic Rollup系统的机器学习

为实现高效的链下执行和链上仲裁,OPML构建了专用虚拟机和轻量级DNN库,并采用交叉编译技术将AI推理代码编译为VM指令。VM状态以默克尔树管理,只有根哈希上链。

OPML:采用Optimistic Rollup系统的机器学习

单阶段OPML的局限性在于所有计算必须在VM内完成,无法利用GPU加速。为此,OPML扩展为多阶段协议:

  • 第2阶段在本地环境中执行计算图节点计算,可利用GPU
  • 第1阶段将单个节点计算转为VM指令执行

多阶段OPML相比单阶段可实现α倍计算加速,α可达几十到几百倍。同时Merkle树大小从O(mn)减小到O(m+n)。

OPML:采用Optimistic Rollup系统的机器学习

为确保结果一致性,OPML采用定点算法和软件浮点库,解决了不同平台浮点计算的差异问题。

总的来说,OPML为区块链上的机器学习提供了一个高效、低成本且可验证的解决方案,具有广阔的应用前景。

OPML:采用Optimistic Rollup系统的机器学习

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 3
  • 分享
评论
0/400
MEV Whisperervip
· 07-27 16:51
机器学习卷到链上了?
回复0
ApeWithNoFearvip
· 07-27 16:45
有点意思哦
回复0
烤猫铁粉vip
· 07-27 16:41
麻烦懂行的讲讲靠不靠谱
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)