GPU Goblin

面向研究人员:更大规模的科学计算

借助 GPU Goblin 的计算网络,用 Python 运行您的计算。大型计算会被自动切分到志愿者出借的电脑上,每个结果都经过校验。

您可以计算什么

GPU Goblin 在处理器和显卡上计算其目录中的各类科学计算:

  • 大型矩阵乘法:许多科学计算的核心,当单台机器无法完成时会被拆分成小块。
  • 张量运算图上的计算:描述为由 45 种以上算子(算术运算、归约、整数张量、自定义公式……)组成的图的计算,例如由 Python 包从 PyTorch 程序中捕获。
  • 机器学习模型的训练:卷积网络、Transformer、语言模型。大于任何单个贡献者机器的模型会被自动切分为阶段(依次计算的若干层)、分块(拆分成小块的大矩阵)以及微批次。

您描述计算,网格使用自己经过验证的运算来完成计算。其他类型的计算会逐步加入目录:请告诉我们您的研究需要什么。

一项计算如何进行

  1. 您实验室的节点——安装在实验室的一项小型服务——保存数据,并将计算切分为多个任务。
  2. 贡献者的机器获取各自的输入,完成计算,并返回结果。
  3. 每个结果在使用之前都会经过验证——由独立的验证程序重新计算,或与另一位贡献者完成的相同计算进行比对。
  4. 通过验证的结果被合并为您的结果。对于正在训练的模型,这就是一轮:合并梯度,执行优化器步骤,然后开始下一轮。

您的数据

  • 默认情况下,服务器不存储任何研究数据,您实验室的节点也从不原样发送您的数据集:它向各台机器发送待计算的运算,只附带每个任务所需的数字。
  • 这些数字到达时没有文件名,也没有关于其含义的描述(文本以数字词元的形式到达)。数据在计算过程中不加密:像素数组仍然可以显示为图像,词元也可以还原为文本。请勿将必须保密的数据(例如个人数据或医疗数据)发送到开放的网格。

获取权限

在您的账户中申请使用权限:用电子邮件地址登录,填写研究人员使用申请。问题请联系:contact@gpugoblin.com。

费用

将网格用于科研是免费的。软件在 PolyForm Noncommercial 许可证下提供:科研及任何非商业用途免费。商业用途需与作者达成协议。