这家创企称可将AI模型训练老本降落90% 以散布式网络串联闲置GPU

Monster API应用采矿设施等GPU算力来训练AI模型

GPU通罕用于开掘比特币等加密货币，而挖矿是一种资源密集型的环节，须要弱小的计算才干。

加密货币炒作一度造成市场上GPU充足，随着多少钱飙升，企业和团体转向驳回英伟达(Nvidia) 为游戏行业提供的GPU，并将其转变为加密挖矿设施公用的GPU。

但是随着加密货币热潮的衰退，许多加密挖矿设施封锁甚至被废除。这让Monster API开创人Gaurav Vij看法到，他们可以从新扭转和调整这些设施的用途，以顺应最新的计算密集型开展趋向，也就是训练和运转AI基础模型。

只管这些GPU并不具有AWS或谷歌云等部署的公用AI设施的弱小性能，但Gaurav Vij示意，它们能够训练优化的开源模型，其老本仅为经常使用云计算提供商经常使用的超大规模计算设施的一小局部。

Monster API联结开创人Saurabh Vij示意：“机器学习畛域实践上正在与计算才干作奋斗，由于需求曾经超越了供应。大少数机器学习开发人员如今都依赖AWS、谷歌云、微软Azure来失掉资源，最终破费了少量资金。”

散布式算力网络可以大幅降落AI基础模型训练老本

实践上，除了加密采矿设施之外，在PlayStation 5等游戏系统和较小的数据核心中也可以找到未经常使用的GPU。Saurabh Vij示意：“加密采矿平台驳回GPU，而游戏系统也驳回GPU，且GPU的性能每年都会变得愈增弱小。”

企业和团体的算力汇入散布式网络须要教训包含数据安保审核在内的一系列流程。需求方依据需求参与设施，裁减和增加算力网络。供应方可以从发售闲置算力中取得了一局部支出。

Saurabh Vij强调，散布式计算系统将AI基础模型的训练老本降落到了未来可以由开源和非营利组织训练的水平，而不只仅是财力雄厚的大型科技公司。“假设建设一个AI基础模型须要100万美元，那么像咱们这样的去核心化网络只有要10万美元。”

极客网得知，Monster API如今还提供“无代码”工具来微调模型，并向那些没有技术专长或资源的用户放开，让他们从头开局训练模型，进一步“独裁化”计算才干和AI基础模型。

“微调十分关键，由于少量的开发者没有足够的数据和资金来从头开局训练模型。”他示意，经过优化，Monster API已将微调老本增添90%，使得每个模型的微调费用约为30美元。

开源模型训练可以协助开发人员应用AI启动翻新

只管AI开发商面临迫在眉睫的监管，这或者会间接影响到这些训练模型和开源，但Saurabh Vij以为开源模型训练有其踊跃意义。Monster API曾经看法到有必要在其扩散的网络中治理潜在危险，并确保“可追溯性、透明度和问责制”。

“在短期内，兴许监管机构会获胜，但我对开源社区十分有信念，它的开展十分十分快。在Postman (API开发平台)上有2500万注册开发人员，其中很大一局部正在构建生成式AI，这为一切人开拓了新的业务和新的时机。”他示意。

极客网了解到，经过训练低老本的AI模型，Monster API的指标是让开发人员最大限制能够应用机器学习启动翻新。目前他们曾经有了一些出名的AI模型（例如StableDiffusion和Whisper）可以启动微调，此外用户还可以经常使用这些GPU算力从头开局训练自己的AI基础模型。

SaurabhVij引见称:“咱们曾经在Macbook上启动了文图生成试验，每分钟至少可以输入10张图像。咱们宿愿在网络上接入数百万台Macbook，让用户在睡觉时也能经常使用他们的Macbook运转Stable Diffusion、Whisper或其余AI模型获利。

“最终，Playstation、Xbox、Macbook都将成为弱小的计算资源，甚至是特斯拉汽车——由于特斯拉汽车也驳回了弱小的GPU，而且大少数时刻停在车库中。”Saurabh Vij补充道。