AI硬件部署方案阿里云服务器篇

一、经费调研

依据现有预算，查看阿里云官网最便宜的服务器购买情况：

购买一年：

购买五年更优惠：

二、性能对比

性能对比主要发生于显卡，阿里云提供的显卡是英伟达Tesla P4。

1.显卡算力

算力表示显卡的综合性能，GPU算力高于5.0时，英伟达官方说明在GPU算力高于5.0时，可以用来跑神经网络。

2.其他参数

3.说明

1. 首先，英伟达Tesla P4是双精度浮点计算，有论文研究，太高的精度对于深度学习的错误率是没有提升的，而且大部分的环境框架都只支持单精度，所以双精度浮点计算是不必要，Tesla系列对于机器学习的训练提升效果不大。
2. 其次，tesla P4 cuba 核心数2560，没有我们前篇提到的rtx2080接近3000的核心数高。
3. 最后，价格方面，一张tesla P4，天猫价格8000左右，与rtx2080基本接近。而我们不考虑其他硬件设施，光租一套含tesla P4的服务器包年还需要16000，花费较高。

4.说明

如果我们打算长期进行机器学习训练，建议还是按照前篇购置一台服务器。如果只是来训练模型，后期也不打算提升模型调优参数，那么可以考虑租用阿里云的服务器。