今年在央企搞人工智能,有三个事情感触很深:
- 由于自主可控要求,不能买 NVIDIA 的 GPU ,只能选择国产卡,且几乎只有华为的 NPU 可以买,昆仑芯、摩尔线程、沐曦这些厂商知名度低,业内用得也不多;
- 运营商手上有前几年购买的大量华为 NPU 服务器闲置,可以用极低的价格租用;
- 自建算力中心时,采购华为 NPU 服务器,算上交换机、人工等必须的费用后,用理想性能 24 小时不停的跑推理服务,成本也远高于云服务厂商的价格。
这算力中心建设起来,成本高,性能差,兼容性也不行。有运营商的前车之鉴,我这边估计也会慢慢闲置。

