随着AI应用领域快速扩展,如何在公有云上搭建更高效的架构,加速AI运算过程,成为诸多AI企业亟需解决的难题。近日,金山云宣布新一代云物理机CMLU1正式商用,作为倾力打造的新新一代核心计算产品,CMLU1搭载了国内首款云端人工智能芯片寒武纪MLU100,专注于为云端AI推理提供强悍的运算能力支撑,在性能和能效方面实现了大幅度提升,能广泛适用于语音、图像、视频等AI应用场景。
此次金山云新一代云物理机搭载的MLU100云端智能芯片,作为面向人工智能大规模数据中心的核心芯片,具备能效高、运算能力强等诸多优势,同时MLU100支持浮点运算和整数运算,FP16达到16 TFLOPS,INT8达到32 TOPS,适用于不同精度需求的推理场景。
在存储方面,MLU100支持最大16GB的存储(类似GPU的显存),提供ECC保护,极大提升整体存储的性能。同时MLU100支持稀疏化,将稀疏化技术应用于智能芯片中,通过稀疏化处理,可进一步提升性能。在能效方面,MLU100采用了针对深度学习和AI应用特点定制的指令集和处理器架构,具有更高的能效比。
基于金山云对服务器软硬件的深度优化,新一代云物理机可广泛支持各类深度学习技术和多模态智能处理,能够完美满足视觉、语音、自然语言处理、经典数据挖掘等领域在复杂场景下的云端智能处理需求,如海量数据、多任务、多模态、低延时、高通量等。
随着云计算的加快速度进行发展,基于云端的大数据和人工智能技术,正在被慢慢的变多的企业所采用,如针对图片识别、人脸识别等AI应用很多已经选择部署在公有云上,但因为缺乏云端架构的深度优化协同,导致TensorFlow、Caffe、MxNet等主流深度学习框在运行时效率并不高,金山云与寒武纪基于创新的优化技术,通过完善软件开发环境和开发工具,全方面提升AI开发效率。
在软件开发环境方面,寒武纪针对MLU100提供了完善的开发环境Cambricon NeuWare,使得MLU100能够完美支持如TensorFlow、Caffe、Caffe2、MXNet、ONNX等主流编程框架,用户可面向上述编程框架,便捷地开发和部署深度学习应用。
在开发工具方面,寒武纪提供了三类:应用开发类、功能调试类、性能调优类。如应用开发类工具中,包括机器学习库、运行时库、编译器、模型重训练工具和特定领域(如视频分析领域)SDK等,可以有明显效果地帮助用户提升深度学习开发效率。
作为中国领先的云计算服务提供商,金山云始终致力于通过最前沿的技术、最高效的产品为客户提供更安全、稳定、便捷的云服务。目前搭载寒武纪MLU100的新一代云物理机已开放商用,基于该实例高可靠和高性能的产品特性,让用户能更加快速、高效地构建AI业务,为业务发展加速。