人脸识别硬件

为您提供益光Z新资讯

新闻中心 /News

新闻中心 /News

智能计算的特点

2020-04-11

人工智能,或者说智能计算也存在生态问题。智能计算分为两个相对独立的阶段,一是训练学习阶段,二是推理应用阶段。智能计算平台可以分为两大类,一个是「云侧」平台,解决模型的训练(学习)以及海量智能信息服务(推理)问题,一个「端侧」平台,百花齐放,主要解决推理应用。


智能计算模式相对比较少,精度要求相对低。深度学习算法集中在一些相对固定的操作模式,如向量、矩阵运算,在训练阶段,单精度(32 位)或者半精度(16 位)就可以了,在推理阶段,甚至可以到低值、二值。此外,智能计算可并行度高,目前神经网络同一层的计算可以完全并行,而且很多是规则的大数据流并行。


智能计算对体系结构的要求


智能计算也对体系结构提出了新的要求。比如,在云侧的模型训练需要高效能大规模并行计算能力的支撑。特别是学习模型参数多,数据规模大,计算量大的时候。比如涉及到 80 多亿个参数的机器翻译神经网络模型,这种大型模型的训练,即使在现在的大规模计算平台上,有的也需要几个月的时间。


在云侧,如果用来推理应用就需要高吞吐率、低延迟的服务计算模式支撑,满足海量并发推理任务的服务质量要求,对海量在线用户的快速实时响应。


端侧的推理应用需要小型化、高能效、低时延、传感-计算-通信融合的体系架构支撑。无人机/无人车/机器人等诸多设备,对时延要求非常苛刻。


标签

Z近浏览:

相关产品

相关新闻

Copyright © 深圳市益光科技有限公司All rights reserved 备案号: 粤ICP备18001662号 主要从事于 人脸面板机,人脸考勤机,人脸识别硬件 , 欢迎来电咨询!