晶心科联手Deeplite 拓展边缘运算市场

边缘运算设备上,推动低功耗和低延迟深度的学习模型计算机硬体以及人工智慧推理系统这些项目发展持续创造令人兴奋的新机遇业界相关产业对于应用在深度学习的硬体和软体解决方案(也称为Edge AI,边缘运算)的开发产生了前所未有的兴趣

边缘运算已经开始在某些指标性的应用中取得进展,例如音讯信号分类(audio classification)中的关键字搜寻(keyword spotting)、异常检测(anomaly detection)以及电脑视觉应用中的人物辨识(person detection)。具体来说,tinyML是专为超低功耗系统量身订作机器学习分支,具有远大的前景

这个提案中之解决方案的效率极高,甚至只有微瓦,加上其可广泛地部署到此类边缘运算在现实环境中设备的适用性预计在未来5年内,将应用在超过1000亿个IoT传感器和设备。蓄势待发之深度学习科技的未来,将透过比以往更加可负担、具有友善生态系、以及更容易使用的智慧科技,提供客户终端使用者更显著的便利。

晶心科技和Deeplite很高兴地宣布两家公司最新合作成果--透过使用Deeplite独特的最佳化软体和晶心科技低功耗RISC-V CPU核心研发出具有人工智慧运算能力应用程式(AI-powered applications)。这项合作关系着重于压缩(compressing)并加速(accelerating)著名的视觉唤醒词(Visual Wake Words (VWW))应用程式。微型相机可以利用此类程式,进行人物图像侦测。

Deeplite及晶心科技共同获得了领先业界的结果,从利用浮点运算的Mobilenet-v1-0.25x模型中,产出各式最佳化的INT8模型。本次发表的第一组研发结果侧重于提高精确性,以精度为主的INT8模型最佳化提高了2.7%的精度,缩小了1.7倍的档案大小以及提高了9%的执行速度

第二组结果主要着重于最大化压缩(maximizing compression)。与TensorFlow Lite Micro提供的INT8 模型相比,本组专注于模型档案尺寸最小化的模组,成功做到缩小2.3倍的档案大小,更高的精度和提高了15%的执行速度。