在本地进行人工智能@@计算的@@四个优点@@

为@@什么人们需要更低功耗的@@人工智能@@@@?麻省理工学院@@(MIT)副教授@@Vivienne Sze此前在接受采访时表示@@,人工智能@@应用正在向智能手机@@、微型机器人@@@@、互联网@@连接设备@@和@@其他功率和@@处理能力有限的@@设备@@转移@@,意味着数据@@处理不再需要在云端@@、仓库服务器机架上进行@@,从@@云上卸载计算使我们能够扩大人工智能@@的@@影响范围@@,通过减少与远程服务器通信造成的@@延迟来加快响应时间@@。

现在@@,人工智能@@的@@本地化部署有了一个专属名称@@——边缘智能@@,也可叫做边缘人工智能@@@@。随着@@5G、人工智能@@和@@网@@络安全@@三大领域相互渗透@@,智慧工厂@@和@@自动驾驶两大典型的@@物联网@@应用引发数据@@爆发式增长@@,传统云端处理@@、边端执行的@@模式已经出现明显的@@瓶颈@@,终端硬件搭配@@AI模型和@@软件算法@@已经是大势所趋@@,成为@@人工智能@@发展的@@下一个关键阶段@@。

本文我们将重点讨论传统人工智能@@面临的@@挑战@@,以及@@边缘智能@@会带来哪些好处@@。同时@@,也会为@@大家推荐贸泽电子@@@@上在售的@@@@,适用于部署边缘智能@@的@@元器件@@,推动产业大升级@@。

边缘智能@@的@@四大典型优势@@

自上世纪@@50年@@代人工智能@@概念被提出以后@@,产业发展至今经历了数次的@@高潮和@@寒冬@@。虽然有低谷@@,但人类对人工智能@@技术@@的@@探索从@@没有停止过@@。2006年@@至今@@,我们经历了人工智能@@产业新一轮发展大潮@@,在此@@过程中@@,“算力@@+算法@@+数据@@”正式被定义为@@人工智能@@产业的@@三驾马车@@,云计算平台作为@@算力@@提供@@源@@,大幅提升了人工智能@@算法@@模型的@@体量@@。

根据@@前瞻产业研究院@@的@@统计数据@@@@@@,从@@2016年@@到@@@@2020年@@全球人工智能@@产业市场规模实现了数倍的@@增长@@,从@@2016年@@的@@@@593亿美元@@快速增长到@@了@@2020年@@的@@@@2,335亿美元@@。市场的@@高速增长不仅给企业带来巨大的@@投资回报@@,同时@@也赋予社会发展肉眼可见的@@便利性@@。

图@@1:全球人工智能@@市场规模@@.png

图@@1:全球人工智能@@市场规模@@(图@@源@@:前瞻产业研究院@@)

然而@@,在电信业务@@、政府@@、安防@@、金融四大传统人工智能@@应用领域取得突破之后@@,全球人工智能@@发展遇到@@了新的@@阻力@@,发生了巨大的@@变化@@。根据@@市场分析机构@@IDC的@@预测@@,未来人工智能@@发展不再仅仅是云端集中式@@,会更加注重落地和@@实践@@,趋向广泛化@@、纵向化@@,打通人工智能@@技术@@和@@广泛行业的@@最后@@一公里@@。

在这种大趋势下@@,传统人工智能@@应用框架@@@@出现了明显的@@技术@@瓶颈@@,包括@@数据@@瓶颈@@、泛化瓶颈@@、能耗瓶颈@@、预义鸿沟瓶颈@@、可解释性瓶颈和@@可靠性瓶颈等@@。在这么多瓶颈背后@@,一个相同的@@原因是此前的@@人工智能@@应用框架@@里@@,所有应用都是以云计算为@@依托@@,数据@@都必须返回到@@云端@@,给处理效率@@、信息安全@@@@、部署成本带来了极大的@@挑战@@。

图@@2:传统人工智能@@应用框架@@@@.png

图@@2:传统人工智能@@应用框架@@@@(图@@源@@:前瞻产业研究院@@)

随着@@人工智能@@落地到@@越来越多的@@细分场景里@@,完全依赖云计算的@@人工智能@@越来越不适应@@,业界提出的@@解决方案@@便是边缘智能@@@@。当然@@,边缘智能@@和@@传统的@@云端智能绝不是替代关系@@,而是更好的@@补充@@。通过下方边缘计算产业联盟@@@@(ECC)发布的@@边缘计算参考架构@@能够看出@@,边缘智能@@和@@云端智能并不割裂@@,只是应用程序和@@边缘端紧密结合@@。

图@@3:边缘计算参考架构@@.png

图@@3:边缘计算参考架构@@(图@@源@@:边缘计算产业联盟@@(ECC))

从@@系统框架@@来看@@,边缘智能@@方案大致可以分为@@基础资源层@@、虚拟化层@@、边缘虚拟服务层@@,实际上就是云端智能的@@下沉@@,一般而言@@,具体的@@业务切分由规则引擎来负责@@。如下图@@@@4所示@@,当计算资源迁移到@@边缘端之后@@,边缘智能@@方案将独立拥有@@操作系统以及@@相关的@@硬件资源@@,这也就是为@@什么我们上面提到@@@@,边缘智能@@的@@核心要义是应用程序和@@边缘端深度融合@@。

图@@4:基于规则引擎的@@边缘智能@@方案@@.png

图@@4:基于规则引擎的@@边缘智能@@方案@@(图@@源@@:论文@@《一种基于规则引擎的@@边缘计算技术@@研究及实施方案@@》)

计算和@@任务处理直接在边缘端进行@@,这让边缘智能@@方案具备@@四大突出的@@技术@@优势@@。

实时性好@@

首先是实时数据@@处理@@、提高@@响应速度@@。相较于传统海量数据@@无差别上云而言@@,边缘智能@@由于更靠近用户终端装置@@,可以加快数据@@的@@处理与传送速度@@,减少延迟@@。这种实时性对自动驾驶@@、工业机器人@@等应用有重要价值@@。

带宽需求小@@

其次是减少互联网@@带宽依赖@@。根据@@IDC的@@统计数据@@@@,2021年@@,全球创造了@@82.5ZB的@@数据@@@@,未来五年@@全球数据@@规模还将以@@21.2%的@@年@@复合增长率快速发展@@,到@@2026年@@达到@@@@216ZB。如果这些数据@@全部送到@@云数据@@中心去处理@@,那么@@将会对网@@络带宽造成巨大的@@传输压力@@。而边缘智能@@以卸载的@@方式将大部分边缘端产生的@@巨量数据@@及时处理@@,帮助减轻网@@络带宽的@@压力@@。

功耗低@@

第三是降低系统功耗@@。根据@@工信部数据@@@@,2021年@@中国数据@@中心耗电量@@2,166亿千瓦时@@,占社会用电量比例达@@2.6%,相当于@@1.3个上海市的@@总社会用电量@@。通过云边结合的@@方式@@,数据@@中心可以更加专注在@@AI大模型的@@训练和@@运转@@,边缘智能@@方案极为@@强调能耗比@@,将有助于降低整体功耗@@。

安全@@性好@@

最后@@,边缘智能@@能够更好地保护用户的@@数据@@@@隐私和@@数据@@安全@@@@。边缘智能@@方案在终端就可以对数据@@进行清洗@@、预处理@@、聚合@@、筛选等操作@@,数据@@不用完全返回云端再做处理@@,或@@者最终传输到@@云端的@@数据@@@@为@@脱敏数据@@@@,降低了隐私@@、机密数据@@泄露的@@风险@@,提升了数据@@的@@安全@@性@@。

凭借上述这些突出的@@技术@@优势@@,边缘智能@@在智能驾驶@@、智慧工厂@@、智慧能源和@@智能家居等领域应用广泛@@,提升了人工智能@@的@@应用深度和@@广度@@,丰富了@@“AI+”的@@实际应用@@。当然@@,想要打造@@高效稳定的@@边缘智能@@方案@@,离不开电子@@元器件的@@支持@@@@。作为@@全球知名先的@@电子@@元器件分销平台@@,贸泽电子@@@@销售的@@电子@@元器件遍及各种边缘智能@@解决方案@@@@,助力打造@@低碳智能的@@数字新世界@@。下面@@,我们就来为@@大家推荐几款具有代表性@@、可用于@@边缘智能@@的@@元器件产品@@。

Microchip机器学习整体@@解决方案@@@@

上述内容已经提到@@@@,边缘智能@@是@@云端智能的@@下沉@@,也就是说@@将人工智能@@的@@模型置于边缘端@@。目前@@,云端配合最理想的@@方式是@@:将机器学习的@@训练模型放置在云端@@,通过云端大算力@@的@@优势提升训练的@@效率@@;将机器学习的@@推理@@、决策和@@执行模型放置在边缘@@,需要的@@计算和@@存储资源相对较小@@,保障了部署的@@灵活性@@,并降低系统反应的@@时间@@。

因此@@,我们通过@@Microchip机器学习整体@@解决方案@@@@能够看到@@@@,在边缘一侧@@,元器件会涉及到@@更善于终端推理的@@@@FPGA,更利于系统集成@@和@@部署的@@@@MCU/MPU,以及@@其他帮助工程师打造@@边缘机器学习方案的@@模拟器件和@@安全@@器件@@。目前@@,Microchip这份完整的@@机器学习方案已经在贸泽电子@@@@全面上线@@,接下来我们就来系统地看一下@@这份方案@@,以及@@方案里面的@@具体器件@@。

图@@5:Microchip机器学习整体@@解决方案@@@@.png

图@@5:Microchip机器学习整体@@解决方案@@@@(图@@源@@:Microchip)

综合而言@@,Microchip机器学习整体@@解决方案@@@@是一个包括@@软件和@@硬件工具套件@@、参考设计以及@@硅平台的@@系统方案@@,非常适合用于需要具有高级性能的@@简单易用的@@应用@@。也就是说@@,无论你是@@AI和@@机器学习方面的@@新手@@,还是寻求高性能@@、经验丰富的@@工程师大牛@@,都能够在@@Microchip机器学习整体@@解决方案@@@@里找到@@适合自己的@@软硬件组合@@。

在硅器件方面@@,Microchip广泛的@@硅器件产品组合包括@@@@MCU、MPU和@@FPGA。为@@帮助工程师使用这些器件@@,Microchip准备@@了全面丰富的@@软件工具包@@,允许工程师朋友使用流行的@@@@ML框架@@,包括@@TensorFlow、Keras、Caffe和@@ONNX涵盖的@@许多其他框架@@@@,以及@@TinyML和@@TensorFlow Lite中的@@框架@@@@。这些丰富的@@开发套件组合起来@@,构成了@@Microchip硅器件背后的@@开发生态系统@@。

比如@@,在使用@@Microchip的@@MCU或@@MPU器件时@@,MPLAB开发生态系统将与@@Microchip的@@开发板@@以及@@机器学习设计合作伙伴提供@@的@@软件套件和@@解决方案@@无缝集成@@@@,提供@@MPLAB X集成@@开发环境@@(IDE)、MPLAB XC C编译器@@、MPLAB Data Visualizer等开发工具@@,显著提升开发者的@@开发效率@@。

在使用@@Microchip的@@FPGA器件时@@,该公司先进的@@@@VectorBlox加速器@@软件开发套件@@(SDK)可以让开发者轻松编程高能效神经网@@络@@。VectorBlox加速器@@SDK还附带了基于@@PolarFire视频@@套件构建智能@@AI相机平台的@@说明@@,让开发者可以更加方便地评估不同的@@卷积神经网@@络@@(CNN)。

此外@@,围绕丰富的@@硅器件@@,Microchip还提供@@了丰富的@@评估套件@@,包括@@带有@@TDK InvenSense 6轴@@MEMS运动传感器的@@@@SAM D21机器学习评估套件@@和@@带@@Bosch IMU的@@SAM D21机器学习评估套件@@。

通过全面的@@软硬件组合@@,以及@@Microchip经过验证的@@参考设计和@@经验丰富的@@合作伙伴网@@络@@,可以帮助广大机器学习开发者降低风险@@、缩短上市时间@@、降低功耗和@@应用成本@@。开发者可以借助这些资源设计各种应用程序@@,用于数据@@中心@@、自动驾驶汽车@@、安全@@和@@监控@@、电子@@围栏@@、增强和@@虚拟现实耳机头显@@、无人机@@、机器人@@、卫星图@@像和@@通讯中心等领域@@。

上面我们对@@Microchip机器学习解决方案@@进行了全面介绍@@,接下来我们通过@@一款具体的@@方案@@,看一下@@Microchip方案在机器学习方面的@@出色性能@@。在此@@,我们为@@大家展开介绍上面提到@@的@@带有@@TDK InvenSense 6轴@@MEMS运动传感器的@@@@SAM D21机器学习评估套件@@,贸泽电子@@@@上该评估套件的@@物料号为@@@@EV18H79A,大家可以通过搜索此物料号@@,在贸泽电子@@@@平台快速找到@@这款评估套件@@,并且通过该评估套件的@@详情页就可以看到@@我们上述提到@@的@@@@Microchip机器学习整体@@解决方案@@@@

图@@6:EV18H79A.png

图@@6:EV18H79A(图@@源@@:贸泽电子@@@@)

EV18H79A SAMD21机器学习评估套件@@基于@@Arm® Cortex®-M0+的@@32位@@MCU打造@@,带有板载@@调试器@@(nEDBG)、ATECC608A CryptoAuthentication安全@@188足彩外围@@app IC和@@完全认证的@@@@ATWINC1510 Wi-Fi网@@络控制器@@。作为@@一款面向机器学习应用的@@@@多功能传感器开发工具@@,EV18H79A上集成@@了@@Microchip MCP9808高精度@@温度传感器@@、光传感器以及@@带有@@TDK InvenSense ICM-42688-P、高精度@@6轴@@MEMS的@@附加板@@,帮助开发者收集数据@@以训练和@@创建机器学习模型@@。

此外@@,为@@了让开发者更快上手@@EV18H79A SAMD21机器学习评估套件@@,Microchip还提供@@了用户指南和@@项目示例@@,进一步帮助大家缩短开发周期@@。

可用于@@AIoT应用的@@@@ESP-EYE开发板@@

我们都知道@@,人工智能@@和@@物联网@@融合而成的@@@@AIoT是边缘智能@@典型的@@应用场景@@,当然@@也可以说@@,边缘智能@@是@@AIoT落地的@@重要推动技术@@@@。那么@@,接下来我们为@@大家推荐一款来自制造商@@Espressif Systems(乐鑫科技@@)、可用于@@AIoT场景的@@@@ESP-EYE开发板@@

图@@7:ESP-EYE.png

图@@7:ESP-EYE(图@@源@@:贸泽电子@@@@)

ESP-EYE是专注于@@AIoT智能物联网@@领域的@@图@@像识别与语音处理开发板@@@@,板载@@ESP32系列芯片@@,集成@@200万像素摄像头@@、数字麦克风@@,拥有@@8MB PSRAM和@@4MB闪存的@@丰富存储@@,支持@@Wi-Fi图@@像传输与@@MicroUSB调试与供电@@。基于以上丰富的@@配置和@@功能@@,开发者可以基于@@ESP-EYE实现语音唤醒@@、人脸检测@@、人脸识别等交互功能@@,可广泛应用于智能物联网@@领域的@@应用开发@@。

同时@@,为@@了帮助开发者提升开发效率@@,Espressif Systems为@@ESP-EYE准备@@了全面的@@用户指南@@,让大家可在@@Linux、MacOS、Windows操作系统中完成软件烧写@@,并实现上述@@AIoT相关功能@@,可协助用户开发高度集成@@的@@@@AI解决方案@@。

边缘智能@@未来发展趋势@@

作为@@传统云端智能的@@重要补充和@@延伸@@,边缘智能@@具有无穷的@@魅力@@,是未来人工智能@@领域发展的@@重要方向@@,相关厂商也将以芯片和@@软件技术@@为@@抓手@@,积极推动边缘智能@@的@@发展@@。

面向未来@@,边缘智能@@将呈现四大明显的@@发展趋势@@。首先是核心芯片集成@@度更高@@、算力@@更强@@,整体方案更加智能@@;其次是系统架构更加灵活@@,更容易开发和@@部署@@;第三是边缘智能@@方案的@@能效比将不断提升@@,使得更多的@@@@AI负载将卸载到@@边缘端@@;最后@@是边缘智能@@的@@生态将更加成熟@@,围绕核心硬件将会有更加丰富的@@配套工具和@@开发环境@@。

而在边缘智能@@技术@@不断提升的@@过程中@@,电子@@元器件始终都将是整个方案最核心的@@部分之一@@,贸泽电子@@@@将持续为@@行业带来前沿的@@元器件产品@@,助力实现更好的@@边缘智能@@方案@@。