沿着澳大利亚新南威尔士州(NSW)的海岸线，盘旋着一队无人机，帮助保持水域安全。今年早些时候，无人机帮助该州远北海岸的救生员营救两名青少年(在新窗口打开)他们在汹涌的海浪中挣扎。
的无人驾驶飞机由人工智能(AI)和机器视觉算法提供动力，这些算法不断分析视频源，并突出需要注意的项目，比如鲨鱼或迷路的游泳者。这是同一种技术，使谷歌图片要对图片进行排序，a家庭安全摄像头用来检测陌生人，智能冰箱会在你的易腐食品快过期时发出警告。
但是，尽管这些服务和设备需要不断连接到云端来实现其人工智能功能，但新南威尔士州的无人机在有或没有可靠的互联网连接的情况下都可以执行图像检测任务，这要归功于神经计算芯片，它们可以在本地执行深度学习计算。
这些芯片是边缘计算创新日益增长趋势的一部分，使我们的软件驱动设备至少可以执行一些关键功能没有持续的云连接(在新窗口打开)．边缘计算的兴起正在帮助解决新老问题，并为下一代智能设备铺平道路。
卸下云的负担
在过去的二十年中，云已经成为托管应用程序的实际方式，这是有充分理由的。
“云计算如此吸引人的原因在于，它往往可以降低启动任何活动的成本，”dropbox的首席技术官Rob High说IBM华生(在新窗口打开)．“云……允许人们……解决当今的实际问题，而不必付出基础设施建设的成本。”
随着无处不在的互联网连接和几乎无数的云应用程序、服务和开发平台，创建和部署应用程序的障碍已经大大减少。IBM、谷歌和亚马逊等云提供商的大量资源不仅促进了琐碎的业务应用程序的开发，还促进了需要大量计算和存储的复杂软件的开发——人工智能和机器学习算法，以及流媒体和AR(增强现实)应用程序。
但这些进步也带来了一个挑战:我们使用的大多数应用程序除非与云连接，否则无法正常工作。这包括大多数运行在电脑和手机上的应用程序，以及冰箱、恒温器、门锁监控摄像头、汽车、无人机、天气传感器等等。
IBM的罗伯·海与沃森对话随着物联网(IoT)的出现，越来越多的设备正在运行软件并生成数据，其中大多数都需要连接到云端来存储和处理数据。将数据发送到云端所需的功率和带宽是巨大的，存储数据所需的空间将对即使是最强大的云计算巨头的资源构成挑战。
“我们在这些系统中收集了大量数据，无论是在边缘，还是在物联网设备，或任何其他地方，你几乎可以决定不关心这些数据，”High说。但是，如果每个决策都必须在云中进行，那么所有的数据都必须通过网络发送到云服务器上进行清洗和过滤。
海伊举了一个例子，现代飞机包含数百个监测喷气发动机和收集数据的传感器几百千兆字节(在新窗口打开)每次飞行的状态和性能数据。“如果你想分析总体数据，有多少数据真正重要?可能只是其中的一小部分，”海伊说。“当它对你所做的任何其他事情都没有必要时，为什么不从源头上摆脱它呢?”
在以前，在云计算之外实现High的建议几乎是不可能的，但低功耗、低成本的片上系统(SoC)处理器的进步赋予了边缘设备更多的计算能力，并让它们承担了生态系统的一些计算负担，比如执行实时分析或过滤数据。
“在边缘环境中有如此多的数据，将一些云计算功能引入边缘设备的计算能力是有意义的，”High说。
隐私问题
边缘计算的好处并不局限于释放云资源。
Remi El-Ouazzane，新技术集团总经理Movidius(在新窗口打开)(英特尔)引用了商业安全摄像头作为边缘计算可以产生巨大影响的另一个例子。你可以在红绿灯、机场和建筑物入口处看到这些摄像头，全天候在网络上录制和传输高质量的视频。
“你需要拖回服务器或数据中心的数据越少，你在本地可以做的清理和处理就越多，从存储和传输的角度来看，你的总体拥有成本就越高，”El-Ouazzane说。
这意味着为摄像头提供分析自己的视频源的能力，确定需要关注的视频帧数或长度，并只将这些数据发送到服务器。
当这些摄像头安装在你的家里、办公室或任何私人地点时，与云的连接也成为一个潜在的安全问题。黑客和安全研究人员已经做到了妥协关系(在新窗口打开)在家用电器和它们的云服务器之间拦截敏感的视频源。本地解析数据可以避免在你的家庭、私人生活和服务提供商之间建立视频通道。
Movidius在2016年被英特尔收购几家创业公司之一(在新窗口打开)制造专门用于语音识别和计算机视觉等人工智能任务的计算机芯片。该公司生产视觉处理单元(vpu)——运行神经网络的低功耗处理器，可以分析和“理解”数字图像的上下文，而不需要将它们发送回云端。
Movidius Myriad 2是一款专为电力受限环境设计的全天候视觉处理器。
El-Ouazzane说:“当相机理解它所看到的事物的语义时，那么对相机能做什么或不能做什么施加规则的能力将变得非常容易。”“在接下来的12个小时里，你不需要为了知道在某个给定的时间里，你的狗狗穿过了沙发前的地毯而在客厅里拍照。”
其他公司正在探索使用专门的人工智能驱动的边缘计算来保护用户隐私。的苹果iPhone X(Verizon $999.00)(在新窗口打开)例如，它是由A11仿生芯片驱动的本地运行AI任务这样就可以执行复杂的面部识别，而无需将用户的面部照片发送到云端。
在边缘进行更多的人工智能处理可以为去中心化人工智能(在新窗口打开)在美国，用户要使用人工智能应用程序，就必须与大公司分享更少的数据。
减少延迟
大型云提供商的另一个问题是，他们的数据中心位于大城市之外，远离使用他们应用程序的人和设备成百上千英里。
在许多情况下，数据往返于云中所引起的延迟可能会导致较差的性能，甚至更糟，导致致命的结果。这可以是一架试图避免碰撞或降落在不平坦地面的无人机，也可以是一辆自动驾驶汽车试图判断它是撞上了障碍物还是撞上了障碍物行人．
Movidius对深度神经网络和计算机视觉的轻量级实现，使其芯片适用于无人机等移动边缘设备，对于这些设备，gpu等耗电硬件是不可行的。无人机是一项特别有趣的研究，因为它们需要低延迟访问人工智能计算，并且必须在离线环境中保持运行。
手势检测是边缘计算帮助改善无人机体验的另一个领域。“我们的目标是让更多人可以使用无人机，手势似乎是人们使用无人机的一种很好的方式。当你用手势让无人机执行某些任务时，延迟很重要，”El-Ouazzane说。
对于创业公司来说Skylift全球(在新窗口打开)该公司为救援人员和急救人员提供重量级无人机服务，低延迟访问人工智能和计算资源可以节省资金和生命。Skylift的首席执行官兼创始人阿米尔·埃马迪(Amir Emadi)表示:“这将大大降低数据摄入成本，减少网络延迟，提高安全性，并有助于将流数据转化为实时决策。”
向急救人员运送物资需要瞬间做出决定。“时间过得越久，例如在扑灭野火时，补救情况的成本就越高。随着我们的无人机能够在失去连接的情况下也能在边缘做出实时决策，我们将能够挽救更多的生命、金钱和时间。”
其他需要近实时计算的领域包括增强现实和虚拟现实应用以及自动驾驶汽车。“这些都是基于经验的计算环境。它们将发生在人们身边，”的首席执行官扎卡里·史密斯说包(在新窗口打开)这是一家总部位于纽约的初创公司，专注于让开发人员能够访问高度分布式的硬件。
AR或VR应用程序如果不能跟上用户的动作，要么会导致头晕，要么会阻止体验变得身临其境和真实。当严重依赖计算机视觉和机器学习算法的自动驾驶汽车成为主流时，延迟将成为一个更大的问题。
史密斯说:“30毫秒的延迟对于加载网页来说无关紧要，但对于一辆以60英里每小时的速度行驶的汽车来说，为了避免撞到一个小女孩，它应该向左还是向右转弯，这真的很重要。”
迎接前沿的挑战
Smith承认，尽管有必要让计算更接近边缘，但在每台设备上安装专门的硬件可能不是最终的答案。“为什么不把所有的电脑都放在车里?”我认为这真的与你能多快地控制生命周期的进化有关。”
史密斯说:“当你把硬件投放到世界上时，它通常会停留在那里5到10年。”而支持这些基于体验的用例的技术每6到12个月就会发展一次。
编辑推荐
即使是拥有复杂供应链的大型公司，也经常在硬件更新方面遇到困难。2015年，菲亚特克莱斯勒(Fiat Chrysler)不得不这么做召回140万辆汽车修复五年前暴露的安全漏洞。芯片制造商巨头英特尔仍在努力应对设计缺陷这使得数亿台设备暴露在黑客面前。
Movidius的El-Ouazzane承认这些挑战。他说:“我们知道，每年我们都必须更换一系列产品，因为每年我们都会在尖端领域带来更多智能，我们会要求客户进行升级。”
为了避免不断的召回，并让客户长期使用他们的边缘硬件，Movidius在处理器中添加了额外的资源和容量。El-Ouazzane表示:“我们需要在未来几年对这些产品进行升级。
史密斯的Packet公司采用了一种不同的方法:它创建了微型数据中心，可以部署在城市中，更接近用户。然后，该公司可以为开发人员提供非常低延迟的计算资源——尽可能接近用户，而无需将实际硬件置于边缘。
Smith表示:“我们相信，未来将需要一种基础设施交付机制，让全世界每个城市的开发者都能访问硬件。”该公司已经在15个地方运营，并计划最终扩展到数百个城市。
但Packet的雄心不止于打造谷歌和亚马逊(Amazon)等公司运营的庞大设施的微型版本。正如Smith解释的那样，部署和更新专用硬件在公共云上是不可行的。在Packet的商业模式中，制造商和开发人员在公司的边缘数据中心部署专门的硬件，在那里他们可以在需要时快速更新和刷新硬件，同时也确保他们的用户能够超高速访问计算资源。
孵化(在新窗口打开)该公司是Packet的客户之一，是开发了《愤怒的小鸟》(Angry Birds)的手机游戏公司Rovio的子公司。该公司在边缘计算服务器上运行Android，为使用低端Android设备的用户提供低延迟的多人游戏流媒体服务。
史密斯说:“(Hatch)在全球所有这些市场上都需要相当专业的ARM服务器。“他们对我们的服务器产品进行了定制配置，我们将其投放到欧洲的8个全球市场，很快将扩大到20或25个市场。对他们来说，这就像亚马逊，但他们可以在欧洲的每个市场上运行定制硬件。”
从理论上讲，Hatch可以在公共云上做同样的事情，但成本会使其成为一项效率低下的业务。Smith说:“区别在于每个CPU上有100个用户和每个CPU上有1万个用户。
Smith相信这种模式会吸引开发人员一代，他们将推动下一个软件创新。史密斯说:“我们关注的是如何将在云环境中长大的软件一代与专门的硬件原语连接起来。”“我们说的是那些甚至不能打开MacBook看内部的用户，而这些人将在硬件/软件堆栈上进行创新。”
云会消散吗?
随着边缘设备能够执行复杂的计算任务，云的未来是否处于危险之中?
“对我来说，边缘计算是云计算的自然和合乎逻辑的下一个发展，”IBM沃森的High说。
事实上，在2016年，IBM推出了一套工具，让开发人员无缝对接在边缘和云之间分配任务(在新窗口打开)特别是在物联网生态系统中，边缘设备已经收集了大量关于其直接环境的数据。2016年底，亚马逊网络服务，另一个主要的云开发平台，本片所宣布的(在新窗口打开)这项服务使物联网开发人员能够在边缘设备上运行部分云应用程序。
这一切并不意味着云将会消失。海伊说:“有很多事情在云计算中做得更好，即使很多工作仍然在边缘上完成。”这包括收集来自许多不同来源的数据，以及使用庞大的数据集进行大规模分析等任务。
High说:“如果我们需要在这些边缘设备中使用的人工智能算法中创建模型，创建和训练这些模型仍然是一个非常大规模的计算密集型问题，而且通常需要远远超过这些边缘设备上可用的计算能力。”
El-Ouzzane表示同意。“本地训练人工智能模型的能力极其有限，”他说。“从深度学习的角度来看，训练只有一个地方，那就是云，在那里你有足够的计算资源和足够的存储空间来处理大型数据集。”
El-Ouazzane还提供了边缘设备被分配任务和时间关键任务的用例，而云则负责不依赖于延迟的更高级的推理。“我们生活在一个云端和边缘之间的连续性世界。”
“在边缘计算和云计算之间有一种非常共生和协同的关系，”High说。
快进:联想Brian Connors的超级计算
