今年1月，麻省理工学院的学生Mohammad hatf - javaherian参加了麻省理工学院的绿色人工智能黑客松(Green AI Hackathon)，出于好奇，他想了解在活动中展示的一种新型超级计算机集群的能力。但他原本计划用一个小时探索一个很酷的新服务器，却让他参加了一个为期三天的创造节能人工智能程序的比赛。
这次经历给研究人工智能在医疗保健领域应用的哈夫特- javaherian带来了启示:“我每天用来构建模型的集群以改善医疗保健为目标，它们有碳足迹，”哈夫特- javaherian说。
该处理器用于开发人工智能算法消耗大量的电力。在过去几年里，随着人工智能使用量的增长，其能源消耗和碳排放已成为一个环境问题。
哈夫特-贾瓦赫里安说:“我改变了计划，在整个黑客松期间都留在了那里，以完成一个不同的项目:在能源消耗和效率方面改进我的模型。”哈夫特-贾瓦赫里安从黑客松中获得了1000美元奖金。他现在认为碳排放是开发新的人工智能系统的一个重要因素。
但与Haft-Javaherian不同的是，许多开发人员和研究人员忽视或忽视了他们的人工智能项目的环境成本。在云计算服务时代，开发人员可以在几分钟内租用拥有数十个cpu和强大图形处理器(gpu)的在线服务器，并快速开发强大的人工智能模型。当他们的计算需求上升时，他们只需点击几下鼠标就可以增加更多的处理器和gpu(只要他们能买单)，而不知道每增加一个处理器，他们就会对我们的绿色星球造成污染。
为什么人工智能会消耗这么多能量?
最近人工智能的耗电量激增，很大程度上是由深度学习这是人工智能算法的一个分支，依赖于处理大量数据。现代机器学习算法使用深度神经网络(在一个新窗口中打开)波士顿大学计算机科学系副教授、计算机视觉和学习小组主任Kate Saenko说:“这是一种非常大的数学模型，具有数亿甚至数十亿个参数。”
这些参数使神经网络能够解决复杂的问题，如图像分类，人脸和声音识别，以及生成连贯和令人信服的文本。但在以最佳精度执行这些任务之前，神经网络需要接受“训练”，这包括通过对大量示例执行复杂计算来调整参数。
“更糟糕的是，网络不会在看过一次训练示例后立即学习;在它的参数变得足够好以达到最佳精度之前，它必须向示例展示很多次，”Saenko说。
所有这些计算都需要大量的电力。根据一项研究(在一个新窗口中打开)马萨诸塞大学阿默斯特分校的研究人员发现，在训练一台变压器(一种深度学习算法)过程中消耗的电能会排放超过626,000磅二氧化碳，几乎是一辆普通美国汽车排放量的5倍。另一项研究(在一个新窗口中打开)发现谷歌的围棋和国际象棋人工智能系统AlphaZero在训练过程中产生了19.2万磅二氧化碳。
公平地说，并不是所有的人工智能系统都这么昂贵。变形金刚被用在深度学习模型的一小部分中，大部分是高级模型自然语言处理系统如OpenAI的GPT-2以及BERT，它最近被整合到谷歌的搜索引擎中。而且很少有人工智能实验室有财力开发和训练AlphaZero这样昂贵的人工智能模型。
此外，在训练了深度学习模型之后，使用它所需的能量要少得多。“对于一个训练有素的网络进行预测，它只需要看一次输入数据，而且它只是一个例子，而不是整个大型数据库。因此，通过计算来进行推断要便宜得多，”Saenko说。
许多深度学习模型在大型服务器上训练后，可以部署在更小的设备上。的许多应用边缘人工智能现在可以在移动设备、无人机、笔记本电脑和物联网设备上运行。但与其他软件相比，即使是小型的深度学习模型也会消耗大量的能量。随着深度学习应用的不断扩展，分配给神经网络训练的计算资源的累积成本正在成为一个问题。
“我们才刚刚开始认识到目前的人工智能技术是多么消耗能源。如果你考虑到人工智能的发展速度，你就会发现我们正朝着一个不可持续的方向前进。，IBM -IBM沃森人工智能实验室的研究员和研究科学家，他在麻省理工学院联合领导了绿色人工智能黑客松。
根据一个估计(在一个新窗口中打开)在美国，到2030年，全球超过6%的能源可能被数据中心消耗。“我不认为事情会发展到那一步，尽管我认为像我们的黑客马拉松这样的活动表明，当开发者得到关于他们所做选择的反馈时，他们是多么有创造力。他们的解决方案将会更加有效。”
创造节能的AI硬件
“cpu、gpu和云服务器不是为人工智能工作而设计的。因此，它们的效率不如专门为人工智能工作设计的处理器，”Cerebras Systems的首席执行官兼联合创始人安德鲁·费尔德曼说。他将使用重型通用处理器用于人工智能比作使用一辆18轮卡车载着孩子们去踢足球。
大脑(在一个新窗口中打开)是为数不多的几家为人工智能算法开发专门硬件的公司之一。去年，它推出了CS-1，这是一款拥有1.2万亿晶体管、18g片上内存和40万个处理核的巨型处理器。实际上，这使得CS-1——有史以来最大的计算机芯片——可以容纳整个深度学习模型，而不需要与其他组件通信。
费尔德曼说:“在制造芯片时，必须注意芯片上的通信是快速和低功耗的，而跨芯片的通信是缓慢的和非常耗电的。”“通过构建一个非常大的芯片，Cerebras将计算和通信保持在单个芯片上，大大降低了整体功耗。另一方面，gpu通过复杂的开关将许多芯片聚集在一起。这需要频繁的芯片外通信，通过开关和返回到其他芯片。这个过程缓慢、低效，而且非常耗电。”
CS-1所使用的功率和空间仅为一个gpu机架的十分之一，而后者可以提供同等的计算能力。
IBM为麻省理工学院(MIT)建造的新超级计算机Satori在绿色人工智能黑客松(Green AI hackathon)上展出，它也被设计用于进行节能人工智能训练。顿悟最近被评为世界上最环保的超级计算机之一(在一个新窗口中打开)．IBM的科恩表示:“Satori可以向用户提供能源/碳反馈，这使它成为改善人工智能硬件和软件碳足迹的绝佳‘实验室’。”
科恩还认为，用于驱动AI硬件的能源也同样重要。顿悟现在住在马萨诸塞州格林高性能计算中心(在一个新窗口中打开)(MGHPCC)，它几乎完全由可再生能源提供动力。
“我们最近计算了MGHPCC的Satori高工作负载的成本，并将其与使用平均能源组合的数据中心的普通超级计算机进行了比较。结果是令人震惊的:Satori一年的负荷将释放到空气中的碳相当于大约五棵完全生长的枫树所储存的碳。在‘普通’机器上运行同样的负荷将释放相当于280棵枫树的碳，”科恩说。
波士顿大学信息和系统工程中心主任Yannis Paschalidis提出了一种更好的数据中心和能源网格的集成，他称之为“需求-响应”模型。“我们的想法是与电网协调，根据电力供应和需求，按需减少或增加用电。这有助于公用事业公司更好地管理电网，并将更多可再生能源纳入生产结构中。”Paschalidis说。
例如，当太阳能和风能等可再生能源供应稀缺时，可以指示数据中心通过减缓计算工作和暂停优先级较低的AI任务来减少消耗。当可再生能源充足时，数据中心可以通过加快计算速度来增加消耗。
Paschalidis说，电网和人工智能数据中心的智能集成，将有助于管理可再生能源的间歇性，同时也减少了休眠电厂对过多待机容量的需求。
节能人工智能的未来
科学家和研究人员正在寻找方法来创建在训练过程中不需要大量数据的人工智能系统。毕竟，人工智能科学家试图复制的人类大脑使用的数据和能力只有当前人工智能系统的一小部分。
在今年的AAAI大会上，深度学习的先驱Yann LeCun讨论了self-supervised学习(在一个新窗口中打开)这种深度学习系统可以用更少的数据进行学习。其他人，包括认知科学家加里·马库斯，认为未来的道路是混合人工智能(在一个新窗口中打开)它结合了神经网络和更经典的基于规则的人工智能方法。混合AI系统有被证明是更多的数据和节能而不是单纯的神经网络系统。
“很明显，人类大脑不需要大量的标记数据。我们可以从相对较少的例子中进行归纳，用常识来理解这个世界。因此，‘半监督’或‘无监督’学习需要的数据和计算量要少得多，这导致了更快的计算速度和更少的能源消耗，”科恩说。
人工智能开发自己的语言
