近日,实验室博士生牛鑫(导师余辰教授)的论文“Game-based Adaptive FLOPs and Partition Point Decision Mechanism with Latency and Energy-Efficient Tradeoff for Edge Intelligence”被 IEEE Transactions on Computers (TC) 期刊录用。
作为边缘计算与人工智能结合的产物,边缘智能在网络边缘侧为用户提供智能服务。考虑到终端设备的计算能力受限和能量有限,通常将为用户提供智能服务的深度神经网络模型进行划分,以往的模型划分方法往往只考虑能耗而忽略了智能服务的时延,或者仅仅优化时延而不考虑边缘设备的能耗。此外,离线和在线的模型划分方法分别存在对真实的计算环境适应性差和延迟反馈的问题。针对以上问题,文章提出了一种基于博弈的自适应浮点运算(FLoating-point Operations Per Second,FLOPs)和划分点决策机制(Game-based Adaptive FLOPs and Partition Point Decision Mechanism, GAFPD)。首先,GAFPD获取边缘设备在当前时刻完成计算任务的最小时延和最低能耗,以及相应的划分点;此外,估计边缘服务器完成终端设备卸载的计算任务的时延。其次,估算终端设备单独完成计算任务的时延和能耗。在此基础上,获得模型划分降低延迟和提高能效的能力。然后,获得关于延迟和能耗的纳什均衡FLOPs。最后,结合输出数据大小、划分点的纳什均衡度和划分点的FLOPs,构建回归模型,选择最优的同时降低延迟和提高能效划分点。大量的仿真实验和基于机器人的边缘智能系统的实验表明,GAFPD在降低智能服务时延的同时,提高了边缘设备的能效。
IEEE Transactions on Computers是计算机体系结构领域的顶级期刊之一,属于中国计算机学会CCF A类期刊,当前影响因子为3.7。
(通讯员:牛鑫)