新闻网讯(记者 左盈)近日,计算机视觉领域国际顶级会议CVPR 2024录用了未来技术学院2021级本科生周鑫题为“Dynamic Adapter Meets Prompt Tuning: Parameter-Efficient Transfer Learning for Point Cloud Analysis”的论文。周鑫为第一作者,软件学院白翔教授为指导教师。
该论文专注于面向点云分析的参数高效迁移学习任务,提出了一种轻量动态适配器结构,并构建了基于模型内部特征的提示微调策略。通过在训练过程中冻结预训练模型的参数,仅对提出的模块进行优化,显著减少了95%的可训练参数,节省了50%的训练显存,同时能保证模型性能几乎不受到影响,有效降低了端侧模型的部署成本。
周鑫是未来技术学院首届学生,大二时他通过学院实验室轮转课程,进入白翔教授实验室,系统学习自动驾驶及3D视觉有关知识。受2D目标检测有关工作的启发,2022年底,周鑫对生成式模型在3D目标检测的应用方法展开探索,相关工作于次年8月被第六届中国模式识别与计算机视觉大会(PRCV 2023)接收。在白翔教授和实验室学长们的帮助指导下,周鑫结合领域热点对自然语言处理和2D视觉领域的参数高效微调方法进行大量调研,并在点云分析任务上对参数高效迁移学习进行尝试。经过半年的实验论证和对论文的不断完善,论文最终被CVPR 2024接收。有关工作已递交专利申请,周鑫为第一发明人。
据悉,CVPR (IEEE/CVF Conference on Computer Vision and Pattern Recognition)是中国计算机学会(CCF)推荐A类会议。该会议由IEEE主办,与国际计算机视觉大会(ICCV)和欧洲计算机视觉会议(ECCV)并称计算机视觉方向的三大顶级会议。