汕头大学主页|汕头大学工学院|English Vision
  联系信息

邮件:zfan@stu.edu.cn

地址:广东省汕头市大学路243号汕头大学科学楼

邮编:515063

 
科研成果
神经网络设计自动化平台
 
发布时间:2022/4/1 11:35:18

        因为深度神经网络的出现和飞速发展,人工智能技术已经在工业以及生活中充当着越来越重要的角色。早期的深度神经网络模型都是由专业人士人工设计,需要较高的专业知识和重复的繁琐工作,在不断试错的过程中逐步提高神经网络模型的性能。本团队一直以来都有进行设计自动方面的工作,包括机电自动化,机器人设计自动化和基因调控网络设计自动化等,这些设计自动化的相关工作在多个不同的应用上都体现出了设计自动化的优势,所设计的要比领域内人工设计的都要更出色,而且更节约人力成本,也降低了对专业知识的要求。本平台将设计自动化的技术应用于深度神经网络的自动化设计,但并不是简单地将其他领域的设计自动化技术迁移至神经网络模型的设计,而是结合特定应用和神经网络的特性优化神经网络模型。

        本软件平台主要包含实验任务设计、模块选择、模型评估设计、优化目标选择、优化算法设计和优化结果显示多个部分。用户可以选择任务类型,搜索空间中的神经网络模块,评估神经网络模型性能的相关设置、优化目标和优化算法等,结合智能优化算法和大数据技术,可以实现用户设定性能指标下的深度神经网络模型的单目标或者多目标优化,输出性能最优的设计方案集,供用户按照其所需求进行选择,借助该软件平台,可以替代以往神经网络手工设计过程中的一系列试错工作,这些试错过程交给优化算法有方向地进行,从而节省人力。该神经网络设计自动化平台的软件界面如图1所示。

图 1 神经网络设计自动化平台的软件界面

        特别地,我们基于该平台完成的论文《Genetic U-Net: automatically designed deep networks for retinal vessel segmentation using a genetic algorithm》该研究成果已经被SCI医学成像顶刊《IEEE Transactions on Medical Imaging》(影响因子:10.048分,医学-成像科学与照相技术1区,2/51;医学-计算机科学应用1区,21 / 693)录用。该方法总体框架如图2所示。该工作提出了一种新颖的进化神经架构搜索方法,基于特定的搜索空间和改进的遗传算法自动搜索出性能更佳的U型深度神经网络架构(Genetic U-Net),具体地,考虑到U型编解码器在图像分割任务上的通用性和神经架构搜索的计算效率,该方法首先设计了一个基于U型编解码器的紧凑但灵活的搜索空间,使U型编码器和解码器的每个模块都能单独且灵活地进行结构和相应超参数优化,克服了手工设计方法通常只能设计单一模块的局限。然后,为了减少神经架构搜索过程的计算消耗和促进该方法得到一个参数效率较高的高性能网络架构,我们使用改进的遗传算法在该搜索空间中优化迭代挖掘出高性能的网络结构,并探索了在更少结构参数下找到更优网络结构的可能性。在实验结果方面,与其他SOTA算法相比,该方法得到的模型以最少的结构参数获得了最好的分割效果。

图 2 Genetic U-Net总体流程框架

 

代码链接:https://github.com/96jhwei/Genetic-U-Net

 

专利引用:基于进化神经架构搜索的眼底图像视网膜血管分割方法. 发明人:韦家弘;范衠;林培涵;朱贵杰;马培立;黄文宁;李晓明;龙周彬  申请号:CN202011172307.1  公开号:CN112258486A

 

论文引用:Wei J, Zhu G, Fan Z, et al. Genetic U-Net: Automatically Designed Deep Networks for Retinal Vessel Segmentation Using a Genetic Algorithm[J]. IEEE Transactions on Medical Imaging, 2022, 41(2): 292-307. (DOI: 10.1109/TMI.2021.3111679, 影响因子:10.048,中科院SCI一区顶刊)

 

 

版权所有:广东省数字信号与图像处理技术重点实验室 | 学院地址:广东省汕头市大学路243号汕头大学科学楼4楼
copyright © 2022 imagelab.stu.edu.cn all rights reserved.