恩佐2登录 > SEO软件 > 第四范式提出优化NAS算法速度提高10倍!seo思路

第四范式提出优化NAS算法速度提高10倍!seo思路

admin SEO软件 2020年02月12日

  神经架构搜索(NAS)因其比手工构建的架构更能识别出更好的架构而备受关注。近年来,可微分的搜索方法因可以在数天内获得高性能的NAS而成为研究热点。然而,由于超级网的建设,其仍然面临着巨大的计算成本和性能低下的问题。

  在本文中,第四范式提出了一种基于近端迭代(NASP)的高效NAS方法。恩佐2登录与以往的工作不同,NASP将搜索过程重新定义为具有离散约束的优化问题和模型复杂度的正则化器。由于新的目标是难以解决的,我们进一步提出了一种高效的算法,由近端启发法进行优化。通过这种方式,NASP不仅比现有的可微分的搜索方法速度快,而且还可以找到更好的体系结构并平衡模型复杂度。

  最终,通过不同任务的大量实验表明,NASP在测试精度和计算效率上均能获得更好的性能,在发现更好的模型结构的同时,速度比DARTS等现有技术快10倍以上。此外,NASP消除了操作之间的关联性。

  未经允许不得转载:DOIT第四范式提出优化NAS算法,速度提高10倍!

标签: seo算法