国际学院学生论文被国际计算机视觉顶级会议ECCV接收
2020年7月,国际学院计算机科学与技术专业的个人学术论文Sequential Convolution and Runge-Kutta Residual Architecture for Image Compressed Sensing被国际计算机视觉顶级会议ECCV(European Conference on Computer Vision,欧洲计算机视觉国际会议)接收。据悉,ECCV是三大国际计算机视觉顶级会议(ICCV,CVPR,ECCV)之一。
国际学院计算机科学与技术专业2016级本科生郑润锴作为第一作者,与2018级张印祺,2016级黄稻浪共同完成研究论文,论文指导老师为暨南大学信息科学技术学院计算机科学系教授陈清亮。
郑润锴个人分享
谨以此文回顾一下我跌跌撞撞的2019。
实际上我正式开始科研是从大三的末尾,也就是2019的春夏之交,大三之前除了打游戏、玩乐队、社交等活动之外的时间,在各个领域涉猎,也接过一些嵌入式、开发及算法等外包的活(我觉得对于工科的学生,可以适当地通过接外包了解一下自己学习的东西的实际应用,并且确定自己的兴趣,但不要做重复的活)。因为自己的理想还是创业,创业的保障在于核心技术的积累,如果参加工作会失去很多学习的机会。我决定要读研,所以我得开始科研。有段时间突然意识到我是不是把这两者的因果搞反了,但是我没有办法,内卷是社会的问题,不是我的问题。
因为其实在AlphaGo出来的那一年(2016)开始,自己就一直很关注机器学习的进展,我还是藏着一个想让机器人自己动起来的梦想,科研就很自然地选择了这个方向。(当然,机器学习跟机器人可以有关系,也可以没关系)
第一个项目是张庆丰老师给的关于太阳耀斑预测的项目。冷门,且交叉,所以好发文章。张老师是这么说的。一开始我并没想的很多,只想有一点成果。很巧合的是IEEE旗下的BigData会议恰好举办了一场关于耀斑预测的数据比赛。
我环顾了一下在打游戏的室友,选择一个人参加。
在那场比赛里,我摸索出了自己一套做研究的风格,通过内网穿透,我可以在任何时候用手机看到在家里电脑的实验结果。有时候地铁上的路人投来看网瘾青年的目光,因为他们看到我横着屏幕拿手机,没看到我屏幕上躺着的一行行脚本(我觉得乐队的朋友们那段时间在和我一起出去吃小龙坎的时候会深有体会)。
那段时间乐此不疲地为自己第一次solo比赛付出,会半夜突然醒来把参数调一下然后继续睡觉,也会午夜在只亮着电脑屏幕的宿舍里抓耳挠腮。最后我的算法是在比赛里拿了公榜的第一名,但不幸的是私榜掉到十三名,也与第一次发表文章及公费赴美旅游的机会失之交臂。但这次比赛里所学到的研究方法给我接下来的历程夯实了基础,我开始寻求一些在更顶级的会议上投稿的机会。
我把目光放在了大四上学期截止的计算机视觉顶会CVPR上,我花了两个月用自己一个厚积薄发的想法投了我人生中第一次稿,并且在投稿前口沫横飞地跟陈清亮老师介绍我的文章,透过布满打代码留下指纹的苹果屏幕,我仿佛能看到陈老师赞许的眼神。一阵沉默后,他说那个,写的不错,然后开始委婉地劝说我要不要投一个差一点的期刊,我不答应。陈老师拗不过我,勉强答应帮我修改并且作为通讯作者投稿。
没过两个月,审稿意见还在酝酿中,我已经感到羞耻,想把稿子撤掉。所幸投稿是匿名的,否则重视学术声誉的我没有机会再看到这篇文章的审稿意见。最后这篇文章也很自然地被拒掉了。于是我开始着手下一个顶会ECCV,也是这次有幸中奖的会议。
这次中奖的工作是基于上次CVPR投稿的关于深度压缩感知工作的一个改进,其实之前的工作并非没有可取之处:我在第一次了解到压缩感知的时候,就很自然地想将卷积这个对自然图像友好的先验用到稀疏变换上。这是最核心的思想。又加上那段时间阅读的关于离散动力系统角度对神经网络结构的一些解读,将其结合应用到这个领域,有幸达到了这个领域世界范围内最先进的效果。
Rebuttal阶段一位应该是深耕过压缩感知领域的专业审稿人曾经给出不久之前谷歌大脑做过的一篇与我做的工作很类似的论文,是我在调研阶段不够完善所漏掉的,在艰难地重新审视我的工作与这篇工作的异同后,本不抱有希望。但是最终领域主席还是接受了我的狡辩,运气使然。所以这篇工作实际上谈不上新鲜,无非是常微分方程数值解法的推导公式给的漂亮,文章看起来舒服,结果也看着好看,就被接收了(有趣的是录用通知刚好在我离开暨大的前一天夜里三四点,我吹了一整晚暨大的风后回到宿舍的时候发来,也算是给我的大学画上了句点)。
我其实不喜欢也不提倡这种填坑式的研究,还是希望深耕一下理论性创新的研究吧,所以这次中奖并不是我在这两次投稿下最大的收获,更大的收获是这几个月来阅读论文所建立起来的对深度学习这个领域一个大的蓝图,之后的研究会明显少走很多弯路。所以如果有科研志向的同学还是建议得尽早参与,从零到有自己的成果这条路上的收获不是线性的,是会利滚利的,迈出第一步确实会让人觉得麻烦,但真的不难。而在毕业前有自己的一些科研成果的话,即使立刻找工作,也会在这个内卷的社会下容易生存的多。不算上近几年这个领域的迭代速度,就目前的形势来说,应届本科生能有一篇一作顶会的还是很稀有,基本上即使不能横扫,至少绝大部分大公司都能拿到offer甚至special offer。
现在回顾起来这一段路走的并不算很困难,因为真正让我煎熬的历程实际上是那之后疫情期间在家里的独立研究,让我迈开了更大的一步,诞生了我自己很欣赏的新的一篇工作,那都是后话。
最后我必须感谢一下张庆丰老师和陈清亮老师对我一直以来的包容和支持,还有我的室友兼合作作者黄稻浪跟我一起对科研的探索,都是取得这次成果很重要的部分。
(文图/郑润锴 编辑/王鹭 审核/尹秋颖)