人物經歷
[1] 2006.11-2007.11
香港中文大學 | IE | researcher |
Focusing on face recognition
[2] 2007.11-2008.11
格里菲斯大學 | Griffith fellow |
focusing on feature learning
[3] 2011.3-2011.12
香港理工大學 | visting fellow |
focusing on infrared face recognition
[4] 2014.1-2015.3
義大利理工學院 | PAVIS | Senior Postdoc |
focusing on machine learning
研究方向
[1] 神經網路結構搜尋,尤其關注功耗約束、通訊頻寬約束的網路結構設計
[2] 深度學習模型壓縮;視覺目標檢測與識別,尤其關注小目標感知;視頻識別;機器學習理論與套用
主要成就
學術成果1:提出多高斯不確定性理論。國際上首次證明混合高斯波函式的不確定性上界,是經典理論的一般性擴展。相關論文一作發表於視覺領域頂刊IJCV,2016年大陸學者一作正刊僅有6篇。
學術成果2:獨立提出調製卷積神經網路,在深度模型壓縮方面理論與工程實現處於領先位置;在1-bit深度模型壓縮方面在大型數據集合上取得世界上最好的性能,並進行推廣。
學術成果3:發現了梯度下降算法的多變數獨立假設存在理論缺陷,由於變數上約束不同(稀疏性),導致了不同變數收斂速度的不一致性,即存在相關性。提出了協同梯度下降算法(CoGradient Descent,CVPR2020),引入投影映射法協同不同變數間的收斂速度,實現更加充分的訓練。
所獲榮譽
入選深圳市人才計畫
獲中國電子學會獎2項(1項第一)
陝西省自然科學獎一等1項(排名第二)。
社會任職
[1] 2019.6-2020.6
百度深度學習實驗室學術顧問
Academic Advisor of Institute of Deep Learning, Baidu Research