第(1/3)頁

    “因此，我認(rèn)為更深的網(wǎng)絡(luò)沒有取得更好的結(jié)果是一個優(yōu)化問題，而不是一個模型設(shè)計問題，又或者是模型能力問題。模型本身是有更大的潛力的，只是優(yōu)化的方式需要改變。”

    “而這就是深度殘差的意義所在。”

    “對于我們需要學(xué)習(xí)的任意一個映射h(x)，我期待網(wǎng)絡(luò)去學(xué)習(xí)一個f(x)+x=h(x)中的f(x)，而不是直接學(xué)習(xí)h(x)本身。”

    “這個操作可以簡單的通過增加一個加法實現(xiàn)，而距離h(x)差值為x本身的f(x)，我們稱之為關(guān)于恒等的殘差映射。”

    “如果這個恒等是理想的，那我們很容易將權(quán)重設(shè)置為很小的值。殘差的形式很好地解決了一直以來都比較麻煩的梯度問題，可以看到，它使得上百層的網(wǎng)絡(luò)可以持續(xù)地取得更好的性能。”

    “在本次競賽的識別分類上取得的成績，只是殘差思想最基礎(chǔ)的體現(xiàn)，實際上，它是更好的特征提取器，可以更好地提取圖像的特征以應(yīng)用到各種圖像任務(wù)中去。”

    “不僅是本次競賽的檢測賽道，前兩天白度的技術(shù)發(fā)布會上，想必大家也看到了明顯的性能提升。”

    說到這里，孟繁岐頓了一下，因為臺下已經(jīng)控制不住地開始議論紛紛。

    雖然白度宣布了實時檢測辦法主要由孟繁岐這個特約研究員貢獻(xiàn)，但對于具體的算法細(xì)節(jié)守口如瓶，什么也沒有提。

    只是承諾要等到6-12個月后會公布。

    雖然眾人大概都已經(jīng)猜到，但聽孟繁岐親口說出，眾人至少確定了一件事，那就是白度現(xiàn)在領(lǐng)先世界一大截的實時檢測算法，是采用了dreamnet的。

    “當(dāng)然了，視覺類的任務(wù)還有非常多，除了我已經(jīng)做過的生成，檢測，分割，識別之外，還有姿態(tài)估計，深度估計，超分辨率等等等等。種類繁多，不一而足。”

    “我的dreamnet論文已經(jīng)公布，代碼也已經(jīng)開源，還有很多的方向需要大家一起去探索。”

    孟繁岐吃了體量最大的幾個賽道的蛋糕，自然也得留點湯給其他人。

    在某個比較具體的方向，有幾個十分得到認(rèn)可的代表作就夠了。

    孟繁岐技術(shù)多得發(fā)不完，沒必要把細(xì)分領(lǐng)域都一個個去自己做。

    說白了就是稍微改改去讓機器運行的事情，換一下數(shù)據(jù)，稍微調(diào)整下個別結(jié)構(gòu)和參數(shù)。
    第(1/3)頁