第87章 希望斯坦福自覺一點-《重生之AI教父》
第(1/3)頁
“因此,我認為更深的網絡沒有取得更好的結果是一個優化問題,而不是一個模型設計問題,又或者是模型能力問題。模型本身是有更大的潛力的,只是優化的方式需要改變。”
“而這就是深度殘差的意義所在。”
“對于我們需要學習的任意一個映射h(x),我期待網絡去學習一個f(x)+x=h(x)中的f(x),而不是直接學習h(x)本身。”
“這個操作可以簡單的通過增加一個加法實現,而距離h(x)差值為x本身的f(x),我們稱之為關于恒等的殘差映射。”
“如果這個恒等是理想的,那我們很容易將權重設置為很小的值。殘差的形式很好地解決了一直以來都比較麻煩的梯度問題,可以看到,它使得上百層的網絡可以持續地取得更好的性能。”
“在本次競賽的識別分類上取得的成績,只是殘差思想最基礎的體現,實際上,它是更好的特征提取器,可以更好地提取圖像的特征以應用到各種圖像任務中去。”
“不僅是本次競賽的檢測賽道,前兩天白度的技術發布會上,想必大家也看到了明顯的性能提升。”
說到這里,孟繁岐頓了一下,因為臺下已經控制不住地開始議論紛紛。
雖然白度宣布了實時檢測辦法主要由孟繁岐這個特約研究員貢獻,但對于具體的算法細節守口如瓶,什么也沒有提。
只是承諾要等到6-12個月后會公布。
雖然眾人大概都已經猜到,但聽孟繁岐親口說出,眾人至少確定了一件事,那就是白度現在領先世界一大截的實時檢測算法,是采用了dreamnet的。
“當然了,視覺類的任務還有非常多,除了我已經做過的生成,檢測,分割,識別之外,還有姿態估計,深度估計,超分辨率等等等等。種類繁多,不一而足。”
“我的dreamnet論文已經公布,代碼也已經開源,還有很多的方向需要大家一起去探索。”
孟繁岐吃了體量最大的幾個賽道的蛋糕,自然也得留點湯給其他人。
在某個比較具體的方向,有幾個十分得到認可的代表作就夠了。
孟繁岐技術多得發不完,沒必要把細分領域都一個個去自己做。
說白了就是稍微改改去讓機器運行的事情,換一下數據,稍微調整下個別結構和參數。
第(1/3)頁
主站蜘蛛池模板:
滕州市|
黄陵县|
雅安市|
红河县|
千阳县|
松原市|
敦煌市|
奉新县|
松原市|
舟山市|
镇赉县|
洪湖市|
寿宁县|
宜君县|
平陆县|
汉川市|
湖南省|
孝感市|
新余市|
康马县|
藁城市|
南郑县|
泸水县|
呈贡县|
晋宁县|
新乡市|
乐山市|
广安市|
黄浦区|
聂荣县|
凉山|
葵青区|
山东|
昌黎县|
富蕴县|
拜城县|
冕宁县|
潜山县|
陵川县|
祁连县|
图木舒克市|