第89章 理論和應用-《重生之AI教父》
第(2/3)頁
在她看來,韓辭在ai數學和優化問題方面大有可為。
純數學只要不解決大難題,終究是難出成果的,而搭上ai現在飛速發展的順風車,則前途一片光明。
比如韓辭現在在講述的殘差思想,在數學和物理界都算不上什么高深的東西。
可結合孟繁岐的應用成果來展示,則大大的加分,意義非凡。
不同領域的交叉地帶,一向是出成果的捷徑。
臺上,韓辭的講述仍在繼續。
“我們假設一個簡單的高維積分問題,計算一個可以表示為期望的積分i(g),先通過有限求和im(g)來逼近。
若改用蒙特卡洛辦法,從特定的獨立同分布的抽樣樣本中選擇n個樣本,則有恒等式e(i(g)-im(g))^2=var(g)/n,var(g)=eg^2-(eg)^2)
這告訴我們收斂速度與維度無關?!?
“若我們先用傳統傅里葉變換,再用均勻的離散傅里葉變換來逼近。其誤差則~m^-a/d,必然被維度所影響。
可,若一個函數可以表示成期望的形式,而令所有樣本為獨立同分布樣本,則有擬合差值為var(f)/m,與維度無關。
若將兩層神經網絡寫作該形式,則意味著,這一類期望函數均可由兩層神經網絡逼近,且其逼近速度與維度無關?!?
“讓我們轉向離散動力系統的視角,舉一個隨機控制問題。
動力模型zl+1=zl+g1(z1,a1)+n,其中z為狀態,a為控制信號,n為噪聲。若我們想尋找一個反饋控制信號函數,而通過求解動態規劃貝爾曼方程,則必然會遭遇維度災難問題。
該過程的性質,其實與殘差網絡等同。
..................”
“最后,我總結。深度學習根本上是高維中的數學問題。神經網絡是高維函數逼近的有效手段,而殘差網絡則是更加容易優化的高維函數。
這意味著:數學處于科技創新的真正前沿,并且對新領域產生直接沖擊。同時也為人工智能領域、科學以及技術領域提供了眾多新的可能性。”
韓辭總共講述的時間大約是孟繁岐的兩倍,講述完成之后,更是被幾位老學究抓著反復提問,討論。
第(2/3)頁
主站蜘蛛池模板:
大埔区|
昭通市|
定兴县|
广灵县|
武冈市|
河北区|
安义县|
阜新|
兴山县|
保定市|
盐边县|
崇文区|
会昌县|
安化县|
唐海县|
宕昌县|
沽源县|
讷河市|
于都县|
天门市|
万宁市|
兴仁县|
旬邑县|
怀安县|
定西市|
红原县|
仁化县|
密山市|
新营市|
墨竹工卡县|
利津县|
凉城县|
汉中市|
神农架林区|
开江县|
安福县|
宁乡县|
中宁县|
星子县|
滕州市|
越西县|